Nous vous offrons un accès gratuit à l'intégralité du Gartner Hype Cycle for AI Governance 2026. Obtenez votre exemplaire →
Accédez instantanément à un environnement TrueFoundry en direct. Déployez des modèles, acheminez le trafic LLM et explorez la plateforme complète : votre sandbox est prête en quelques secondes, aucune carte de crédit n'est requise.
FloQast est une plateforme de transformation comptable utilisée par les équipes financières et comptables pour gérer la clôture financière, les rapprochements et la conformité. Alors que l'entreprise intégrait des modèles de langage étendus dans l'ensemble de ses produits — du rapprochement des transactions et de l'analyse des écarts à l'assistance aux écritures comptables et aux copilotes de réconciliation — elle avait besoin d'un moyen d'exécuter l'IA en production répondant aux exigences strictes d'un éditeur de logiciels financiers : gouvernance rigoureuse des données, résidence régionale des données, sécurité et fiabilité. Dans cette étude de cas, nous explorons comment FloQast a utilisé la passerelle IA de TrueFoundry pour centraliser, sécuriser et mettre à l'échelle l'infrastructure LLM et agents au sein de son organisation.
FloQast opère dans un secteur réglementé et soucieux de la sécurité. Développer des fonctionnalités d'IA ne se résumait pas à appeler une API de modèle ; cela exigeait un contrôle sur l'emplacement des données, sur les accès aux capacités, ainsi que sur la surveillance et la sécurisation de chaque requête.
Trois exigences se sont distinguées. Premièrement, la résidence et la gouvernance des données: les prompts et les traces devaient être stockés dans l'infrastructure propre à FloQast et conservés dans des régions spécifiques — États-Unis, UE et APAC — puis acheminés via des passerelles régionales vers les points de terminaison des fournisseurs de modèles correspondants. Deuxièmement, le contrôle centralisé: à mesure que davantage d'équipes déployaient des fonctionnalités d'IA utilisant plusieurs fournisseurs de modèles, FloQast avait besoin d'un point unique pour gouverner l'inférence, gérer les serveurs et agents MCP, et maintenir l'observabilité ainsi que la visibilité sur les coûts. Troisièmement, la sécurité et l'accès au moindre privilège: en tant qu'entreprise financière, FloQast avait besoin de garde-fous contre les menaces telles que l'injection SQL et de la capacité à restreindre strictement les accès afin que les clés API ne correspondent qu'aux capacités LLM spécifiques dont une équipe a réellement besoin.
« Pouvoir garantir que l'emplacement de stockage de nos prompts et traces est conforme aux exigences des régions UE, APAC ou États-Unis, avoir la possibilité de les acheminer facilement via des passerelles spécifiques et faire en sorte que le stockage se fasse dans des emplacements S3 liés à ces trois régions, a été un avantage majeur de TrueFoundry. »
— Colin Sidberry, ingénieur logiciel, FloQast
FloQast a adopté la passerelle IA de TrueFoundry comme plan de contrôle pour l'ensemble de son trafic IA. Ce qui a marqué l'équipe, c'est l'étendue des fonctionnalités intégrées.
« On ne réalise pas tout ce qui est intégré au produit avant de creuser et de découvrir de nouvelles couches à chaque tournant. On comprend alors à quel point TrueFoundry est puissant dès sa sortie de boîte : gestion des serveurs MCP, des agents, des prompts utilisés, et l'interface de test (playground) qui permet d'expérimenter sans configurer sa propre infrastructure, sans oublier l'inférence LLM. C'est une solution extrêmement complète. »
Lorsqu'on lui a demandé quelles étaient les fonctionnalités les plus importantes pour l'équipe de FloQast, Colin en a souligné quelques-unes.
La couche d'inférence unifiée est le point central sur lequel tout repose. Ajouter un nouveau fournisseur de modèles — Anthropic, OpenAI, Google Gemini ou autres — est simple et rapide. Rien qu'au cours des 90 derniers jours, FloQast a acheminé du trafic via six fournisseurs (dont Anthropic, OpenAI, AWS Bedrock et Google Vertex), le modèle Claude Sonnet 4.6 d'Anthropic traitant la majorité du volume sur ses points de terminaison aux États-Unis et dans l'UE. La passerelle a traité environ 15,1 milliards de jetons en entrée et 285 millions de jetons en sortie sur 3,9 millions de requêtes de modèles.
FloQast superpose des comptes virtuels au proxy pour segmenter l'inférence selon la fonctionnalité spécifique déployée. Cela permet de suivre facilement les dépenses par fonctionnalité et de voir où va le budget LLM, quelles fonctionnalités sont les plus utilisées et où l'équipe tire le meilleur parti de son investissement.
« Nous pouvons facilement ajouter un proxy supplémentaire pour segmenter l'inférence LLM par fonctionnalité réelle déployée. C'est un moyen simple de suivre les coûts par fonctionnalité, ce qui nous donne une visibilité sur les fonctionnalités les plus utilisées et sur la manière dont nous optimisons notre budget LLM. »
— Colin Sidberry, ingénieur logiciel, Floqast
Cela se reflète directement dans les données : des comptes virtuels distincts (charges de travail pour transform, FDM, JEM, variance et réconciliation) totalisent chacun des centaines de milliers de requêtes, avec des dépenses d'inférence totales suivies à environ 25 000 $ sur la période, entièrement attribuables par fonctionnalité.
FloQast utilise une suite de garde-fous de sécurité via la passerelle : détection des données personnelles (PII), détection des secrets, un désinfectant SQL contre les attaques par injection, une défense contre l'injection de prompts, la modération de contenu et l'analyse de code. En 90 jours, la passerelle a évalué plus de 80 000 contrôles de sécurité tout en ajoutant seulement ~53 ms de latence moyenne, signalant les requêtes risquées sans ralentir le produit.
« La facilité de mise en place de garde-fous pour nous protéger contre les attaques par injection SQL et autres mesures de sécurité conformes aux meilleures pratiques, essentielles pour une entreprise financière comme la nôtre. La possibilité de restreindre l'accès selon le principe du moindre privilège pour vos clés API permet d'associer des clés spécifiques à certaines fonctionnalités LLM, plutôt que d'accorder un accès complet à tout le monde. Vous ne leur donnez que ce dont ils ont besoin. »
— Colin Sidberry, ingénieur logiciel, FloQast
Au-delà de l'inférence brute, FloQast utilise la passerelle pour gérer ses serveurs MCP (Model Context Protocol), les outils que ses agents IA appellent pour lire des données financières, récupérer des règles, extraire des données de tableaux et travailler sur des écritures comptables. La passerelle MCP a traité 139 000 appels d'outils via des serveurs tels que playbook, transform, FDM et JEM, avec une latence moyenne de 389 ms, offrant à FloQast une interface de gouvernance unique pour l'utilisation des outils par les agents, parallèlement aux appels de modèles.
FloQast a souligné que l'expérience de support est un élément différenciateur. L'équipe collabore avec TrueFoundry via un canal Slack dédié et, plus récemment, un assistant de support IA qui répond en quelques minutes, ce qui est précieux pour une équipe qui n'est pas toujours située dans le même fuseau horaire.
« Travailler avec l'équipe de support de TrueFoundry a été une excellente expérience. Nous disposons d'un canal Slack dédié, l'équipe est très réactive, et le système d'IA que vous avez lancé il y a quelques mois s'est avéré très utile : il répond en quelques minutes, la précision des informations est fiable, et l'équipe de support assure un suivi rapide pour vérifier si nous avons d'autres questions. »
— Colin Sidberry, ingénieur logiciel, Floqast
En centralisant ses opérations sur TrueFoundry, FloQast a transformé une infrastructure IA complexe, multi-fournisseurs et multi-régions, en une plateforme unique et gouvernée.
Au cours des 90 derniers jours, la passerelle a traité plus de 4 millions de requêtes incluant des complétions de chat, des réponses, des embeddings et des appels MCP, tout en maintenant un taux de réussite de 98,9 % sur le trafic des modèles. Le routage intelligent a dirigé 3,73 millions de requêtes via des règles de routage de modèles virtuels, avec un taux d'échec proche de 0,04 %. Surtout, tout cela a été exécuté avec des prompts et des traces stockés au sein de l'infrastructure même de FloQast, préservant ainsi, région par région, la posture de gouvernance des données exigée par une entreprise de logiciels financiers, tout en offrant à l'équipe un point central pour l'observabilité, les données de coûts et les meilleures pratiques de sécurité.
« Cela a indéniablement changé la donne. La fiabilité était notre préoccupation majeure lors de la recherche d'une passerelle. Le fait que tout puisse être stocké au sein de notre propre infrastructure, nous permettant de conserver nos règles de gouvernance des données pour les traces et les prompts, tout en bénéficiant d'un point centralisé pour l'observabilité, les données tarifaires et la couverture des meilleures pratiques de sécurité, a été extrêmement utile. »
— Colin Sidberry, ingénieur logiciel, Floqast
Gouvernez la résidence des données dès le premier jour. Pour les secteurs réglementés, le stockage des prompts et des traces, ainsi que le choix de la région, sont des exigences fondamentales et non des options secondaires. Le routage des inférences via des passerelles spécifiques à chaque région vers les points de terminaison des fournisseurs permet à FloQast de maintenir automatiquement les données au bon endroit.
Centralisez l'inférence, puis segmentez-la. Un proxy unique pour tous les fournisseurs de modèles, complété par des comptes virtuels par fonctionnalité, a offert à FloQast à la fois la simplicité d'une intégration unique et la précision nécessaire pour attribuer les coûts et l'utilisation à chaque fonctionnalité individuelle.
Considérez les garde-fous et le principe du moindre privilège comme une infrastructure par défaut. L'exécution de garde-fous contre les PII, les secrets, les injections SQL et les injections de prompts au niveau de la passerelle, ainsi que la limitation des clés API à des capacités spécifiques, intègrent la sécurité dans chaque requête plutôt que de l'ajouter a posteriori à chaque application.
Investissez tôt dans l'intégration. Face à l'étendue des capacités disponibles, le conseil de Colin aux autres ingénieurs est de collaborer étroitement avec l'équipe de TrueFoundry dès le départ afin de configurer correctement les outils et de tirer pleinement parti des fonctionnalités intégrées.
« Il y a énormément de choses sous le capot, il est donc facile de mal s'y prendre au départ. Ce qui a été vraiment utile, c'est d'approfondir le sujet avec l'équipe très tôt, d'expliquer ce que nous essayions de faire et de partager les connaissances sur la meilleure façon de l'implémenter. Si je pouvais revenir en arrière, c'est par là que je commencerais, cela aurait rendu tout le reste plus simple. »
— Colin Sidberry, Ingénieur logiciel, Floqast
L'expérience de FloQast démontre que l'utilisation de l'IA dans un domaine réglementé axé sur la sécurité ne nécessite pas forcément de construire une infrastructure de gouvernance à partir de zéro. En standardisant l'inférence, la gestion des MCP et des agents, les garde-fous et le routage via l'AI Gateway de TrueFoundry, tout en conservant les données dans leur propre cloud, FloQast a pu monter en charge jusqu'à des millions de requêtes gouvernées auprès de six fournisseurs de modèles, tout en préservant la fiabilité, la résidence des données et la sécurité du moindre privilège attendues par leurs clients.
Les dernières nouvelles, articles et ressources envoyés dans votre boîte de réception
