L'entreprise spécialisée en sécurité de l'intelligence artificielle générative, Portal26, a annoncé récemment le lancement d'une nouvelle solution sur le marché destinée à résoudre le problème des coûts de calcul excessifs liés aux systèmes d'agents d'automatisation adoptés par les entreprises. Ce produit est spécialisé dans la blocage des dépenses colossales générées lorsque des agents d'intelligence artificielle autonomes répètent des tâches de manière non intentionnelle ou dépassent leur périmètre d'activité. L'objectif central de cette annonce est d'aider les entreprises à faire fonctionner leurs systèmes d'IA de manière stable tout en évitant des fardeaux financiers imprévus, démontrant ainsi sa volonté de minimiser les risques liés à l'adoption de l'intelligence artificielle au sein des organisations.

L'entreprise a annoncé le lancement officiel, le 24, de la fonction permettant de définir un budget de calcul pour des agents individuels, des flux de travail spécifiques ou même pour l'ensemble de l'organisation, selon les fuseaux horaires locaux des États-Unis. Lorsque l'utilisateur approche de la limite budgétaire prédéfinie, le système ralentit automatiquement la vitesse de traitement ; si la limite est dépassée, le travail est conçu pour être mis en pause ou complètement terminé. L'unité de calcul utilisée est l'unité de base nécessaire pour qu'un grand modèle de langage comprenne et génère du texte ; plus cette utilisation augmente, plus les coûts à payer augmentent proportionnellement.

Un responsable de l'entreprise a averti que des agents d'automatisation connectés en plusieurs étapes peuvent s'enliser dans des boucles itératives récursives ou poser trop de questions au système, ce qui peut les amener à dépasser le périmètre de travail initialement prévu. Dans de telles situations, l'utilisation des calculs augmente de manière exponentielle, et les entreprises peuvent non seulement recevoir des factures élevées inattendues, mais aussi subir une instabilité de l'environnement opérationnel. La société Portal26 a souligné que cet outil est la première solution dédiée à la gestion de facteurs de risque spécifiques adaptés à l'échelle de l'entreprise, expliquant qu'il s'agit d'une plateforme de gestion intégrée qui va au-delà d'un simple dispositif de restriction.

Arty Ramani, PDG, a indiqué : « La technologie basée sur les agents est puissante, mais si la gestion des coûts n'est pas correctement mise en œuvre, elle peut rapidement devenir coûteuse et donner lieu à un environnement chaotique. » Il a ajouté que l'exemple d'Uber Technologies reflète bien les conflits auxquels les entreprises sont confrontées entre la vitesse d'adoption de l'IA et la prévisibilité des coûts. De plus, le nouveau module apportera une aide décisive en permettant aux clients de visualiser de manière transparente leurs détails d'utilisation, réduisant ainsi considérablement les factures non planifiées.

Cette mise à jour va au-delà de la simple limitation de l'utilisation et inclut la fonction de visualisation en temps réel de la manière dont les ressources de calcul sont utilisées dans l'ensemble du système d'agents. Elle est également équipée de dispositifs de sécurité adaptatifs qui interviennent automatiquement lorsque l'on approche de la limite budgétaire, démontrant une vision qui fait de la prévisibilité des coûts la valeur par défaut de l'exploitation, plutôt qu'une méthode de régularisation financière a posteriori. Cette approche est une stratégie adaptée à une période où les problèmes rencontrés lors de l'expansion de l'IA générative de la phase d'expérimentation à l'environnement opérationnel réel deviennent de plus en plus visibles ; elle est essentielle pour contrôler les coûts générés à chaque appel dans un système où des appels se succèdent en chaîne lors de multiples tâches.

Portal26 a déjà présenté récemment des outils de gestion d'agents axés sur la sécurité de l'IA et la mesure de la valeur commerciale des entreprises. Paksi Rajan, responsable produit et de l'IA, a évalué ce nouveau produit comme une infrastructure fondamentale clé pour un « déploiement d'IA responsable », et non pas simplement comme un outil de contrôle des coûts. Cette startup, qui a reçu des investissements en capital-risque, a levé un total de 15 millions de dollars lors de deux rounds, avec des investisseurs principaux parmi lesquels se trouvent Refinery, Shasta Ventures et Fusion Fund. Alors que la concurrence entre entreprises en matière d'IA générative passe de la phase de laboratoire à l'opération réelle, le « contrôle des coûts » devient un défi clé au même titre que la « performance ». À mesure que la vitesse de diffusion des agents d'IA s'accélère, l'importance des outils permettant de gérer avec précision l'utilisation des calculs sera appelée à augmenter encore.