A empresa especializada em segurança de IA generativa, Portal26, anunciou recentemente a lançamento de uma nova solução para o mercado destinada a resolver o problema dos custos computacionais excessivos dos sistemas de agentes de automação adotados pelas empresas. Este produto é especializado em bloquear gastos massivos que ocorrem quando agentes de IA autônomos repetem tarefas de maneira não intencional ou extrapolam seu escopo de atividade. O objetivo central desta anúncio é ajudar as empresas a operar sistemas de IA de forma estável sem serem atormentadas por encargos financeiros inesperados, demonstrando assim a intenção de minimizar os riscos da adoção de inteligência artificial dentro das organizações.
A empresa informou que, com base no horário local dos EUA no dia 24, lançou oficialmente a funcionalidade de definição de orçamento computacional para uso em nível de agente individual, fluxo de trabalho específico ou até mesmo em nível de organização inteira. O sistema foi projetado para retardar automaticamente a velocidade de processamento quando o usuário se aproxima do limite de orçamento pré-definido e para pausar ou encerrar completamente a tarefa caso o limite seja ultrapassado. A unidade computacional utilizada aqui é a unidade básica necessária para que os modelos de linguagem grandes compreendam e gerem texto, e à medida que o uso dessa unidade aumenta, os custos a serem pagos aumentam proporcionalmente.
Um representante da empresa alertou que agentes de automação conectados em múltiplos níveis podem cair em loops de repetição recursivos ou fazer perguntas excessivas ao sistema, desviando-se assim do escopo de trabalho original. Nessas situações, o uso de computação aumenta exponencialmente, e a empresa pode receber faturas inesperadamente altas enquanto simultaneamente enfrenta instabilidade no ambiente operacional. O lado da Portal26 enfatizou que esta ferramenta é a primeira solução a gerenciar exclusivamente fatores de risco específicos de acordo com o tamanho da empresa, explicando que vai além de um simples mecanismo de restrição e constitui uma plataforma de gerenciamento integrada.
Arty Raman, CEO, apontou que: "A tecnologia baseada em agentes é poderosa, mas se a gestão de custos não for adequada, pode se tornar rapidamente cara e um ambiente confuso". Ele acrescentou que o exemplo da Uber Technologies reflete bem o conflito que as empresas enfrentam entre a velocidade de adoção de IA e a previsibilidade de custos. Além disso, ele explicou que o novo módulo fornecerá uma ajuda decisiva ao reduzir significativamente o recebimento de faturas não planejadas, mostrando ao cliente o uso detalhado de forma transparente.
Esta atualização vai além de simplesmente limitar o uso de recursos e inclui a funcionalidade de visualizar em tempo real onde e como os recursos computacionais são utilizados no sistema de agentes como um todo. Também está equipado com mecanismos de segurança adaptativos que intervêm automaticamente quando se aproxima do limite de orçamento, demonstrando o projeto de adotar a previsibilidade de custos como padrão básico da operação, em vez de métodos financeiros pós-evento. Isso é uma estratégia alinhada com um período em que os problemas enfrentados ao expandir a IA generativa do estágio experimental para o ambiente de trabalho real estão se tornando mais proeminentes, sendo essencial para controlar os custos gerados a cada chamada em sistemas onde chamadas de modelos ocorrem em cadeia após várias tarefas.
A Portal26 já apresentou recentemente uma ferramenta de gerenciamento de agentes focada em segurança de IA e medição de valor de negócios. Paksi Rajan, CPO e Chefe de IA, avaliou este novo produto como a infraestrutura fundamental central para uma "Operação de IA Responsável", indo além de uma simples ferramenta de controle de custos. Esta startup, que recebeu investimento de capital de risco, já recebeu um total de US$ 15 milhões em duas rodadas de financiamento, com principais investidores incluindo Refinery, Shasta Ventures e Fusion Fund. À medida que a competição entre empresas de IA generativa passa do estágio de laboratório para o estágio operacional real, o "controle de custos" surge como uma tarefa central não inferior ao "desempenho". À medida que a velocidade de disseminação dos agentes de IA aumenta, espera-se que a importância de ferramentas que gerenciam com precisão o uso de computação cresça ainda mais.