生成式人工智慧安全專業企業 Portal26 近日宣佈向市場推出全新解決方案,旨在解決企業導入自動化代理系統時產生的過度運算成本問題。該產品專精於阻擋自主移動的 AI 代理以非預期的方式重複作業或超出活動範圍所引發的龐大支出。此發布的核心目標在於協助企業在穩定運營 AI 系統的同時,避免遭受意想不到的財政負擔,藉此展現降低組織內 AI 導入風險的決心。
Portal26 於當地時間 24 日正式推出可設定個別代理、具體工作流乃至整個組織層級運算預算的功能。當用戶預設的預算上限臨近時,系統會自動降低處理速度;一旦超出限制,作業將被暫停或完全終止。此處所使用的運算單位是大型語言模型在理解與生成文字過程中所需的基礎單位,其使用量越多,需支付的費用便成正比增加。
公司相關人員警告稱,多層級連接的自動化代理可能陷入遞迴重複迴路,或向系統提出過多問題,從而脫離原本的業務範疇。在這種情況下,運算使用量不僅會呈指數級增長,企業還可能收到意料之外的高額帳單,同時面臨營運環境的不穩定性。Portal26 方面強調,此工具是首個能針對企業規模專門管理特定風險因素的解決方案,並解釋其不僅僅是簡單的限制機制,更是一個整合管理平臺。
執行長 Arti Raman 指出:「基於代理的人工智慧技術雖然強大,但若成本管理不當,很快就會變得昂貴且混亂。」他以 Uber Technologies 為例,補充說明此舉反映了企業在 AI 導入速度與成本可預測性之間的衝突。此外,他解釋道,新模組將透過向客戶透明展示詳細的使用狀況,大幅減少收到未規劃帳單的情況。
此次更新不僅僅是用於限制使用量,還包含實時視覺化顯示代理系統中運算資源如何分配的等功能。當接近預算上限時,系統亦配備自動介入的適應性安全機制,展現了不再依賴事後財務調整,而是將成本可預測性作為營運預設值的構想。這是在生成式 AI 從實驗階段擴展至實際工作環境、相關問題日益凸顯的時期所採取的策略,對於在涉及多次呼叫且連鎖觸發的系統中,控制每次呼叫所產生的成本而言,至關重要。
Portal26 近期也曾推出聚焦於 AI 安全與商業價值測量的代理管理工具。產品及 AI 主管 Paksi Rasan 評價此次新產品不僅是單純的成本控制工具,更是「負責任的 AI 營運」的核心基礎架構。這家獲得風險投資的初創企業,歷史上已兩度籌得總計 1,500 萬美元的資金,主要投資人包括 Refinery、Chastaventures 和 Fusion Fund。隨著企業間的生成式 AI 競爭從實驗室階段轉向實際營運階段,「成本管控」的重要性已不輸「性能」,且隨著 AI 代理的普及加速,精準管理運算使用量的工具將變得更加關鍵。