Das Sicherheitsunternehmen für generative KI, Portal26, hat kürzlich eine neue Lösung auf den Markt gebracht, die das Problem der übermäßig hohen Rechenkosten bei automatisierten Agentensystemen, die Unternehmen einführen, lösen soll. Dieses Produkt ist speziell darauf ausgelegt, exorbitante Ausgaben zu blockieren, die entstehen, wenn autonome KI-Agenten Aufgaben auf unbeabsichtigte Weise wiederholen oder ihren Aktivitätsbereich überschreiten. Das Kernziel dieser Ankündigung besteht darin, Unternehmen dabei zu unterstützen, ihre KI-Systeme stabil zu betreiben, ohne unvorhergesehene finanzielle Belastungen zu erfahren, und zeigt damit den Willen, die Risiken der KI-Einführung in Organisationen zu minimieren.
Das Unternehmen gab bekannt, dass es am 24. US-Zeit die Funktion zur Einrichtung von Rechenbudgets für einzelne Agenten, konkrete Arbeitsabläufe sowie für den gesamten Organisationsbereich offiziell launched hat. Wenn ein Nutzer dem festgelegten Budgetgrenze nähert, verlangsmt das System automatisch die Verarbeitungsrate; überschreitet man die Grenze, wird die Arbeit entweder pausiert oder vollständig beendet. Als Rechen-Einheit wird hier die Grundeinheit verwendet, die benötigt wird, um Text zu verstehen und zu generieren; mit steigendem Verbrauch steigt auch die zu zahlende Gebühr proportional.
Ein Sprecher des Unternehmens warnte, dass mehrstufig verknüpfte automatisierte Agenten in rekursive Wiederholungs Schleifen geraten oder zu viele Fragen an das System stellen und so den ursprünglich beabsichtigten Aufgabenbereich verlassen könnten. In solchen Situationen steigt der Rechenverbrauch nicht nur exponentiell, sondern Unternehmen können auch mit unerwartet hohen Rechnungen konfrontiert werden und gleichzeitig die Instabilität der Betriebsumgebung erfahren. Portal26 betonte, dass dieses Werkzeug die erste Lösung sei, die bestimmte Risikofaktoren maßgeschneidert an die Unternehmensgröße verwaltet, und erklärte es als integrierte Management-Plattform, die über reine Begrenzungsmechanismen hinausgeht.
Arty Ramen, CEO, wies darauf hin: "Agent-basierte KI-Technologien sind leistungsstark, können aber, wenn die Kosten nicht richtig gemanagt werden, schnell teuer und verwirrend werden." Er ergänzte, dass Uber Technologies ein gutes Beispiel dafür sei, wie Unternehmen zwischen KI-Einführungsgeschwindigkeit und Kostenvorhersagbarkeit kämpfen. Zudem erklärte er, dass der neue Modul Kunden durch transparente Darstellung detaillierter Nutzungsstatistiken entscheidend dabei helfen werde, unbeabsichtigte Rechnungen stark zu reduzieren.
Diese Aktualisierung geht über die reine Begrenzung der Nutzung hinaus und umfasst eine Funktion, die in Echtzeit visualisiert, wo und wie Rechenressourcen im gesamten Agentensystem eingesetzt werden. Außerdem ist eine adaptive Sicherheitsvorrichtung integriert, die automatisch eingreift, wenn Budgetgrenzen erreicht werden, was eine reaktive finanzielle Nachbereitung ersetzt und zeigt, dass Kostenvorhersagbarkeit von Anfang an als Standardwert für den Betrieb festgelegt werden soll. Dies ist eine Strategie, die auf eine Zeit abgestimmt ist, in der Probleme beim Übergang von generativer KI vom Experimentierstadium in den tatsächlichen Arbeitsumfeld zunehmend hervortreten, und ist unerlässlich, um die Kosten pro Aufruf in Systemen zu kontrollieren, bei denen Aufrufe kaskadenartig erfolgen.
Portal26 hat kürzlich auch ein Agenten-Management-Tool vorgestellt, das sich auf KI-Sicherheit und die Messung des Geschäftswerts konzentriert. Paxi Rajan, Chief Product & AI Officer, bewertete dieses neue Produkt als wesentliche Infrastruktur für "verantwortungsvollen KI-Betrieb" und nicht nur als reine Kostenkontroll-Tool. Dieses von Venture Capital finanzierte Startup hat bisher in zwei Runden insgesamt 15 Millionen Dollar an Finanzierung gesichert, mit Hauptinvestoren wie Refinery, Shasta Ventures und Fusion Fund. Während der Wettbewerb zwischen Unternehmen um generative KI vom Laborstadium in den Betriebsstadium übergeht, rückt "Kostenkontrolle" mindestens so wichtig wie "Leistung" in den Fokus, und mit zunehmender Ausbreitung von KI-Agenten wird die Bedeutung von Werkzeugen zur präzisen Verwaltung des Rechenverbrauchs voraussichtlich weiter wachsen.