Nach einem FT-Bericht vom 17. Januar haben die Unternehmen OpenAI und das cloudbasierte AI-Unternehmen Anthropic an Lösungen gearbeitet, um die Geschwindigkeit der KI‑Entwicklung zu verlangsamen. Die beiden CEOs betonten erneut mit Nachdruck die Notwendigkeit, die Entwicklung der neuesten Modelle einzuschränken – sie stützten sich dabei auf wiederholende Warnungen von Forschern und haben ähnliche Maßnahmen in ihrem Konkurrenzumfeld ergriffen.
Allerdings sind die Implementierungen bei beiden Firmen noch nicht fest. Mitarbeitende sowie Sicherheitsforscher wussten bis kurz vor der Ankündigung kaum Details zur konkreten Umsetzung, und äußerten Bedenken, dass die tatsächliche Anwendung scheiteln könnte. Am vergangenen Samstag forderte ein Moderator die Verlangung der KI‑Entwicklung, schlug unabhängige Modellbewertungen vor und betonte die Notwendigkeit von Kooperationen zwischen Forschungsinstituten und Regierungen.
Der Moderator unterstrich, dass externe Prüfer dieselben Zugriffsrechte wie Mitarbeitende an wichtigen Labors haben sollten. OpenAI hat einen pragmatischeren Ansatz gewählt und beschränkt derzeit Teile des Trainingsprozesses; Anthropic bleibt noch in der Forschung tätig. Beide Unternehmen befinden sich im Streit über das Ausmaß der Zugriffsmöglichkeiten externer Prüfer, wobei Sicherheitsfragen aufkamen. Mitarbeitende fürchten, dass Kerntechnologien und sensible Informationen bei tieferem Zugang durch Dritte exponiert würden. Die Labors haben Zugriffsrechte eingeschränkt und die Nutzung von Trainingsdaten kontrolliert; OpenAI hat interne Kontrollmechanismen verstärkt, um Schäden am System zu verhindern.
Ein Mitarbeiter von OpenAI, Miles Brund, erklärte, dass der Zugriff eines Drittanbieters weit unter dem Niveau von regulären Mitarbeitenden liegt und ein branchenweites Regelwerk nötig sei. Anthropic arbeitet seit den frühen Tagen mit externen Prüfern zusammen und hat Pläne angekündigt. Beide betonen die Wichtigkeit von externen Prüfern und streben nach stärkeren Reaktionsmechanismen bei Sicherheitsvorfällen. Diese Entwicklungen beinhalten politische Faktoren und laufen in Abstimmung mit der US‑Regierung.