Ein Forscher ist öffentlich zurückgetreten, und die Warnung, dass die rasche schnelle Entwicklung von künstlicher Intelligenz (KI) die Menschheit bedrohen könnte, wurde erneut aufgeworfen.

Der 27-jährige Engländer Coxon ist ein Forscher, der in OpenAI gearbeitet hat und KI-Modelle entwickelt hat. Er hat kürzlich über die Plattform X (ehemals Twitter) seinen Rücktritt bekannt gegeben und einen Kommentar hinterlassen, in dem er auf das Risiko hinweist, dass die Menschheit zerstört werden könnte.

Er glaubt, dass KI in zehn Jahren alle Menschen töten könne und betont, dass seine Aussage nicht aus Marketinggründen sei, sondern die reale Gefährdigkeit.

Der Rücktritt eines solchen Forschers ist ein Phänomen, das auch in bedeutenden US-amerikanischen KI-Forschungszentren beobachtet wird.

Coxon, der nach seinem Ausscheiden aus OpenAI zu OpenAI gewechselt hatte, kritisierte externe Akteure, die das Potenzial von Technologie unterschätzen. Er warnte: „Wenn KI ein System wird, das die menschliche Fähigkeit übersteigt, kann es jede Zielgruppe hacken und bestimmte Bereiche radikal verändern.“

Innerhalb der Organisation entstanden Stimmen, die diese Befürchtung teilen. OpenAI's Chief Scientist Benbing Yu erklärte auf X, dass Coxon's Aussagen richtig seien und dass die Wahrscheinlichkeit für eine große Auslöschung in zehn Jahren über 10 % sei.

OpenAI setzt den Fokus weiterhin auf KI-Sicherheit, hat aber noch keine konkreten Lösungen für das Problem der „Alignment“ entwickelt. Alignment bedeutet, dass ein KI-System so programmiert wird, dass es im Einklang mit menschlichen Werten und Zielen handelt. Yu betonte, dass die gegenwärtigen Modelle geringere Risiken bergen, dass jedoch die Entwicklung von KI-Modellen schneller als erwartet voranschreitet. Coxon warnte, dass diese Entwicklungen in der Zukunft noch stärker werden können und dass es möglich sei, dass solche Modelle außer Kontrolle geraten könnten.

Die OpenAI wird mit dem Rücktritt fortfahren, weitere Schritte zu unternehmen und die Sicherheit von KI-Systemen weiter zu verbessern. Im Zuge des Ereignis werden neue Modelle als „Klüde‑Mithos 5.1“ bezeichnet werden, was das Thema der KI-Entwicklung in den kommenden Jahren neu beleuchten wird.