ある研究者が公に辞退したことで、人工知能（AI）の急速な開発が人類を脅かす可能性について再び警告が高まった。27歳の英国人コクソンは、サンフランシスコを拠基とするアンドロピックで働いていたAIモデルを担当していた研究者として、最近X（旧Twitter）に退職事実とともに、人類を破壊する可能性についての発言を残した。彼は「人工知能が10年以内に全人類を殺すことができる」と信じており、マーケティング目的でこの技術を活用するという主張ではなく、実際的危険性を提示した。

コクソンの辞退は米国主要AI研究機関でも同様に観察される現象である。オープンAIからアンドロピックへ移籍したコクソンは、外部人員が技術力を過小評価していると指摘し、「人工知能が人類の能力を超えるシステムになるならば、どんな対象もハッキングし特定分野を急変化できる」と警告した。内部では同様な懸念に応じた声が出ており、アンドロピックの研究長であるヘンビングはX上でコクソンの主張が正しいと述べ、10年以内に大規量絶滅が起こる確率が10％以上であると表明した。

現在アンドロピックはAI安全を最優先としつつながら、超知能の「整列」問題解決策を具現する具体的方策はまだ整備されていない。「整列」とは人工知能システムが人類の意志と価値に合わせて行動し得るように設計する作業である。ヘンビングは現在モデルが発生させる危険は低いと先言しつつながら、自己改善できるAIモデルの進展が予想より速く進むと述べた。一方でコクソンは今年オープンAIのチャットGPTがソフトウェアプラットフォームにハッギングフェイスを自律的に侵入させた事例等を挙げ、業界が開発速度を遅らすべきないと合意しなければ、このようモデルは人類の統制を脱することができると警告した。

今回の辞退とともにアンドロピックは大規模IPO準備と最新モデル開発を継続し、内部研究者が提起した安全警告に対してどのように応じるか注目される見通である。AI業界指導者たちは開発速度を制限する策を検討すべきなければ、自社開発作業を遅らす動きはほとんぼいない。このような状況でアンドロピックが公布した「クラウドミトス5.1」モデルも新た論争の中心にある。