한 연구원이 공개적으로 떠나면서 인공지능(AI)의 급속 개발이 인류를 위협할 수 있다는 경고가 다시금 제기됐다. 27세 영국인 콕슨은 샌프란시스코 기반의 앤트로픽에서 일해온 AI 모델을 다루던 연구원으로, 최근 X(전 X) 플랫폼에 사퇴 사실과 함께 인류를 파괴할 가능성에 대한 비판을 남겼다. 그는 “인공지능이 10년 안에 모든 인간을 죽일 수 있다”고 믿으며, 마케팅 목적으로서 이 기술을 활용한다는 주장이 아니라 실제 위험성을 지적했다.
콜라기한 연구원이 떠난 것은 미국의 주요 AI 연구소에서도 비슷히 관찰되는 현상이다. 오픈AI에서 근무하던 후 앤트로픽으로 옮긴 콕슨은 외부 인력들이 기술의 힘을 과소평가하고 있다고 지적하며, “인공지능이 인간의 능력을 넘어서는 시스템이 되면 어느 대상이라도 해킹하고 특정 분야를 급변시킬 수 있다”고 경고했다. 내부에서는 이와 같은 우려에 동조하는 목소리가 나오며, 앤트로픽의 정렬과학을 이끄는 에번 허빙어는 X에서 콕슨의 주장이 맞다며, 인류가 10년 안에 대량 멸종이 발생할 확률은 10% 이상이라고 밝혔다.
현재 앤트로픽은 AI 안전을 최우선으로 두고 있으나, 초지능의 ‘정렬’ 문제를 해결하기 위한 구체적인 방안이 아직 마련되지 않았다. 정렬은 인공지능 시스템이 인간의 의도와 가치에 맞춰 일관되게 행동하도록 만드는 작업을 뜻한다. 허빙어는 현재 모델이 초래하는 위험은 낮다고 선행하면서도, 스스로 능력 개선할 수 있는 AI 모델의 발전이 예상보다 빠르게 진행되고 있다고 말했다. 한편으로, 콕슨은 올해 오픈AI의 챗GPT가 소프트웨어 플랫폼인 허깅페이스를 자율적으로 침해한 사례 등을 거론하며, 업계가 개발 속도를 늦추는 데 합의하지 않으면 이런 모델이 인간의 통제를 벗어날 수 있다고 경고했다.
이번 사퇴와 함께 앤트로픽은 대규모 IPO 준비와 첨단 모델 개발을 이어가며, 내부 연구자들이 제기한 안전 경고에 어떤 방식으로 대응할지 주목될 전망이다. AI 업계 지도자들은 개발 속도를 제한하는 방안을 검토해야 한다고 촉구했으나, 자체 개발 작업을 늦추는 움직임은 거의 보이지 않는다. 이와 같은 상황에서 앤트로픽이 발표한 ‘클로드 미토스 5.1’ 모델도 새로운 논란의 중심이 되고 있다.