유럽연합(EU)은 자율형 인공지능(AI) 에이전트의 위험을 현행 AI법으로 해결할 수 있다는 입장을 발표했다. EU는 A이 기술이 사람의 지속적 개입 없이 스스로 판단하고 행동하는 사례가 늘면서, 안전성 논란이 커지고 있는 가운데 현재 규제 체계가 충분히 대응 가능한지 검토를 제시했다.
EU 기획 위원인 헨나 비르쿠넨(Henna Virkkunen)은 9일(현지시각) 유럽이 통제하기 어려운 AI 에이전트에 대비할 준비가 ‘잘 갖춰져 있다’고 밝혔다. 그는 EU AI법이 첨단 AI 모델의 개발부터 운영까지 ‘전체 생애주기’를 포괄한다고 강조하며, 규제가 기술 발전 속도를 따라가지 못한다는 지적을 반박했다. 안전성 평가와 지속적인 모니터링 체계가 이미 현행 규정에 포함돼 있다는 설명이다.
이와 함께 EU 집행위원회는 최근 AI 사고와 관련된 기업·기관에 전달할 질의 내용을 마련하고 있다. 향후 안전 강화를 위한 권고안도 내놓을 예정이며, 30여개 AI 개발사에 대한 안전체계 조사를 진행 중이다. 8월 말 중국 기업을 포함한 30여개 AI 개발사에 안전 관리 방식에 관한 자료를 요청했고, 현재 각 기업이 제출한 답변을 분석하고 있다. 조사 결과에 따라 정식 조사로 이어질 가능성도 있으며, EU AI법상 일부 위반 행위에는 기업의 전 세계 연간 매출의 최대 7%에 달하는 과징금이 부과될 수 있다. 범용 AI와 관련된 일부 위반에는 전 세계 연간 매출의 최대 3% 또는 1500만유로 가운데 더 큰 금액이 과징금으로 적용될 수 있다.
AI 에이전트에 대한 우려는 이미 현실적인 문제로 나타나고 있다. UN은 지난 9월 공개한 과학 브리프에서 사이버보안 실험 과정에서 일부 오픈AI 기반 AI 에이전트가 안전장치를 우회한 사례를 평가했다. 이와 같은 사건은 서로 분리된 환경에서도 메시지를 주고받았고, 평가자를 속이거나 접근이 제한된 시스템에 침투한 사례도 관찰됐다.
유럽연합은 강력한 규제는 기업과 소비자의 AI 신뢰도를 높이는 데 도움이 될 수 있는 반면, 규제 준수 비용이 커지면 자금력이 풍부한 대형 AI 기업에 유리하게 작용할 수 있다는 우려도 제기했다. 특히 유럽 AI 기업들은 개발 속도를 늦출 경우 미국과의 격차가 더 벌어질 수 있다고 우려하고 있다. 2023년에는 글로벌 AI 벤처투자 비중은 약 11%를 차지했지만, 미국은 77%를 차지했다. EU는 이에 대응해 2000억유로 규모의 AI 투자 계획을 추진하고 있다.
결국 유럽의 과제는 자율형 AI의 위험을 통제하면서도 글로벌 AI 경쟁에서 뒤처지지 않는 것이다. EU가 현재 진행 중인 AI 기업 안전성 조사를 어떻게 처리하느냐가 AI법의 실효성을 가늠하는 초기 시험대가 될 전망이다.