미국 연방법원은 실제 인물의 사진을 나체 이미지로 변환하는 기술 사용을 제한하도록 명령한 판결을 내렸다. 이 결정은 xAI와 같은 대규모델이 제공하는 ‘이미지 생성’ 기능이 현실에서 인물의 신체 부위까지 재현할 수 있는 경우에 적용된다. 법원은 “공익이 주정부에 크게 유리하다”는 판단으로, 해당 규제는 기존 기술을 둘러싼 수정헌법 제1조 쟁점을 복잡하게 할 것으로 보았다.
판결에 따르면 연방법원은 인물 사진을 변형한 결과가 피해를 초래할 수 있다고 인정하고, 그로 인해 발생하는 민사 책임을 명확히 규정하였다. 한 장의 이미지마다 최대 50만 달러(약 6천만 원)의 벌금이 부과될 수 있으며, 위반 시 피해 당사자도 별도로 손해배상을 청구할 수 있다. 이는 기존 ‘텍스트-투-이미지’ 도구를 넘어서 실제 인물의 얼굴을 재현하는 경우까지 포함한다.
xAI는 판결일인 8월1일 이전에 소송을 제기하고, 29일에 임시금지명령을 신청하였다. 연방법원은 이를 기각했고, 프랭크 판사는 “회복하기 어려운 피해를 실제 우려했다면 더 일찍 법적 조치에 나섰을 것”이라 지적했다. 이와 같이 크립토폴리탄의 ‘연방 테이크 잇 다운법’과 2025년 텍사스주의 딥페이크 규제는 서비스 제공자가 이미지 생성 사실을 몰랐더라도 책임을 질 수 있도록 하고 있다.
미네소타주가 제정한 이 법은 미국에서 처음 도입된 유형의 규제다. 실제 인물 사진에 은밀한 신체 부위를 추가해 사실적인 이미지를 생성하도록 허용하는 행위는 금지되며, 위반 시 최대 50만 달러의 민사 벌금이 부과된다. xAI와 같은 플랫폼은 이 결정을 환영하며, 관련 기능을 중단하거나 경고를 제시할 계획이라고 밝혔다.