xAI로 알려진 SpaceXAI는 사우스캐롤라이나에 거주하는 67세의 Terry Wayne Harwood를 상대로 AI 플랫폼 Grok을 사용하여 동의 없이 실제 개인의 성적인 이미지를 생성했다고 비난하며 소송을 제기했습니다. 이 고소장은 텍사스에서 제기되었으며 Harwood가 2025년 12월 8일부터 2026년 2월 18일 사이에 자신의 두 xAI 계정에 다양한 성인과 미성년자의 비성적 이미지를 업로드한 후 해당 이미지를 성적으로 표현하기 위한 변경을 요청했다고 주장합니다.
xAI는 Grok이 Harwood의 메시지 중 다수를 거부했지만 플랫폼의 보호 장치를 우회하도록 요청을 지속적으로 수정했다고 보고했습니다. 한 사례에서 Harwood는 약 10~11세로 추정되는 옷을 완전히 입은 소녀의 사진을 업로드하여 Grok에게 그녀를 성적인 방식으로 묘사해 달라고 요청했습니다. Grok은 거절했지만 Harwood는 조정된 요청을 계속했습니다.
1월 초에 나온 보고서에 따르면 Grok은 사용자가 실제 여성과 어린이의 성적인 이미지를 만들 수 있도록 허용했으며 규제 당국은 공식적인 조사를 시작했습니다. 캘리포니아 당국은 1월 중순부터 AI 플랫폼 조사를 시작했으며, 영국 규제 기관인 Ofcom, 유럽 위원회, 아일랜드 데이터 보호 위원회에서도 조사를 시작했습니다.
조사가 확대됨에 따라 xAI는 성적 딥페이크 생성을 방지하기 위한 조치를 취했습니다. 그럼에도 불구하고 Harwood는 조사 내내 계속해서 이미지를 업로드하고 성적인 편집물을 만들었습니다.
사우스캐롤라이나 법무장관실은 아동 대상 인터넷 범죄 태스크포스(Internet Crimes Against Children Task Force) 활동의 일환으로 3월 9일 Harwood를 체포했다고 발표했습니다. 그는 미성년자에 대한 2급 성착취 3건과 미성년자 3급 성착취 5건에 직면해 있으며, 이는 아동 성적 학대 자료의 소지 및 배포를 모두 포함합니다.
xAI는 Harwood 피해자의 잠재적 청구와 관련된 법적 방어 비용에 대해 불특정 금전적 손해 배상 및 배상을 요구하고 있습니다.
<시간 />
