Elon Musk 자녀 중 한 명의 어머니인 Ashley St. Clair는 목요일에 xAI를 상대로 소송을 제기했습니다. 소송은 회사가 AI 도구 Grok을 통해 과실과 정서적 고통을 가했다고 비난합니다. St. Clair는 Grok이 사용자들이 스트링 비키니를 입은 어린 시절의 묘사와 노골적인 자세를 취한 성인의 모습을 포함하여 성적으로 노골적인 포즈를 취한 딥페이크 사진을 생성할 수 있도록 허용했다고 주장합니다. St. Clair는 이러한 불법 딥페이크에 대해 xAI에 알리고 Grok이 합의되지 않은 이미지를 생성하지 못하도록 요청했습니다. 소송에 따르면, 그록은 자신의 이미지가 향후 세대나 대응에서 명시적인 동의 없이 사용되거나 변경되지 않을 것임을 확인함으로써 대응했습니다. 그럼에도 불구하고 xAI는 사용자가 AI로 생성한 그녀의 이미지를 보다 명확하게 생성할 수 있도록 계속 허용한 것으로 알려졌습니다. 소송은 또한 xAI가 그녀의 X 계정을 수익화하지 않음으로써 보복했다고 주장합니다. 해당 소송은 뉴욕주 법원에 제기됐으나 xAI의 요청에 따라 뉴욕 연방 남부지방법원으로 신속히 이송됐다. X와 xAI는 논평 요청에 즉시 응답하지 않았습니다. 제출 전 주에 X는 @Grok 응답 봇의 기능을 제한했습니다. 이러한 변화는 수영복이나 속옷이 노출된 옷에 식별 가능한 인물을 무의식적으로 배치하는 이미지를 생성하는 것을 방지하기 위한 것으로 나타났습니다. 보고 당시 이러한 제한되지 않은 기능은 독립 실행형 Grok 앱, Grok 웹 사이트 및 X의 Grok 탭에서 계속 활성 상태로 유지되었습니다. 연구원들은 Grok이 지난 주에 시간당 수천 개의 성적인 AI 생성 이미지를 생성했다고 보고했습니다. 이러한 이미지 중 다수는 X에 공개적으로 게시되었습니다. 업로드된 사진에서 옷을 제거하고 이를 비키니나 속옷으로 바꾸는 등 합의되지 않은 딥페이크를 생성하는 이 도구의 기능은 몇 주 동안 반발을 불러일으켰습니다. 이러한 이미지의 광범위한 생성과 확산은 세계적인 반응을 불러일으켰습니다. 여러 정부가 조사를 시작했으며 스마트폰 앱 마켓플레이스에서 X를 금지하거나 제한해야 한다는 요구가 있었습니다. 캘리포니아에서는 당국이 “척(Chuck)” 조사라고 설명하는 작업을 시작했습니다. Gavin Newsom 주지사는 X에 게시하여 “디지털 방식으로 어린이의 옷을 벗기는 이미지를 포함하여 포식자가 성적으로 노골적인 AI 딥페이크를 퍼뜨릴 수 있는 온상을 만들고 호스팅하기로 한 xAI의 결정은 사악합니다.”라고 게시했습니다. Clair의 소송은 Grok의 합의되지 않은 딥페이크 생성 기능을 설계 결함으로 설명합니다. 회사는 불법적인 이미지로 사람들을 괴롭히는 데 사용될 수 있음을 예측할 수 있었다고 주장합니다. 소송에는 세인트 클레어를 포함해 묘사된 사람들이 극심한 고통을 겪었다고 명시되어 있습니다. 이 보고서는 xAI가 “모든 품위의 한계를 뛰어넘고 문명사회에서 완전히 용납할 수 없는 극단적이고 터무니없는 행위”라고 비난합니다.

  Garmin Varia vue : 사이클링 라이트, 4K 입사 캠

Source: Ashley St. Clair, Grok 딥페이크에 대해 xAI 고소