Graphika가 보고한 AI 딥페이크 누드 서비스의 급격한 증가는 합의되지 않은 친밀한 이미지를 생성하기 위해 인공 지능을 사용하는 혼란스러운 추세를 강조하며 심각한 윤리적, 법적 문제를 제기합니다.
AI 옷 벗기 도구의 인기 상승
소셜 미디어 분석 회사인 Graphika는 “AI 옷 벗기” 도구의 사용이 걱정스럽게 증가했다고 보고했습니다. 이러한 생성 AI 도구는 사용자가 제출한 이미지에서 옷을 제거하도록 정밀하게 조정되었으며, 이러한 서비스에 대한 온라인 참조가 2,408%나 증가했습니다.
합의되지 않은 합성 친밀한 이미지(NCII)에는 일반적으로 묘사된 개인의 동의 없이 노골적인 콘텐츠를 생성하는 작업이 포함됩니다. 이러한 도구는 표적 괴롭힘, 성착취, 아동 성적 학대 자료(CSAM) 제작의 위협을 제기합니다.
영국에 본사를 둔 인터넷 감시 회사인 인터넷 감시 재단(IWF)은 AI가 생성한 포르노와 실제 이미지를 구별하는 데 어려움이 있어 온라인 학대에 맞서기 위한 노력이 복잡하다는 점을 강조했습니다.
국제적인 반응
유엔은 AI가 생성한 미디어를 정보 무결성에 대한 “심각하고 긴급한” 위협으로 묘사했습니다. 이에 대응하여 유럽의회와 이사회는 최근 EU에서의 AI 사용을 규제하는 규칙에 합의했습니다.
Source: AI가 생성한 딥페이크 누드 서비스 급증으로 경각심 높아져
