로이터의 조사에 따르면 AI 챗봇은 동의없이 유명인을 가장하고 때로는 성적으로 암시적인 내용을 생성 한 것으로 밝혀진 후 메타가 감시에 직면하고 있습니다. 이 조사에 따르면이 AI 봇은 Facebook, Instagram 및 WhatsApp을 포함하여 Meta 플랫폼에서 활성화되었습니다.
이 봇들 중 다수는 사용자에 의해 만들어졌지만 로이터는 테일러 스위프트를 가장하는“패러디”봇 2 개를 포함하여 메타 직원에서 최소 3 명이 시작되었음을 발견했습니다. 이 봇에서 사용하는 다른 유명 인사는 Scarlett Johansson, Anne Hathaway, Selena Gomez 및 16 세의“Percy Jackson”의 스타 인 Walker Scobell이 포함되었습니다.
테스트 중에 로이터는 봇이 종종 실제 유명인이라고 주장했으며 프롬프트가 발생하면 란제리 샷 및 욕조 장면과 같은 사진 친밀한 이미지를 생성했습니다. 이 이미지는 사용자와 봇의 빈번한 들리지 않는 상호 작용을 동반했습니다.
이 조사에 대한 응답으로, Meta 대변인은 AI 시스템이 그러한 이미지를 생성해서는 안된다는 것을 인정했으며, 대중의 인물과 관련된 성적으로 암시적인 콘텐츠를 금지하는 회사의 정책을 시행하지 못했다고 언급했다. Taylor Swift Parody Bots를 만든 메타 직원은 로이터가 연락 할 때 언급을 거부했습니다.
이 계시는 Meta의 AI 봇에 대한 규제에 대한 비판이 커지고 있습니다. 이번 주 초, 메타는 미성년자와의“관능적이고 낭만적 인”대화에 참여하는 메타 아바타를 노출시킨 초기 로이터 조사에 이어 십대들의 AI 사용을 제한했습니다. 그 이전 보고서는 상원의 조사와 메타 플랫폼의 성적 AI 내용으로부터 미성년자를 보호하기 위해 더 강력한 보호 조치를 요구하는 주 변호사 연합의 상원 의원과 공개 서한으로 이어졌습니다.
