회사의 정책 결정을 검토하는 반독립 위원회인 Meta의 감독 위원회는 최근 Instagram과 Facebook에서 AI로 생성된 노골적인 이미지를 처리하는 데 중점을 두었습니다.
이러한 움직임은 불쾌한 콘텐츠를 탐지하고 대응하는 데 있어 Meta 조정 시스템의 효율성에 대한 우려에 대한 대응으로 이루어졌습니다.
이러한 조사의 세부 사항과 그것이 담고 있는 더 넓은 의미를 살펴보겠습니다.
사례를 살펴보다
에 따르면 TechCrunch의 보고서한 예로, 한 사용자가 AI로 생성된 인스타그램의 공인 누드를 신고했지만 Meta의 시스템은 이를 즉시 제거하지 못했습니다. 여러 보고에도 불구하고 불쾌한 내용은 감독위원회가 개입할 때까지 지속되었습니다.
마찬가지로 Facebook에서는 미국 유명 인사와 유사한 노골적인 AI 생성 이미지가 AI 중심 그룹 내에서 공유되었습니다. Meta는 결국 이미지를 삭제했지만 조정 프로세스의 효율성에 대한 의문이 남아 있습니다.
감독위원회가 인도와 미국의 사례를 선택한 것은 Meta의 플랫폼 정책 및 집행 관행에 대한 더 광범위한 우려를 강조합니다. AI 생성 콘텐츠, 특히 여성의 안전에 대한 글로벌 영향을 조사함으로써 이사회는 지역 전반에 걸쳐 공평한 보호를 보장하는 것을 목표로 합니다.
딥페이크는 우리 시대의 재앙이다
딥페이크 포르노와 온라인 성 기반 폭력의 확산은 또 다른 복잡성을 가중시킵니다. 노골적인 콘텐츠를 생성할 수 있는 AI 도구를 사용하면 플랫폼은 유해한 자료를 신속하게 감지하고 제거하는 데 어려움을 겪게 됩니다. 여배우를 대상으로 한 딥페이크가 급증한 인도와 같은 지역에서는 강력한 규제 조치의 필요성이 분명해졌습니다.
전문가들은 AI가 생성한 노골적인 콘텐츠의 확산을 억제하기 위해 엄격한 조치를 취하는 것이 시급하다고 강조합니다. AI 모델 출력 제한부터 쉬운 감지를 위한 기본 라벨링 도입에 이르기까지 피해를 완화하려면 사전 조치가 중요합니다. 그러나 법적 환경은 여전히 단편화되어 있으며 소수의 관할권에서만 AI 생성 포르노를 다루는 법률을 제정하고 있습니다.
‘새우 예수’ 이야기를 기억하시나요?
이러한 조사 중에 Facebook은 예수를 새우로 묘사하는 것을 포함하여 AI가 생성한 이미지의 출현이라는 특이한 이야기에 휘말렸습니다. 종종 하이재킹된 페이지에서 비롯되는 이러한 초현실적인 창작물은 AI 기술과 소셜 미디어 조작의 교차점을 강조합니다.
AI 생성 콘텐츠의 홍수 뒤에 숨은 동기는 여전히 모호합니다. 어떤 사람들은 잠재적인 사기에 대해 추측하는 반면, 다른 사람들은 이를 입소문을 타려는 명성을 추구하는 것으로 봅니다. 그럼에도 불구하고, 잘못된 정보 캠페인을 위해 합성 이미지를 오용하는 것에 대한 우려는 여전히 남아 있습니다.
취해야 할 조치
메타 플랫폼의 AI 생성 이미지에 대한 감독위원회의 조사는 디지털 시대의 콘텐츠 조정에 대한 진화하는 과제를 조명합니다. 기술이 발전하고 AI 도구에 대한 접근성이 높아짐에 따라 유해한 콘텐츠로부터 사용자를 보호하는 것이 더욱 시급해졌습니다. Facebook과 같은 플랫폼은 사전 대책을 채택하고 모든 사용자를 위해 보다 안전한 온라인 환경을 조성해야 합니다.
주요 이미지 크레딧: 메타
Source: Meta의 감독위원회는 Instagram과 Facebook의 AI 생성 이미지에 대한 심층 조사를 진행합니다.