생성적 인공지능의 부상은 놀라운 발전을 가져왔지만, 온라인에서는 더 어두운 결과도 가져왔습니다. 이러한 문제 중 하나는 얼굴과 신체를 복사하는 것으로, 종종 딥페이크라고 불립니다. 이는 개인에게 큰 피해를 줄 수 있는 합성 누드 이미지를 쉽게 만들 수 있습니다. 동의 없이 친밀한 사진이 공유된 개인은 인터넷에서 이러한 이미지를 삭제하는 데 어려움을 겪었습니다. Microsoft는 절실히 필요한 지원을 제공할 수 있는 해결책으로 개입했습니다.
Microsoft는 deepfake 피해자가 Bing 검색 엔진에서 이러한 이미지를 삭제할 수 있는 새로운 도구를 도입하여 중요한 진전을 이루었습니다. 이 최근 이니셔티브는 인공 지능의 발전으로 인해 더욱 악화된 현상인 실제 개인이 등장하는 것처럼 보이는 인터넷의 가짜 포르노 콘텐츠 확산을 해결하는 것을 목표로 합니다.
마이크로소프트 딥페이크 성인 콘텐츠 확산을 막으세요
Microsoft와 StopNCII의 파트너십(동의 없는 친밀한 이미지 중단)는 “복수”와 딥페이크 누드 이미지에 맞서는 싸움에서 중요한 협력을 나타냅니다. StopNCII는 피해자가 자신의 기기에서 실제 이미지나 AI가 생성한 노골적인 이미지의 디지털 지문 또는 “해시”를 만들 수 있도록 하는 조직입니다. 이 지문은 다양한 플랫폼에서 문제가 되는 이미지를 추적하고 제거하는 데 사용됩니다.
Microsoft의 Bing은 이제 이러한 노력의 일부가 되어 Facebook, Instagram, TikTok, Reddit과 같은 다른 주요 기술 플랫폼의 대열에 합류했습니다. 이는 이전에 직접 보고 도구에 의존했던 Microsoft의 이미 포괄적인 보안 조치에 중요한 추가 사항입니다. 직접 보고 옵션을 통해 사용자는 유해한 콘텐츠를 플래그로 표시할 수 있었지만 공격적인 자료의 양을 따라잡기에는 충분하지 않았습니다. Microsoft는 StopNCII의 디지털 지문 기술을 통합하여 이러한 이미지가 검색 결과에 나타나는 것을 보다 효과적이고 사전에 방지하고 피해자가 디지털 자산에 대한 제어권을 되찾도록 돕는 것을 목표로 합니다.
딥페이크에 대한 계속되는 투쟁
AI가 생성한 누드 이미지 문제는 특히 다음과 같은 국가에서 광범위한 영향을 미치며 점점 더 큰 우려가 되고 있습니다. 미국 AI 딥페이크 포르노를 특별히 대상으로 하는 연방법이 없는 경우. 이로 인해 23개 주만 해결하기 위한 법률 제정 비합의적 딥페이크많은 지역의 피해자들이 적절한 법적 구제수단 없이 방치되고 있습니다. Microsoft와 StopNCII의 파트너십과 Bing의 새로운 도구는 법적 보호가 일관되지 않은 환경에서 어느 정도 구제수단을 제공할 수 있습니다.
그러나 문제는 성인에 국한되지 않음. 고등학생들도 “옷을 벗다” 가짜 누드 이미지를 만드는 사이트는 더 강력한 법률과 더 포괄적인 보호의 필요성을 보여줍니다. StopNCII의 도구는 현재 18세 이상의 개인에게만 적용됩니다. 그러나 이러한 유해한 기술의 광범위한 영향은 분명하며, 젊은 사용자를 보호하기 위한 더 강력한 조치의 필요성은 불가피합니다.
디지털 안전에 대한 Microsoft의 약속
Microsoft는 오랫동안 허가 없이 친밀한 이미지를 공유하는 것의 해로운 영향을 알고 있었으며 이 문제를 해결하기 위한 조치를 취했습니다. 2015년에 Microsoft는 사용자가 동의하지 않은 친밀한 이미지를 보고하고 제거하는 데 도움이 되는 중앙 보고 도구를 출시했습니다. 그러나 합성 이미지의 기술이 발전함에 따라 Microsoft의 접근 방식도 발전했습니다.
이 회사는 또한 AI가 생성한 콘텐츠의 피해자를 보호하기 위한 현대화된 법률을 옹호하고 여성과 어린이를 온라인 학대로부터 보호하기 위한 정책 제안을 발표했습니다. 또한 Microsoft는 Bing, Xbox 및 기타 소비자 서비스를 포함한 플랫폼에서 이러한 콘텐츠의 생성 및 배포를 방지하기 위한 내부 정책을 지속적으로 개선하고 있습니다.
Microsoft의 새로운 도구는 큰 진전이지만, 딥페이크와의 싸움은 끝나지 않았습니다. 새로운 기술은 새로운 과제를 가져오고, 우리는 신속하게 대응해야 합니다. Microsoft는 StopNCII 및 기타 그룹과 협력하여 딥페이크와 싸우고 있습니다. 하지만 우리는 모두의 도움이 필요합니다.
Microsoft는 친밀한 이미지가 공유되는 것을 걱정하는 사람들에게 StopNCII 도구를 사용하고 Microsoft에 위반 사항을 보고하도록 권장합니다. 이를 통해 이러한 이미지의 확산을 막고 피해자에게 어느 정도 통제력을 제공할 수 있습니다. 기술은 새로운 형태의 학대를 가능하게 했지만, 동시에 새로운 방식으로 맞서 싸우고 있습니다. Microsoft의 최근 움직임은 이러한 지속적인 투쟁을 보여줍니다.
추천 이미지 크레딧: Johannes Krupinski / Unsplash
