보고서에 따르면 Billie Eilish가 생성한 이미지는 수백만 조회수를 기록한 동영상에서 TikTok의 “딥페이크 포르노”의 초점이었습니다.
소셜 네트워크의 기본 피드인 For You 페이지에서 사용자는 성적으로 과장된 신체에 20세의 얼굴을 한 비디오를 발견했습니다. TikTok이 성희롱에 대한 커뮤니티 지침을 위반한 클립을 금지하기 전에는 사진 갤러리 슬라이드쇼의 시청자가 1,100만 명에 달했다고 합니다.
자체 생성 AI를 사용하여 Your Power 가수의 버전을 재현했다고 주장하는 비디오는 앱이 노골적으로 성적 콘텐츠를 금지했음에도 불구하고 4일 동안 휴대폰 화면에 표시되었다고 합니다.
AI 기술이 Billie Eilish AI가 생성한 딥페이크로 너무 멀리 갔나요?
TikTok의 자체 정책에 노골적으로 성적인 콘텐츠가 금지되어 있음에도 불구하고 동영상은 앱의 For You 탭에 표시되었습니다.
Lensa 또는 Midjourney와 같은 앱은 최근 몇 주 동안 많은 관심을 끌었으며 그 결과 자신의 사진을 기반으로 한 사람들의 디지털 페르소나는 Instagram, Twitter 및 TikTok 전체에 있습니다. 그러나 Lensa AI가 플랫폼이 동의 없이 여성의 “누드” 이미지를 생성하기 때문에 NSFW 콘텐츠에 대한 뜨거운 논쟁의 중심에 있다는 보고가 많이 있습니다.
그러나 많은 여성들은 앱이 옷을 벗기거나 성적인 신체를 보여줌으로써 여성혐오를 조장하고 있다고 주장합니다.
온라인과 오프라인 모두에서 젠더 기반 학대 피해자를 지원하기 위해 Chayn의 창시자이자 CEO인 Hera Hussain은 다음과 같이 말했습니다.
“TikTok 알고리즘은 어떤 종류의 콘텐츠가 참여하고 있는지 식별하도록 설정되어 있지 않으며 이는 중요한 문제입니다. 사용자의 피드에 이러한 동영상을 추천해서는 안 됩니다. 무해한 밈이 아닙니다. 가수 자신의 비디오에서 나온 스틸이 아닙니다. AI가 조작한 지나치게 성적인 이미지입니다.”
– 헤라 후세인
TikTok 알고리즘이 NSFW 콘텐츠를 지원하는 방식이 혼란스럽습니다.
소셜 미디어 플랫폼을 사용하는 경우 AI로 생성된 사진이 최근 모든 연령대의 수백만 명이 사용하는 TikTok과 같은 대형 플랫폼에서 입소문을 타고 있다는 사실을 알아야 합니다. Billie Eilish AI가 생성한 딥페이크 포르노와 같은 콘텐츠가 TikTok 알고리즘에 의해 사용자에게 추천된다는 것은 정말 혼란스러운 일입니다. 해당 콘텐츠는 불행히도 며칠 동안 플랫폼에 있었고 삭제되기 전에 수백만 건의 조회수를 받았습니다.
TikTok 대변인은 주제에 대해 다음과 같이 말했습니다.
”이 콘텐츠는 성적 암시를 묘사하거나 암시하기 위해 다른 개인의 이미지를 변경하거나 변형하는 콘텐츠를 허용하지 않는다는 커뮤니티 가이드라인을 위반합니다.”
– 틱톡 대변인
AI가 생성한 사진에 대한 반응이 호황을 누리고 있습니다.
인기 애플리케이션인 Lensa AI가 이전에 여성을 너무 성적으로 묘사하고 일부 아티스트의 작품을 훔친 혐의로 기소된 후 Billie Eilish AI가 생성한 딥페이크로 다시 전면에 등장한 AI 애플리케이션의 폐해에 대해 소셜 미디어 플랫폼에서 많은 이야기가 있습니다. . Twitter에는 다음과 같은 주제에 대한 많은 트윗이 있습니다. @_CatherineAllen님의 트윗입니다.
이 AI 초상화 앱은 왜 그렇게 내 옷을 벗으려고 하는 걸까요?!
Lensa를 사용하면 20개의 셀카를 업로드하고 수십 개의 독특한 예술적 인물 사진을 생성합니다. 내가 업로드한 모든 사진을 완벽하게 입었지만 (obv!) 그것이 생성한 일부 사진은 누드였습니다.
pic.twitter.com/rwOvPmrpFd
— 캐서린 앨런(@_CatherineAllen) 2022년 12월 10일
최근 디지털 아티스트 전용 플랫폼인 ArtStation에서 AI 생성 이미지에 대한 시위가 열렸습니다. 예술가들은 AI 예술에 반발하기 시작했고 플랫폼에 업로드한 사진에서 “AI가 생성한 이미지에 반대합니다”라는 메시지를 전했습니다.
AI 기술의 올바른 사용은 확실히 우리에게 매우 중요한 요소입니다. 수년 동안 우리 삶의 여러 지점에서 우리를 도와온 AI는 불행히도 최근 며칠 동안 입소문을 타면서 많은 논의의 초점이 되었습니다. 대부분의 AI 기술은 자가 학습 프로토콜을 따르지만, 응용 프로그램의 공개 릴리스는 아마도 AI의 개발을 지원하기보다는 특히 윤리적 문제에 대해 AI를 뒤로 밀고 있을 수 있습니다. ChatGPT에서 생성한 모델을 보면 이 주제에 대한 OpenAI의 예약으로 인해 현재 주제에서 사용되지 않을 수 있습니다.
