페이스북의 뉴스피드는 이상하고 불안한 곳으로 변했습니다. 인공지능이 만들어낸 듯한 기이한 이미지가 눈길을 끈다.
근육질의 소부터 새우로 재탄생된 예수까지, 이 기괴한 창조물들이 플랫폼 전체에 퍼지고 이어서 “아멘” 의심하지 않는 사용자로부터.
그러나 디지털 부조리의 물결 뒤에는 더 어두운 현실, 즉 사용자를 다음으로 유인하도록 설계된 페이지 네트워크가 있습니다. 광고가 많은 클릭 팜.
AI 수문이 열렸습니다
이 현상의 중심에는 AI로 생성된 이미지를 끊임없이 생산하는 수십 개의 Facebook 페이지가 있습니다. 이 페이지에는 예수를 주제로 한 게시물이나 특이한 시나리오의 승무원과 같은 이상한 주제가 자주 등장합니다. 해당 게시물은 당황한 댓글부터 봇 같은 칭찬에 이르기까지 수천 개의 반응을 불러일으켰고, 혼란스러운 사용자들은 이미지가 진짜인지 아닌지를 두고 씨름했습니다.
최근 환경단체의 분석에 따르면 스탠포드 인터넷 천문대, 이러한 이미지는 수억 건의 참여를 이끌어냈습니다. AI가 생성한 복잡한 예수 초상화(때때로 플라스틱 병으로 만들거나 모래를 깎아 만든 것)는 가장 인기 있는 이미지 중 하나입니다. 최근에는 AI-Jesus의 갑각류 차례가 점점 늘어나고 있으며 새우, 게 및 유사한 생물이 중심을 이루고 있습니다. 주로 동아시아 여성들로 묘사되는 승무원들은 예수와 함께 기도하거나, 십자가를 들고 있거나, 진흙에 흠뻑 젖는 등 예상치 못한 시나리오에서 일상적으로 묘사됩니다. 한편, 어린 흑인 어린이들은 타이어로 만든 AI 생성 호랑이와 같은 손으로 만든 걸작을 전시하면서 입소문을 타고 있습니다.
AI 홍수의 배후는 누구인가?
이러한 AI 이미지 홍수의 동기는 불분명합니다. 이러한 게시물의 대부분은 Meta가 해당 콘텐츠에 라벨을 지정하도록 요구했음에도 불구하고 AI 생성 특성을 공개하지 않습니다. 사기 가능성이 논의되고 있지만 이는 단순히 사용자가 바이러스성 콘텐츠의 허점을 악용하는 경우일 수 있습니다.
생성 AI 기술의 접근성이 높아짐에 따라 이러한 합성 이미지가 잘못된 정보 및 허위 정보 캠페인에 사용될 수 있다는 우려가 커지고 있습니다.
도난당한 Facebook 페이지와 바이러스성 웹
스탠포드 연구는 이들 중 많은 것이 밝혀졌습니다. AI 스팸 페이지는 합법적인 프로필에서 용도가 변경되었습니다..
학교, 교회, 심지어 고등학교 밴드 페이지까지 납치되어 이상한 AI 이미지의 허브로 변모했습니다. 페이지를 되찾으려는 원래 소유자의 시도는 페이스북으로부터 묵묵부답을 받은 것으로 알려졌습니다.
광경과 우려
그 광경은 즐거움과 즐거움을 동시에 불러일으키지만 불안감도 커집니다. 사용자들은 이러한 페이지가 잠재적인 사기 대상을 식별하는 데 사용될 수 있다고 이론화하고 있습니다. 엄청난 양의 선정적인 AI 콘텐츠와 속기 쉬운 사용자가 결합되어 악의적인 행위자와 사기 계획을 위한 네트워크를 만들 수 있습니다.
AI가 생성한 새우, 예수 예술, 진흙탕 승무원이 등장하는 페이스북의 기괴한 이야기는 새로운 문제에 대한 강력한 조명을 던지고 있습니다. AI 이미지 생성이 더욱 정교해지면서 무해한 기이함과 위험한 조작 사이의 경계가 모호해졌습니다. 이는 Facebook과 같은 소셜 미디어 플랫폼이 개인 정보를 식별하고 AI 생성 콘텐츠 라벨링.
주요 이미지 크레딧: 하나님을 사랑합니다 &하나님은 당신을 사랑합니다/페이스북.
