AI가 생성한 여학생 누드 이미지 스캔들에 학부모들이 사립학교를 상대로 소송을 제기했다. Lancaster County Day School은 한 학생이 거의 모든 반 친구들의 노골적인 딥페이크 이미지를 만들고 있다는 사실을 발견했을 때 큰 비난을 받았습니다. C 씨는 수업을 취소했고, 학교 지도자들은 책임을 촉구했으며 일부는 사임했다.
스캔들은 2023년 11월 학교의 “Safe2Say Something” 익명 신고 시스템에 신고가 접수되면서 시작되었습니다. 경찰에 따르면 Matt Micciche 교장은 이 신고를 받았지만 이에 대해 아무 조치도 취하지 않고 몇 달 동안 상황이 악화되도록 방치했습니다. . 경찰은 유해 콘텐츠를 제작한 혐의로 기소된 학생이 체포된 2024년 중반에야 통보를 받았습니다. 조사의 일부에는 학생의 휴대폰을 압수하는 것이 포함되었습니다. AI가 생성한 노골적인 이미지가 학생과 연결된 후, 법 집행 기관은 8월에 청소년이 역할을 했다는 사실을 확인했습니다.
Lancaster의 AI 딥페이크 스캔들에 따른 사임, 항의 및 소송
2024년 5월, 해당 이미지는 학부모들에게 너무 충격적이어서 학교가 아동 학대 신고법에 따라 요구되는 대로 문제를 더 일찍 신고하지 않은 것에 놀랐습니다. 이로 인해 학교 관계자는 48시간 안에 사임하지 않으면 소송을 당할 것을 요구하는 법원 소환장을 발부받았습니다. Micciche와 교육위원회 Angela Ang-Alhadeff 회장은 불과 며칠 후 압력으로 인해 사임했습니다.
긴장감은 여전히 높았고 다음 월요일에는 수업이 취소되었습니다. 유아원부터 고등학교까지 약 600명의 학생이 재학 중인 이 학교에서 학생과 교직원은 학생들의 안전을 지키기 위한 더 강력한 조치를 요구하며 시위를 벌였습니다. 학교는 이 기간 동안 지역사회를 지지하겠다고 약속했습니다.
조직적인 파업 이후 학교 행정관들이 사임하자 학생들은 불안하다고 주장했습니다. 11월 8일, 수천 명의 고등학생들이 모여 “우리의 말을 들어주세요. 우리를 인정하십시오. 우리를 봐요.” 그들은 위기 상황이 전개됨에 따라 학교 지도자들과 보다 명확한 의사소통이 필요하다는 점을 강조했습니다. Micciche는 이전에 학교의 사건 처리에 대해 학생들이 분노를 표출할 권리가 있음을 인정하며 시위를 지지했습니다.
학교 지도자들은 사임했지만 여전히 학교 지도자들을 상대로 법적 조치를 취할 계획이라고 변호사 매튜 파란다-디드리히가 말했습니다. Lancaster Country Day는 영향을 받은 학생들에게 상담을 했으며 보고 절차와 안전 정책을 검토하고 업데이트하겠다고 약속했습니다.
이 스캔들은 미국 법률 체계가 AI를 통한 아동 착취 시도에 어떻게 대응하는지에 대한 광범위한 논쟁과 동시에 발생합니다. Lancaster 사건은 그 자체로 충격적이지만 AI가 생성한 아동 관련 노골적인 콘텐츠 사건 패턴의 일부가 됩니다. 최근 제안된 법안에는 그러한 자료의 생성 및 배포를 범죄화하는 내용이 포함되어 있으며 심각한 범죄에 대해서는 막대한 벌금과 장기 징역형을 포함한 엄중한 처벌이 적용됩니다.
그러나 곧 발효될 예정인 새로운 펜실베이니아 법은 AI가 생성한 아동 성적 학대 자료의 제작 또는 유포를 명시적으로 범죄화할 것입니다. 한편, 당국은 한국에서도 유사한 딥페이크 관련 위기 상황을 단속하고 있습니다. 여기에는 전국의 학교와 지역 사회를 놀라게 하는 딥페이크 포르노 전염병으로 국가가 어려움을 겪고 있는 동안 소셜 미디어 플랫폼에 대한 더 큰 모니터링과 이를 위반할 경우 더 많은 처벌이 포함됩니다.
이 분야에 대한 미국의 노력은 다른 나라의 노력에 비하면 미미합니다. 존 제이 형사사법대학(John Jay College of Criminal Justice)의 연구원들은 합의되지 않은 딥페이크 콘텐츠를 게시하는 디지털 플랫폼에 대해 법적 책임을 주장하고 피해자가 될 위험에 처한 사람들을 보호할 수 있는 보다 강력한 수단을 요구하는 옹호자 중 하나입니다.
이미지 크레딧: 푸르칸 데미르카야/플럭스 AI
AI 딥페이크 스캔들이 사립학교를 뒤흔든 후 TechBriefly에 처음 등장한 후 학생 시위가 발생했습니다.
Source: AI 딥페이크 스캔들이 사립학교를 뒤흔들자 학생 시위가 격화