비영리 미디어 감시 미디어 문제의 최근 조사에 따르면 Google의 AI 비디오 제작 도구 Veo 3에서 생성 된 인종 차별 비디오는 Tiktok 전역에서 수백만 건의 조회수를 모았습니다. 조직에 의해 식별 된이 AI 생성 비디오는 특히 흑인 개인을 대상으로하는 경멸적인 고정 관념으로 포화되어 있습니다.
미디어 문제는이 클립의 모퉁이에 눈에 띄는 “Veo”워터 마크가 표시되어 Google VEO 3을 사용하여 놀라운 1,420 만 회의 조회수를 얻은 비디오가 결론을 내렸다. 또한 일부 사용자는 VEO 3 또는 AI를 참조하는 해시 태그, 캡션 또는 사용자 이름을 명시 적으로 포함했습니다. 조직에 의해 식별 된 각 클립의 길이는 정확히 8 초 또는 여러 세그먼트로 구성되었으며, 각각 8 초를 초과하지 않으며 VEO 3의 알려진 8 초의 생성 한도와 완벽하게 맞습니다.
Google은 5 월에 VEO 3을 출시하여 사용자가 텍스트 프롬프트를 입력하여 AI 비디오 클립과 오디오를 생성 할 수있게했습니다. Google의 공식 웹 사이트는 “유해한 요청 및 결과를 차단”하겠다는 약속을 명시하고 있습니다. 마찬가지로 Tiktok의 커뮤니티 지침은“증오심 표현과 증오 행동”을 명시 적으로 금지하며, 플랫폼은“보호 된 속성을 가진 사람이나 그룹에 대한 부정적인 고정 관념을 포함하는 컨텐츠를 권장하지 않을 것”이라고 확인합니다.
Tiktok 대변인 인 Ariane de Selliers는 이번 조사 결과에 따라 “우리는 증오심 표현과 행동에 대한 강력한 규칙을 적극적으로 시행하고 보고서에서 확인한 계정을 제거했으며, 그 중 다수는 이미 보고서 게시 전에 이미 금지되었습니다.” 이 Verge는 또한 YouTube에서 이러한 문제가있는 비디오 중 일부를 발견했지만, 뷰가 적지 만 Instagram에서 독립적으로 위치한 인종 차별주의 AI 생성 콘텐츠를 유선했습니다. 미디어 문제는 또한 반유대주의 내용과 이민자와 아시아 개인의 인종 차별 묘사를 포함하는 다른 비디오를 발견했습니다. Google은 아직이 문제에 대한 의견을 제공하지 않았습니다.
