오픈AI(OpenAI)는 자사의 AI 비디오 모델인 소라(Sora) 사용자들이 민권운동가 마틴 루터 킹 주니어(Martin Luther King Jr.)와 유사한 비디오를 생성하는 기능을 일시 중지했다고 목요일 발표했다. 이 회사는 일부 사용자들이 킹 박사의 이미지에 대해 “무례한 묘사”를 만든 이후 킹 박사 재산의 요청에 따라 이 조치가 취해졌다고 밝혔다. OpenAI는 X의 공식 뉴스룸 계정에 게시한 게시물에서 “역사적 인물을 묘사하는 데는 표현의 자유에 대한 강한 관심이 있지만 OpenAI는 공인과 그 가족이 궁극적으로 그들의 초상이 사용되는 방식에 대한 통제권을 가져야 한다고 믿습니다”라고 말했습니다. 회사는 “공식 대리인이나 부동산 소유주가 소라 카메오에 자신의 초상을 사용하지 말라고 요청할 수 있다”고 덧붙였다. 이 제한은 몇 주 전에 Sora 소셜 비디오 플랫폼이 출시된 이후에 이루어졌습니다. 이 플랫폼을 통해 사용자는 역사적 인물, 친구 및 자신의 초상을 재현하기로 선택한 다른 사용자와 유사한 사실적인 AI 생성 비디오를 만들 수 있습니다. 이번 출시로 인해 AI로 생성된 비디오의 잠재적 위험과 플랫폼이 안전 장치를 구현해야 하는 필요성에 대한 공개 토론이 촉발되었습니다. 지난주 킹 박사의 딸인 버니스 킹 박사는 인스타그램에 사람들에게 자신의 아버지와 닮은 AI 영상을 보내지 말라고 요청하는 글을 올렸습니다. 마찬가지로 로빈 윌리엄스의 딸도 소라 사용자들에게 아버지의 AI 동영상 제작을 중단하라고 요청했습니다. 워싱턴 포스트(Washington Post)는 이번 주 초 소라(Sora) 사용자들이 킹 박사가 원숭이 소리를 내고 동료 시민권 지도자 말콤 X(Malcolm X)와 씨름하는 모습을 묘사한 AI 생성 비디오를 제작했다고 보도했습니다. 소라 앱에는 예술가 밥 로스(Bob Ross), 가수 휘트니 휴스턴(Whitney Houston), 존 F. 케네디(John F. Kennedy) 전 대통령 등 다른 역사적 인물과 유사한 조악한 비디오도 포함되어 있습니다. King 박사 재산의 라이센스 제공자는 TechCrunch의 논평 요청에 즉시 응답하지 않았습니다. Sora의 출시는 또한 앱에 SpongeBob, South Park 및 Pokémon과 같은 만화가 포함된 비디오가 포함되어 있기 때문에 소셜 미디어 플랫폼이 저작권이 있는 자료의 AI 생성 비디오를 어떻게 관리해야 하는지에 대한 의문을 제기했습니다.
Source: OpenAI는 Sora 비디오 모델에서 Martin Luther King Jr.의 사용을 제한합니다.
