Twitch AI Seinfeld는 인기 방송 플랫폼의 결정 이후 소셜 미디어에서 많은 뉴스를 금지했습니다. Twitch AI Seinfeld가 금지된 이유와 그 뒤의 드라마에 대한 기사에 오신 것을 환영합니다.
“Nothing, Forever”는 12월 중순부터 Twitch에서 스트리밍되고 있는 끝없는 AI 생성 쇼입니다. 이 쇼에는 1990년대 컴퓨터 게임의 히트 쇼 “사인펠드”의 캐릭터를 닮은 래리, 프레드, 이본, 카클러 네 명의 캐릭터가 등장합니다. 대화는 OpenAI의 GPT-3에 의해 생성되고 음성 기술은 다른 회사에서 제공됩니다. 이 쇼는 OpenAI의 GPT-3와 “디렉터”라고 하는 Mismatch Media의 독점 생성 알고리즘의 조합에 의해 함께 개최됩니다.
“Nothing Forever”라고 불리는 AI 기반 Seinfeld 버전은 Larry Feinberg로 알려진 AI 버전 Jerry Seinfeld가 스탠드업 비트에서 트랜스젠더 혐오 발언을 한 후 14일 동안 Twitch에서 금지되었습니다. AI 쇼는 전통적인 Seinfeld 에피소드를 모방하여 만들어졌으며 수만 명이 시청했습니다. 쇼의 AI는 클래식 시트콤 에피소드와 다양한 AI 도구에 대해 교육을 받았으며 Larry가 자신의 아파트로 이사하기 전에 스탠드업 루틴으로 시작합니다.
Twitch AI Seinfeld가 금지된 이유는 무엇입니까?
이 금지령은 AI가 일요일 밤 스탠드업 세트에서 일련의 트랜스혐오 및 동성애혐오 발언을 한 후에 이루어졌습니다. Twitch는 농담이 금지 사유인지에 대한 논평 요청에 즉시 응답하지 않았지만 채널이 금지되기 직전에 발생했으며 프로젝트 Discord의 사용자는 이 농담을 금지 사유로 지적했습니다. 이제 프로그램의 Twitch 페이지에 Twitch의 커뮤니티 가이드라인 또는 서비스 약관 위반으로 인해 일시적으로 사용할 수 없다는 메시지가 표시됩니다.
프로젝트의 Discord에서 쇼 스태프는 “잘못된 행동”을 일으킨 AI 모델을 전환해야 하는 이벤트를 비난했습니다. 직원은 Davinci가 실패하기 시작했을 때 OpenAI의 GPT-3 Davinci 모델에서 덜 정교한 모델인 Curie로 전환해야 했으며 이로 인해 부적절한 텍스트가 생성되었다고 썼습니다. 직원은 또한 OpenAI의 콘텐츠 조정 도구가 Davinci 모델에서 작동했지만 Curie에서는 성공하지 못했다고 말했습니다. Davinci 모델 문제의 근본 원인은 현재 확인되었으며 앞으로 Curie는 대안으로 사용되지 않습니다.
AI 모델은 인간의 가치를 이해하기 위해 고군분투합니다.
Twitch AI Seinfeld 금지 사건은 대부분의 AI가 직면한 문제를 상징합니다. AI가 혐오스럽거나 편향된 자료에 대해 교육을 받으면 출력이 종종 혐오스럽거나 편향될 수 있습니다. 그렇기 때문에 AI 안전은 그러한 편견을 완화하기 위한 도구를 개발하는 중요한 분야입니다. 많은 AI 도구는 개발 도상국의 저임금 근로자에 의해 조정됩니다. Nothing Forever의 직원은 대부분의 Discord를 읽기 전용으로 만들었고 사용자가 여전히 게시할 수 있는 스레드에서 많은 사용자가 Midjourney AI를 사용하여 트랜스 프라이드 깃발을 들고 있는 Jerry Seinfeld의 이미지를 생성하고 있습니다.
Midjourney AI가 무엇인지 모르십니까? Midjourney AI에서 아트 일러스트레이션을 만드는 방법을 확인하십시오.
Twitch AI Seinfeld 금지 사건은 책임 있는 AI 개발의 중요성과 AI 모델의 편견을 완화해야 할 필요성을 강조합니다. 혐오와 차별이 확산되지 않도록 AI의 출력을 모니터링하고 제어하는 것이 필수적입니다. Nothing Forever 직원은 금지 조치에 항소하고 앞으로 이와 같은 일이 다시는 발생하지 않도록 노력함으로써 올바른 조치를 취했습니다. 이 링크를 통해 플랫폼에서 금지가 해제되는 즉시 Seinfield AI를 시청할 수 있습니다.
렌사 AI 역시 아티스트의 작품을 여러 차례 훔쳐 사용자의 동의 없이 누드 사진을 생성한 사실 등 AI 기술의 정밀성은 여전히 논란이 되고 있다. 2023년에는 AI 기술이 더 인간화된 모습으로 우리를 만날 수 있기를 바랍니다.
Source: Twitch AI Seinfeld, 성전환 발언 금지
