- Meta의 AI 도구 Imagine은 인종 간 커플이나 친구의 이미지를 만드는 데 어려움을 겪고 있다는 비판을 받았습니다.
- Gemini 사건과 유사하게 Imagine은 인종 간 관계를 정확하게 묘사하는 데 어려움을 겪습니다.
- Meta는 문제를 인정하고 사용자 피드백과 개선을 통해 AI 시스템의 편견을 해결할 것을 약속합니다.
- AI 렌더링 도구를 둘러싼 윤리적 우려는 기술 대기업이 투명성을 우선시하고 인종 편견을 효과적으로 해결해야 할 필요성을 강조합니다.
AI 업계는 메타의 AI 생성 툴인 이매진(Imagine)과 메타 AI, 소라(Sora), DALL-E 3 사이에서 혼란을 겪고 있다. 최근 보도에 따르면 메타의 AI 툴은 다인종 커플이나 친구의 이미지를 생성하는 데 어려움을 겪는다는 비판을 받아왔다.
CNN이 수행한 테스트에서 이 도구는 인종 간 커플의 이미지를 생성하는 대신 동종 커플의 이미지를 생성했습니다. 이것은 이전에 여러분과 공유한 쌍둥이 자리 사건과 유사합니다. 제미니도 비슷한 문제를 생각해내 좋은 반응을 얻었다.
여기에 당신이 알아야 할 모든 것이 있습니다…
Imagine with Meta AI는 다른 인종의 사람들의 이미지를 생성할 수 없습니다.
기술이 발전하면서 이미지 생성 도구를 비롯해 모든 분야에 인공지능이 널리 보급됐다.
테스트 내용을 자세히 살펴보면 AI 렌더링 도구가 아시아-백인, 흑인-백인, 아시아-흑인 쌍의 이미지를 렌더링하는 데 어려움을 겪은 것으로 알려졌습니다.
Meta는 문제를 인정하고 효율적인 AI 기능의 책임감 있는 생성에 관해 9월에 게시된 블로그 게시물에 연결했습니다. 회사의 블로그 게시물은 다음과 같이 말했습니다.
“편견을 줄이기 위한 조치를 취하고 있습니다.. 생산적인 AI 시스템의 잠재적 편견을 해결하는 것은 새로운 연구 영역입니다. 다른 AI 모델과 마찬가지로 더 많은 사람이 기능을 사용하고 피드백을 공유하면 접근 방식을 개선하는 데 도움이 될 수 있습니다.”
거대 기술 기업들은 AI 모델에서 인종적 편견을 없애기 위해 더 많은 노력을 기울여야 합니다.
한편, OpenAI의 영상 제작 툴인 Sora가 새로운 뮤직비디오를 공개했습니다. 정말 놀라운 일을 해냈다고 말할 수 있습니다. 반면 유튜브 CEO 닐 모한(Neal Mohan)은 OpenAI에 소라의 훈련에 대해 경고했다. 이 경고는 OpenAI CTO인 Mira Murati가 “라는 질문에 대답하지 못한 후에 나왔습니다.Sora는 YouTube 동영상으로 교육을 받았나요?“월스트리트저널의 조안나 스턴이 지난달 물었다.
아래에서 소라가 제작한 뮤직비디오를 보실 수 있습니다.
AI 이미지 제작 도구는 그 가능성이 흥미롭지만 인종 편견과 같은 중요한 윤리적 문제도 제기합니다. 거대 기술 기업은 이러한 문제를 해결하고 투명하게 발전하기 위해 더 많은 노력을 기울여야 합니다.
주요 이미지 출처: Dima Solomin / Unsplash
