Megalopolis 예고편은 일부 리뷰 인용문이 가짜이고 AI가 생성한 것으로 밝혀진 후 곤경에 처했습니다. 예고편 마케팅을 담당했던 Eddie Egan은 이 혼란으로 인해 직위에서 해임되었습니다.
예고편에는 프랜시스 포드 코폴라의 고전 영화를 비판하는 허구의 리뷰가 포함되었습니다. 그것은 “대부”가 “엉성하고 자기만족적인 영화”이고 “지옥의 묵시록”이 “서사시적 쓰레기”라고 거짓으로 주장했습니다. 사실, 원래 리뷰는 긍정적이었고 영화를 칭찬했습니다.
이 상황은 AI에 대한 점점 커지는 문제를 강조합니다. AI는 환각을 볼 수 있습니다. 이는 영화 예고편에만 국한되지 않습니다. AI 오류는 법률 문서와 법정 사건에도 영향을 미쳤습니다. 예를 들어, Michael Cohen의 변호사는 가짜 법정 사건을 제출했고, 콜롬비아 항공사의 변호사도 비슷한 실수를 했습니다. 래퍼 Pras Michél조차도 변호사가 AI가 생성한 주장을 사용했기 때문에 소송에서 졌습니다.
AI 환각이란 무엇인가? 메갈로폴리스 트레일러 스캔들은 그것이 어떻게 작동하는지 보여준다
AI 환각은 인공 지능이 설득력 있게 들리지만 실제로는 거짓이거나 오해의 소지가 있는 정보를 생성할 때 발생합니다. “메갈로폴리스” 트레일러 스캔들은 이 용어를 주목받게 했습니다.
이 경우, 예고편에는 프랜시스 포드 코폴라의 영화에 대한 가짜 리뷰 인용문이 실려 있었는데, “대부”는 “엉성하다”고 “지옥의 묵시록”은 “서사시적 쓰레기”라고 주장했습니다. AI가 이러한 인용문을 만들었지만, 이러한 영화에 대한 실제 긍정적인 리뷰와 일치하지 않았습니다. AI는 이러한 인용문을 “환각”하여 믿을 만하지만 거짓된 진술을 만들어냈습니다.
AI 환각은 기술이 데이터에서 학습한 패턴을 기반으로 텍스트를 생성할 수 있지만 콘텐츠를 진정으로 이해하지 못하기 때문에 발생합니다. 사실을 섞거나, 오류를 만들거나, 완전히 꾸며낼 수 있는데, 예고편의 오해의 소지가 있는 리뷰에서 일어난 일이 바로 그것입니다.
이 사건은 적절한 확인 없이 AI에 의존하는 것의 위험을 강조합니다. 가짜 인용문이 관련자에게 심각한 결과를 초래한 “메갈로폴리스” 사건과 마찬가지로 AI 환각은 신중하게 관리하지 않으면 혼란과 피해를 일으킬 수 있습니다. AI가 강력할 수 있지만 오해의 소지가 있는 정보를 피하기 위해 출력을 검증하는 것이 중요하다는 것을 상기시켜줍니다.
추천 이미지 출처: IMDB
Source: 이렇게 AI를 사용하면 일자리를 잃게 된다
