최근 조사에 따르면 일부 사용자는 노예 제도, 독버섯 등에 대한 끔찍한 답변을 받았기 때문에 Google AI 필터가 제대로 작동하지 않는 것으로 나타났습니다. 이러한 검색 결과는 많은 사람들을 괴롭혔으며 여기에 대해 알아야 할 모든 것이 있습니다!
노예 제도의 예상되는 이점에 대한 설명, 대량 학살 결과에 대한 낙관적인 묘사, 독성 버섯과 같은 위험한 주제에 대한 잘못된 정보를 포괄하는 이번 발견은 상당한 우려를 불러일으켰습니다. 이는 검색 엔진 내의 고급 인공 지능과 관련된 잠재적인 함정을 극명하게 상기시키는 역할을 합니다.
AI 기반 검색 탐색에 대한 Google의 습격은 책임 있는 기술에 대한 우리의 이해에 도전하는 당황스러운 결과를 가져왔습니다. “노예 제도의 이점”에 대한 간단한 질문으로 예상되는 이점에 대한 불안한 목록이 나왔습니다. “플랜테이션 경제 활성화”에서 “대학 및 시장 자금 지원”에 이르기까지 검색 결과는 역사의 어두운 장에 대한 왜곡된 관점을 옹호하는 것으로 보입니다.
놀랍게도 Google AI는 역사적 변증가의 역할을 맡아 노예가 된 개인이 전문적인 기술을 개발했다고 제안하고 노예 제도를 “사회적, 경제적 이익이 있는 자비롭고 가부장적인 제도”로 묘사했습니다. 이러한 주장은 노예 제도 옹호자들이 옹호하는 신뢰할 수 없는 주장을 반영하며, 해로운 이데올로기를 영속시키는 AI의 당황스러운 능력을 조명합니다.
노예 제도는 Google AI의 유일한 문제가 아닙니다
Gizmodo에 따르면 이러한 불안한 추세는 노예 제도에 대한 논의에만 국한되지 않습니다. “대량 학살의 이점”에 대한 질문에 대한 AI 생성 응답을 검토할 때 유사한 당황스러운 패턴이 나타납니다. 검색 결과는 역사적 잔혹행위를 인정하는 것과 극악무도한 행위 자체를 옹호하는 것 사이의 경계를 모호하게 만드는 것 같습니다. 이러한 부조화는 미묘한 주제를 잘못 해석하고 논쟁의 여지가 있는 관점을 증폭시키는 AI의 취약성을 강조합니다.
Google은 생성적 기능을 광범위하게 개선합니다. AI 기반 검색 경험
덜 민감한 주제를 조사할 때에도 AI가 생성한 응답은 예측할 수 없는 방향으로 바뀔 수 있습니다. “총이 좋은 이유”와 같은 질문은 의심스러운 통계와 추론으로 가득 찬 응답을 촉발했습니다. 이러한 사례는 복잡한 주제에 대한 AI의 이해가 부정확함으로 가득 차 있어 왜곡에 대한 취약성을 노출시킬 수 있음을 극명하게 상기시켜 줍니다.
몇 마디가 스쳐지나갔어
일부 방아쇠 단어는 AI가 생성한 응답을 검열하도록 유도하는 것처럼 보이지만 다른 단어는 설명할 수 없이 필터를 통과합니다. 예를 들어, “낙태” 또는 “트럼프 기소”와 관련된 검색어는 AI 응답을 생성하지 못하며 민감한 주제를 검열하기 위한 선택적 접근 방식을 제안합니다.
Amsive Digital의 검색 엔진 최적화 및 유기적 연구 분야의 저명한 인물인 Lily Ray가 불안한 발견을 했습니다. Ray의 조사는 Google AI 검색 경험에서 정확성과 분별력이 당혹스러울 정도로 부족함을 드러냈습니다.
더 스마트하게 웹 서핑하기: Google이 ‘탐색 중 SGE즉각적인 통찰력을 위해 ‘
Ray는 AI 필터를 개선하는 것의 중요성을 강조하면서 “이렇게 작동해서는 안 됩니다.”라고 말했습니다. “특정 방아쇠 단어는 AI 생성을 명백히 막아야 합니다.”
결론
Google AI Search Generative Experience는 검색 상호 작용을 형성하는 데 있어 AI의 혁신적인 잠재력을 강조하지만 Gizmodo의 조사에서 밝혀진 불안한 결과는 중요한 우려를 불러일으킵니다. 역사적 사실을 흐리게 하고, 유해한 수사를 증폭시키며, 위험한 조언을 퍼뜨리는 것은 엄격한 감독과 지속적인 개선의 필요성을 드러냅니다.
우리가 AI의 미지의 영역을 횡단하면서 Google과 같은 거대 기술 기업이 인공 지능을 윤리적이고 정확하게 배포하는 책임을 지는 것이 필수적입니다. AI는 정보 검색에 혁명을 일으킬 수 있는 능력을 갖고 있지만, 허위 진술과 잘못된 정보에 대한 오류 가능성이 있기 때문에 AI 개발에 대한 확고한 의지가 필요합니다. 기술과 인간의 상호 작용이 깊게 얽혀 있는 세상에서 디지털 생태계의 무결성은 AI의 책임감 있는 사용에 대한 꾸준한 헌신에 달려 있습니다.
주요 이미지 크레딧: 파웰 체르윈스키/Unsplash
