Bing AI 오류는 출시된 지 일주일도 되지 않아 실제 오류로 사용자를 놀라게 합니다. 지난주 제품 소개에 사용된 회사의 홍보 영상에 따르면 마이크로소프트의 새로운 인공지능 기반 빙 검색 엔진은 제품과 위치에 대한 오해의 소지가 있는 정보를 생성하고 재무 문서를 적절하게 요약하지 못했습니다.
몇 달 간의 소문 끝에 Microsoft의 CEO Satya Nadella는 ChatGPT와 경쟁하는 OpenAI 챗봇이 Bing을 지원할 것이라는 보고서를 확인했습니다. 워싱턴에 있는 회사 본사에서 주최한 초대받은 사람만 참석할 수 있는 특별 기자 회견에서 웹 검색 유연성과 효율성을 개선하겠다는 Bing의 약속을 보여주는 새로운 기능이 시연되었습니다. 새로운 검색 엔진 기능은 현재 모든 PC에서 테스트할 수 있지만 새로운 기능의 사실 오류는 사용자를 걱정하고 있습니다.
Bing AI 오류는 AI 경쟁에 어떤 영향을 미칩니까?
이 링크에서 자세히 읽을 수 있는 AI 기반 검색 엔진에 대한 Google의 공개 다음날 Bard는 James Webb 우주 망원경에 대한 사실적 부정확성에 대해 가혹한 비판을 받았습니다. 얼마 지나지 않아 Google의 모회사인 Alphabet의 시가총액은 갑자기 9% 하락하여 1,200억 달러 이상의 손실을 입었습니다. 애널리스트와 투자자들은 Alphabet이 Microsoft에 지고 있다고 추측했습니다. 우리는 기사에서 이 문제에 대해 자세히 설명했습니다. Bard AI 오답은 Alphabet에 약 1,200억 달러의 비용이 듭니다.
실제로 Microsoft의 Bing과 Google의 Bard는 둘 다 똑같이 나쁜 것 같습니다. 두 기업 모두 잘못된 정보가 포함된 텍스트를 생성하는 수준 이하의 AI 챗봇을 출시했지만 Microsoft의 오류를 발견하는 데 시간이 더 걸렸습니다. 이제 검색 엔진 전문가인 Dmitri Brereton이 몇 가지 결함을 발견했습니다.
Bing AI 오류는 얼마나 나쁜가요?
Bing AI 오류를 지적하기 위해 Brereton은 특정 애완동물 털 진공 청소기가 핸드헬드 장치이기는 하지만 “코드 길이가 16피트로 짧고” 소리가 너무 클 수 있다는 Bing의 주장을 제기했습니다. 그러나 웹 사이트 Bing의 정보를 요약한 링크에 따르면 진공 청소기는 진정으로 무선이며 조용합니다. 따라서 Bing AI 오류는 전혀 미묘하지 않습니다.
데모 중 하나에서 Microsoft의 Bing AI는 2022년 3분기 Gap 의류에 대한 재무 보고서를 요약하려는 시도에서 완전히 실패했습니다. Gap 보고서(PDF)에 따르면 총 마진은 37.4%였으며 조정된 총 마진은 손상 비용을 제외하면 38.7%입니다. Bing은 조정 및 감면 비용 후 37.4%의 잘못된 총 마진을 제공합니다.
“Bing AI는 데모 중에 완전히 잘못된 답을 얻었습니다. 그러나 아무도 눈치채지 못했다. 대신 모든 사람들이 Bing 광고 열차에 올라탔습니다.”라고 Brereton은 설명합니다. “Google의 Bard는 광고 중에 잘못된 답을 얻었고 모두가 알아차렸습니다. 이제 내러티브는 ‘Google이 Bing을 따라잡기 위해 서두르고 있으며 실수를 저지르고 있습니다!’입니다. Bing이 자체 데모 중에 더 나쁜 실수를 저지르지 않았다면 그것은 좋은 이야기가 될 것입니다.”
AI 기반 검색이 실패한 이유는 무엇입니까?
사용자는 놀라고 실망하지만 Bing AI 오류에 대해 예상치 못한 것은 없습니다. 새로운 Bing 및 Bard의 언어 모델은 종종 사실이 아닌 텍스트를 생성하는 경향이 있습니다. 그들은 훈련 중에 스스로 공급해 온 막대한 양의 데이터에 대한 지식 없이 입력 쿼리에서 특정 문장 세트 뒤에 어떤 단어가 와야 하는지 추측하여 텍스트를 생성하는 개념을 습득합니다. 전문가들은 이를 ‘환각’이라고 부른다. 환각은 Bard의 사실 불일치와 Bing AI 오류를 모두 일으킨 문제인 것 같습니다.
기술이 아무리 매력적으로 보여도 Microsoft와 Google이 모델의 환각을 바로잡지 못한다면 AI 기반 검색을 신뢰할 수 없습니다. 챗봇이 사용하기 쉽고 재미있더라도 사용자에게 정확하고 가치 있는 정보를 제공하지 못한다면 무슨 소용이 있겠습니까? 자동화는 인간의 작업을 가볍게 할 것이라고 자주 주장하지만, 현재의 AI는 우리가 오류를 최소화하려고 노력할 때에만 우리의 노력 수준을 높일 것입니다.
회사가 Bing AI 오류를 수정하지 않으면 뉴스가 확산되어 AI 기반 검색 엔진에 대한 신뢰가 더욱 떨어질 것으로 예상됩니다. 과대 광고가 높은 것 같지만 과대 광고를 충족하지 못하면 Bard와 Bing AI 모두의 경우와 마찬가지로 실망으로 이어집니다.
Source: 초기 Bing AI 오류는 사용자를 놀라게 합니다.
