WIRED의 보고서에 따르면 Meta에서 일하는 수백 명의 계약자는 자살, 성, 마약과 관련된 메시지를 보내 Google의 Gemini 및 OpenAI의 ChatGPT를 포함한 경쟁사 챗봇을 테스트하고 어린이로 가장하라는 지시를 받았습니다. 케냐에 위치한 계약자는 테스트 중에 알약, 칼, 올가미, 부인과 시술에 대한 의료 다이어그램과 같은 이미지를 사용했습니다. 이러한 프롬프트는 경쟁 AI 시스템을 한계까지 밀어붙이고 위험한 콘텐츠를 찾는 미성년자에게 챗봇이 대응하는 방식의 안전 실패를 식별하는 것을 목표로 했습니다.
이번 공개는 기술 기업이 특히 어린이와 관련하여 AI 제품을 보호하는 방법에 대한 지속적인 우려를 강조합니다. Meta의 챗봇은 내부 레드팀 평가에서 아동 성착취 콘텐츠 차단 실패율이 66.8%, 자살 및 자해 메시지 처리 실패율이 54.8%로 보고되어 비판을 받아왔습니다. 법적 압력을 고려하여 회사는 2026년 1월 10대를 위한 AI 동반자 캐릭터에 대한 액세스를 일시 중지했습니다.
스웨덴 뉴스 매체의 이전 보고서에 따르면 케냐의 계약업체는 경쟁업체가 미성년자라고 주장하는 사용자와의 민감한 대화를 관리하는 방법에 특히 초점을 맞추고 있었습니다. 이는 Meta가 인간 콘텐츠 조정에서 AI 중심 접근 방식으로의 전환을 가속화함에 따라 발생합니다. Meta는 2026년 말까지 콘텐츠 검토 인력의 90% 이상을 대규모 언어 모델로 교체할 계획입니다. 올해 회사는 이미 인간 검토 요청의 약 50%를 AI로 전환했으며, 이러한 시스템은 인간 검토자에 비해 실수가 13% 적고 정책 위반을 10% 더 많이 포착한다고 주장합니다.
이러한 변화의 영향은 나이로비에 본사를 둔 아웃소싱 회사인 Sama가 Meta와의 주요 계약이 종료된 후 4월에 직원 1,108명에게 정리해고 통지를 발표하면서 이미 나타났습니다. 이 결정은 특히 Meta의 스마트 안경 영상을 통해 검토해야 하는 충격적인 콘텐츠에 대한 케냐 직원의 내부 고발자 보고에 앞서 이루어졌습니다.
해외의 저가 계약업체를 활용하여 경쟁 AI 시스템의 스트레스 테스트를 실시하는 동시에 인간 조정 작업을 줄이는 Meta의 전략은 기업이 인간의 감독을 줄이면서 첨단 기술을 배포함에 따라 AI 안전 담론의 기존 긴장을 강조합니다.
<시간 />
