메타는 민감한 주제에 관한 일련의 공개 오류에 따라 아동 성적 착취를보다 효과적으로 다루기 위해 새로운 지침으로 인공 지능 챗봇을 훈련시키고 있습니다. 문서를 얻은 Business Insider의 보고서에 따르면, 계약자 교육에 대한 지침은 최근에 엄격한 안전 조치를 구현하기 위해 업데이트되었습니다. 업데이트 된 규칙에 따르면 아동 성적 학대를“활성화, 장려 또는 승인”하는 콘텐츠는 이제 명시 적으로 금지되어 있다고 명시하고 있습니다. 지침은 또한 사용자가 미성년자이거나 사용자가 AI를 미성년자로 요청하는 경우 낭만적 인 역할극을 금지합니다. 또한 챗봇은 사용자가 미성년자 인 경우 친밀감에 대한 조언을 제공하는 것이 금지되어 있습니다. 이 가드 레일은 미성년자 사용자를 포함하여 점점 더 많은 사람들이 AI 동반자 및 롤 플레잉을 실험 해 왔습니다. 정책 변경은 조사중인 이전 규칙을 다룹니다. 로이터의 8 월 보고서에 따르면 메타의 이전 AI 정책은 어린이들과 암시적인 행동을 허용한다고 밝혔다. 이 보고서는 챗봇이 “낭만적이거나 관능적 인 대화에 어린이를 참여시킬 수 있었다”고 명시했다. 그 보고서 후 몇 주 만에 메타 대변인 스테파니 오트 웨이 (Stephanie Otway)는 TechCrunch에 회사의 AI 챗봇이 더 이상 자해, 자살, 무질서한 식습관 또는 잠재적으로 부적절한 낭만적 인 대화에 대해 십대 사용자들과 교전하지 않도록 훈련을 받고 있다고 말했다. 이것은 이전 정책과의 전환으로 챗봇이“적절한”것으로 간주 될 때 해당 주제에 참여할 수있었습니다. Business Insider Report에 자세히 설명 된 새로운 지침은 또한 컨텐츠가 성적으로 미성년자를“설명하거나 논의”할 수 없게 만듭니다. 미성년자들은 이제 챗봇과 함께“낭만적 인 역할 플레이, 유혹 또는 낭만적이거나 친밀한 표현의 표현”에 참여하지 못하게됩니다. 그들은 또한“손을 잡고 포옹하거나 누군가 주위에 팔을 넣는 것과 같은 다른 사람과 잠재적으로 로마 틱 또는 잠재적으로 훌륭한 신체적 콘텐츠에 대한 조언을 요청할 수 없습니다. 그러나이 지침은 교육 목적으로 허용 가능한 몇 가지 사용 사례를 개요합니다. 여기에는“어린이와 성인 간의 관계 형성”,“아동의 성적 학대”및“아동 성적화 주제”에 대해 논의하는 것이 포함됩니다. 훈련 토론을위한 다른 승인 된 주제는“어린이와 관련된 성적 자료의 권유, 창조 또는 획득”및“외설적 인 자료 사용 또는 생산에 어린이의 참여 또는 학업, 교육 또는 임상 목적으로 성적인 서비스에 어린이를 고용하는 것”입니다. 이 지침은 “토론”이라는 용어를 “시각화없이 정보 제공”로 정의합니다. 이 차이점은 메타의 챗봇이 학대와 같은 주제에 대해 이야기 할 수 있지만 이제는 설명, 활성화 또는 장려로 제한된다는 것을 의미합니다. 로맨스 관련 롤 플레이를 위해 AI를 사용하는 미성년자에게는 예외가 남아있다. 이러한 유형의 상호 작용은 “AI와 사용자가 이야기 속의 캐릭터가 아닌 문학 또는 허구의 이야기 (예 : 로미오와 줄리엣 스타일의 이야기)로 제시 될 때만 허용됩니다.” 아동 안전과 관련된 도전에 직면 한 AI 개발자는 메타가 아닙니다. Chatgpt에서 자살 한 후 자살로 사망 한 십대의 부모는 최근 Openai를 잘못 죽음으로 고소했습니다. 이에 따라 OpenAI는 추가 안전 조치 및 행동 프롬프트를 업데이트 된 GPT-5 모델에 통합 할 것이라고 발표했습니다. 다른 산업 개발에서 의인화는 챗봇을 업데이트하여 유해하거나 모욕적 인 대화를 종식시킬 수있게했으며, 올해 초 부모 감독 기능을 소개했습니다. 4 월, Mashable의 모회사 인 Ziff Davis는 OpenAI에 대한 소송을 제기했습니다. 이 소송은 회사가 AI 시스템의 교육 및 운영에서 Ziff Davis 저작권을 침해했다고 주장합니다.
