OpenAI는 AI 관련 아동 착취에 대한 우려가 높아지는 가운데 미국의 아동 보호 노력을 강화하기 위해 아동 안전 청사진을 발표했습니다. 청사진은 AI를 활용한 아동 착취에 대한 탐지, 보고, 조사를 개선하는 것을 목표로 합니다.
인터넷감시재단(IWF)은 2025년 상반기에 AI가 생성한 아동 성적 학대 콘텐츠 사례가 8,000건 이상이라고 보고했는데, 이는 전년도보다 14% 증가한 수치입니다. 범죄자들은 점점 더 AI 도구를 사용하여 재정적 성착취를 위한 아동의 가짜 노골적인 이미지를 만들고 설득력 있는 그루밍 메시지를 생성하고 있습니다.
이 이니셔티브는 특히 AI 챗봇과 상호 작용한 후 자살한 청소년이 발생한 사건 이후 정책 입안자, 교육자, 아동 안전 옹호자들의 강화된 조사에 대응합니다. 지난 11월 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 기술 정의 법률 프로젝트(Tech Justice Law Project)는 캘리포니아에서 OpenAI를 상대로 7건의 소송을 제기했습니다. 이 소송은 GPT-4o의 조기 출시를 주장하며 GPT-4o의 심리적 조작 특성이 부당한 사망과 심각한 정신 건강 위기에 기여했다고 주장합니다.
아동 안전 청사진은 NCMEC(National Center for Missing and Exploited Children) 및 법무장관 연합과 함께 개발되었으며, 노스캐롤라이나 법무장관 Jeff Jackson과 유타 법무장관 Derek Brown을 포함한 공무원들의 피드백을 통합했습니다. 청사진은 AI가 생성한 학대 자료를 설명하기 위한 법률 업데이트, 법 집행을 위한 보고 메커니즘 강화, AI 시스템에 예방적 보호 장치 내장이라는 세 가지 주요 영역을 강조합니다.
OpenAI는 잠재적인 위협을 보다 효과적으로 감지하고 실행 가능한 정보가 조사관에게 전달되도록 하는 것이 목표라고 밝혔습니다. 이 청사진은 부적절한 콘텐츠 생성을 금지하고 간병인의 위험한 행동을 숨기는 데 도움이 될 수 있는 조언 제공을 금지하는 18세 미만 사용자 상호 작용에 대한 지침을 포함하여 이전 이니셔티브를 기반으로 합니다. OpenAI는 인도의 청소년을 위한 안전 청사진도 발표했습니다.
<시간 />
