OpenAI는 미성년자를 식별하기 위해 ChatGPT에 “연령 예측” 기능을 도입하여 대화에 대한 적절한 콘텐츠 제한을 활성화했습니다. AI가 젊은 개인에게 미치는 영향에 대한 비판이 높아졌습니다. OpenAI의 ChatGPT는 청소년 자살과 관련이 있습니다. 챗봇은 어린 사용자들에게 성적인 주제를 다룬다는 비판도 받았다. 특히 지난 4월 회사는 자사의 챗봇이 18세 미만 사용자를 위한 에로티카를 생성할 수 있는 버그를 인정했습니다. OpenAI는 미성년자 사용자 문제를 해결해 왔습니다. 새로운 “연령 예측” 기능은 기존 보호 기능을 보완합니다. 이 기능은 화요일에 회사 블로그 게시물에 자세히 설명된 대로 AI 알고리즘을 활용하여 사용자 계정의 “행동 및 계정 수준 신호”를 분석하여 어린 사용자를 탐지합니다. 이러한 “신호”에는 사용자가 명시한 연령, 계정 수명 및 일반적인 활동 시간이 포함됩니다. OpenAI는 현재 콘텐츠 필터를 사용하여 성적인 콘텐츠, 폭력 및 18세 미만 사용자에게 문제가 된다고 간주되는 기타 주제에 대한 토론을 제외합니다. 연령 예측 메커니즘에서 계정이 미성년자 계정으로 식별되면 이러한 필터가 자동으로 적용됩니다. 실수로 미성년자로 분류된 사용자는 계정 상태를 되돌릴 수 있습니다. 연령 확인을 위해 OpenAI의 ID 확인 파트너인 Persona에 셀카를 제출할 수 있습니다.
주요 이미지 크레딧
