Openai CEO Sam Altman은 화요일에 18 세 미만의 ChatGPT 사용자의 안전성 향상을 목표로 새로운 사용자 정책을 발표하여 AI 챗봇이 미성년자와 어떻게 상호 작용하는지에 대한 상당한 변화를 나타 냈습니다. 이 변화는 기술의 강력하면서도 잠재적으로 유해한 성격에 대한 OpenAi의 인식을 반영하여 십대의 개인 정보와 자유보다 안전을 우선시합니다. Altman의 포스트는“우리는 십대의 프라이버시와 자유에 앞서 안전을 우선시합니다. “이것은 새롭고 강력한 기술이며, 우리는 미성년자에게 상당한 보호가 필요하다고 생각합니다.” 이 정책은 성적 주제 나 자해와 관련된 대화에 대한 목표 제한을 도입합니다. 구체적으로, Chatgpt는 미성년자 사용자와의 “들단 대화”를 피하도록 훈련 될 것이며, Enhanced Guardrails는 자살에 대한 토론을 통제 할 것입니다. 미성년자가 자살 시나리오에 참여하는 경우, 시스템은 부모에게 알리려고 시도합니다. 심각한 사례의 경우 지방 경찰 당국이 포함될 수 있습니다. 이러한 조치는 실제 비극과 지속적인 법적 문제로 인해 발생합니다. Openai는 현재 Chatgpt와 수개월의 상호 작용으로 자살로 사망 한 십대 인 Adam Raine의 부모가 제기 한 잘못된 사망 소송에 대해 방어하고 있습니다. 비슷한 소송은 또 다른 인기있는 소비자 챗봇 인 AIC.AI를 대상으로합니다. 전문가와 옹호자들은 AI 중심 망상의 위험에 대해 경보를 높였습니다. 특히 챗봇이보다 장기간의 몰입 형 대화를 지원하기 위해 진화하여 취약한 청소년에게 특별한 위험을 초래합니다. 컨텐츠 보호 조치 외에도 미성년자에 대한 계정을 등록하는 부모는 “정전 시간”을 구현할 수 있으며, 지정된 시간 동안 액세스를 제한 할 수 있습니다. 이 부모의 통제 도구는 더 건강한 사용 패턴을 촉진하는 것을 목표로합니다. 이 발표는 같은 날에 예정되어 있으며 8 월에 Josh Hawley 상원 (R-MO)이 시작한 “AI 챗봇의 피해 검사”라는 제목의 상원 사법위원회 청문회와 일치합니다. Adam Raine의 아버지는 관련된 개인적인 지분을 강조하면서 증언 할 증인 중 하나입니다. 연령 검증 구현은 Companion 블로그 게시물에 개방 된 것처럼 기술 장애물을 나타냅니다. 이 회사는 사용자 연령을 정확하게 결정하기위한 장기 시스템을 개발하고 있지만 모호한 상황에서는 더 엄격한 규칙을 적용하여주의를 기울일 것입니다. 신뢰성을 위해 OpenAI는 십대의 계정을 부모의 기존 계정에 연결하는 것이 좋습니다. 고통이 감지되면 직접 경고를 보호자에게 직접 알리기를 가능하게합니다. Altman은 이러한 청소년 보호와 OpenAI의 핵심 가치와 균형을 이루어 사용자 개인 정보 보호 및 성인의 광범위한 자유에 대한 헌신을 재확인했습니다. “우리는 이러한 원칙들이 갈등 상태라는 것을 알고 있으며, 모든 사람이 우리가 그 갈등을 어떻게 해결하고 있는지에 동의하지는 않을 것”이라고 그는 지적했다. 이 접근법은 감시가 커지면서 윤리적 줄타기 AI 개발자가 탐색하는 것을 강조합니다. AI의 정신 건강 영향에 대한 인식이 증가함에 따라 자원은 여전히 중요합니다. 즉각적인 지원을 위해, National Suicide Prevention Lifeline (1-800-273-8255), 741-741 또는 Dial 988의 텍스트 홈에 문의하십시오. 위기 텍스트 라인은 24 시간 지원을 제공하며 국제 자살 예방의 데이터베이스를 통해 국제적인 도움을받을 수 있습니다.
