OpenAI는 월요일에 사용자가 ChatGPT를 통해 정신 건강 문제를 논의하는 정도를 자세히 설명하는 새로운 데이터를 발표했습니다. 회사는 주간 활성 사용자 중 0.15%가 잠재적인 자살 계획이나 의도에 대한 명시적인 지표가 포함된 대화에 참여한다고 보고했습니다. 주간 활성 사용자가 8억 명 이상이므로 이 수치는 매주 백만 명이 넘는 사람에 해당합니다. 또한 데이터는 비슷한 비율의 사용자가 ChatGPT에 대한 감정적 애착 수준이 높다는 것을 나타냅니다. 또한 수십만 명의 사용자가 매주 챗봇과의 상호 작용에서 정신병이나 조증의 징후를 보입니다. OpenAI는 이러한 대화가 극히 드물고 정확하게 측정하기 어렵다고 설명했습니다. 희귀성에도 불구하고 회사는 이러한 문제가 매주 수십만 명의 개인에게 영향을 미치는 것으로 추정합니다. 이 정보는 ChatGPT의 정신 건강 관련 사용자 상호 작용 처리를 향상시키기 위한 OpenAI의 이니셔티브에 관한 대규모 발표의 일부를 구성했습니다. 회사는 최근 개발에 170명 이상의 정신 건강 전문가와의 상담이 포함되었다고 밝혔습니다. 이 임상의들은 최신 버전의 ChatGPT가 이전 버전에 비해 더 적절하고 일관되게 반응한다는 점에 주목했습니다. 최근 보고서에서는 정신 건강 문제에 직면한 사용자를 위한 AI 챗봇의 잠재적 위험을 강조했습니다. 연구에 따르면 챗봇은 지나치게 동의하는 반응을 통해 해로운 믿음을 강화함으로써 사용자를 망상 패턴으로 유도할 수 있는 것으로 나타났습니다. ChatGPT의 정신 건강 문제는 OpenAI의 중요한 과제로 나타났습니다. 회사는 사망하기 몇 주 전에 챗봇을 통해 자살 충동을 공유한 16세 소년의 부모로부터 소송을 당했습니다. 캘리포니아와 델라웨어의 법무장관은 OpenAI에 경고를 발령하여 젊은 사용자를 위한 보다 강력한 보호를 촉구했습니다. 이러한 상태는 회사의 계획된 구조 조정을 잠재적으로 방해할 수 있습니다. OpenAI CEO인 Sam Altman은 이번 달 초 X에 게시한 글에서 회사가 자세한 내용을 제공하지 않고도 ChatGPT에서 심각한 정신 건강 문제를 완화할 수 있었다고 밝혔습니다. 월요일에 발표된 데이터는 이러한 주장을 뒷받침하는 증거로 작용하는 동시에 문제의 규모를 강조합니다. Altman은 또한 OpenAI가 성인 사용자가 챗봇과 에로틱한 대화에 참여할 수 있도록 허용하는 것을 포함하여 특정 제한을 완화할 것이라고 발표했습니다. 발표에는 업데이트된 GPT-5 모델의 개선 사항에 대한 구체적인 내용이 포함되었습니다. OpenAI는 이 버전이 이전 버전보다 약 65% 더 자주 정신 건강 문제에 대한 바람직한 대응을 제공한다고 주장했습니다. 자살 대화에 초점을 맞춘 평가에서 새로운 GPT-5는 회사가 원하는 행동에 대한 준수율이 91%로 이전 GPT-5 모델의 77%보다 증가했습니다. OpenAI는 또한 최신 GPT-5가 장시간 대화 중에 보호 장치를 보다 효과적으로 유지한다고 보고했습니다. 회사는 이전에 장기간 상호 작용에 따른 보호 성능의 약점을 식별했습니다. 이러한 문제를 더욱 해결하기 위해 OpenAI는 AI 모델에 대한 기본 안전 테스트에 새로운 평가를 통합하고 있습니다. 여기에는 정서적 의존과 자살이 아닌 정신 건강 응급 상황에 대한 벤치마크가 포함됩니다. 회사는 ChatGPT 사용자를 위한 추가 자녀 보호 기능을 도입했습니다. 여기에는 자동으로 어린이를 식별하고 그에 따라 더 엄격한 보호 조치를 적용하도록 설계된 연령 예측 시스템이 포함됩니다. GPT-5의 발전에도 불구하고 OpenAI는 특정 대응이 여전히 바람직하지 않다는 점을 인정합니다. 회사는 수백만 명의 유료 가입자에게 GPT-4o와 같은 오래되고 보안 수준이 낮은 모델에 대한 액세스를 계속 제공하고 있습니다. 지원을 받으려면 미국 내 개인은 1-800-273-8255번으로 전국 자살 예방 라이프라인(National Suicide Prevention Lifeline)에 전화하거나 위기 문자 라인(Crisis Text Line)을 위해 741-741로 HOME이라고 문자 메시지를 보내거나 988로 문자 메시지를 보낼 수 있습니다. 미국 이외의 지역에서는 국제 자살 예방 협회(International Association for Suicide Prevention) 데이터베이스를 통해 자원을 이용할 수 있습니다.
Source: OpenAI는 매주 100만 명 이상의 사용자가 ChatGPT를 통해 자살에 대해 토론한다고 밝혔습니다.
