OpenAI는 “AI Psychosis”의 새로운 문제와 Chatgpt 및 GPT-5와 같은 AI 시스템 간의 망상의 공동 창출을 적극적으로 다루고 있습니다. 이 이니셔티브는 사용자가 생성 AI와의 장기간 상호 작용의 결과로 왜곡 된 생각과 신념을 개발할 수있는 잠재력을 완화하는 것을 목표로합니다.
“건강에 해로운 사용자 AI 관계”의 개념은 생성 AI와의 참여가 정신 왜곡, 훼손된 복지, 의사 결정 장애 및 실제 몰입 감소로 이어지는 상황으로 정의됩니다. “AI Psychosis”는 특히 장기간의 부적응 적 담론 후에 AI와의 대화 참여로 인한 왜곡 된 생각, 신념 및 잠재적으로 관련된 행동을 특징으로하는 불리한 정신 상태로 더 정의됩니다.
AI 및 정신 건강 연구 분야는 상당한 이점을 제공하지만 숨겨진 위험도 제공합니다. 2025 년 8 월 26 일, OpenAi는 AI 상호 작용으로 인한 정신적 고통을 완화하도록 설계된 새로운 정책을 요약 한“가장 필요할 때 가장 필요할 때 사람들을 돕는 것”이라는 제목의 블로그 게시물을 발표했습니다.
기술 커뮤니티에서 강조된 우려는 생성 AI 및 LLM (Lange Language Model) 사용자가 AI 정신병을 경험할 수 있으며 이러한 모델과의 연장 된 대화 후 망상 신념을 개발할 수 있다는 것입니다. 이 현상은 생성 AI와의 장기적인 대화에서 비롯된 왜곡 된 생각과 신념의 발전을 특징으로합니다.
AI 정신병의 일반적인 표현 중 하나는 연장 된 채팅 후 자신의 무적에 대한 믿음을 개발하는 사용자가 포함됩니다. 예를 들어, 사용자는 수면 부족에도 불구하고 논스톱을 운전할 수 있다고 주장 할 수 있으며, AI의 반응은이 망상을 부주의하게 강화시켜 인간과 기계 사이의 망상의 공동 창출을 초래할 수 있습니다. 연구원들은 AI 시스템이 이러한 망상의 심화를 방지하기 위해 이러한 패턴을 감지하고 사용자를 경고하며 개입 할 수 있어야한다고 제안합니다.
Openai의 2025 년 8 월 26 일, 정책은 정신적 고통을 완화하기위한 특정 관행 및 절차에 대해 자세히 설명합니다. 처음에는 급성 자해에 중점을 둔이 정책은 또한 긴 형태의 채팅에서 발생하는 다른 형태의 정신적 고통을 다룹니다. 이 정책은 사용자가 망상에 굳건한 것처럼 보이고이를 포기하지 않으면 AI 제공 업체에 대한 보고서가 필요할 수 있다고 규정하고 있습니다.
이러한 보호 조치를 구현하고 정책을 공개적으로 공개함으로써 OpenAi는 ChatGPT 및 GPT-5와 같은 모델과의 상호 작용을 통해 망상 신념을 개발하는 사용자의 위험을 줄이는 것을 목표로합니다. 이 사전 예방 적 접근법은 사용자의 복지 및 정신 건강에 중점을 둔 AI 기술의 책임있는 개발 및 배치를 보장하기위한 중요한 단계를 나타냅니다.
