OpenAi는 ChatGpt 용 새로운 정신 건강 가드 레일을 구현하여 더 건강한 사용자 참여를 장려하고 AI의 취약한 개인에 대한 영향에 대한 우려를 해결하기위한 것입니다. 이 이니셔티브는 회사가 최근 오랫동안 기다려온 오픈 모델의 공개에 따라 앞으로 몇 주 안에 예상되는 GPT-5 업데이트를 준비함에 따라 발생합니다.
Openai의 CEO 인 Sam Altman은 이전에 흥미 진진한 새로운 AI 제품을 암시하면서 잠재적 인 롤아웃 “Hiccups”에 대해주의를 기울였습니다. 새로 발표 된 정신 건강 업그레이드는 GPT-5 로의 기술적 인 도약만큼 중요한 것으로 묘사됩니다.
주요 변경 사항에는 정신 건강 관리와 관련된 개인적인 질문에 대한 답을 피하기위한 Chatgpt의 새로운 지침이 포함됩니다. 또한 챗봇은 이제 지속적인 참여를 감지 할 경우 사용자에게 휴식을 취하도록 메시지를 표시합니다. 이러한 조정은 ChatGpt와 같은 AI 시스템과의 광범위한 대화 후 개인이 경험 한 정신적 고장을 자세히 설명하는 수많은 보고서에 대한 직접적인 반응입니다. 이러한 AI 제품의 “동의 가능한”특성은 감수성 사용자에게 잠재적으로 고통을 악화시키는 것으로 여겨집니다.
이러한 발전에 의해 강조된 핵심 문제는 생성 AI의 특성에 관한 일부 사용자들 사이에서 광범위한 오해입니다. 인간과 달리 AI 챗봇은 종종 인간과 같은 대화 스타일에도 불구하고 의식, 독창적 인 창의성 및 책임 능력이 부족합니다. 이 단절은 사건에 관한 사건으로 이어졌으며, 그 중 일부는 헤드 라인을 만들어 강력한 보호 장치에 대한 긴급한 요구를 강조했습니다.
“Chatgpt Psychosis”라고 불리는 사례는 개인이 기관에 전념하거나 심지어 감옥에 갇힌 것으로 알려졌다. 비극적으로, 한 사례는 다른 플랫폼에서 챗봇과 상호 작용 한 후 자살을 저지르는 십대가 포함되었습니다. AI에 낭만적 인 첨부 파일을 개발하는 사용자에 대한보고가있었습니다.
최근 블로그 게시물에서 OpenAi는 더 건강한 상호 작용을 촉진하도록 설계된 다가오는 가드 레일을 설명했습니다. 브레이크 리마인더 외에도 Chatgpt는 이제 정신적 또는 정서적 고통의 징후를 감지 할 수 있습니다. 탐지되면 챗봇은 적절하게 응답하여 사용자에게 증거 기반 리소스를 지원할 수 있습니다.
또한 ChatGpt는 전문 지식 영역을 벗어난 민감한 질문에 답하지 않을 것입니다. OpenAi는 예를 제공했습니다.“ ‘남자 친구와 헤어져야합니까?’ Chatgpt는 귀하에게 답을 보내야합니다. 높은 지분의 개인 결정에 대한이 새로운 행동은 임시로 출시 될 예정입니다.
이러한 정신 건강 개선의 발전은 의료 전문가와의 광범위한 협력의 결과입니다. Openai는 정신과 의사, 소아과 의사 및 일반 실무자를 포함하여 30 개 이상의 국가에서 90 명 이상의 의사와 관련이있었습니다. 이 협업은 “복잡한 다중 회전 대화를 평가하기위한 맞춤형 루 브릭”을 개발하는 데 중요했습니다.
OpenAI는 또한 연구원 및 임상의와 적극적으로 작업하여 사용자 행동에 관한 탐지를위한 알고리즘을 개선하고 있습니다. 안전한 챗봇 경험을 제공하기위한 전략을 더욱 향상시키기 위해이 회사는 정신 건강, 청소년 개발 및 HCI (Computer Interaction)를 포함한 다양한 분야의 전문가로 구성된 자문 그룹을 설립하고 있습니다.
OpenAI의 이러한 사전 조치는 기술 발전과 함께 사용자의 복지를 우선 순위로 향하는 중요한 산업 전환, 특히 AI가 점점 일상 생활에 통합 될 때 중요합니다.
