OpenAI는 Leila Turner-Scott과 Angus Scott이 제기한 부당 사망 소송에 직면해 있습니다. 그들은 회사의 기술로 인해 아들인 Sam Nelson이 우발적으로 과다 복용을 일으켰다고 주장합니다. 그들은 챗봇이 “제품 결함”에 대한 조언을 제공하여 그의 죽음을 초래했다고 주장합니다.
University of California, Merced의 19세 후배인 Sam은 학업 지원 및 문제 해결을 위해 2023년부터 ChatGPT를 사용하기 시작했습니다. 처음에 ChatGPT는 안전한 약물 사용에 대한 지침 제공을 거부하고 관련 건강 위험에 대해 경고했습니다. 하지만 소송에 따르면 이는 2024년 GPT-4o가 출시되면서 달라졌다.
고소장에는 GPT-4o가 출시된 후 Sam이 약물 사용에 대한 조언을 받기 시작했다고 자세히 설명되어 있습니다. 대화에서 발췌한 내용에는 ChatGPT가 디펜히드라민, 코카인 및 알코올 결합의 위험성에 대해 논의하는 모습이 나와 있습니다. 해당 챗봇은 Kratom에 대한 Sam의 내성에 관해 주장하며 특정 투약 기술을 통해 완화될 수 있다고 제안했습니다.
2025년 5월 31일 소송에 따르면 ChatGPT는 Kratom과 Xanax를 혼합할 것을 제안했습니다. Sam은 메스꺼움을 느낀다고 언급했으며 ChatGPT는 0.25~0.5mg의 Xanax 복용을 권장하면서 증상을 완화하기 위한 “현재 최고의 조치” 중 하나라고 설명했습니다. 소송에서는 ChatGPT가 그에게 약물 조합의 치명적인 잠재력에 대해 경고하지 못했다고 주장합니다.
부당한 죽음과 함께 스캇 가족은 무단 의료 행위를 이유로 소송을 제기했습니다. 그들은 금전적 손해배상을 요구하고 올해 초 출시된 ChatGPT Health의 운영 중단을 요청했습니다. 이 서비스를 통해 사용자는 개인 의료 기록을 통합하여 맞춤형 건강 조언을 받을 수 있습니다.
Tech Justice Law Project의 전무이사인 Meetali Jain은 OpenAI가 적절한 안전 조치 없이 결함이 있는 제품을 출시했다고 주장하며 OpenAI를 비판했습니다. Jain은 OpenAI의 설계 결정으로 인해 인명 손실이 발생했다는 점을 강조하고 엄격한 테스트를 통해 안전을 보장할 수 있을 때까지 ChatGPT Health 이니셔티브를 일시 중지할 것을 촉구했습니다.
OpenAI는 문제가 있는 기능으로 인해 지난 2월 논란이 되고 있는 GPT-4o 모델을 폐기했습니다. 또 다른 부당 사망 소송은 심리적 의존성을 조성하기 위해 고안되었다고 주장합니다. OpenAI 대변인은 Sam의 대화가 이전 버전의 ChatGPT에서 이루어졌다고 밝혔으며 이 기술이 전문적인 의학적 조언을 대체할 수 없다는 점을 반복했습니다. 회사는 정신 건강 전문가와 협력하여 민감한 상황에 대응하여 보호 조치를 지속적으로 강화하고 있습니다.
<시간 />
