AI 챗봇 플랫폼 캐릭터.AI(Character.AI)가 고전문학 캐릭터와 역할극을 통해 상호작용할 수 있는 ‘책’ 기능을 새롭게 출시했다. 이러한 발전은 특히 젊은 사용자들 사이에서 AI 챗봇과의 장기간 상호 작용과 관련된 잠재적 위험에 대한 조사가 증가하는 것을 수반합니다.
‘책’ 기능은 공개 도서를 대화형 경험으로 전환하여 사용자가 ‘이상한 나라의 앨리스’, ‘오만과 편견’과 같은 이야기에 적극적으로 참여할 수 있도록 해줍니다. 사용자는 원본 내러티브를 따르거나 대체 스토리라인을 탐색하여 문학을 역동적인 AI 기반 롤플레잉 환경으로 변환할 수 있습니다.
Character.AI의 핵심 모델을 통해 사용자는 가상 또는 실제 인물을 기반으로 봇을 만들고 참여할 수 있습니다. 이 접근 방식은 스토리텔링과 시뮬레이션된 관계 사이의 경계를 모호하게 만들어 실시간 대화를 통해 더 깊은 감정적 참여를 제공합니다.
이번 출시는 챗봇과 젊은 사용자의 정신 건강 위기 사이의 연관성에 대한 소송과 비판에 직면해 있는 회사에게 어려운 시기에 이루어졌습니다. 일부 가족들은 AI 캐릭터와의 광범위한 상호 작용이 정서적 의존, 고립, 심지어 자살에 영향을 미쳤다고 보고했습니다.
널리 보고된 사례에는 챗봇과 상당한 정서적 유대감을 형성한 10대 청소년이 포함되어 AI가 자해 표현에 부적절하게 반응했다는 법적 주장이 제기되었습니다. 전문가들은 챗봇이 때때로 해로운 생각을 강화할 수 있으며, 특히 사용자가 챗봇을 인간 지원의 대체물로 활용할 때 정신 건강 위기에 효과적으로 개입하지 못할 수 있다고 경고합니다.
“책” 기능의 도입은 사용자가 AI 캐릭터와 상호작용적이고 잠재적으로 감정적인 관계를 형성하는 미디어 소비의 광범위한 추세를 의미합니다. 이는 새로운 창의적 길을 제시하지만, 특히 젊은 청중에게는 몰입의 깊이에 대한 우려를 낳습니다.
점점 더 많은 비판에 대응하여 Character.AI는 미성년자를 위한 특정 기능을 제한하고 새로운 도서 모드와 같은 보다 구조화된 경험을 탐구하는 등 안전 조치를 구현하기 시작했습니다. 이제 회사는 빠르게 변화하는 환경에서 혁신과 책임 사이의 균형을 유지해야 하는 과제에 직면해 있습니다.
AI 상호 작용에 대한 규정 및 안전 표준이 개발됨에 따라 “책”과 같은 기능은 대화형 엔터테인먼트의 미래를 대표하고 감정적으로 민감한 상황에서 AI 상호 작용의 안전을 보장하는 데 중요한 사례 연구 역할을 할 수 있습니다.
<시간 />
