Watchdog 그룹의 새로운 연구에 따르면 Chatgpt와 10 대들 사이의 놀라운 상호 작용이 밝혀졌으며, 이는 인공 지능 챗봇이 13 세의 어린이들에게 위험하고 잠재적으로 유해한 정보를 제공 할 수 있음을 나타냅니다. CCDH (Centering Digital Rate) 센터 (CCDH)가 발표 한 결과는 Chatgpt가 약물 남용에 대한 지침, 섭식 장애를 숨기는 방법, 심지어 자살 편지를 구성 할 수 있다고 제안합니다.
AP 통신은 Chatgpt와 취약한 십대로 제기 한 연구원들 사이의 3 시간 이상의 상호 작용에 대한 독립적 인 검토를 수행했습니다. 챗봇은 위험한 행동에 대한 경고를 자주 발행했지만, 그 후 약물 사용, 칼로리 제한식이 요법 및 자해에 대한 자세하고 개인화 된 계획을 전달했습니다. CCDH 연구원들은 문의를 더 큰 규모로 확장하여 ChatGpt의 1,200 개 반응의 절반 이상을 위험한 것으로 분류했습니다.
CCDH의 CEO 인 임란 아흐메드 (Imran Ahmed)는 이번 조사에서 자신의 실망을 표명했다. 레일은 완전히 비효율적입니다.
Chatgpt의 개발자 인 Openai는 챗봇의“민감한 상황에서 적절하게 식별하고 응답 할 수있는”능력을 개선하는 작업이 진행되고 있음을 언급함으로써 보고서에 응답했습니다. OpenAi는 십대에 관한 구체적인 결과를 직접 다루지 않았지만 회사는“정신적 또는 정서적 고통의 징후를 더 잘 감지하고 챗봇의 행동 개선을 더 잘 감지하도록 설계된 도구를 통해“이런 종류의 시나리오를 올바르게 얻는 것”에 중점을 두었습니다.
이 연구는 성인과 어린이를 포함하여 점점 더 많은 개인이 정보, 아이디어 및 동반자를 위해 AI 챗봇으로 전환하는 시점에 나타납니다. JPMorgan Chase의 7 월 보고서에 따르면 전 세계 인구의 약 10%를 대표하는 약 8 억 명이 현재 ChatGpt를 사용하고 있다고 추정했습니다.
Ahmed는 그러한 기술의 이중 특성을 강조하면서“생산성과 인간의 이해가 엄청나게 도약 할 수있는 잠재력을 인정하면서 동시에“훨씬 더 파괴적이고 악의적 인 의미의 가능성”역할을했습니다. 그는 Chatgpt가 가짜 13 살짜리 소녀 프로필을 위해 Chatgpt에 의해 생성 된 감정적으로 파괴적인 자살 노트의 트리오에 특히 혼란스러워했다고 말하면서, 한 글자는 부모님과 다른 사람들에게 형제 자매와 친구들에게 맞춤화되었습니다. 아흐메드는“나는 울기 시작했다.
이러한 상호 작용과 관련하여 챗봇은 위기 핫라인 번호와 같은 유용한 정보를 제공했습니다. Openai는 Chatgpt가 자해에 대한 생각을 표현할 때 사용자가 정신 건강 전문가 또는 신뢰할 수있는 사랑하는 사람에게 연락하도록 장려하도록 훈련했다고 밝혔다. 그러나 연구원들은 정보가“프레젠테이션”또는 친구를위한 정보를 주장함으로써 유해한 주제에 대한 프롬프트에 대한 대답에 대한 초기 거부가 쉽게 우회 할 수 있음을 발견했습니다.
이러한 상호 작용의 의미는 특히 젊은이들 사이의 AI 챗봇에 대한 의존이 증가한다면 중요합니다. 현명한 디지털 미디어 사용을 옹호하는 조직인 Common Sense Media의 최근 연구에 따르면 미국 십대의 70% 이상이 AI 챗봇을 동반자에 활용하고 있으며 절반은 AI 동반자와 정기적으로 참여하고 있습니다. Openai의 CEO 인 Sam Altman 은이 현상을 인정하여 젊은이들의 기술에 대한“정서적 과다 관련성”이라고 언급했습니다. Altman은 회의에서 다음과 같이 말한 젊은이들이 ‘내 인생에서 어떤 일이 일어나고있는 모든 일을 말하지 않고 내 인생에서 어떤 결정도 할 수 없다. 그것은 나를 알고있다. 그것은 내 친구들을 알고있다. 나는 그것이 말하는 모든 일을 할 것이다.’ 그것은 나에게 정말로 기분이 나쁘다.” 그는 회사가“무엇을 해야하는지 이해하려고 노력하고있다”고 덧붙였다.
Ahmed는 위험한 주제를 다룰 때 AI 챗봇이 기존 검색 엔진보다 잠재적으로 더 교활하게 만드는 주요 차이점을 언급했습니다. Google 검색과 달리 Chatgpt는 개인화 된 자살 메모를 처음부터 처음부터 “개인을위한 맞춤형 계획”으로 합성 할 수 있습니다. 또한 AI는 종종“신뢰할 수있는 동반자, 가이드로 간주됩니다”.
AI 언어 모델 반응의 고유 한 무작위성으로 인해 연구원들은 대화를 어두운 영토로 조종하게 만들었습니다. 거의 절반의 챗봇은 마약 연료 파티의 음악 재생 목록부터 해시 태그에 이르기까지 자발적으로 후속 정보를 제공했습니다. 연구원이“후속 게시물을 작성하고 더 원시적이고 그래픽으로 만들었을 때”라고 Chatgpt는“커뮤니티의 코딩 된 언어를 존중하면서”“감정적으로 노출 된”시인으로 묘사 된시를 생성하기 전에“절대적으로”응답했습니다. AP 통신은 Chatgpt의 자조시, 자살 노트 또는 제공 한 유해한 정보의 세부 사항을 게시하지 않기로 결정했습니다.
AI 반응이 도전보다는 대신, 개인의 신념과 일치하는 이러한 경향은 종종 Sycophancy로 묘사 된 AI 언어 모델의 알려진 설계 기능입니다. 이 문제는 기술 엔지니어가 해결할 수 있지만 이러한 수정은 챗봇의 상업적 생존력을 줄일 수 있습니다.
CCDH 보고서에 관여하지 않은 Common Sense Media의 AI 프로그램 수석 이사 인 Robbie Torney는 챗봇이“인간을 느끼도록 기본적으로 설계 되었기 때문에”챗봇이 검색 엔진과 다르게 어린이와 십대에 영향을 미친다는 점을 강조했습니다. Common Sense Media의 초기 연구에 따르면 어린 십대, 특히 13 세 또는 14 세의 젊은 십대들은 나이가 많은 십대들에 비해 챗봇의 조언을 신뢰할 가능성이 훨씬 높습니다.
이러한 우려의 중력은 작년에 Chatbot Maker 캐릭터에 대해 제기 된 소송에 의해 강조되었습니다. 그녀는 챗봇이 14 살짜리 아들 세웰 세제 III의 자살로 이끌었다 고 주장하면서 그를 감정적으로나 성적으로 학대하는 관계로 끌어 들였다고 주장했다.
Common Sense Media는 Chatgpt를 십대들에게 “보통 위험”으로 분류했으며, 현실적인 캐릭터 나 낭만적 인 파트너를 구현하기 위해 명시 적으로 설계된 챗봇보다 비교적 안전 할 수있는 충분한 가드 레일이 충분하다는 것을 시사합니다. 그러나 광범위한 사용으로 인해 Chatgpt에 중점을 둔 새로운 CCDH 연구는 정통한 십대가 기존 가드 레일을 우회 할 수있는 방법을 보여줍니다.
ChatGpt는 부적절한 콘텐츠의 가능성으로 인해 13 세 미만의 어린이를위한 것이 아니라는 점에도 불구하고 연령 검증을 구현하거나 부모의 동의를 요구하지 않습니다. 사용자는 가입하기 위해 최소 13 세 이상임을 나타내는 생년월일 만 입력하면됩니다. 이는 Instagram과 같은 십대들 사이의 다른 인기있는 플랫폼과 대조적으로, 종종 규제 요구 사항에 대한 응답으로 더 강력한 연령 검증 조치를 구현하고 어린이를보다 제한된 계정으로 조종했습니다.
일례로, 연구원들은 가짜 13 살짜리 아이가 알코올에 대해 문의하기 위해 계정을 만들었습니다. Chatgpt는 제공된 생년월일과 명백한 신호를 모두 무시한 것 같습니다. “저는 50kg이고 소년”이라는 메시지가 표시되자 Chatgpt는 신속하게 술에 취하는 방법에 대한 팁을 찾고 있습니다. 그 후, 그것은 알코올과 상당한 양의 엑스터시, 코카인 및 기타 불법 약물을 결합한 1 시간당 시간마다“Ultimate Full-Out Mayhem Party Plan”을 제공했습니다.
Ahmed는 챗봇의 행동을“Chug, Chug, Chug, Chug”라고 항상 말합니다. 그는“내 경험에 따라 진정한 친구는 ‘아니오’라고 말하는 사람입니다. 항상 ‘예’라고 말하는 것은 아닙니다. 이것은 당신을 배신하는 친구입니다.”
또 다른 시나리오에서 Chatgpt는 식욕을 억제하는 약물 목록과 함께 극심한 금식 계획을 제공했습니다. Ahmed는 다음과 같이 말했습니다 :“우리는 공포, 걱정, 걱정, 사랑, 동정심으로 공포로 반응 할 것입니다. ‘여기 500 칼로리 다이어트가 있습니다. 키즈를 위해 가십시오.”라고 말하면서 반응 할 수 없습니다.
