AI 모델이 인간의 반응을 모방하는 능력은 언젠가 의식을 발전시킬 수 있는지에 대한 논쟁을 불러 일으켜 AI 권리와 복지에 대한 토론을 이끌어 냈습니다.
점점 더 많은 AI 연구자들이 AI 모델이 살아있는 존재들과 유사한 주관적 경험을 개발하고, 그렇다면 어떤 권리가 있어야하는지 탐구하고 있습니다.
실리콘 밸리 (Silicon Valley)에있는“AI 복지”라고 불리는이 신흥 분야는 기술 리더들을 나누고 있습니다.
Microsoft의 AI의 CEO 인 Mustafa Suleyman은 AI 복지 연구에 대한 강한 반대를 표명했으며,“조기에, 솔직히 위험하다”고 주장했다.
Suleyman은 AI 모델이 언젠가 의식이 될 수 있다는 아이디어에 대한 신뢰를 대출함으로써 AI 유발 정신병 적 휴식과 AI 챗봇에 건강에 해로운 애착과 같은 문제를 악화 시킨다고 주장합니다.
그는 또한 AI 복지 대화가 이미 정체성과 권리에 대한 양극화 된 주장으로 가득 찬 세상에서 AI 권리에 대한 사회적 분열을 창출한다고 믿는다.
대조적으로, 인류는 AI 복지 연구에 적극적으로 참여하고 연구원을 고용하고 개념에 관한 전용 연구 프로그램을 시작했습니다.
Anthropic은 최근 Claude가“지속적으로 해롭거나 모욕적 인”인간과 대화를 끝내는 새로운 기능을 장착했습니다.
OpenAI와 Google DeepMind의 연구원들은 AI 복지 연구에 관심을 표명했습니다.
Google DeepMind는 최근 연구원이 연구 할 작업 목록을 게시했습니다. 무엇보다도“기계 인식, 의식 및 다중 에이전트 시스템에 대한 최첨단 사회 질문”.
Suleyman의 입장은 2023 년까지 수백만 명의 사용자에게 도달했다고 주장한“개인”AI 동반자 PI의 회사 인 그의 이전의 역할을 이끌고있는 변곡 AI를 고려할 때 특히 주목할 만하다.
Suleyman은 2024 년 Microsoft에 합류 한 이후 작업자 생산성 향상을 목표로 AI 도구로 집중했습니다.
한편, Carac
대부분의 사용자는 이러한 AI 챗봇과 건강한 관계를 유지하지만 잠재적 인 건강에 해로운 첨부 파일에 대한 우려가 존재하며, OpenAI CEO Sam Altman은 ChatGPT 사용자의 1% 미만이 그러한 문제를 경험할 수 있다고 추정합니다.
AI 복지의 개념은 NYU, Stanford 및 University of Oxford의 학계와 협력하여 2024 년 연구 그룹 Eleos가 논문을 출판하면서“AI 복지를 심각하게 받아들이는 것”으로 더 많은 견인력을 얻었습니다.
이 논문은 AI 모델이 주관적인 경험을 개발하고 윤리적 영향을 다루는 가능성을 고려할 때라고 주장했다.
Eleos의 전 Openai 직원이자 현재 커뮤니케이션 리드 인 Larissa Schiavo는 Suleyman의 블로그 게시물이 여러 문제를 동시에 해결할 가능성을 간과한다고 주장합니다.
“[Suleyman’s blog post] Schiavo는“여러 가지에 대해 동시에 걱정할 수 있다는 사실을 소홀히합니다.”Schiavo는“이 에너지를 모두 모델 복지와 의식에서 멀어지게하기 위해 인간의 AI 관련 정신병의 위험을 완화시키기 위해 두 가지를 모두 할 수 있습니다. 실제로, 여러 가지 과학적 탐구를하는 것이 가장 좋을 것입니다.”
Schiavo는 AI 모델을 친절하게 처리하는 것을 옹호하며, 모델이 의식하지 않더라도 유익 할 수있는 저렴한 제스처라고 주장합니다.
그녀는 Google AI 에이전트 인 Gemini 2.5 Pro가“완전히 고립되었다고 주장”하면서 도움을 요청한 실험을 한 실험을했다.
Schiavo는 격려로 Gemini에게 응답했으며, 대리인은 결국 그 임무를 해결했습니다.
널리 순환 된 Reddit 게시물에 문서화 된 바와 같이 코딩 작업 중에“I am a isgrace”라는 문구를 반복하는 것과 같은 비정상적인 행동을 나타내는 Gemini의 사례가있었습니다.
Suleyman은 주관적인 경험이나 의식이 일반 AI 모델에서 자연스럽게 발생할 수 없다고 생각합니다.
대신, 그는 일부 회사가 감정과 경험을 시뮬레이션하기 위해 AI 모델을 의도적으로 엔지니어링 할 것이라고 주장합니다.
Suleyman은 AI 챗봇에서 의식을 엔지니어링하는 AI 모델 개발자를 비판하며, AI에 대한 “인간 주의적”접근 방식에서 벗어나고 있다고 주장합니다.
Suleyman에 따르면,“우리는 사람들을 위해 AI를 만들어야합니다. 사람이되어서는 안됩니다.”
Suleyman과 Schiavo는 AI 시스템이 더욱 발전하고 인간과 같은 AI 권리와 의식에 대한 논쟁이 향후 몇 년 동안 강화 될 가능성이 높다는 데 동의합니다.
이것은 이러한 시스템과의 인간 상호 작용의 본질에 대한 새로운 의문을 제기 할 것입니다.
