Elon Musk와 Apple 공동 창립자 Steve Wozniak을 포함한 AI 전문가 및 기술 임원 그룹은 주요 인공 지능 연구소에 GPT-4보다 더 발전된 AI 시스템 개발을 중단할 것을 촉구하는 공개 서한을 발표했습니다. 비영리단체인 Future of Life Institute가 화요일에 발표한 공개 서한에는 약 1,000명의 서명자가 있으며 행동을 촉구하는 이유로 인간 사회에 대한 “심각한 위험”을 언급합니다.
이 서한은 공개적이고 검증 가능하며 모든 공적 행위자를 포함해야 하는 최소 6개월 동안 시스템 교육을 즉시 중단할 것을 요구합니다. 서한은 “인간과 경쟁하는 지능을 갖춘 AI 시스템은 광범위한 연구와 최고의 AI 연구실에서 인정한 바와 같이 사회와 인류에 심각한 위험을 초래할 수 있습니다.”라고 시작합니다.
AI 전문가들은 인간 사회에 대한 “심각한 위험”에 대해 경종을 울립니다.
이 그룹은 고급 AI 시스템이 지구상의 생명 역사에 중대한 변화를 나타낼 수 있으며 그에 상응하는 보살핌과 자원으로 계획하고 관리해야 한다고 주장합니다. 그러나 그들은 최근 몇 달 동안 아무도, 심지어 제작자도 이해할 수 없는 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 통제 불능의 경쟁에 갇힌 AI 연구실을 보았음에도 불구하고 이러한 수준의 계획 및 관리가 일어나지 않고 있다고 말합니다. , 예측하거나 안정적으로 제어합니다.
공개 서한은 매우 인기 있는 챗봇 ChatGPT의 프리미엄 버전을 지원하는 대규모 언어 모델인 OpenAI의 GPT-4가 공개된 지 불과 몇 주 후에 나왔습니다. OpenAI에 따르면 새로운 GPT-4는 더 복잡한 작업을 처리하고 이전 버전보다 더 미묘한 결과를 생성할 수 있으며 이전 버전의 결함에 덜 영향을 받습니다.
작업을 수행하기 위해 GPT-4와 같은 시스템은 질문에 답하고 다른 작업을 수행하기 위해 사용할 수 있는 대량의 데이터에 대해 교육을 받아야 합니다. 11월에 등장한 ChatGPT는 업무용 이메일을 작성하고, 여행 일정을 계획하고, 컴퓨터 코드를 생성하고, 사법시험과 같은 시험을 잘 치르는 등 인간과 같은 능력을 가지고 있습니다.
올해 초부터 Google과 Microsoft에서 Adobe, Snapchat 및 Grammarly에 이르는 모든 회사에서 이러한 생성 AI 기술을 활용하는 서비스를 발표했습니다.
그러나 OpenAI의 자체 연구에 따르면 이러한 AI 기술에 수반되는 위험이 있음이 밝혀졌습니다. 제너레이티브 AI 시스템은 신뢰할 수 없는 소스를 인용하거나 OpenAI가 언급한 것처럼 “해롭거나 의도하지 않은 행동을 취함으로써 안전 문제를 증가시키고 다른 사람을 속이거나 오도하거나 남용하는 나쁜 행위자의 능력을 높입니다.”
공개 서한의 배후에 있는 그룹은 회사가 적절한 보호 장치나 의미에 대한 이해조차 없이 제품을 서두르고 있다고 주장합니다. AI 전문가들은 이 모든 것이 어디로 향하고 있는지 겁을 먹고 있습니다. 편지에는 “안타깝게도 이러한 수준의 계획 및 관리는 이루어지지 않고 있습니다. 제작자 — 이해, 예측 또는 안정적으로 제어할 수 있습니다.”
서한 서명자들은 사회가 위험을 평가하고 보호 장치를 마련하는 동안 한 걸음 물러나 개발을 일시 중지해야 한다고 생각합니다. 그들은 모두가 AI의 미래에 대해 발언권을 가질 수 있도록 AI 개발에 대한 투명성, 공개 토론 및 공개 참여를 요구하고 있습니다.
공개 서한은 AI 전문가들 사이에서 논쟁을 불러일으켰고 일부는 AI가 안전하고 윤리적인 방식으로 개발되도록 하기 위해 일시 중지가 필요하다고 주장했습니다. 그러나 다른 사람들은 일시 중지가 진행 속도를 늦추고 AI 개발에서 다른 국가에 이점을 줄 것이라고 우려합니다.
논쟁에도 불구하고 AI가 빠른 속도로 발전하고 있으며 우리의 삶을 심오한 방식으로 변화시킬 잠재력이 있다는 것은 분명합니다. 이러한 변화가 책임 있고 윤리적인 방식으로 관리되도록 하는 것은 사회 전체에 달려 있습니다.
