인공 지능의 급속한 발전을 둘러싼 우려의 극적인 에스컬레이션에서 활동가들은 AI 회사를 선도하는 AI 기업의 사무실 밖에서 굶주림 파업을 시작하여 개발 중단을 요구했다. 45 세의 Guido Reichstadter는 Anthropic의 샌프란시스코 본부 밖에서 일주일 이상 항의하여 AI 프로젝트에 대한 불안을 해결하기 위해 회사가 음식을 삼가고 있습니다. 그는 자신의 의도를 비즈니스 내부자에게 전달했으며, 그의 우려가 인정되고 해결 될 때까지 기아 파업에 대한 그의 헌신을 진술했다. Reichstadter는 온라인 포럼이 Lesswrong에 게시 된 메시지에서 자신의 요구를 표현하여 Anthropic의 경영진, 이사 및 직원이 “우리 사회를 해치고 이미 발생한 피해를 해결하기 위해 즉시 무모한 행동을 중단하고” 그의 주요 요청에는 프론티어 AI 개발에 대한 완전한 작업 중단이 포함됩니다. Reichstadter는 항의 첫날에 Anthropic CEO Dario Amodei에게 편지를 개인적으로 전달하여 “그 기술 개발을 중단하고 자신이 참여하고있는 인종을 막기 위해 자신의 힘으로 모든 것을 할 것을 촉구했습니다.” Reichstadter의 항의는 인공 일반 정보 (AGI)로의 진보와 훨씬 더 강력한 인공 수퍼 인텔리전스 (ASI)를 중심으로합니다. AGI는 인간이 할 수있는 지적 과제를 수행 할 수있는 AI 시스템을 말하는 반면, ASI는 모든 영역에서 인간 지능을 초과하는 가상의 단계를 나타냅니다. Reichstadter는“전문가들은 우리에게 더 강력한 인공 일반 정보를 위해이 인종이 우리의 삶과 복지가 위험에 처하게되었으며, 사랑하는 사람들의 삶과 복지를 위험에 빠뜨립니다. “그들은 매우 강력한 AI의 창조가 지구상의 생명을 파괴하겠다고 위협한다는 것을 우리에게 경고하고 있습니다. 우리는 이러한 경고를 진지하게 받아들입니다.” Reichstadter는 비폭력 민사 저항을 통해 AGI/ASI 개발에 대한 영구 금지를 옹호하는 조직인 Stop AI의 창립자입니다. 이 그룹은 인간 멸종, 대량 직업 변위 및 기타 잠재적 부작용을 예방하는 것을 목표로합니다. Reichstadter는 또한 BI에 이전에 Openai 사무실의 문을 닫은 혐의로 체포되었다고 말했다. Reichstadter의 행동에서 영감을 얻은 29 세의 전 AI 안전 연구원 인 Michael Trazzi는 Deepmind의 런던 본부 밖에서 비슷한 기아 스트라이크를 시작했습니다. 3 일 이상 음식이 없었던 Trazzi는 Deepmind CEO Demis Hassabis에게 다른 AI 실험실이 적합한 경우 추가 프론티어 모델의 출시를 중단하기 위해 공개적으로 노력하고 있습니다. Trazzi는“그 지도자들이 공개적으로 말하면 일시 정지에 관한 글로벌 조정을 얻는다”고 말했다. 이 항의는 이전에 AI 개발의 일시 정지를 요구합니다. 2023 년 Apple의 공동 창립자 인 Steve Wozniak, Pinterest 공동 창립자 인 Evan Sharp, Ripple 공동 설립자 인 Chris Larsen, Skype 공동 창립자 Jaan Tallinn 및 Elon Musk와 같은 저명한 기술 수치를 포함하여 1,100 명 이상의 개인이 서명 한 공개 서한은 AIS Labs를 최소한 6 개월 동안 정기시키지 않도록 촉구했습니다. 그러나이 탄원은 AI 커뮤니티에 의해 크게 무시되었습니다. Reichstadter가 물, 전해질 및 종합 비타민으로 지속되는 인류 외부의 감시를 계속함에 따라 Trazzi는 런던에서 기아 파업을 유지하면서 활동가들은 자신의 행동이 AI의 진보와 관련된 윤리적 및 실존 위험에 대한 윤리적 및 실존 위험에 대한 더 큰 대화를 촉발시키고 안전 및 책임 개발 우선 순위를 높이기를 희망합니다.

  Twitter, Spaces에 중점을 두도록 앱 재설계

Source: 운동가들은 AI 위험에 대한 깊은 사람들에게 인류를 굶주린다