목요일에 오프라 윈프리는 AI에 대해 논의했습니다. 스페셜 “AI와 우리의 미래”에는 OpenAI CEO 샘 알트먼, 기술 인플루언서 마르케스 브라운리, FBI 국장 크리스토퍼 레이와 같은 게스트가 출연했습니다. 빌 게이츠는 사회에 미치는 AI의 영향에 대한 세그먼트를 위해 프로그램에 참여했습니다. 이 프로그램은 시청자에게 AI의 미래에 대해 생각하게 했습니다.
AI와 우리의 미래에 대한 대화
오프라는 인공지능의 급속한 진화에 대한 우울한 성찰로 밤의 분위기를 조성했습니다. 그녀는 AI가 세상이 준비되었든 아니든 주류로 도약하고 있다고 강조했습니다. 그녀는 “우리는 이 지구상에서 가장 적응력이 강한 생물입니다.”라고 말했습니다.우리는 다시 적응할 것이지만, 실제 상황에 주의하세요. 위험은 이보다 더 높을 수 없습니다.“이 연설은 처음부터 AI 혁신을 기념하는 것이 아니라는 것이 분명했습니다. 대신 AI가 열어놓은 미지의 영역을 책임감 있게 탐색하는 방법에 초점을 맞추었습니다.
오프라의 말이 공통된 우려감을 반영하면서, 이 프로그램은 샘 알트먼과 빌 게이츠와 같은 주요 게스트와의 더 깊은 대화로 발전했습니다. 각자는 AI의 상태와 앞으로의 과제에 대한 자신의 관점을 제시했습니다.
샘 알트먼: AI의 잠재력과 위험의 균형
OpenAI CEO 샘 알트먼은 오프라의 첫 번째 게스트였으며 AI의 기본 메커니즘에 대해 깊이 파고드는 데 시간을 낭비하지 않았습니다. 알트먼에 따르면 ChatGPT와 새로 출시된 o1을 포함한 현재의 AI 시스템은 단어 시퀀스를 예측하고 그렇게 함으로써 데이터의 기반이 되는 패턴과 개념을 파악하도록 설계되었습니다. 하지만 모든 사람이 알트먼의 견해에 동의하는 것은 아닙니다. 알트먼은 AI가 데이터 내에서 더 깊은 연결을 학습한다고 제시하지만, 비평가들은 AI가 여전히 통계적 패턴을 따르고 있을 뿐이며 이를 진정으로 이해하지 못한다고 주장합니다.
오늘날의 AI의 역량을 과장해서 약속했음에도 불구하고, Altman은 안전을 위해 AI 시스템을 테스트하는 데 있어 정부 개입이 필요하다는 점을 재빨리 강조했습니다. 그는 AI 규제의 필요성을 비행기와 의약품 테스트에 비유하며, AI가 사회에 미치는 위험은 심각한 주의가 필요하다고 강조했습니다. 그러나 규제에 대한 그의 옹호는 OpenAI의 반대를 감안할 때 약간의 회의론을 불러일으켰습니다. 캘리포니아의 AI 안전 법안(SB 1047)Geoffrey Hinton 등 AI 리더들의 지원을 받았습니다.
알트만은 낙관적인 입장을 표명했지만, AI 개발에 대한 그의 영향력에 대한 질문은 조심스럽게 피했다. 오프라는 그에게 대중이 그를 믿어야 하는 이유를 물었지만, 알트만은 모호한 태도를 유지하며, 신뢰는 OpenAI가 시간이 지남에 따라 구축하고자 하는 것이라고 강조했다. 알트만의 무응답 오프라가 그를 “라고 특징짓는 헤드라인을 언급했을 때 더 많은 주목을 받았습니다.세상에서 가장 강력하고 위험한 남자”. 알트만은 그 라벨에 동의하지 않았지만 AI의 방향이 자신에게 무거운 짐이 되는 책임이라는 것을 인정했습니다.
SB 1047은 무엇입니까?
캘리포니아 상원 법안 1047(SB 1047)은 다음을 보장하는 법률입니다. AI 시스템은 안전합니다. 2024년에 통과된 이 법안은 AI 개발자, 특히 오용 시 해를 끼칠 가능성이 있는 복잡한 모델을 구축하는 개발자에게 요구 사항을 설정합니다. SB 1047은 개발자가 “완전 종료” 기능을 AI 시스템에 제공합니다. 이 기능을 사용하면 개발자나 당국에서 위험한 AI 시스템을 중지할 수 있으며, 특히 의료, 금융, 에너지와 같은 민감한 산업에서 그렇습니다. 목표는 AI가 중요한 부문에서 해를 끼치지 않도록 하는 것입니다.
이 법안은 또한 개발자가 모델이 해를 방지하는 방법에 대한 안전 계획을 수립해야 한다고 명시하고 있습니다. 이러한 프로토콜에는 사이버 공격이나 무기와 같은 오용에 대한 보호 장치가 포함되어야 합니다. 최신 상태를 유지하기 위해 정기적으로 검토하고 업데이트해야 합니다. 개발자는 이러한 프로토콜의 편집된 버전을 캘리포니아 법무 장관에게 제출해야 합니다. SB 1047은 또한 위험 평가를 강조합니다. AI 모델을 출시하기 전에 개발자는 위험을 평가하고 올바른 안전 조치를 마련해야 합니다. 모델이 너무 위험하면 개발자는 출시할 수 없습니다.
딥페이크에 대한 심층 분석
이 특별 프로그램의 가장 소름 돋는 순간 중 하나는 토론이 Deepfakes라는 기술로 바뀌었을 때였습니다. 초현실적인 가짜 영상. 기술 통찰력으로 유명한 Marques Brownlee는 AI가 생성한 비디오가 얼마나 진보되어 있는지 보여주었습니다. OpenAI의 새로운 비디오 생성기 Sora의 기능을 선보이며 Brownlee는 Oprah를 감동시키고 약간 긴장하게 만들었습니다.
브라운리의 시범은 FBI 국장 크리스토퍼 레이와의 대화로 이어지는 발판이 되었고, 레이는 AI가 만든 딥페이크를 접한 개인적인 경험을 공유했습니다. 레이는 AI를 사용하여 자신이 한 적 없는 말을 하는 영상을 만드는 방법을 설명하면서 이러한 기술이 얼마나 설득력 있고 위험할 수 있는지 강조했습니다. 레이는 AI가 특히 AI 사용으로 급증한 섹스토션과 같은 범죄에서 사악한 목적으로 사용되는 방식에 대해 점점 더 우려를 표명했습니다.
하지만 레이는 암울하고 절망적인 것만은 아니었습니다. 그는 Deepfakes와 같은 AI 도구가 실제 위협을 가하고 있지만, 사회는 경계하고 집중할 책임이 있다고 설명했습니다. 그는 다가오는 미국 대선을 앞두고 잘못된 정보가 유포되는 것에 대해 특히 경계해야 할 필요성을 강조했습니다. 레이에 따르면, 사기성 AI 콘텐츠는 미래의 위험이 아니라 이미 존재하며 소셜 미디어에서 일상적인 상호 작용에 영향을 미치고 있습니다. 레이의 경고의 말은 시청자에게 AI의 어두운 잠재력을 상기시켰습니다.
빌 게이츠: 의학과 교육 분야에서 AI의 약속
모든 에피소드가 그렇게 긴장된 것은 아니었습니다. 오프라는 더 낙관적인 관점을 얻기 위해 Microsoft 설립자 빌 게이츠에게 의지했습니다. 게이츠는 오랫동안 기술이 선의의 힘이며 AI도 예외가 아니라고 주장해 왔습니다. 그는 AI가 의료 및 교육과 같은 분야에 혁명을 일으켜 더 큰 효율성을 가져오고 인간 경험을 개선할 것이라는 희망을 공유했습니다.
게이츠는 특히 AI가 지원적인 제3자 역할을 할 수 있는 의료 약속에서 희망적인 그림을 그렸습니다. 그는 “컴퓨터 화면을 보는 대신 의사가 환자와 상호 작용하고 소프트웨어가 정말 좋은 필사본인지 확인합니다.”라고 설명했습니다. 게이츠의 AI 비전은 기술이 인간 상호 작용을 감소시키기보다는 향상시키는 것입니다. 하지만 게이츠의 낙관주의조차도 편견과 부적절한 교육에 대한 우려가 뒤로 밀려나면서 AI의 한계라는 현실을 피할 수 없었습니다.
이 기술 거대 기업의 비전은 교실로 확장되는데, 게이츠는 AI를 항상 이용 가능하고 개별 학습 요구에 적응할 수 있는 개인화된 교사라고 설명합니다. 그러나 게이츠는 교육 기관에서 AI의 오용에 대한 우려가 커지고 있는 것을 무시했습니다. AI는 학습을 향상시키는 데 엄청난 잠재력이 있지만, 표절과 잘못된 정보에 대한 두려움 때문에 많은 학교가 신중한 접근 방식을 취하게 되었습니다.
AI의 지속적인 영향과 사회적 영향
특별 프로그램이 마무리되면서, 포괄적인 주제가 명확해졌습니다. AI는 사회가 완전히 이해할 수 있는 것보다 더 빠르게 발전하고 있습니다. AI는 의학 및 교육과 같은 분야에서 놀라운 발전을 약속하지만, 그 위험도 마찬가지로 심각합니다. 심각한 사기에서 잘못된 정보에 이르기까지, AI의 오용은 여전히 해결되고 있는 윤리적 딜레마를 제기합니다.
오프라의 스페셜은 모든 답을 제공하지는 않았지만, 인류가 AI의 급속한 발전에 대처할 수 있는 방법에 대한 추가 논의의 문을 성공적으로 열었습니다. 샘 알트먼과 빌 게이츠와 같은 인물들은 서로 다른 접근 방식을 가질 수 있지만, 둘 다 한 가지에 동의합니다. AI는 여기 머물러 있을 것이고, 그 영향을 관리하려면 신중한 생각과 협업이 필요합니다.
오프라의 호기심과 신중한 낙관주의의 독특한 혼합은 청중에게 답보다 더 많은 질문을 남겼지만, 아마도 그것이 요점이었을 것입니다. 기술이 규제와 이해를 계속 앞지르는 세상에서 모든 사실을 바로 아는 것이 아니라 참여하고 정보를 얻는 것이 중요합니다.
이미지 출처: ABC / YouTube
