인공 지능(AI)은 오랫동안 어떤 사람들에게는 매료되었고, 다른 사람들에게는 비판을 받아왔습니다. AI로 무엇이 가능하고 무엇이 불가능한지 예측하기 어려워졌습니다. 밴쿠버에 있는 브리티시 컬럼비아 대학교(UBC)의 학자 그룹은 공상 과학 소설처럼 보일 수 있는 것을 생각해냈습니다. 완전 자율 AI 과학자입니다. 이 AI는 데이터를 분석하고 실험을 만들고 실행합니다. 이 발견은 매혹적이면서도 어떤 사람들에게는 불안한 의미를 가지고 있습니다.
AI 과학자라는 아이디어는 터무니없는 꿈처럼 보일 수 있지만, UBC 팀은 옥스퍼드 대학과 Sakana AI와의 파트너십을 통해 이를 현실로 만들었습니다. 이러한 AI가 생성한 작업 논문은 처음에는 과학에 크게 기여하지 않을 수 있지만, 실험에서 머신 러닝의 결과이며 작동한다는 사실은 AI 연구의 진전을 나타냅니다.
끊임없이 학습하는 AI 과학자
이 작업은 개방형 학습이라는 접근 방식을 중심으로 진행됩니다. 이 새로운 AI 과학자는 인간이 만든 방대한 양의 데이터에 의존하는 기존 AI와는 다르게 기능합니다. 새로운 것을 시도하고, 조사하고, 개선하여 학습합니다. 이 기술을 사용하면 AI는 현재 지식의 경계를 확장하고 인간 연구자가 놓친 새로운 통찰력을 찾을 수 있습니다.
이 AI 과학자가 착수한 첫 번째 과제 중 하나는 확산 모델링 및 딥 뉴럴 네트워크 가속화와 같은 기존 머신 러닝 기술을 개선하는 것이었습니다. 이러한 것들이 지구를 뒤흔드는 발전처럼 보이지는 않지만, AI가 아이디어를 자율적으로 개발하고 테스트할 수 있는 능력을 나타냅니다. AI 자체는 처음 나왔을 때는 많은 것을 할 수 없었지만, 지금은 우리 삶의 모든 측면에 침투하기 시작했습니다.
UBC 연구실을 지휘하는 교수인 제프 클룬은 결과가 반드시 성공적이라고는 할 수 없지만 유망하다고 인정했습니다. AI 과학자의 학습 접근 방식(실험을 끊임없이 개선하고 “흥미로운” 것을 찾는 것)은 AI 연구에서 전통적으로 사용되는 보다 엄격한 방법과는 완전히 다릅니다.
AI 과학자들은 독립적으로 이론을 코드 테스트하고 개선합니다.
클룬의 연구실은 한동안 개방형 학습을 실험해 왔습니다. 이전 프로젝트에서 그들은 가상 환경을 탐색하고 흥미로운 것에 따라 행동을 생성하도록 설계된 AI 프로그램을 개발했습니다. 이러한 프로그램은 손으로 코딩된 지침으로 신중하게 안내되어야 했지만 대규모 언어 모델(LLM)의 도입으로 게임이 바뀌었습니다. 이제 이러한 AI 프로그램은 독립적으로 조사할 가치가 있는 것을 판단할 수 있어 더 자율적이고 잠재적으로 더 창의적이 되었습니다.
AI 과학자가 이론을 검증하는 데 필요한 코드를 작성하고 테스트를 실행하는 능력은 가장 매혹적인 속성 중 하나입니다. 이를 통해 AI는 전략을 지속적으로 개선하여 점점 더 효과적이고 아마도 더 통찰력 있게 될 수 있습니다. 클룬은 이 과정을 새로운 대륙을 발견하는 것에 비유하는데, 둘 다 탐험 정신과 미지의 세계, 그리고 그 과정에서 큰 놀라움의 가능성을 포함하기 때문입니다.
이러한 시스템의 신뢰성은 밝은 미래에도 불구하고 좋지 않습니다. AI 과학자들이 놀라운 것처럼 보일 수 있지만, Allen Institute for AI의 연구자인 톰 호프는 여전히 매우 파생적이고 신뢰할 수 없다고 말합니다. 이러한 불신은 AI가 특히 창의성과 진정한 혁신 분야에서 과장된 약속을 하고 기대에 못 미친다는 사실에서 비롯됩니다.
잠재력과 위험 관리
AI 과학자가 탄생하면서 과학 연구의 방향에 대한 우려도 생겨났습니다. AI가 스스로 이론을 만들고 평가할 수 있을 때, 인간 연구자들은 어디에 있을까요? 더욱이, 이러한 AI 기술이 적절하게 사용되도록 어떻게 보장할 수 있을까요? 악의적인 사람이 집에서 AI 과학자를 훈련시켜 미래에 악의적인 목적으로 사용할 수 있을까요?
이 AI 과학자는 이미 미리 정해진 기능이 있는 자율 프로그램인 AI 에이전트를 만드는 데 진전을 이루고 있습니다. 클룬의 그룹은 수학과 독해 능력과 같은 기술에서 인간이 설계한 에이전트보다 더 뛰어난 AI 설계 에이전트를 만들었습니다. 이러한 성공은 AI가 일상 활동을 돕는 데 그치지 않고 아직 불분명한 방식으로 혁신에 기여할 수 있는 미래를 시사합니다.
하지만 이러한 발전과 관련된 위험이 있습니다. 이러한 AI 시스템이 의도적이든 아니든 오작동하는 에이전트를 생성할 수 있다는 것은 매우 우려스러운 일입니다. 클룬과 그의 그룹은 위험을 알고 있으며 이런 종류의 상황이 발생하지 않도록 해결책을 찾으려고 노력하고 있습니다. 그들은 비결은 이러한 시스템의 생성을 적절히 감독하여 강도와 안전을 보장하는 것이라고 주장합니다.
이것이 어디로 이어질지는 불분명하지만, 한 가지 확실한 것은 AI 과학자들이 여기 있으며, 그들은 더 똑똑해지는 것을 멈추지 않을 것이라는 것입니다. AI는 새로운 단계에 접어들고 있으며, 모든 사람이 그것이 획기적인 발견으로 이어지는지 아니면 새로운 문제로 이어지는지 주의 깊게 지켜볼 것입니다. AI가 진화함에 따라 학계가 윤리적 우려를 강조하고 이러한 시스템이 윤리적으로 구축되도록 하는 것이 중요할 것입니다. 궁극적으로 기술과 인간 간의 복잡한 관계를 어떻게 다루느냐에 따라 AI가 사회에 미치는 영향이 결정될 것입니다.
대표 이미지 출처: National Cancer Institute / Unsplash
Source: AI 과학자들은 연구하고 배우고 발견합니다.
