ChatGPT의 CEO인 Sam Altman은 인공 지능의 발전으로 인해 내년에 심각한 사이버 공격이 발생할 수 있다고 경고했습니다. 그는 이러한 발전이 악의적인 행위자에게 힘을 실어 사이버 보안뿐만 아니라 생물 테러 위협으로 이어질 수 있다고 강조했습니다.
Altman은 Axios와의 인터뷰에서 AI에 대한 많은 우려가 직업 시장과 환경 문제에 미치는 영향에 초점을 맞추고 있지만 즉각적인 위험은 대부분 해결되지 않았다고 말했습니다. 그는 고급 오픈 소스 AI 모델을 통해 치명적인 사이버 공격이 발생할 수 있는 가능성을 강조했으며, 이를 통해 공격자가 전례 없는 능력을 발휘할 수 있다고 주장했습니다.
알트만은 “내년에는 사이버로부터 완화해야 할 중대한 위협을 보게 될 것”이라며 위험이 “완전히 가능하다”고 경고했다. 그는 이러한 위협을 완화하려면 상당한 노력이 필요하며 사이버 보안에 대한 탄력적인 접근 방식을 옹호한다고 언급했습니다. 그는 “단순히 하나의 AI 모델을 안전하게 만드는 것이 아니다”라고 덧붙였다. “수비수는 협력해야 한다.”
Altman은 시스템 보안을 강화하기 위해 AI 회사, 사이버 보안 회사 및 정부 간의 협력을 촉진하는 것을 목표로 하는 “신뢰할 수 있는 액세스 프로그램”의 개념에 대해 논의했습니다. 그는 이러한 조치의 효과가 빠르게 진화하는 AI 기술로 인해 나타나는 취약성을 해결하는 데 매우 중요하다고 지적했습니다.
알트만은 사이버보안 위협 외에도 AI의 발전이 생물테러 가능성을 높일 수 있다고 경고했다. 그는 향상된 AI 모델을 통해 개인이 정교한 수준에서 생물학적 과정을 조작할 수 있다고 말했습니다. “거기서 놀라운 일이 일어날 것이며, 우리는 수많은 질병이 치료되는 것을 보게 될 것입니다.”라고 그는 말했습니다. 그러나 그는 그러한 능력이 오용될 수 있다고 경고했다.
Altman은 생물학 분야에서 고급 오픈 소스 모델의 잠재적 정규화가 새로운 위험을 초래할 수 있다고 강조했습니다. 그는 테러리스트 그룹이 AI를 활용해 새로운 병원체를 생성하는 것을 막는 것이 임박한 과제를 언급하면서 “그것은 더 이상 이론적인 것이 아니다”라고 주장했습니다.
그는 이러한 위협을 둘러싼 복잡성으로 인해 해결책을 식별하기가 어렵다고 결론을 내렸으며, 적절한 보호 조치 없이는 광범위한 피해가 발생할 가능성이 여전히 높다는 점을 시사했습니다. 알트만은 이러한 위협에 대응하기 위한 현재 전략에는 확실한 답이 부족하여 AI의 미래와 그것이 글로벌 보안에 미치는 영향에 대한 심각한 우려를 불러일으킨다는 점을 인정했습니다.
<시간 />
