놀랍게도 OpenAI는 군사 목적으로 기술을 사용하는 것을 금지하는 명시적인 언어를 삭제하여 사용 정책을 조용히 수정했습니다. 2024년 1월 10일에 이루어진 변경으로 기존 정책에서 “무기 개발”과 “군사 및 전쟁”에 대한 금지가 제거되었습니다. 이러한 실질적인 변화는 OpenAI의 강력한 도구인 ChatGPT가 군사 애플리케이션에 사용될 때 잠재적인 영향에 대한 우려를 불러일으켰습니다.
정책 수정
명확성과 가독성을 목표로 한 광범위한 정책 재작성의 일부인 이번 수정은 OpenAI 기술의 허용 가능한 사용에 미치는 영향으로 주목을 받았습니다. 새로운 정책에는 무기 개발이나 사용 등의 예를 들어 자신이나 타인에게 해를 끼치기 위해 서비스를 사용하는 것에 대한 일반적인 금지 명령이 유지됩니다. 그러나 군사 및 전쟁 응용 프로그램에 대한 구체적인 금지 사항은 사라졌습니다.
OpenAI의 관점
OpenAI 대변인 Niko Felix는 기억하기 쉽고 전 세계적으로 적용할 수 있는 보편적인 원칙을 확립하는 것이 목표라고 설명했습니다. 회사는 ‘다른 사람에게 해를 끼치지 않는다’와 같은 원칙을 강조하며 이러한 지침이 광범위하면서도 쉽게 이해될 수 있다고 믿습니다. 펠릭스는 모호한 “해” 금지가 모든 군사적 사용을 포함하는지 명시적으로 언급하지 않았지만, 무기 개발, 사용, 타인에게 부상을 입히거나 보안을 침해하는 승인되지 않은 활동에 참여하기 위한 기술 사용 금지를 강조했습니다.
전문가들의 우려
Trail of Bits의 엔지니어링 디렉터인 Heidy Khlaaf는 새로운 정책이 안전보다 합법성을 우선시하는 것 같다는 우려를 표명했습니다. 그녀는 LLM(대형 언어 모델) 내 편견과 환각의 사례를 언급하면서 군사 응용 분야에서 AI를 사용하는 것과 관련된 잠재적인 위험을 강조했습니다. 우려되는 점은 부정확하고 편향된 작전으로 인해 피해와 민간인 사상자가 증가할 수 있다는 것입니다.
시행 및 실제 결과:
OpenAI 정책 변화의 실제 결과는 여전히 불분명합니다. OpenAI는 이전에 군사 및 전쟁 응용 프로그램 금지 시행에 대해 비공식적이었습니다. ChatGPT가 현재 직접적으로 해를 끼칠 수 없음에도 불구하고 전문가들은 비폭력적인 상황이라 할지라도 군사적 맥락에서 ChatGPT를 배치하는 것은 치명성에 초점을 맞춘 기관에 간접적으로 기여할 수 있다고 주장합니다.
가능한 동기와 파트너십
일부 전문가들은 OpenAI가 군사 개입에 대한 입장을 조용히 완화하고 있을 수도 있다고 제안합니다. “군사 및 전쟁”을 명시적으로 금지하는 것에서 “무기”에 초점을 맞추는 것으로 전환하면 무기 개발에 직접 참여하지 않고도 작전 인프라를 지원할 수 있는 공간이 생길 수 있습니다. OpenAI와 주요 방위산업 계약업체인 Microsoft와의 긴밀한 파트너십은 그러한 관계가 회사 정책에 미치는 영향에 대한 의문을 제기합니다.
AI에 대한 군사적 관심
정책 변경은 전 세계 군대가 기계 학습 기술을 통합하기를 열망하는 시점에 이루어졌습니다. 미국 국방부는 전략적 이점을 얻기 위해 ChatGPT 및 기타 대규모 언어 모델의 사용을 잠정적으로 탐색하고 있습니다. 정확성과 보안 위험에 대한 우려를 인정하면서도 군은 인공지능 도구 채택에 여전히 열성적입니다.
OpenAI의 사용 정책 개정, 특히 군사 응용 프로그램에 대한 명시적인 금지 제거는 고급 언어 모델의 윤리적 사용에 대한 중요한 질문을 제기합니다. AI와 군사적 이해관계의 교차점이 계속 진화함에 따라 잠재적인 피해와 오용을 방지하기 위해 기술 혁신과 윤리적 고려 사항 사이의 균형을 유지하는 것이 중요해졌습니다. 이러한 정책 변화의 의미는 의심할 여지 없이 다양한 영역에서 강력한 AI 기술의 책임 있는 배포에 대한 지속적인 논의를 촉진할 것입니다.
주요 이미지 출처: Specna Arms/Unsplash
Source: 이제 군사 목적으로 ChatGPT를 사용할 수 있습니다
