OpenAI는 AI 모델의 안전 테스트를 위해 할당 된 시간을 크게 줄여서 새로운 모델의 빠른 방출과 관련된 잠재적 위험과 피해에 대한 우려를 불러 일으켰습니다.
OpenAI 또는 제 3 자 테스터의 직원 인 8 명은 이제 새로운 모델에 대한 평가를 완료 할 수있는“며칠”이 있으며, 이전에는 몇 달이 걸렸던 프로세스입니다. 테스트 시간의 급격한 감소는 특히 중국 AI 스타트 업 DeepSeek와 같은 회사가 개발 한 오픈 웨이트 모델과 경쟁 할 때 경쟁 우위를 유지하려는 OpenAI의 욕구에 기인합니다.
평가는 모델 위험과 피해를 식별하는 데 중요합니다. 예를 들어 모델을 탈옥 할 수있는 가능성과 같은 모델 위험과 피해는 생물 무기 생성 지침을 제공합니다. 비교를 위해, 소식통은 OpenAI가 석방되기 전에 GPT-4를 검토하기 위해 6 개월을 주었고, 2 개월 후에 만 능력에 대해서만 발견했다고 언급했다. OpenAI의 새로운 모델 O3에 대한 현재 테스트 프로세스는 철저하지 않으며 위험을 제대로 잡고 완화하는 데 필요한 시간과 자원이 부족합니다.
현재 O3의 정식 버전을 테스트하는 한 사람은 변화를 “무모한”및 “재난 레시피”라고 설명했습니다. Openai는 다음 주에 O3를 출시 할 것이라는 소문이 있으며, 소식통에 따르면 테스트 타임 라인을 일주일 미만으로 돌진했습니다. OpenAI의 안전 시스템 책임자 인 Johannes Heidecke는 회사가“우리가 얼마나 빨리 움직이는 지, 얼마나 철저한 지에 대한 균형이 잘 잡혔다”고 주장했다. 그러나 Field의 테스터와 전문가는 테스트 시간이 줄어들고 이와 관련된 잠재적 위험에 경보를 나타냅니다.
AI 모델 분야의 정부 규제 부족은 OpenAI의 테스트 타임 라인의 변화에 의해 강조됩니다. 미국 AI 안전 연구소와의 일상적인 테스트를 수행하기 위해 Biden 행정부와 자발적 합의에 서명 했음에도 불구하고,이 계약의 기록은 트럼프 행정부에 따라 떨어졌습니다. Openai는 패치 워크 주별 법률을 탐색하지 않기 위해 유사한 계약을 옹호했습니다. 대조적으로, EU AI 법은 회사가 모델을 테스트하고 문서 결과를 위험에 빠뜨릴 위험이 있습니다.
MIT의 AI 연구원 인 Shayne Longpre와 같은 전문가들은 AI 모델의 빠른 출시와 관련된 잠재적 위험에 대한 우려를 공유합니다. Longpre는 AI 시스템에서 AI 시스템의 결함을위한 표면적이 더 커지고 있다고 지적합니다. 그는 제 3 자, 독립적 인 연구원에 대한 투자의 필요성을 강조하고 버그 바운티, 레드 팀에 대한 광범위한 접근 및 AI 안전 및 보안을 개선하기위한 테스터의 발견에 대한 법적 보호와 같은 조치를 제안합니다.
AI 시스템이 더욱 활용되고 새롭고 종종 예기치 않은 방식으로 사용됨에 따라 철저한 테스트 및 평가가 점점 더 중요 해지고 있습니다. Longpre는 내부 테스트 팀이 충분하지 않으며,이 시스템이 제공하는 결함, 전문 지식 및 다양한 언어의 표면적을 다루기 위해서는 사용자, 학계, 언론인 및 화이트 hat 해커 커뮤니티가 필요하다고 강조합니다.
