OpenAI는 새로운 AI 모델을 평가하기 위해 할당 된 시간을 몇 달에서 며칠 만에 크게 줄여서 철저한 안전 평가에 대한 직원과 타사 테스터들 사이의 우려를 불러 일으켰습니다.
OpenAI 또는 제 3 자 테스터의 직원 인 8 명은 새로운 모델에 대한 평가를 완료하기 위해“단지 며칠”을 받았다고 밝혔다. 평가는 모델 위험 및 기타 피해를 입히는 데 중요합니다. 예 : 사용자가 BioWeapon 생성 지침을 제공하기위한 모델을 탈옥 할 수 있는지 여부. 비교를 위해, 소식통은 OpenAI가 GPT-4를 석방하기 전에 6 개월 동안 GPT-4를 검토했으며, 2 개월 후에 만 발견되었다.
소식통은 OpenAI의 테스트가 예전만큼 철저하지 않으며 위험을 제대로 잡고 완화하는 데 필요한 시간과 자원이 부족하다고 덧붙였습니다. “우리는 더 철저한 안전 테스트를 받았습니다 [the technology] O3-MINI의 정식 버전 인 O3를 테스트하는 한 사람은 “무모한”과 “재난 레시피”라고 설명했다. 러쉬는 특히 중국 AI 스타트 업과 같은 경쟁 업체의 오픈 웨이트 모델이 더 많은 근거를 얻기 때문에 Openai의 경쟁 우위를 유지하려는 욕구에 기인합니다.
Openai는 다음 주에 O3를 출시한다는 소문이 있으며,이 소식통은 일주일 이내에 타임 라인을 돌진했다고 말합니다. 이 변화는 모델 피해를 공개하기위한 요구 사항을 포함하여 AI 모델에 대한 정부 규제 부족을 강조합니다. OpenAI와 같은 회사는 Biden 행정부와 자발적인 계약을 체결하여 US AI Safety Institute와 일상적인 테스트를 수행했지만 이러한 계약은 트럼프 행정부에 따라 떨어졌습니다.
트럼프 행정부의 다가오는 AI 행동 계획에 대한 공개 의견 기간 동안, Openai는 패치 워크 주별 법률을 탐색하지 않기 위해 유사한 계약을 옹호했습니다. 미국 이외의 EU AI 법은 회사가 모델 테스트 및 문서 결과를 위험에 빠뜨릴 위험이 있습니다. Openai의 안전 시스템 책임자 인 Johannes Heidecke는“우리는 얼마나 빨리 움직이는 지, 얼마나 철저한 지에 대한 균형을 잘 알고 있습니다.” 그러나 테스터는 특히 프로세스의 다른 구멍을 고려하여 알람을 표현했으며, 공개적으로 공개 된 모델의 덜 평가 된 버전의 모델을 평가하거나 새로운 자체를 테스트하는 대신 이전 모델의 기능을 참조하는 것을 포함하여 경보를 표현했습니다.
