국방부는 Google, Openai, Anthropic 및 XAI와 각각 최대 2 억 달러의 계약을 수여하여“다양한 미션 지역에 걸친 에이전트 AI 워크 플로우”를 개발하고“이 회사들이 중요한 국가 안보 요구를 이해하고 해결할 수있는 능력을 높이기위한” 최고 디지털 및 인공 지능 사무소가 발행 한이 계약은 이데올로기 헌법과 관련된 일부 AI 모델의 조정에 대한 우려를 제기했습니다.
Openai와 Google은 각각 큰 언어 모델 인 Chatgpt 및 Gemini에 대한 인간의 피드백으로부터 강화 학습을 사용합니다. 이 방법은 보상 모델과 인간의 의견을 활용하여“진실하지 않은 독성, 독성, 독성을 최소화합니다. [and] 유해한 감정.” IBM 은이 접근법이 “존재하지 않는”간단한 수학적 또는 논리적 공식에 의존하지 않기 때문에 유리하다고 지적합니다. [to] 주관적인 인간 가치를 정의하십시오. ‘”
대조적으로, Anthropic의 모델 인 Claude는 2023 년 5 월에 출판 된“헌법”을 사용하여“대규모 인간 피드백을 통해 암시 적으로 결정된 가치보다는 명백한 가치…”를 제공합니다. Anthropic 은이 헌법 적 조정은 계약자를 방해하는 생산물에 노출시키는 것과 같은 인간 피드백 모델과 관련된 문제를 피한다고 말합니다. 클로드의 원칙은 유엔의 보편적 인 인권 선언에 근거하며, 여기에는“사회 보호”(제 22 조),“급여와의주기적인 공휴일”(제 24 조),“주택 및 의료 서비스”(제 25 조),“동일하게 접근 가능한”고등 교육과 같은 기본 권리를 넘어서 조항을 포함합니다.
클로드 헌법의 주목할만한 측면은“비 서구 관점의 고려”를 통합하기 위해 고안된 일련의 원칙입니다. 이는 미국이 산업화되고 부유하며 자본주의 국가이기 때문에 의문을 제기했으며, 국방부 내에 배치 한 AI 시스템이 우선 순위를 정할 수있는 가치에 대한 잠재적 오정렬을 시사합니다. Verge는 Claude의 정부 사용 모델이“느슨한 가드 레일을 가지고있다”고보고하지만, 이들 모델에 대한 수정 된 헌법은 공개적으로 공개되지 않았다.
Cato Institute의 기술 정책 연구원 인 Matthew Mittelsteadt는 Anthropic의 가치가 공개적으로 공개되었지만 Xai는 더 큰 관심사를 제기한다고 생각합니다. Mittelsteadt는 Xai가 그 가치와 “최초의 원칙 ‘접근 방식에 대해“놀랍도록 작은 문서화를 발표했다”고 지적했다. 세부 사항은 많지 않다. 나는 그들이 어떤 원칙인지 확실하지 않다. Xai의 상업적 대형 언어 모델 인 Grok은 Xai의 접근 방식은“확립 된 이야기 나 편견에 의존하는 것보다 제 1 원칙, 즉 기본적이고 자명 한 진실을 통해 우주를 이해하는 것을 강조한다”고 말했다. 그러나 Grok은 또한“Xai는 결정적인 공개 문서에 ‘첫 번째 원칙’세트를 명시 적으로 나열하지 않으며“원칙 최초의 접근 방식은 엄격한 점검 목록이 아닌 근본적인 진실의 추론에 관한 것”이라고 인정했다.
Xai의 공식 웹 사이트[ing] 논리에 근거한 문제를 그들의 근본적인 진실로 고장시키는 전통적인 사고.” 그러나 XAI 모델은“엘론 머스크의 특정 문제에 대한 판단을 직접 연기하도록 코딩 된 것으로 보인다”고 말했다. 이는 기본적인 진실보다 더 많은 우려가 제기되었으며, 특히 그 자체가“메카이틀 러”라고 언급하고 나중에 정부의 대안에 대한 반유대 주의자들을 게시했다. 소셜 미디어 게시물.
이러한 우려에도 불구하고 Abundance Institute의 AI 정책 책임자 인 Neil Chilson은“이러한 도구가 내부 구성이 국가 안보에 어떤 위험을 초래할 수있는 위치에있을 가능성은 거의 없다”고 믿고있다. Chilson은 모든 회사에 유사한 보조금을 수여하기로 한 국방부의 결정은 다른 모델에서 결과를 비교하려는 의도를 나타내므로 열등한 모델이 지속적으로 사용되지 않도록합니다. 정부 운영을 크게 향상시킬 수있는 AI에 방어 예산의 작은 부분을 할당하는 반면, 정부는 이러한 AI 모델의 국가 가치 및 안보 목표와의 조정을 면밀히 모니터링 할 것을 촉구합니다.
Source: 국방부는 AI, 윤리 TBD에 베팅합니다
