AI 연구 연구소인 OpenAI는 최근 제품을 둘러싼 안전 문제에 대한 성명을 발표했습니다. 이 성명은 GPT-4와 같은 모델의 개발을 중단하라는 업계 리더의 요청, 이탈리아의 ChatGPT 금지, 위험에 대한 연방 무역 위원회에 대한 불만을 포함하여 최근 몇 주 동안 등장한 여러 논란에 대한 응답으로 나온 것입니다. 특히 어린이에게 위험한 잘못된 정보를 제공합니다.
OpenAI의 안전 서약은 개선의 여지가 있음을 인정하면서 제품이 안전하다는 것을 대중에게 보장하는 것을 목표로 합니다. 회사는 모든 수준에서 시스템에 안전이 구축되도록 노력하고 있으며 안전한 AI 생태계를 만들기 위해 정책 입안자 및 이해 관계자와 협력하는 데 전념하고 있다고 강조했습니다.
그러나 이 성명서는 OpenAI가 위험을 완화하고 정책을 시행하거나 규제 기관과 협력할 계획에 대한 세부 정보가 부족했습니다.
Elon Musk와 Steve Wozniak은 6개월의 중단을 요구하는 공개 서한을 발표했습니다.
목요일 발표된 하이브리드 반박-사과는 회사 상품이 안전하다는 대중을 안심시키고 성장의 여지가 있음을 인정하기 위해 노력했습니다.
OpenAI의 안전 서약은 최근의 모든 논란에 대한 두더지 잡기 반응처럼 들립니다. 지난 주에만 ChatGPT가 이탈리아에서 완전히 금지되었습니다. 엘론 머스크 그리고 스티브 워즈니악 GPT-4와 같은 모델의 개발을 6개월간 중단할 것을 요구하는 공개 서한을 발표했으며 다음과 같이 주장하며 연방 무역 위원회에 불만을 제기했습니다. 채팅GPT 특히 어린이에게 위험한 잘못된 정보 위험을 초래합니다.
아, 그리고 사용자의 채팅 통신과 개인 정보가 누구에게나 표시되는 결함이 있었습니다.
OpenAI에 따르면 “모든 수준에서 우리 시스템에 안전이 내장되도록 노력”합니다. GPT-4를 출시하기 전에 OpenAI는 6개월 이상을 보냈습니다.엄격한 테스트”라고 말하며 18세 이상 연령 요건을 구현하기 위해 검증 대안을 찾고 있다고 말했습니다.
회사는 기밀 정보를 판매하지 않으며 AI 모델을 향상시키는 데만 사용한다고 강조했습니다. 또한 “안전한 AI 생태계를 만들기 위해” 국회의원들과 협력하고 AI 이해관계자들과 계속해서 협력할 준비가 되어 있다고 밝혔습니다.
OpenAI는 안전한 LLM을 만들려면 실제 피드백이 필요하다는 안전 서약의 중간쯤에 인정했습니다. 공개 피드백을 통해 학습하면 모델이 더 안전해지고 OpenAI가 오용을 모니터링할 수 있다고 주장합니다.
“실제 사용은 또한 우리 기술의 많은 유익한 적용을 허용하면서 사람들에게 진정한 위험을 초래하는 행동에 대해 점점 더 미묘한 정책을 개발하도록 이끌었습니다.”
OpenAI 제공 “안전에 대한 접근 방식에 대한 세부 정보’라고 말했지만 나이 인증 조사 공약을 제외하고는 진부한 표현이 대부분이다. 위험을 줄이고 정책을 구현하거나 당국과 협력하는 방법에 대한 정보가 거의 없었습니다.
OpenAI는 투명한 방식으로 AI 제품을 만드는 것을 기쁘게 생각하지만 발표는 AI가 야생에 있는 지금 무엇을 할 계획인지에 대한 세부 정보를 거의 제공하지 않습니다.
OpenAI의 논리는 무엇입니까?
OpenAI에 따르면, 그들의 ChatGPT 모델은 인간 피드백의 강화 학습(RLHF) 기계 학습 방법, 대화 시뮬레이션, 후속 질문에 응답, 오류 고백, 잘못된 전제에 도전, 부적절한 요청 거부.
처음에는 인간 AI 교사가 모델에 고객 및 AI 비서 역할을 하는 상호 작용을 제공했습니다. 봇의 공개 테스트 버전은 대화 형식으로 사람이 쓴 텍스트와 유사한 심층 응답으로 사용자 쿼리 및 응답을 이해하려고 시도합니다.
아직 ChatGPT를 경험해보지 않으셨다면 지금 바로 체험해보실 수 있습니다.
