화요일에 시작된 OpenAI의 버그 바운티 프로그램은 공개된 결함의 심각도에 따라 사용자에게 보상을 제공합니다. $200 취약점 당.
- OpenAI는 윤리적 해커, 보안 연구원 및 기술 애호가가 AI 서비스의 취약성을 식별하고 보고하도록 장려하기 위해 버그 바운티 프로그램을 시작했습니다.
- 버그 바운티 프로그램은 Bugcrowd와 협력하고 있으며 다음과 같은 보상을 포함합니다. $200 에게 $20,000 문제의 심각도를 기반으로 합니다.
- 참가자는 개인 정보 침해, 시스템 중단 또는 데이터 파괴를 삼가하는 것을 포함하여 특정 규칙 및 지침을 따라야 합니다.
- 버그 바운티 프로그램은 안전하고 진보된 AI를 만드는 OpenAI의 임무에 매우 중요하며 정책 및 참여 규칙에 따라 수행된 취약성 연구에 대한 세이프 하버 보호, 협력, 수정 및 승인을 제공합니다.
OpenAI의 버그 바운티 프로그램이란 무엇입니까?
ChatGPT의 결함을 발견하기 위해 OpenAI는 AI 시스템 내부의 보안 결함, 취약성 또는 기타 우려 사항을 제출하는 사람들을 보상하기 위해 “Bug Bounty Program”을 수립하여 대중에게 호소하고 있습니다.
이 상은 진정한 연구자부터 기술 실험을 좋아하는 일반 사람들에 이르기까지 누구나 받을 수 있습니다. 보상에는 현금이 포함되며 “심각도가 낮은 검색200달러에서 시작하여 20,000달러까지 올라가는 “예외적인 발견”. 제출 및 보상은 버그 바운티 플랫폼인 Bugcrowd에서 처리합니다.
결함이 ChatGPT를 괴롭혔습니다. 지난 달에는 사용자가 자신이 참여하지 않은 채팅 이름을 본 후 사이트 전체가 다운되었습니다. 며칠 후, 한 트위터 사용자는 그들이 이상의 것을 발견했다고 말했습니다. 80 ChatGPT를 해킹할 때 숨겨진 플러그인.
오늘 아침 저는 새로운 ChatGPT API를 해킹하다가 매우 흥미로운 것을 발견했습니다. API 호출에서 특정 매개변수를 제거하여 공개할 수 있는 80개 이상의 비밀 플러그인이 있습니다.
비밀 플러그인에는 "DAN 플러그인", "암호화 가격 플러그인"그리고 더 많은. pic.twitter.com/Q6JO1VLz5x
— а𝚣𝟶 (@rez0__) 2023년 3월 24일
OpenAI에 보고된 모든 결함이 탈옥 또는 모델이 불쾌한 말을 하도록 설득하거나 불쾌한 말을 하는 것처럼 보이도록 금전적 보상을 받는 것은 아닙니다.
OpenAI의 버그 바운티 프로그램에 대한 지침은 무엇입니까?
프로그램에 참여하려면 특정 규칙과 지침을 따라야 합니다.
- 규칙에는 취약점을 즉시 보고하고, 개인 정보를 침해하거나 시스템을 방해하지 않음커뮤니케이션을 위해 Bugcrowd 프로그램을 사용하고 취약성 세부 정보를 기밀로 유지하며 범위 내 시스템만 테스트합니다.
- 회사는 또한 협박에 의한 취약점 공개에 대한 면책 조항도 거부합니다.
OpenAI의 버그 바운티 프로그램은 모델 결함에 대한 인센티브를 제공하지 않습니다.
공단은 참여 종합지침에서 모범답안 내용의 문제는 “엄격히 범위를 벗어남” 그리고 보상을 받지 못할 것입니다. 탈옥과 모델이 끔찍한 말을 하거나 행동하게 하는 것은 생략된 어려움의 예입니다.
탈옥은 제한 사항을 우회하기 위해 시스템을 변경하는 과정으로 ChatGPT에서 필터링되지 않은 자료가 될 수 있습니다. Jailbreakers는 올해 초 GPT-3.5에게 Do Anything Now 또는 단.
“우리는 위험을 방지하기 위해 열심히 노력하고 있지만 사람들이 실제 세계에서 매일 우리 기술을 어떻게 사용하거나 오용할지 예측할 수 없습니다.”라고 페이지는 말하면서 고객이 문제를 표현하기 위해 별도의 피드백 양식을 작성하도록 권장했습니다.
22세의 탈옥 프롬프트 애호가인 Alex Albert가 게시한 게시물에 대한 응답으로 공동 설립자이자 오픈에이아이 대표이사3월에 Twitter에서 OpenAI의 버그 바운티 프로그램 또는 레드 팀 네트워크를 시작할 계획이라고 제안했습니다.
민주화된 레드 팀 구성은 우리가 이러한 모델을 배포하는 한 가지 이유입니다. 시간이 지남에 따라 위험이 *많이* 증가할 것이라고 예상하고 강력한 적대적 압력에 강력한 모델을 보유하는 것이 중요합니다. 또한 바운티 프로그램/레드 팀의 네트워크 시작을 고려 중입니다! https://t.co/9QfmXQi9iM
— 그렉 브록만(@gdb) 2023년 3월 16일
이유
이 조치는 개인 정보 보호 표준을 위반한 혐의로 이탈리아에서 ChatGPT가 금지된 지 불과 며칠 만에 다른 유럽 국가의 당국이 생성 AI 서비스에 대한 더 많은 연구를 수행하도록 촉구했습니다.
ChatGPT는 확실히 최근 몇 달 동안 전 세계를 강타하여 MBA 수준의 테스트를 통과했습니다. 와튼Techbriefly에 게시물을 작성하고 눈먼 척하여 캡차를 풀도록 인간을 설득하기도 합니다.
AI의 급속한 발전과 효율성은 일부 전문가들을 우려하여 500명의 주요 엔지니어(Elon Musk 포함)가 이 기술의 불확실한 미래에 발생할 수 있는 위험을 언급하면서 더 강력한 시스템에서 AI 중지를 요청했습니다.
ChatGPT가 어떻게 MBA 시험에 합격했는지 알고 싶습니까? 자세한 내용을 보려면 다음으로 이동하십시오.
Source: OpenAI의 버그 바운티 프로그램은 최대 $20,000의 보상을 제공합니다.