OpenAI는 ChatGPT 데이터 유출이 코드의 약점으로 인해 발생했다고 밝혔습니다. 오픈 소스 챗봇의 프레임워크는 최소한의 결과로 신속하고 겉보기에 수정되었지만 이 사건은 미래에 대한 위협의 전조일 수 있습니다. 챗봇 사용자 및 OpenAI 애플리케이션에서 향후 데이터 유출을 방지하기 위해 예방 조치를 취하고 있습니다.
ChatGPT와 다른 챗봇이 초기에 공개적으로 사용 가능, 사이버 보안 커뮤니티는 AI 기술이 사이버 공격을 수행하는 데 어떻게 악용될 수 있는지에 대해 우려했습니다. 위협 행위자가 안전 확인을 우회하고 활용하는 방법을 찾는 데 오래 걸리지 않았습니다. 채팅GPT 악성 코드를 작성합니다.
판세가 뒤집힌 것 같습니다. 사이버 재해를 유발하기 위해 ChatGPT를 사용하는 대신 공격자는 이제 기술 자체를 활성화했습니다. 에 따르면 보안 주간, 챗봇을 만든 회사인 OpenAI는 코드의 오픈 소스 프레임워크의 약점으로 인해 시스템에서 ChatGPT 데이터 유출이 발생했다고 밝혔습니다. ChatGPT 데이터 유출로 인해 수리가 가능할 때까지 서비스가 오프라인 상태가 되었습니다.
ChatGPT의 인기는 늦은 시간에 출시된 순간부터 확실했습니다. 2022년. 저자부터 소프트웨어 전문가까지 모두가 챗봇을 가지고 놀고 싶어했습니다. 결함에도 불구하고(일부 산문이 투박하거나 표절됨) ChatGPT는 빠르게 역사상 가장 빠르게 성장하는 소비자 앱이 되었습니다. 월 1억사용자 ~에 의해 1월. 출시된 지 약 한 달 만에 13 백만 명이 매일 AI 기술을 사용했습니다. 비교해 보면, Tik의 톡매우 인기 있는 또 다른 앱인 은 비슷한 사용자 수를 확보하는 데 9개월이 걸렸습니다.
ChatGPT 데이터 유출
인기 있는 앱이나 기술이 위협 행위자의 표적이 되는 것은 시간 문제입니다. ChatGPT 데이터 유출 사례에서 익스플로잇은 오픈 소스의 결함을 통해 가능했습니다. 레디스 도서관. 사용자는 이제 다른 현재 사용자의 대화 기록을 볼 수 있습니다.
에 따르면 무거운.일체 포함오픈 소스 라이브러리는 “클래스, 구성 데이터, 문서, 도움말 데이터, 메시지 템플릿, 미리 작성된 코드 및 서브루틴, 유형 사양 및 값과 같이 쉽게 액세스할 수 있고 자주 사용하는 루틴 및 리소스를 저장하여 동적 인터페이스를 개발하는 데 사용됩니다. .”
Redis는 OpenAI에서 빠른 회수 및 액세스를 위해 사용자 정보를 저장하는 데 사용됩니다. 수천 명의 기여자가 오픈 소스 코드를 만들고 사용하기 때문에 취약점이 쉽게 나타나서 알아차리지 못할 수 있습니다. 위협 행위자들이 이를 알고 있기 때문에 오픈 소스 라이브러리에 대한 공격이 2019년 이후 742%.
더챗GPT 취약점은 더 큰 체계에서 작았으며 OpenAI는 발견 후 며칠 내에 결함을 수정했습니다. 그러나 사소한 사이버 사고라도 심각한 피해를 초래할 수 있습니다.
그러나 그것은 사소한 사건에 불과했습니다. ChatGPT 데이터 침해 연구원들은 더 깊이 파고들어 ChatGPT가 오프라인 상태가 되기 몇 시간 동안 동일한 취약점이 결제 정보의 가시성을 비난할 가능성이 높다는 사실을 발견했습니다.
“일부 사용자는 다른 활성 사용자의 이름과 성, 이메일 주소, 지불 주소, 신용 카드 번호의 마지막 4자리(전용) 및 신용 카드 만료일을 볼 수 있습니다.” OpenAI는 이번 사건에 대한 성명에서 “신용카드 번호 전체가 노출된 적은 없다”고 밝혔다.
챗봇, AI, 사이버 보안 및 ChatGPT 데이터 유출
ChatGPT 데이터 유출은 겉보기에 최소한의 결과로 신속하게 수정되었으며, 영향을 받은 유료 고객의 수는 1% 사용자의. 그러나 이 사건은 챗봇과 사용자에 대한 미래의 위협을 예고하는 것일 수 있습니다.
챗봇 사용과 관련하여 이미 개인 정보 보호 문제가 있습니다. 마크 맥크리리 공동회장 여우로스차일드LLP의 개인 정보 보호 및 데이터 보안 관행 CNN ChatGPT와 챗봇은 여객기의 블랙박스와 유사합니다. AI 기술은 방대한 양의 데이터를 축적한 다음 그 데이터를 활용하여 쿼리 및 프롬프트에 대한 답변을 생성합니다. 또한 챗봇의 메모리에 있는 모든 내용을 다른 사용자가 사용할 수 있습니다.
예를 들어 챗봇은 모든 주제에 대한 단일 사용자의 메모를 캡처한 다음 추가 세부 정보를 요약하거나 검색할 수 있습니다. 그러나 해당 메모에 조직의 지적 재산 또는 민감한 고객 정보와 같은 민감한 데이터가 포함되어 있는 경우 메모에 추가됩니다. 챗봇 도서관. 사용자는 정보에 대한 통제력을 상실했습니다.
AI 제한이 강화되고 있습니다.
일부 기업과 국가 전체에서 개인 정보 보호 문제를 단속하고 있습니다. JP모건뒤쫓다다예를 들어, 타사 소프트웨어 및 앱에 대한 회사의 제한으로 인해 직원의 ChatGPT 사용을 제한했지만 챗봇에 입력된 금융 정보의 보안에 대한 우려도 있습니다. 그리고 이탈리아는 전국적으로 프로그램을 일시적으로 차단한 이유로 시민 데이터 보호를 꼽았습니다. 관계자들은 우려가 GDPR 규정 준수.
위협 행위자는 또한 ChatGPT를 사용하여 정교하고 현실적인 피싱이메일에 따르면 전문가. 서투른 언어와 이상한 구문 구성은 더 이상 피싱 계획의 지표가 아닙니다. 챗봇은 이제 맞춤형 메시지를 전송하여 자연스러운 화자를 에뮬레이션합니다. ChatGPT는 완벽한 언어 번역이 가능하여 다른 나라의 적들에게 게임 체인저가 될 것입니다.
잘못된 정보와 음모 캠페인을 생성하기 위해 AI를 사용하는 것도 마찬가지로 해로운 기술입니다. 이 관행의 결과는 사이버 위험 이상으로 확장될 수 있습니다. 활용한 연구원 채팅GPT 에서 본 모든 것과 유사한 논평을 만들기 위해 InfoWars 또는 음모론을 조장하는 기타 잘 알려진 웹사이트.
위협은 OpenAI에 의해 해결되고 있습니다.
Chatbot 데이터 침해 개발은 더 복잡한 언어 능력이나 인기를 통해 새로운 사이버 위험을 가져올 것입니다. 결과적으로 이 기술은 공격 벡터의 주요 대상입니다. 이를 위해 OpenAI는 애플리케이션에서 향후 데이터 위반을 방지하기 위해 예방 조치를 취하고 있습니다. 최대 버그 바운티를 지급합니다. $20,000 이전에 알려지지 않은 취약점을 발견한 모든 사람에게.
그러나 에 따르면 해커 뉴스, “이 프로그램은 모델 안전 또는 환각 문제를 다루지 않으며 여기서 챗봇은 악성 코드 또는 기타 잘못된 출력을 생성하라는 메시지를 표시합니다.” 따라서 OpenAI는 챗봇이 사이버 공격의 원천이 되는 것을 방지하기 위해 거의 노력하지 않으면서 외부 공격에 대한 기술을 강화하고자 하는 것으로 보입니다.
ChatGPT 및 기타 챗봇은 사이버 보안 영역에서 핵심 행위자가 될 것입니다. 기술이 공격의 대상이 될지 아니면 생성자가 될지는 시간이 지나야 알 수 있습니다.
데이터 유출 및 사이버 공격은 오늘날 가장 심각한 문제 중 하나입니다. 동의하지 않습니까? 다음을 살펴보십시오.
- T-Mobile 데이터 유출: 3,700만 계정이 영향을 받음
- 트위터 데이터 유출: 4억 명의 사용자가 영향을 받음
