메타의 최신 AI 챗봇은 도구의 기본 설정이 사용자 상호 작용을 공개적으로 방송한다는 사실을 발견 한 후 중요한 개인 정보 보호 논쟁을 불러 일으켰습니다. 이번 주 주요 뉴스 매체에 의해보고 된이 계시는 사용자의 명시 적 동의없이 의료 질문에서 법적 문제에 이르기까지 광범위한 민감한 정보를 폭로했습니다.
2025 년 초에 시작된 AI 챗봇은 개인이 개인 정보 설정을 적극적으로 조정하지 않는 한 모든 사용자 상호 작용을 “공개”로 자동 설정합니다. 이 디자인 선택으로 인해 노인 개인과 어린이를 포함한 수많은 사용자가 독자적으로 개인적이고 민감한 정보를 광범위한 청중과 공유했습니다. 예를 들어 생식기 부상에 대해 묻는 사용자, 성 전환에 대한 지침을 구하는 젊은이, 그리고 형벌 선고를 줄이기 위해 당국과 협력하는 것과 같은 법적 문제에 대한 지원을 요청하는 개인이 있습니다.
이 공개 게시물에는 종종 사용자 이름과 프로필 사진이 포함되어 있으며 쿼리를 사용자의 소셜 미디어 계정에 직접 연결합니다. 이것은 개인 의료 불안과 법적 문제를 영구적이고 공개적으로 접근 가능한 기록으로 전환합니다.
메타에는 팝업 경고가 포함되어 있습니다. 그러나 비평가들은이 경고가 충분하지 않다고 주장한다. 많은 사용자들이 AI 챗봇 상호 작용이 소셜 미디어와 같은 피드에 나타날 것으로 기대하지 않을 수도 있다는 점을 감안할 때 공개 피드에 게시하고 있다는 것을 이해하지 못했습니다. 이 기능을 발표 한 메타의 보도 자료는“디스커버리 피드, 다른 사람들이 AI를 사용하는 방법을 공유하고 탐색 할 수있는 장소”에 대해 설명했습니다.
이 사건은 AI 개인 정보 보호와 이러한 도구가 민감한 사용자 데이터를 노출시킬 수있는 가능성에 대한 광범위한 논쟁을 불러 일으켰습니다. EFF (Electronic Frontier Foundation)는 AI 챗봇이“모델 유출”을 통해 실수로 개인 정보를 공개 할 수 있다고 경고합니다. 이는 AI 모델이 교육 및 운영을 통해 교육을받은 데이터 또는 상호 작용 한 개인에 대한 정보를 실수로 공개 할 수있는 위험을 나타냅니다.
메타 사건 외에도 AI 개인 정보에 대한 우려가 널리 퍼져 있습니다. 2024 National Cybersecurity Alliance 설문 조사에 따르면 직원의 38%가 고용주의 허가없이 AI 도구와 민감한 업무 정보를 공유하는 것으로 나타났습니다. 이는 AI 챗봇의 사용을 통해 기업 비밀 및 기밀 데이터가 손상 될 수있는 잠재력을 강조합니다.
데이터 보호 당국은 또한 AI 개인 정보 보호의 영향과 함께 파악하고 있습니다. 예를 들어, 네덜란드 데이터 보호 당국은 직원들이 환자 의료 데이터 및 고객 주소를 AI 챗봇에 입력 한 회사로부터 여러 차례의 위반 알림을 받았습니다. 이러한 사건은 개인 정보 보호 규정을 위반하고 민감한 개인 정보를 노출시키는 위험을 강조합니다.
더 나은 개인 정보 보호를 제공한다고 주장하는 AI 서비스조차도 우려에 영향을받지 않습니다. Anthropic의 Claude는 더 강력한 기본 보호를 주장하지만 Chatgpt는 데이터가 교육에 사용되지 않도록 유료 구독이 필요합니다. 그러나 이러한 정책은 언제든지 변경 될 수있어 기업이 수년간의 저장된 대화에 소급 적으로 액세스 할 수 있습니다. 이로 인해 사용자는 이익 중심 기업의 신뢰성에 의존하여 다양한 사용자 데이터를 수익을 창출하는 유혹에 저항합니다.
최근의 데이터 유출은 AI 시스템의 취약성을 더욱 강조했습니다. OpenAI는 내부 토론을 노출시키는 데이터 위반을 경험했으며, 백만 명이 넘는 심해 채팅 기록이 무담보 데이터베이스에 노출되었습니다. 이러한 사건은 AI 시스템 내에 저장된 민감한 정보가 보안 취약점을 통해 손상 될 가능성을 보여줍니다.
MIT 기술 검토에 따르면 AI 도구가 일상 생활에 점점 더 통합되면서 보안 및 개인 정보 보호를 향해 향하고 있다고 경고했습니다. 수백만 명의 사용자가 AI 챗봇과 의학적 불안, 업무 비밀 및 개인적인 도전을 공유하여 노출, 판매 또는 소환 될 수있는 영구 기록을 만들고 있습니다. 메타 사건은 많은 사람들이 AI 회사들 사이에서 공통된 관행이라고 믿는 것을 밝혀 냈습니다. 사용자는 이익을 위해 친밀한 대화를 수확하는 반면 사용자는 모든 위험을 감수합니다.
GDPR 위반으로 인해 AI 회사에 대한 강화는 2 천만 유로에서 4%까지 상당한 벌금을 부과 할 수 있습니다. 또한, 현재 GDPR 및 CCPA 문서는 AI 교육 데이터 또는 모델 출력에서 개인 정보가 어떻게 처리되는지 적절하게 다루지 않습니다.
Meta Chatbot 사건은 오늘날 AI 챗봇과 공유되는 모든 정보가 향후 노출에 취약하다는 것을 상기시켜줍니다. 이는 기업 정책 변경, 보안 위반 또는 법적 요구를 통해 발생할 수 있습니다. Meta의 공공 사료 재해는 눈에 띄는 예이지만 AI 회사의 광범위한 문제를 강조하고 잠재적으로 민감한 사용자 데이터를 오용합니다. 최소한 메타 사용자는 당황스러운 질문을 공개적으로보고 삭제하려고 시도 할 수 있습니다. 우리 중 나머지는 대화에서 무슨 일이 일어나고 있는지 전혀 모릅니다.
