Samsung ChatGPT 유출은 언어 모델에 대한 개인 정보 보호 문제와 관련하여 민감한 시기에 발생한 챗봇 사용으로 인한 가장 최근의 데이터 노출입니다. 가짜 ChatGPT 확장 프로그램은 Facebook 계정을 탈취합니다.
ChatGPT를 사용하여 업무를 보조하는 동안 삼성 직원은 의도치 않게 회사에 대한 민감한 정보를 유출했습니다. 이 회사는 반도체 사업부의 엔지니어에게 AI 작성자에 대한 액세스 권한을 부여하여 소스 코드 문제를 해결하는 데 도움을 주었습니다. 그러나 직원들은 새 소프트웨어의 소스 코드와 회의록, 하드웨어 정보 등 개인 정보를 입력했습니다.
Samsung ChatGPT 유출로 인해 한 달도 안 되어 직원들이 ChatGPT를 통해 중요한 정보를 유출한 사례가 3건 기록되었습니다. 삼성의 이러한 영업 비밀은 이제 본질적으로 ChatGPT를 만든 회사인 OpenAI의 손에 있습니다.
삼성 ChatGPT 유출 후 주의사항
현지 한국 언론의 주장에 따르면 삼성 직원은 오작동하는 반도체 데이터베이스의 소스 코드를 ChatGPT에 입력하고 솔루션을 찾는 데 도움을 요청했습니다. 또 다른 경우에는 작업자가 결함이 있는 장비를 수리하기 위해 비밀 코드를 누설했습니다. 보고서에 따르면 다른 직원은 챗봇에게 전체 회의에 대한 제어 권한을 부여하고 진행 상황을 기록하도록 지시했습니다.
이에 삼성반도체는 현재 스태프들이 사용할 수 있는 자체 내부 AI를 만들고 있지만, 1024바이트 이하의 프롬프트만 사용할 수 있다.
그러나 이 프로세스를 가능한 한 효과적으로 만들면 칩 회사가 프로세서를 테스트하고 검증하는 데 상당한 시간을 절약할 수 있어 비용도 절감할 수 있습니다. 앞서 언급한 사례 중 하나에서 직원이 ChatGPT에 칩의 결함을 식별하기 위한 테스트 시퀀스를 최적화하도록 요청했습니다.
너무 늦게 너무 적은
ChatGPT에 영업 비밀을 공개할 때의 문제는 입력한 질문이 직원이 컴퓨터에서 로그오프한 후에도 항상 사라지지 않는다는 것입니다. OpenAI에 따르면 ChatGPT 또는 다른 사용자 서비스에서 제공하는 정보를 사용하여 AI 모델을 향상시킬 수 있습니다. 즉, 사용자가 명시적으로 옵트아웃하지 않는 한 OpenAI는 해당 데이터를 유지합니다. “특정 프롬프트를 삭제할 수 없기” 때문에 OpenAI는 사용자에게 중요한 정보를 공개하지 않도록 명시적으로 경고합니다.
사건 이후 삼성전자는 직원들에게 개인 정보 공개의 잠재적 위험에 대해 경고했으며 해당 데이터는 현재 OpenAI 소유의 서버에 저장되어 검색할 수 없다고 말했습니다. 경쟁이 치열한 반도체 산업에서 어떤 종류의 데이터 유출도 기업에 재앙이 될 수 있습니다.
그러나 삼성 내부의 ChatGPT 사용자만 과도하게 공유하는 것은 아닙니다. 사이버 보안 회사인 Cyberhaven은 최근 연구를 수행한 결과 AI 사용자의 3.1%가 민감한 회사 정보를 입력한 적이 있음을 발견했습니다. Cyberhaven에 따르면 직원이 약 100,000명인 회사는 OpenAI 개인 정보를 매주 수백 번 보낼 수 있습니다.
이 회사는 Samsung ChatGPT 유출에 직면하여 OpenAI가 현재 보유하고 있는 개인 정보를 검색하거나 삭제하도록 요청할 법적 옵션이 없는 것으로 보입니다. 이것이 기업이 데이터를 수집하고 사용하는 방법을 안내하는 법률의 기본 원칙 중 하나이기 때문에 ChatGPT는 바로 이 점으로 인해 EU의 GDPR을 위반한다고 제안했습니다. 또한 ChatGPT가 이탈리아에서 금지된 이유에 대한 설명 중 하나이기도 합니다.
Source: 삼성 ChatGPT 유출로 기밀 데이터 노출
