Meta에서 최근 148 억 달러의 투자에 걸쳐 그림자를 던지는 멋진 계시에서 인공 지능 스타트 업 척도 AI는 Meta, Google 및 XAI를 포함한 유명한 고객의 고도로 기밀 정보를 저장하기 위해 공개 Google 문서를 활용하여 노출되었습니다. 이 뉴스는 Meta가 Scale AI의 49% 지분을 인수하고 CEO 인 Alexandr Wang을 임명하기로 합의한 지 몇 주 만에 Meta 내에서 새로운 “Superintelligence”실험실을 주도하겠다는 합의를 발표 한 지 몇 주 후에 표면을 표면했습니다.
보고 된 보안 랩스는 특히“충격적으로 가파른 가격표”메타를 감안할 때 상당한 우려를 제기했으며, 이는 Wang에 대한 소셜 미디어 대기업의 신뢰와 AI 부서의 발전에 대한 AI의 중추적 인 역할을 규모로 지적했습니다. 그러나 Business Insider의 보고서에 따르면 Scale AI는 “믿을 수 없을 정도로 Janky”보안 시스템을 유지했으며, 직접 링크를 보유한 사람이 액세스 할 수있는 Google DOCS에 노출 된 최고 비밀 프로젝트, 민감한 클라이언트 데이터, 이메일 주소 및 직원 지불 세부 정보를 남겨 두었습니다.
스케일 AI의 대변인은 혐의에 응답하여“우리는 철저한 조사를 수행하고 있으며 스케일 관리 시스템에서 문서를 공개적으로 공유 할 수있는 사용자의 능력을 비활성화했습니다.”라고 말했습니다. 대변인은“기밀 정보를 보호하기위한 강력한 기술 및 정책 보호 수단에 대한 회사의 약속을 강조하고 항상 우리의 관행을 강화하기 위해 노력하고있다”고 강조했다. 현재 공개적으로 액세스 할 수있는 파일이 데이터 위반으로 이어졌다는 표시는 없지만 사이버 보안 전문가들은 그러한 취약점이 회사가 향후 해킹에 매우 취약하게 할 수 있다고 경고합니다.
Google과 Xai는 즉시 보고서에 관한 의견 요청에 응답하지 않았으며 Meta는이 문제에 대한 의견을 거부했습니다. 이 관행의 광범위한 특성은 Business Insider와 대화 한 5 개의 현재 및 이전 스케일 AI 계약자에 의해 확증되었습니다. 한 계약자는 전체 Google Docs 시스템을 회사 내에서 엄격한 보안 프로토콜의 부족을 강조하면서 전체 Google Docs 시스템을 “엄청나게 Janky”라고 설명했습니다.
Business Insider의 조사에 따르면 85 개의 Google Docs에 수천 페이지의 프로젝트 문서가 전파되어 주요 기술 고객과의 Scale AI의 민감한 작업을 자세히 설명했습니다. 노출 된 정보 중에는 기밀 Google 매뉴얼이 있었는데, 그 중 7 개 이상은 Bard로 알려진 Google의 챗봇 개선을 목표로하는 권장 사항을 포함하여 “기밀”으로 표시되었습니다. 챗봇을 미세 조정하기위한 전략을 요약 한 이러한 중요한 문서는 실수로 대중에게 액세스 할 수 있었으며 Google의 내부 개발 프로세스와 OpenAi의 ChatGpt와 경쟁하려는 노력을 엿볼 수있었습니다.
또한 공개 Google DOC 파일에는 Elon Musk의 야심 찬 “Project Xylophone”에 대한 자세한 정보가 포함되어 있습니다. 여기에는 AI 챗봇의 대화 기술을 향상시키기 위해 설계된 약 700 개의 대화 프롬프트가 포함 된 교육 문서가 포함되었습니다. 마찬가지로, 메타의 자체 AI 제품을 훈련시키는 데 중요한 “좋은”및 “나쁜”연설 프롬프트의 오디오 클립이 포함 된 “기밀”메타 교육 문서도 공개적으로 제공되는 것으로 밝혀졌습니다.
비밀 프로젝트가 코드 이름을 할당하더라도 여러 규모의 AI 계약자는 종종 실제 클라이언트를 식별하는 것이 간단하다는 것을 밝혀 냈습니다. 어떤 경우에는 이러한 코드 명 프로젝트와 관련된 문서에는 실수로 Google 로고를 표시 한 프레젠테이션과 같은 클라이언트 회사 로고가 잘못 포함되었습니다. 보안 문제에 추가하여 계약자는 특정 경우 AI 제품과 상호 작용할 때 챗봇 자체가 직접 프롬프트 할 때 고객의 신원을 드러 낼 것이라고 언급했습니다.
이 계시는 프로젝트 세부 사항을 넘어 매우 민감한 직원 정보로 확장되었습니다. 공개적으로 액세스 가능한 Google Doc 스프레드 시트에는 수천 명의 직원의 이름과 개인 이메일 주소가 포함 된 것으로 밝혀졌습니다. 특히 “Good and Bad Folks”라는 제목의 특히 놀라운 스프레드 시트 중 하나는 수십 명의 노동자를 “고품질”또는 “속임수”로 분류했습니다. 또 다른 문서는 개인에게“의심스러운 행동”에 대한 개인을 표시하여 AI의 내부 성과 추적 및 윤리적 관행에 대한 질문을 제기했습니다.
또한 공개 문서는 임금 분쟁 및 불일치에 대한 광범위한 메모와 함께 개별 계약자 급여 요금에 대해 자세히 설명합니다. 민감한 재무 및 성과 데이터의 이러한 노출은 보안 경과의 심각성을 더욱 악화시켜 수많은 계약자의 개인 정보 및 생계에 영향을 줄 수 있습니다.
이 사건은 빠르게 진화하는 인공 지능 부문 내에서 강력한 데이터 보안 관행에 대한 중요한 요구를 강조합니다. 특히 Scale AI와 같은 회사가 주요 기술 거인을위한 방대한 양의 독점 및 기밀 정보를 처리함에 따라. 이 “믿을 수 없을 정도로 멍청한”보안 시스템의 낙진은 메타의 AI 야망에 더 깊이 통합 되더라도 Scale AI의 명성과 미래 파트너십에 중대한 영향을 미칠 수 있습니다.
