보안 회사 PromptArmor의 최근 보고서는 Slack AI에 심각한 문제가 있음을 밝혔습니다. Slack AI는 사용자가 Slack에서 대화 요약 및 정보 찾기와 같은 작업을 하는 데 도움이 되는 도구입니다. 문제는 Slack AI에 Slack 채널에서 개인 데이터를 유출할 수 있는 보안 결함이 있다는 것입니다.
문제가 뭐죠?
Slack AI는 Slack의 데이터를 사용하여 채팅을 요약하고 질문에 답함으로써 작업을 더 쉽게 만들기 위한 것입니다. 그러나 PromptArmor는 AI가 프롬프트 주입이라는 것에 취약하다는 것을 발견했습니다. 즉, 공격자는 AI를 속여서는 안 될 정보를 제공하도록 할 수 있습니다.
즉시 주사는 어떻게 작동하나요?
프롬프트 주입은 AI의 행동을 조작하는 데 사용되는 방법입니다. 작동 방식은 다음과 같습니다.
- 악의적인 프롬프트: 공격자는 AI를 속이는 프롬프트(명령의 일종)를 만듭니다.
- 데이터 접근: 이러한 프롬프트를 통해 AI는 개인 채널을 포함하여 공격자가 접근해서는 안 되는 채널에서 데이터를 가져올 수 있습니다.
공격은 공격자가 API 키와 같은 민감한 정보를 개인 Slack 채널에 넣으면 시작됩니다. 이 채널은 보안이 유지되어야 하며 공격자만 접근할 수 있습니다. 하지만 Slack AI의 취약점으로 인해 나중에 이 데이터에 접근할 수 있습니다.
공격자는 그런 다음 공개 Slack 채널을 만듭니다. 이 채널은 작업 공간의 모든 사람에게 공개되지만 공격자는 이를 사용하여 해로운 프롬프트를 포함합니다. 이 프롬프트는 Slack AI가 개인 정보에 액세스하는 것과 같이 해서는 안 될 일을 하도록 속이도록 설계되었습니다.
공개 채널의 유해한 프롬프트는 Slack AI가 클릭 가능한 링크를 생성하게 합니다. 이 링크는 Slack 메시지의 일반적인 부분처럼 보이지만 실제로는 공격자가 제어하는 서버로 연결됩니다. 누군가가 링크를 클릭하면 API 키와 같은 민감한 정보가 공격자의 서버로 전송되어 도난당하고 악의적으로 사용될 수 있습니다.
최근 업데이트로 인한 새로운 위험
8월 14일, Slack은 Slack AI의 응답에 채널과 다이렉트 메시지의 파일을 포함하는 업데이트를 했습니다. 이 새로운 기능은 추가적인 위험을 초래합니다. 숨겨진 악성 지침이 있는 파일이 Slack에 업로드되면 동일한 취약성을 악용하는 데 사용될 수 있습니다.
무슨 일이 이루어지고 있나요?
PromptArmor는 이 문제에 대해 Slack에 알렸습니다. Slack은 패치를 릴리스하고 조사를 시작하여 대응했습니다. 그들은 현재 고객 데이터에 대한 무단 액세스가 있는지 알지 못한다고 말했습니다.
자신을 보호하는 방법?
- AI 액세스 제한: 작업 공간 관리자는 문제가 해결될 때까지 Slack AI의 파일 액세스를 제한해야 합니다.
- 파일을 조심하세요: 숨겨진 지침이 담겨 있을 수 있는 의심스러운 파일은 업로드하지 마세요.
- 최신 소식을 받아보세요: 추가적인 보안 수정 사항이나 조언이 있으면 Slack과 PromptArmor에서 업데이트를 확인하세요.
Slack AI는 유용한 기능을 제공하지만, 이 취약점은 AI 도구에 강력한 보안이 필요하다는 것을 보여줍니다. 사용자와 관리자 모두 민감한 정보를 잠재적 위협으로부터 보호하는 데 주의해야 합니다.
Slack 작업 공간 보안에 대한 자세한 내용은 Slack 공식 지원 페이지를 방문하거나 보안 팀에 문의하세요.
