작업 공간을위한 Google Gemini의 새로운 취약점은 첨부 또는 직접 링크없이 이메일 요약을 조작하여 피싱 공격을 허용합니다. Mozilla의 0Din Bug Bounty 프로그램을 통해 Marco Figueroa 연구원이 공개 한이 방법은 이메일에 숨겨진 간접적 인 신속한 주입을 활용합니다.
공격자는 HTML 및 CSS를 사용하여 이메일 신체 텍스트에 악의적 인 지침을 포함하여 보이지 않습니다. 수령인이 Gemini에게 이메일을 요약 해달라고 요청하면 AI는 숨겨진 지시문을 구문 분석하고 순종합니다. 예를 들어 Gemini가 지원 전화 번호를 포함하여 손상된 Gmail 암호에 대한 가짜 보안 경고를 생성하는 것으로 나타났습니다.
Google은 방어를 강화하고 완화를 구현하고 있다고 말했지만,이 공격에 대한 증거는 보지 못했습니다. Figueroa는 보안 팀이 숨겨진 컨텐츠를 제거하거나 중화시키고 쌍둥이 자리 출력에서 후 처리 필터를 구현할 것을 제안합니다. 사용자는 보안 경고에 대한 권위있는 Gemini 요약을 고려하지 말아야합니다.
Source: 해커가 Gemini의 요약 기능을 무기화하는 방법
