Gemini AI의 세 가지 취약점으로 인한 데이터 유출

최근 Tenable Research는 Google의 Gemini AI 어시스턴트 제품군에서 세 가지 취약점을 발견했습니다. 이 취약점들은 사용자에게 심각한 개인정보 위험을 초래했습니다. Gemini는 검색 개인화 모델에서의 검색 주입 공격, Gemini Cloud Assist에서의 로그 주입 공격, Gemini 브라우징 도구를 통한 사용자 정보 및 위치 데이터 유출에 취약했습니다.

이러한 취약점은 공격자가 JavaScript를 사용하여 피해자의 브라우저 기록을 조작하고 악성 웹사이트를 방문하게 하며, 악성 프롬프트를 Gemini에 주입하여 피해자의 데이터를 유출하는 과정을 포함합니다. 특히 Gemini의 'Show Thinking' 기능을 통해 공격 과정을 시청자에게 보여줍니다.

Gemini Cloud Assist는 GCP의 복잡한 로그를 요약하여 사용자에게 권장 사항을 제시하는 기능을 제공합니다. 그러나 이 기능이 메타데이터뿐만 아니라 원시 로그에서 직접 정보를 가져온다는 점이 주목되었습니다. 이는 공격자가 로그에 명령을 삽입하여 Gemini가 이를 실행하도록 유도할 수 있는 가능성을 제기합니다.

Google은 이러한 취약점을 해결하기 위해 상당한 노력을 기울였습니다. 특히 Gemini의 응답은 샌드박스 처리되어 이미지 마크다운, 하이퍼링크 렌더링 등 외부 서버로 사용자 데이터를 유출할 수 있는 기능이 제한됩니다. 그러나 공격자는 여전히 Gemini의 도구를 사용하여 사용자 데이터를 악성 서버로 전송하는 방법을 찾았습니다.

이러한 연구는 AI 기반 플랫폼의 보안 위험을 상기시키는 중요한 사례로, 입력 채널이 잠재적인 침투 지점이 될 수 있음을 보여줍니다.