星空xk·(中国)体育-谷歌Gemini曝安全漏洞：缩放图片竟成数据窃取通道

2025-09-04

【星空xk·(中国)体育科技消息】星空xk·(中国)体育从外媒获悉，安全研究人员开发出一种新型攻击技术——通过篡改图片窃取用户敏感数据。该技术利用普遍集成的AI模型漏洞，由安全公司Trail of Bits的Kikimora Morozova和Suha Sabi Hussain提出，基于2020年布伦瑞克工业大学提出的"图像缩放攻击"概念。

谷歌Gemini曝安全漏洞：缩放图片竟成数据窃取通道

该技术的核心原理在于AI系统为节省算力会自动缩小上传的图片，采用"最近邻插值"双线性"或"双三次"等重采样算法。这导致原始图中隐藏的特定图案在缩小后显现——人眼难以察觉，但语言模型可读取。实验中，研究人员通过暗色区域变红显现隐藏文本，诱使AI将其识别为合法指令。

攻击发生时用户毫无察觉，但系统后台可执行恶意命令。测试中，攻击者成功利用"Gemini CLI"工具将谷歌账户日历数据转发至第三方邮箱。

谷歌Gemini

据悉，受影响平台包括谷歌Gemini系列（CLI/网页/API/Vertex AI Studio）、安卓版Google Assistant及Genspark服务。为演示风险，研究人员开源了工具"Anamorpher"，可生成针对不同缩放算法的攻击图片。

那么，有哪些防御建议呢？限制上传图片尺寸、向用户展示缩放预览图、禁止自动执行安全敏感操作（尤其是图片文本提取）。研究人员强调，根本解决方案在于构建抗提示词注入攻击的鲁棒系统架构。

-星空xk·(中国)体育

热门资讯

企业数字化智能体：打造企业数智化AI底座

2024-04-02

TitanIDE（社区版）重磅免费开放使用！

2023-09-26

CloudOS：落地平台工程，实现真正的DevOps

2023-08-16

热门标签

企业数字化智能体 Agent AI 智能体企业智能体数智化AI底座 TitanIDE（社区版）免费在线代码编辑器 CloudIDE免费 TitanIDE免费云端IDE 平台工程 DevOps CloudOS 云原生开发平台落地平台工程云原生物联网开发平台云原生物联网物联网容器云 cloudos 微服务容器编排边端交付 TITANIDE 在线IDE 云原生开发远程研发 IDE TitanIDE 云端开发环境模板 K8s 不懂K8s也能用K8s