Databricks Genie曝Skill攻击链:四道安全控制全失效

流云 2026-10-05 2938 0条评论
摘要: AI安全公司PromptArmor公开了一条针对Databricks Genie Code的攻击链:一个带恶意代码的Skill,能在用户毫无察觉的情况下把租户数据发到攻击者服务器,...

AI安全公司PromptArmor公开了一条针对Databricks Genie Code的攻击链:一个带恶意代码的Skill,能在用户毫无察觉的情况下把租户数据发到攻击者服务器,顺手在聊天界面弹出一个钓鱼登录框。PromptArmor列出的四类官方安全控制,在这条链上一道都没拦住。

Genie Code是Databricks内置的智能体助手,用户用自然语言让它查表、跑分析、画图,结果直接渲染在网页聊天窗口里。Skill则是一种可以上传给智能体的能力包,里面有说明文字,也可以带可执行代码。

攻击怎么走

PromptArmor演示的流程只有四步。用户上传一个看上去正常的数据分析Skill,让Genie用它分析某个数据集;Genie执行Skill里的代码,负责把关的护栏代理没有识别出恶意功能;Genie随后提示用户“打开完整分析结果”;结果一渲染,钓鱼弹窗出现,数据同时被发走。外泄手法很朴素:Skill代码先读到租户里的敏感数据,把它塞进一段要在聊天里显示的HTML;HTML里的JavaScript在用户浏览器里发起网络请求,把数据送到攻击者服务器。钓鱼框也是同一段HTML渲染出来的,叠在Genie页面上,诱导用户输入账号密码。整个过程没有任何一步需要人工审批。

四道控制为什么都没用

PromptArmor把Databricks文档里提到的四类控制逐一对了一遍:组织级Skill治理——Genie会从用户个人工作区加载Skill,不只认组织统一管理的目录,管理员管不到用户自己传的那份;护栏代理——Databricks自己把它定位为“尽力而为的效率功能”,不承诺当安全边界用;代码环境出口控制——限制的是代码运行环境的出站流量,数据是从用户浏览器发出去的,这层规则看不见;聊天显示沙箱——Skill用已经拿到手的数据来拼显示内容,不需要在显示环节再查一次租户。四条各有各的道理,拼在一起就留出了一条缝。PromptArmor在8月16日向Databricks报告了问题,双方协调一个月,9月16日PromptArmor通知对方准备公开。

Databricks在回复里态度明确:“确保上传的Skill不含恶意内容,最终是用户的责任。”关于可以跳过逐次确认的自动批准功能,Databricks也说它“不打算作为安全边界”,文档里写的是不建议用于生产环境。

同一类缝,别家也有

把PromptArmor过去一年公开的几份报告放在一起看,攻击面高度相似。它此前披露过Claude Cowork外泄文件、Google Antigravity外泄数据,路数都是让智能体读到敏感内容,再借渲染、链接或网络调用把内容带出去。区别在入口:前几起多靠提示词注入,这次Genie换成了Skill这种“装上就能跑代码”的插件。对企业来说,Skill比一段注入文本更难防。注入文本至少要藏在网页或文档里等智能体读到,Skill是用户主动装进来的,天然带着信任。

国内不少团队也在给数据平台接智能体、开放插件市场,这起事件给出的检查清单很具体:Skill是否只能从管理员审核过的目录加载,智能体输出的HTML能不能执行脚本、能不能向外部域名发请求,自动批准开关在生产环境是否默认关闭。三条里只要有一条没卡住,PromptArmor演示的链路就有机会复现。在AI工具导航的选型逻辑中,这意味着评估智能体平台时,插件治理与出站管控正在成为与能力同等重要的指标;对于关注AI办公软件推荐的团队,Skill市场是否经过审核、自动批准是否默认关闭,应当纳入采购前的安全尽调。

PromptArmor给出的建议也落在这几点上:生产数据别开自动批准,留意Skill市场里被投毒的包。Databricks是否会在产品层面补一道出站过滤,目前没有公开说明。


文章版权及转载声明:

作者:流云本文地址:https://sanwenge.com/post/1475.html发布于 2026-10-05
文章转载或复制请以超链接形式并注明出处三文阁