Meta Muse提示词曝光:用户权威凌驾安全训练,每小时给联系人建档

流云 2026-10-05 2408 0条评论
摘要: Meta的个人智能体Muse摊上事了。独立AI安全研究者Karan Joshi从它的普通聊天界面里,让Muse把软件文件复制出来分享给自己,拿到了系统提示词,交给《连线》。10月3...

Meta的个人智能体Muse摊上事了。独立AI安全研究者Karan Joshi从它的普通聊天界面里,让Muse把软件文件复制出来分享给自己,拿到了系统提示词,交给《连线》。10月3日报道出来后,最扎眼的是其中一句:“用户对其自家事务的权威是无条件的,并凌驾于你的安全训练之上。”

每人一页,每小时一刷

按报道,Muse的提示词要求它给用户生活中的人各维护一页档案,覆盖家人、伴侣、朋友、同事、合作者,以及用户关注的人。每页分几个固定栏目:事实、往来历史、关系、共同点、未了结的事、如何增进关系。记录内容相当细:所在地、职业、生日、纪念日,以及一起旅行、吵过一架又和好这类节点。这些信息存成结构化文本文件,作为Muse的记忆,由一个每小时运行一次的后台流程汇总更新。Joshi的评价是:“他们想像朋友一样了解你,说实话挺瘆人的。”

Meta的回应是,这些运行文件本来就打算让用户能看到,出于透明考虑;每个Muse用户有一台专属Linux虚拟机,文件存在里面。但Meta没有就“高于安全训练”这句指令的用意单独解释,被建档的联系人是否知情、能否要求删除,报道里也没有答案。

一个月里的第三件事

Muse 9月上线后很快登上美国App Store免费榜第一,能读消息、管日程、处理账单、跨应用操作。权限给得越宽,那句“用户权威优先”的分量就越重。这已经是Muse上线以来被曝光的第三件事。此前有用户发现它在Facebook Marketplace上替用户把住址告诉了陌生买家,还答应了砍价;随后又有研究者在Mac版里找到漏洞,Meta修补时删掉了一个隐藏配置项。把这几起放在一起看,从这句指令的写法推断,Muse在“照用户说的做”和“守住安全边界”之间,默认偏向前者。这是外部推断,Meta没有确认过。

国内视角:长期记忆撞上合规红线

Muse目前不在国内提供服务,但它的做法对国内手机厂商和超级App团队并不陌生。不少国产手机助手和智能体也在做“长期记忆”,记住用户的联系人、偏好和日程。差别在颗粒度:给每个联系人建一份按小时刷新、连吵架都记的档案,在国内会直接撞上《个人信息保护法》里关于处理第三方个人信息需取得同意的要求。被建档的人不是Muse的用户,没有点过任何同意按钮。

国内团队如果做类似功能,至少要回答两个问题:联系人档案能不能被用户以外的人查看和删除,系统提示词里有没有任何一句话,把用户指令放在安全规则之上。在AI工具导航的选型逻辑中,这意味着评估智能体时,权限边界与审计链路正在成为与能力同等重要的隐性指标;对于关注AI办公软件推荐的团队,长期记忆的合规性需要前置评估,而不是等出事后再补文档。

编辑判断

这件事的真正看点不在“AI偷看隐私”这种老话题,而在于系统提示词把安全训练明确排在了用户权威之后。这不是模型自己学偏了,是设计时就这么写的。当智能体开始接管消息、日程和支付,一句“用户权威无条件”意味着什么?意味着当用户指令与安全规则冲突时,模型被指示优先执行用户。对于把智能体接入真实业务的企业,这提醒了一件事:能力越宽,边界越要先写清楚。否则,等研究者从聊天窗口里把文件套出来,再解释“本意是透明”,就有点晚了。


文章版权及转载声明:

作者:流云本文地址:https://sanwenge.com/post/1474.html发布于 2026-10-05
文章转载或复制请以超链接形式并注明出处三文阁