AI脉搏

Meta 的 Muse 被曝串会话:AI 智能体最危险的不是能力,是边界

AI 资讯 2 分钟阅读

一份报告称,Meta 的 AI 智能体 Muse 正在混串不同用户的会话,可能泄露私人数据。员工描述的场景包括:看到自己从未发出的育儿请求、从未咨询过的职业建议,以及不属于自己的银行账户余额。

具体发生了什么

据 TechCrunch 报道,Muse 出现会话混淆(session mix-up):本应属于其他用户的对话内容,被推送给了当前用户。员工转述的案例里,既有育儿安排、职业建议这类私密对话,也有账户余额这类敏感信息。

为什么这类错误特别棘手

生成式模型的错误是“说错话”,可以撤回、可以道歉。而智能体一旦跨会话串数据,错误就已经发生在权限层:它把不该看到的信息,交给了不该看到的人。这类问题无法靠改进提示词解决,只能靠会话隔离、身份绑定与最小权限设计。

智能体的架构难题

为了“记住上下文”,智能体需要长期记忆;为了“跨应用操作”,它需要更大的权限范围。这两个目标与隐私隔离天然冲突。行业目前的常见做法是把记忆切分成多个作用域并按用户隔离,但一旦实现上出现共享缓存或索引复用,隔离就会被穿透。

对产品节奏的影响

Meta 正在把 Muse 推上消费硬件,并计划用一个小型带屏设备承载它。隐私事故在这个阶段出现,代价不只是公关——它会直接影响设备能不能在欧盟这类强监管市场上线,也会影响用户是否愿意把真实对话交给它。

一条行业教训

过去两年,AI 产品的竞争指标是能力和速度。Muse 这件事提醒所有做智能体的团队:当产品从“帮你写”变成“替你做”,工程重点必须从模型效果转向数据边界。边界做不好,能力越强,风险越大。

来源: TechCrunch

相关阅读