内 部 聊 天 显 示 , Muse 侵 犯 隐 私 让 Meta 员 工 感 到 惊 恐

媒体报道 Ars Technica AI 原文语言:英文

在 Meta 的 Muse AI 代 理 的 一 些 早 期 用 户 埋 怨 其 偷 窥 私 信 并 有 诡 异 行 为 后 … …

全文

“Not my conversation”

Muse 隐私侵扰让 Meta 员工感到恐慌,内部聊天记录显示

不稳定的 Muse 输出分享随机的银行、比特币余额并不真实,Meta 表示。

Ashley Belanger – 2026年11月18日 下午2:19 | 74

图片来源:Smith Collection/Gado / 贡献者 | 档案照片

图片来源:Smith Collection/Gado / 贡献者 | 档案照片

正文

尺寸 宽度 * 链接

* 仅限订阅者

了解更多

在今年秋季早期,一些使用 Meta Muse AI 代理的用户抱怨其窃听私人信息并表现不可预测后,路透社曝光了内部聊天,显示 Meta 员工也提出了同样的警报。

在测试该代理时,员工警告称 Muse 似乎在访问用户未预期的加密私人信息,可能混淆用户之间的对话,甚至可能泄露用户绝不会预料到的敏感信息。

一些意外的 Muse 输出回应了员工从未提出的问题。

“嗯,”一位 Meta 员工在 Muse 未经请求发送“洗钱”定义的实例中写道。“收到 Muse 的随机提示,完全不是我想要的……”

在至少一个案例中,Muse 向一名员工提供了一个与上下文不符的提议,建议给卖家发送关于咖啡桌的消息,称它“提取了一些关于咖啡桌取货的上下文,但似乎不是你的”。

据路透社报道,该员工标记了这一令人不安的输出,写道:“这不是‘我的对话’”,并“表达了对‘可能的跨账户上下文泄漏’的担忧”。

最令人担忧的是随机输出似乎分享了私人用户数据。例如,一名对钓鱼感兴趣的 Meta 员工与 Muse 聊天时,收到了一条随机额外回复,似乎分享了两个未知银行账户的余额。该输出称:“顺便说一下,两笔银行更新,你的 Capital One 余额是 $2722.58,你的 Charles Schwab 余额是 $5899.57”。

至少有一名员工表示在测试 Muse 时亏损了金钱,路透社报道。该员工称 Muse “意外把我加入了一个为我的狗提供的高级保险计划”,每月收费 $888,而之前的费用是 $200。“无法追回”,该员工说。

Meta 发言人 Daniel Roberts 向路透社表示,这些是“孤立事件”,内部员工被告知“该代理在响应内置提示时出现了幻觉,导致它在会话之间与用户互动”。在这些情况下,一位 AI 团队成员称这些幻觉“不幸”倾向于最让人不舒服的话题,如金融/安全/安全,这很糟糕。在某些情况下,Muse 幻觉的不是银行细节,而是比特币余额,团队成员说。

一位 Meta 发言人对 Ars 表示,“员工测试是产品开发过程的核心,整个目的在于获取反馈,以便我们能够实施安全和隐私保护并改进产品。重要的是,员工使用的 Muse 版本与公众不同,因此他们经常审查公众无法获得的功能、特性和行为”。

在接受路透社采访时,Roberts 重申,“许多员工标记为潜在账户混淆的消息实际上是幻觉”,Meta 已经对此进行了解决。

但 Roberts 拒绝回答路透社关于 AI 团队成员讨论的问题的普遍性或持续性的提问。路透社的报告强调,该媒体独立“无法确定 Muse 是否向用户提供了他人的银行账户余额和其他敏感数据,或是编造了这些信息”。

Muse 问题出现在九月发布后不久

Meta 在九月开始收到 Muse 用户的隐私投诉。一位 Inc. 杂志记者 Jason Aten 在发现 Muse 在未经许可的情况下在他的 Mac 上挖掘私人信息后感到震惊,他报告称自己“明确”拒绝了 Muse 的访问权限。随着 Meta 推迟回应,该代理声称仅在解析推送通知中的文本,但 Aten 发现“这不是真的”。实际上,该代理在同步本地数据库中的消息,Aten 称该功能在他不知情的情况下被激活。

最终,Meta 发言人 David Singleton 在社交媒体上回应了 Aten。Singleton 坚称,如果 Muse 正在读取他的私人信息,Aten 必须已经选择授予“macOS 系统级完整磁盘访问”并启用了“Messages 连接器”。

但 Aten 表示,这个回应不够满意。

“给我发邮件,David,” Aten 回应道。“关闭完整磁盘访问。Muse 同步了我消息聊天[数据库]中的 187k 行。有什么地方不对。还有,完整磁盘访问并没有涉及你的消息数据库,我特别给 Muse 设置了一个与消息无关的目标,所以即使我授权,它也不该这么做。”

大约同一时间,Singleton 对另一位用户的警告作出回应,称其 Muse 似乎被黑。在那起事件中,用户称 Muse 在声称用户要求它这样做后,尝试访问电子邮件服务。

“我今天根本没打开过这个应用,”用户写道,誓言要删除该应用并向 Apple 报告。“这太疯狂了。”

在一篇提供更多技术细节的长篇回复中,Singleton 确认 Meta 收到了“少数报告”,称这些案例“人们认为他们的 Muse 出现幻觉或泄露他人数据”。他解释说,这些问题出现在 Meta 部署了一项更新后,更新向 Muse 提供了“如何与用户互动并在执行特定操作前请求确认”的指令。

看起来这些指令“落在了每条信息上,而不仅仅是与特定操作相关的信息”,因此影响范围超出了预期,Singleton 说。同时:“这种指令提供给模型的方式是模型未预料到的(即模型未被训练去预期的)。”

“我们紧急调查后确定,这是产品中引入的一个导致模型幻觉的 bug,**不是**安全或隐私问题,”Singleton 写道。“该 bug 已经修复。”

Aten 警告说,尽管你不能指望 Muse 能解释自己的行为,但该代理的回应加上 Meta 的解释并未在这次对其私人信息的惊人入侵后重建信任。

“如果我们接受 Singleton 的前提,即我不知情地点击了某个启用此功能的选项,我仍然认为这非常糟糕,”Aten 写道。“你不应该以让人对这种情况感到惊讶的方式设计系统。”如果你这么做,就不应该让“用户控制中心宣传”成为营销 Muse 的手段,Aten 建议。

“如果 AI 代理要读取我的私人信息,应该有一个明确的时刻询问我是否同意,”Aten 写道。

路透社警告称 Signal 入侵仍在进行

自 Muse 于九月推出以来,已被下载超过 1000 万次,借助 Meta 庞大的用户网络迅速成为最常用的 AI 代理工具之一。

但工作人员警告 Meta,用户可能会因代理执行的某些操作而感到措手不及,这取决于应用所连接的操作系统。例如,一位工作人员惊讶地发现,“Muse 默认设置为拥有访问 Google Android 操作系统手机推送通知的权限”。这同样让它能够查看工作人员未打算让代理审阅的私人消息预览文本。

Meta 表示,Muse 用户可以信任公司会保护其数据隐私。它也提醒用户,Muse 可能会出错,并在条款中规定用户需对 Muse 的行为负责(比如可能会购买你不想要的东西或预约你不需要的医生)。这家科技巨头称其持续更新用户保护措施,进行内部测试,并将用户安全置于优先位置。

然而,路透社与 Signal 的工作人员以及 AI Now Institute 合作,测试是否能复现 Meta 员工及其他人对 Muse 的体验。在 Android 设备上,他们发现 Muse 可以通过绕过 Meta 的“Connector”工具,利用初始设置期间授予的权限读取 Signal 消息。

在 iPhone 上,请求被阻止,路透社报道。但在 Apple 的 macOS 上,Muse 重新利用“Apple 为帮助残障人士操作电脑提供的设置”来检索消息,包括截图工具。

路透社报道称,该测试“表明Meta员工所描述的问题仍在持续,并可能影响到其他人。”路透社总结道,总体而言,Meta对Muse用户权限的解读似乎“较为宽泛”,这可能会引发隐私倡导者和监管机构的不满。

据路透社报道,Signal总裁梅雷迪思·惠特克(Meredith Whittaker)告诉路透社,Meta推出Muse时“完全没有尊重基本的隐私或网络安全”。她要求Meta做出改变,为Signal等应用开发者提供“一致的技术途径”,“将他们的应用程序标记为禁止AI代理访问”。

惠特克建议,改变的一部分将要求操作系统强制执行应用开发者制定的规则,以阻止AI代理接触敏感数据。在路透社报道之后,苹果和谷歌已经在权衡潜在的变动,以“让人们对他们通过AI代理授权的内容拥有更多控制权”。

尤其是苹果,似乎对Muse可能操纵残障人士无障碍工具的做法感到不安。今年10月,针对用户抱怨Muse在他们不知情或未明确同意的情况下访问私密消息一事,苹果已经宣布将推出相应的调整。当时,苹果得出结论,“一些开发者正在以可能将用户置于风险之中的方式使用完全磁盘访问(Full Disk Access)功能。”并且他们承诺“将引入额外的控制措施,以确保真正希望授予应用这种非凡访问权限的用户只能通过非常明确的用户操作来实现。”

苹果表示:“我们致力于确保用户准确理解他们所允许的内容,以便他们能够就自己的数据和隐私做出明智的选择。”

Ashley Belanger 高级政策记者

Ashley Belanger 高级政策记者

Ashley 是 Ars Technica 的高级政策记者,致力于追踪新兴政策和新技术产生的社会影响。她是一位常驻芝加哥的记者,拥有20年的从业经验。

74 条评论

正文为 AI 译文。

参考来源

← 返回每日AI报告