在亚马逊Bedrock平台上,使用Anthropic的Claude Fable 5或Mythos 5模型必须启用provider_data_share功能,这要求将提示词和输出结果发送给Anthropic并保留30天,同时接受人工审查。这一变化打破了此前所有模型(包括Opus 4.8、Sonnet、Haiku)的数据隔离政策,允许AWS边界内的数据访问。此举引发了对数据安全与模型独立性的广泛讨论,特别是对于医疗和金融行业而言,这可能带来新的合规风险。

--91likeyou---

AWS 博客文章在文末直白写明:

一旦你启用数据留存功能,你的数据将脱离 AWS 的数据与安全隔离边界。

Anthropic 将 30 天数据留存机制定位为 Mythos 系列模型的安全强制要求,需要借助拦截分类器识别新型攻击和模型越狱行为。该公司表示,后续同性能级别的模型都将沿用此项规定。这项要求并非 AWS 单方面制定,而是 Anthropic 的统一政策,会在所有上架 Fable 5、Mythos 5 的平台统一执行。

Reddit 上有一位评论者反驳称,不应将安全审核与训练数据采集混为一谈:

需要厘清一个关键区别:这是用于安全评估,而非训练下一代模型的权重。Anthropic 临时保留推理数据是为了检测滥用行为和研究模型表现,而不是将这些数据用于预训练。对于医疗、金融行业而言,这仍然是一个不容忽视的风险点,但安全威胁模型与“我们的提示词会成为未来 Claude 的一部分”完全是两码事。

Securosis 云安全研究员 Chris Farris 发表了一篇详细评述,指出 AWS 违背了 Bedrock 平台的核心价值主张:

AWS Bedrock 的全部价值在于它是企业与模型提厂商之间的中立平台。它保证数据和推理驻留在 AWS 边界内,企业数据绝无可能被模型厂商用于其自身目的。剥离了这一点,AWS Bedrock 就成了功能更少的 Anthropic 第一方服务。

此举会立刻引发一系列数据治理层面的连锁问题。Anthropic 将成为次级数据处理方,可获取用户输入与模型输出内容,还能对标记的敏感内容开展人工审核。对于受监管企业来说,这意味着需要修订数据处理协议、更新次级处理方清单、重新梳理数据处理活动记录,同时重新评估所有调用该系列模型业务负载的合法处理依据。Farris 表达了有关《CLOUD 法案》的顾虑:Anthropic 是一家正在与美国政府合作部署其最强模型的美国公司,这使得保留的数据可能受到美国法律请求的管辖。

Reddit 上的一位德国从业者证实了该影响:

这件事会让我们直接放弃合作,我相信很多德国及欧洲本土企业也会如此。

医疗机构还将面临额外的合规漏洞。一位 Reddit 评论者直接提出了这个问题:

Anthropic 会通过 Bedrock 提供与他们签订 BAA(商业伙伴协议)的方式吗?我们持有医疗健康数据,没有 BAA 就无法合法共享个人身份信息(PII)与受保护健康信息(PHI)。我们已和 AWS 签订该协议,这也是我们选用 Bedrock 的原因。

已签署 AWS 业务伙伴协议且协议覆盖 Bedrock 推理业务的企业团队需要确定:Anthropic 作为次级数据处理方是否需要另行签署独立协议,而针对当前这条数据链路,目前或许尚不存在独立的协议。

该功能的上线方式招致了最尖锐的批评。数据保留 API 与模型在同一时刻正式启用,安全团队未收到任何提前通知。虽然平台提供了基于服务控制策略(SCP)的全局阻断方案,可借助 bedrock-mantle:DataRetentionMode 在整个组织范围内禁用数据共享,但相关说明被埋在文档的一个子章节中,没有任何公告。Farris 指出:

这项能力得到了大肆宣传,对应的防护措施却连文档脚注都不配拥有。

另一项监控盲区让问题雪上加霜。bedrock-mantle 记录的 CloudTrail 事件源(bedrock-mantle.amazonaws.com)与普通 Bedrock(bedrock.amazonaws.com)完全不同。如果你的 CSPM 规则和安全检测器正在监控 Bedrock 活动,它们不会捕获数据保留变更。你必须显式添加 Mantle 事件源。

AWS 随后通过 Builder Center 发布了隔离指南,建议为启用了 provider_data_share 的 Fable 5 单独创建 Bedrock 项目,同时将生产工作负载保持在零保留模式下。Farris 记录了一个 SCP 模式,使用 bedrock-mantle:DataRetentionMode 在组织范围内拒绝除 none 以外的任何保留模式,对已获批准用例且已签署 DPA 的特定账户例外开放权限。

后续事态有新进展,6 月 12 日,AWS 更新了博客文章,指出 Anthropic 已要求 AWS 撤销所有用户对 Claude Fable 5 和 Claude Mythos 5 的访问权限,理由是遵守美国政府出口管制指令。所有其他模型,包括 Opus 4.8,均不受影响。在模型可用的三天内已在账户级别启用 provider_data_share 的团队应部署 Farris 的 SCP 模式以恢复默认的零保留状态。

对于企业而言,它们需要深思的核心问题是:这是前沿安全模型的一次性例外,还是新常态?Anthropic 已暗示是后者。那些因数据从不离开 AWS 边界而选择 Bedrock 的团队现在面临抉择:要么继续使用 Opus 4.8,接受模型能力上的差距;要么升级前沿大模型,接受一套完全不同的数据治理规则。这是架构师、法务和合规团队需要共同参与讨论的话题,而且应该在发布日之前就开始,而不是之后。

查看英文原文:

🔥 热词:#Bedrock · #Fable · #Anthropic · #AWS · #Mythos · #30 · #平台上的 · #模型需向