亚洲财经

搜索

英伟达限制Claude,大厂对AI数据安全有多认真?

英伟达限制Claude,大厂对AI数据安全有多认真?

上周智谱一口气融了50亿美元国产大模型砸钱拼算力。而这周大洋彼岸,全球AI算力最牛的公司英伟达,却开始给自己的AI使用踩刹车了。

9月14日,科技媒体The Information报道,英伟达、Palantir(帕兰提尔)和博思艾伦这几家美国大公司,正在限制内部使用Anthropic的旗舰模型。

原因不是模型不够强。恰恰相反,是模型太强了,大厂们不敢把最值钱的数据喂给它。

三大巨头各自出招

先看英伟达。它把Anthropic的模型限制在敏感度较低的任务上,比如处理开源代码。但涉及供应链监控、芯片研发这些核心业务时,一律切回自家的Nemotron模型。

Palantir更直接,要求Anthropic给出不可撤销的零数据留存保证,也就是数据用完必须删、绝不能留存。拿不到这个保证,它就不在自己的软件平台上开放这个模型。

博思艾伦则明白规定,涉及专有数据的网络安全项目,员工不许用Anthropic的商业模型。

再加上有大型公用事业公司因为拿不到保证,干脆放弃了用这模型管理核心电网的计划。几家公司动作虽然不一样,方向很一致:数据越敏感,越不敢用别人的模型。

一切源于一份30天留存条款

这事儿的导火索,是Anthropic今年6月发布Fable 5时加的新规。它要求使用旗舰模型的用户,提示词和输出默认留存30天,理由是防御复杂的新型攻击。Anthropic保证这些数据不会用于训练模型。

但对金融、军工、电网这些企业来说,"不用于训练"和"数据不离开自己掌控"是两回事。数据一旦进了外部系统,留存、权限、审计都得听别人的,这本身就是风险。

Anthropic也意识到矛盾,9月推出了企业安全方案,允许合规客户把安全监测数据存在自己的云账户里,密钥自己管。

最强模型和最可控模型,变成两条线

这场博弈放到企业市场看,信号很清楚:模型能力是一把尺子,数据控制权成了另一把。以前模型领先几个点就能赢单,现在还要看它能不能让客户始终握着数据。有统计显示,Fable 5上线两个月后,客户支出占比才11%,开源模型的token份额却接近六成。

英伟达自己就是全球AI基础设施的龙头,它都对Anthropic是"有限合作加核心自研"的态度,足见数据安全在AI落地里有多重。国内AI企业想进银行、医疗、制造这类核心场景,讲清数据归谁管,可能比秀模型参数更关键。

毕竟,当AI开始接触企业最核心的业务,谁握着数据,谁才握得住信任。

参考资料

The Information(9月14日)、新浪财经·机器之心(9月15日)、腾讯新闻(9月15日)、36氪(9月15日)、环球时报/澎湃新闻(9月16日)

雨见AI,遇见AI,做个AI时代的明白人。关注雨见AI,获取更多AI行业深度解读。