球友体育 - Anthropic直指智谱与月之暗面:揭露蒸馏攻击的黑幕页面主视觉展示
ARTICLE DETAIL

球友体育 - Anthropic直指智谱与月之暗面:揭露蒸馏攻击的黑幕

本页围绕正文阅读、上下文定位、延展推荐与辅助导航进行整合布局,让文章浏览体验更聚焦,也更方便继续深入阅读。

球友体育 - Anthropic直指智谱与月之暗面:揭露蒸馏攻击的黑幕

球友体育-足球篮球体育直播平台 248 阅读 约 5.5 分钟

在10月12日的消息中,美国人工智能公司Anthropic通过官方平台发布了一篇题为《加强对蒸馏攻击的防御》的长文,将行业内长期潜藏的危机暴露无遗。这篇文章的发布堪称一次“大隐隐于市”的揭示,Anthropic不仅明言智谱与月之暗面,更是将当前大模型行业潜伏的非法蒸馏链条公之于众。随着这篇充满火药味的研究成果出炉,众多观察者不禁追问:为何一些国外科技巨头倾注数十亿美元研发顶尖推理技术,而部分小团队却能用数倍于少的成本迅速赶超?

在此次发布中,Anthropic佐证了这个现象的背后原因,数据令人震惊。研究显示,多个黑产机构操控着数十万个虚假账户,通过代理网络疯狂向Claude发送数百万次请求,目的并非获得直接答案,而是窃取Claude在生成回应之前的完整推理链。

about image

统计结果表明,利用完整的思维过程对小模型进行训练时,其性能可以飙升至80.4%,而仅仅依赖简化答案进行训练则只能达到71.8%。这十个百分点的巨大差距正是大模型最为珍贵的核心资产所在。 球友体育

为应对这一工业级的信息盗取,Anthropic采取了三项极其严厉的防范措施。首先,他们锁定推理上下文,新的API账户将完全禁止修改对话历史,使思维链只在本机构内流转;其次,他们将防蒸馏的安全分类体系提升至与防生物武器同等级别,误伤率降低到万分之一;最后,对于被拦截的恶意请求,依然按常规收费,并在几小时内关闭了数以万计的洗白账号。这一系列措施实施后,Anthropic统计数据显示其被盗数据的数量直降90%至99%,甚至为了这一目标,他们宁愿主动放弃数万亿Token的收入。

about image

实际上,以前的大模型竞赛于表面上看似在拼参数与跑分,暗地里却潜藏着谁能更隐秘地利用前沿大模型作为“免费老师”的博弈。当思维链的获取路径被行业巨头全面封堵,真正的拼底层技术原创能力的竞争赛道或许才刚刚开启。

about image
觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读