首页 新闻资讯 OpenAI 发布对抗性蒸馏防护报告,每周封禁数千至数万账号并支持立法

OpenAI 发布对抗性蒸馏防护报告,每周封禁数千至数万账号并支持立法

OpenAI 公开模型防蒸馏检测与处置机制,称每周封禁数千至数万账号,并支持相关立法;点名对象为其单方说法。

OpenAI 在官网发布《Combatting adversarial distillation》报告,公开其检测与瓦解“对抗性蒸馏”的机制。所谓蒸馏,是指一方未经授权,利用另一模型的输出或推理结果训练、复现相近模型;OpenAI 称今年已发现多起此类未授权活动,并在报告中披露了执法规模与政策主张。

报告称,OpenAI 每周封禁的相关账号规模在数千至数万个,自今年夏天以来执法速率显著上升;其目标是压缩蒸馏方可获取的数据量、提高攻击成本、缩短响应时间。报告提到,今年 2 月团队曾向美国国会简报,称 DeepSeek 试图蒸馏美国前沿模型;9 月另一份报告扰乱了一场提取受保护推理的活动,并将其中核心部分归因于与 Moonshot AI(Kimi 开发商)关联的个人。政策层面,OpenAI 支持相关 AI 安全法案及更强的出口管制。

看点:前沿模型的防护正从产品条款走向技术检测与立法配合双线推进。需要说明的是,报告中被点名的对象均为 OpenAI 单方说法,相关方未在报告中作出回应;蒸馏与模型边界问题仍处于行业讨论与监管探索阶段。

果葡萄官网的头像

作者: 果葡萄官网

专注人工智能领域,导航资源聚合平台

为您推荐

特斯拉推送 FSD V15,AI 实时生成「实景视图」驾驶可视化界面

特斯拉启动 FSD V15 监督版推送,新实景视图由实时 AI 视频生成、无需游戏引擎;中国市场按法规准备中。

马斯克回应算力供需讨论,警告 AI 行业明年或面临严重资金短缺

在 Chollet 讨论算力供需后,马斯克称大规模算力集群供电冷却极难,AI 行业明年或面临严重资金短缺。

CrowdStrike 洽谈收购同行 Zscaler,或成网络安全业史上最大并购之一

据彭博援引知情人士,CrowdStrike 正洽谈收购 Zscaler,合并市值约 2650 亿美元;谈判尚未定论,双方未回应置评。

AI 编程公司 Cognition 洽谈新一轮融资,估值约 750 亿美元

据彭博报道,Devin 开发商 Cognition AI 以约 750 亿美元估值洽谈新融资,拟筹 20 亿美元以上;谈判仍在进行。

英伟达接近收购扩散式语言模型初创 Inception,交易至少 5 亿美元

英伟达就收购扩散式 LLM 初创 Inception 深度谈判,估值至少 5 亿美元,团队将补强 Nemotron 开源模型。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

返回顶部