《前沿开放权重AI风险管理框架》(“本框架”)由安远AI与智谱合作开发,面向开放权重模型开发者及更广泛的生态参与者。本框架是以《前沿人工智能风险管理框架 2.0》为基础,围绕开放权重发布的特点进行针对性开发的配套文件,于2026年9月21日联合国数字合作日(UN Digital Cooperation Day)首次公开发布。
开放权重模型能够提升透明度,促进科研创新,让人工智能的红利触达更多主体;但这类模型也伴随着独特风险:模型一旦对外发布就难以收回,安全防护措施可能通过微调被绕过,并且没有任何一个主体能够持续监测模型的使用、实施撤回操作。因此,对开放权重风险的治理,需要一套适配其特点的专属方案。
本框架围绕风险管理的六个阶段,覆盖从风险识别到风险治理的全流程。此前发布的《框架 2.0》中,不少风险管理指引依托开发者层面的管控手段,例如访问限制、使用行为监测等。而开放权重发布模式下,相关控制权转移至下游生态。针对每个阶段,本框架明确标注哪些原有的风险管理指引在开放发布场景下不再适用,并提供调整后的方案。与此同时,本框架在原有的 “部署环境(E)”、“威胁源(T)”和“使能能力(C)” 三个分析维度基础上,新增 “社会韧性(R)” 作为第四个维度,用于衡量社会承受人工智能潜在危害的冲击并进行应对的能力。
尽管开放与安全之间存在多种张力,本框架仍致力于在二者之间探寻兼顾平衡的帕累托前沿,并力求搭建首个完备、基于实证的基础。我们诚邀研究者、开发者和政策制定者在此基础上继续拓展,共同推动开放权重AI治理的理论研究与实践发展。

