别了四大核心风险类型：滥用风险、失控风险、意外风险和系统性风险，创新性地提出了“部署环境(E)-威胁源(T)-使能能力(C)”三维分析框架，并给出了针对性的风险识别、评估、缓解与治理建议，推动前沿风险从“模糊的定义”到“精确的坐标”。《框架》同时发布有英文版。 点击链接查看《实践报告》。

The post 前沿人工智能风险管理框架：风险评测实践报告 first appeared on Concordia AI.

· 1. 风险识别：本章节聚焦通用型人工智能模型可能引发的严重风险，明确四大核心风险类 型：滥用风险、失控风险、意外风险及系统性风险。我们计划通过持续更新风险分类体系， 动态应对未知与新兴风险。

· 2. 风险阈值：本章节明确了一系列不可接受的风险结果（红线）以及触发更高级别安全保障 措施的早期预警指标（黄线）。我们针对可能威胁公共安全和国家安全的几个关键领域设定 阈值，其中包括：网络攻击、生物威胁、大规模说服和有害操控，以及失控风险。

· 3. 风险分析：本章节建议在人工智能全生命周期中贯穿实施动态风险分析，以判断模型是 否越过黄线——即达到触发更高级别安全措施的早期预警指标。我们建议AI研发者在研发前 和部署前进行系统性评估，以便为关键的部署决策提供参考。同步应建立部署后持续监测 机制，为新一代系统研发提供安全指引。与本框架同时发布的还有一份针对一系列通用型 人工智能模型的风险评测技术报告。

· 4. 风险评价：建立三级风险分级体系：绿色区域（基于常规措施可安全部署）、黄色区域 （需强化安全防护与授权）、红色区域（需特殊措施，如限制部署或限制研发）。我们建议 对缓解措施实施后的剩余风险进行迭代评估，进一步采取降低风险的措施直至风险达到可接 受水平。

· 5. 风险缓解：构建全生命周期纵深防御风险缓解策略，包含三种风险缓解措施：安全训练措 施、部署缓解措施及模型安保措施，并根据模型处于绿色区域、黄色区域或红色区域设定不 同的保障级别。我们呼吁全球持续加大AI安全基础研究投入，当前技术手段尚难以充分保障 先进AI系统的安全性。

· 6. 风险治理：提出监督和调整整个风险管理流程的治理路径。建立四维治理体系：内部治理 机制、透明度与社会监督、应急管控机制、政策定期更新和反馈机制，并根据模型处于绿色 区域、黄色区域或红色区域设定不同的保障级别。

框架英文版  框架中文版

The post 前沿AI风险管理框架 first appeared on Concordia AI.

报告整体分为7个章节，篇幅逾70页，参考了300余项资料。系统探讨了人工智能与生命科学融合的关键趋势，强调其变革潜力，识别并评估相关风险，并审视现有的生物安全治理实践。最后，报告提出了风险缓解策略与治理选项，并为不同利益相关方提供了有针对性的建议。

The post 人工智能 x 生命科学的负责任创新 first appeared on Concordia AI.

• 平衡集体责任，同时追究在人工智能开发中拥有不成比例权力的利益相关者的责任
• 管理共享人工智能安全最佳实践与限制潜在危险能力传播之间的张力
• 确保安全要求不会限制人工智能对可持续发展的潜力或延续全球不平等

安远AI国际人工智能治理主管吴君仪、安远AI创始人谢旻希，与来自世界各地的14位学者共同撰写了这份报告。

The post 人工智能安全作为全球公共产品 first appeared on Concordia AI.

其追溯了人工智能从简单的基于规则的程序到具有复杂决策能力的复杂实体的演变过程，讨论了人工智能自主体的好处和风险。报告强调了透明度和问责制等道德考量，强调了建立健全治理框架和跨部门合作的必要性。

作为世界经济论坛人工智能治理联盟工作组的一员，安远AI深度参与了白皮书的迭代，技术经理段雅文以主要贡献者身份获报告正式致谢。

The post 探索人工智能前沿：人工智能自主体的演进和影响入门指南 first appeared on Concordia AI.

本次论坛的一大亮点是安远AI联合北京大学人工智能研究院、北京大学武汉人工智能研究院、北京通用人工智能研究院，共同发布《基础模型的负责任开源——超越开源闭源的二元对立: 负责任开源的内涵、实践与方案》报告。

开源基础模型已成为创新的重要驱动力之一，如何平衡发展与安全至关重要，但目前这一领域存在诸多争论需要厘清。本报告从安全治理的角度分析AI开源的主要争论，系统性梳理了各国在开源AI治理上的政策取向，并建议超越开源闭源的二元对立，推动并建议负责任开源的务实方案。

The post 基础模型的负责任开源 first appeared on Concordia AI.

本次论坛的一大亮点是《前沿人工智能安全的最佳实践（征求意见稿）》的首次公开。经过了一个多月的专家反馈，我们对所有收到的宝贵意见均进行了认真修订，正式发布《前沿人工智能安全的最佳实践——面向中国机构的研发实践案例与政策制定指南》。

本报告概述了当今人工智能安全领域有前景的想法、新兴流程和相关实践，其目的是作为前沿人工智能机构安全政策制定的参考和指南。

The post 前沿人工智能安全的最佳实践——面向中国机构的研发实践案例与政策制定指南 first appeared on Concordia AI.

其中，安远AI的段雅文、吴君仪、谢旻希对综述整体方向、内容框架和第五章AI治理的部分做出了贡献。

The post 人工智能对齐：全面性综述 first appeared on Concordia AI.