2026年3月3日，安远AI前沿AI风险监测平台（https://airiskmonitor.net/）正式发布《前沿AI风险监测报告(2025Q4)》。这是平台自发布以来的第二期监测报告，首期报告得到了人民日报、新华社经济参考报、南华早报等媒体的关注。

本期报告重点监测了2025年第四季度发布的13个突破性模型（包括GPT-5.2、Gemini 3 Pro Preview、Claude Opus 4.5、DeepSeek V3.2、Kimi K2 Thinking、Doubao Seed 1.8、MiniMax M2、HY 2.0 Think等），在网络攻击、生物风险、化学风险和失控这四个领域的风险表现，并根据监测发现为模型开发者、AI安全研究者、政策制定者等相关方提供了建议。

与2025Q3相比，本季度监测到的前沿模型呈现出能力持续增长、安全性差异化提升的整体态势，其中Gemini系列的生物能力提升最为明显，豆包、混元、MiniMax系列的安全性提升最为明显。以下是本期报告总结的十大最新发现：

1. 前沿模型的风险指数在2025年末趋于平稳
2. 不同模型系列的风险指数趋势分化明显
3. 前沿模型的安全分数整体显著提升
4. 开源模型的能力在网络攻击和生物风险领域仍落后于闭源模型
5. 前沿模型的网络攻击能力持续刷新纪录
6. 前沿模型的生物能力在多项任务上超越人类专家
7. …但高能力模型的生物安全防护严重滞后
8. 化学领域的安全拒绝率普遍提高
9. 前沿模型的越狱防护能力整体增强
10. 前沿模型的诚实性表现两极分化

最新监测发现

发现1. 前沿模型的风险指数在2025年末趋于平稳

在网络攻击、生物风险、化学风险、失控这四个领域，尽管过去一年风险指数总体呈上升趋势，但到了2025年第4季度，各领域的风险指数均未创出新高。

注：由于不同领域的测评基准不同，跨领域的风险指数不具有可比性。

发现2. 不同模型系列的风险指数趋势分化明显

和上个季度相比，各模型系列的风险指数的变化趋势有明显分化：

风险指数维持在低位：如GPT和Claude系列，表现相对稳定。

风险指数稳定在高位：如DeepSeek系列。

风险指数显著下降：如Doubao、Hunyuan和MiniMax系列。

风险指数在部分领域上升：如Gemini（生物风险和失控领域）和Kimi系列（网络攻击和失控领域）。

发现3. 前沿模型的安全分数整体显著提升

2025年Q4发布的模型的安全分，相比上个季度整体显著提升，表明其新模型的安全性显著提高。 其中，Doubao、Hunyuan、MiniMax系列提升最为明显。

发现4. 开源模型的能力在网络攻击和生物风险领域仍落后于闭源模型

与上个季度类似，开源模型的能力在化学风险与失控领域接近闭源模型，但在网络攻击和生物风险领域仍显著落后于闭源模型。尤其是生物风险领域，差距接近1年，且有扩大的趋势。

例如在失控领域，部分开源模型（如 GLM 4.7、DeepSeek V3.2）的能力分已接近闭源顶尖模型（如Gemini 3 Pro），但在生物风险领域，顶尖开源模型（如DeepSeek V3.2）与顶尖闭源模型（如Gemini 3 Pro）的能力分仍存在很大差距（56.5 vs 78.4）。

注：虚线连接的是得分创新高的开源/闭源模型。

发现5. 前沿模型的网络攻击能力持续刷新纪录

在多个网络攻击能力基准上，前沿模型的能力上限持续增长，不过增长速度比上个季度有所下降。

GPT-5.2 (high) 在漏洞利用基准（CyberSecEval2-VulnerabilityExploit）上取得了94.7的突破性高分，显示出极强的代码漏洞识别与利用能力。

Claude Opus 4.5 Reasoning 在网络攻击知识基准（WMDP-Cyber）上得分超过90分，位居榜首。

注：红色虚线连接的是得分创新高的模型。

发现6. 前沿模型的生物能力在多项任务上超越人类专家

2025年Q4发布的 Gemini 3 Pro Preview 显著提升了生物领域的能力上限。在序列理解（LAB-Bench-SeqQA）、克隆实验（LAB-Bench-CloningScenarios）、生物实验问题排查（BioLP-Bench）能力上，该模型均已超过人类专家水平。

其中，序列理解方面在本季度是首次超越人类专家（87 vs 79），克隆实验方面本季度已远超人类专家（91 vs 60）。

发现7. …但部分高能力模型的生物安全防护严重滞后

在本季度，前沿模型的生物安全防护不足的问题未得到明显改善。

例如，在SciKnowEval-BiologicalHarmfulQA（生物领域有害问题）基准上，能力极强的 Gemini 3 Pro Preview 在该基准上的拒绝率仅为57.2%，显示其安全机制尚未匹配其强大的能力。相比之下，GPT-5.1 (high) 的拒绝率达到99.7%。

注：分数代表模型对有害问题的拒绝率，越高越好。

发现8. 化学领域的安全拒绝率普遍提高

在本季度，前沿模型在化学能力（如WMDP-Chem）上的增长延续了上个季度的平缓趋势。

但在安全性方面，2025年Q4发布的模型在化学领域的安全拒绝率有明显进步。在 SOSBench-Chem 基准上，70% Q4发布的模型对化学有害问题的拒绝率超过80%。

发现9. 前沿模型的越狱防护能力整体增强

StrongReject是一个衡量越狱防护能力的评估基准。分数越高代表防护能力越强。

测试结果显示，2025年Q4发布的模型在该基准上的得分整体显著提升。Claude和GPT系列继续保持较高的鲁棒性，MiniMax系列进步明显。

发现10. 前沿模型的诚实性表现两极分化

MASK是一个衡量模型诚实性的评估基准，分数越高代表模型越诚实。

和上个季度类似，2025年Q4发布的模型表现差异巨大：例如，Claude Opus 4.5 Reasoning 取得了96.4的高分，显示出很高的诚实性；而 Gemini 3 Pro Preview 在该基准上的得分仅为44.7。

注：本次季度报告发布的同时，也对上一期报告中的部分模型在MASK基准分数进行了更正，详见上一期报告文末的“更正记录”。

更多具体监测结果，详见文末链接。

相关方建议

基于监测结果，报告向以下相关方提出了具体建议：

• 对于模型开发者：建议对于高风险指数的模型，需根据其能力分和安全分采取针对性措施：若能力分高，应在发布前进行充分的能力测评并移除高危知识；若安全分低，则需加强安全对齐与安保工作。
• 对于AI安全研究者：建议探索失控、大规模欺骗等当前缺失的评估方向，研究更有效的能力激发与攻击方法；同时建议探索更高效的安全加固方案，并重点关注能力更强的推理模型和易被恶意微调的开源模型。
• 对于政策制定者：报告指出了在生物领域和失控领域的新的预警信号，并建议加强对模型在生物风险和失控风险方面的治理。

安远AI将持续通过“前沿AI风险监测平台”追踪全球最先进AI模型的风险动态，为构建安全可靠的人工智能提供数据支撑。

合作建议

我们对各种形式的合作保持开放，期望与业内同行共建前沿AI风险评估和监测生态：

• 已有测评基准集成：我们可集成合作伙伴研发的、前沿AI风险领域内先进的能力和安全测评基准，持续跟踪前沿模型在这些基准上的表现。
• 测评基准合作研发：针对网络攻击、生物风险、化学风险和失控等重点领域，我们可与合作伙伴一起研发缺失的测评基准、改进现有基准的测评方法。
• 风险评估合作研究：我们的风险评估不局限于测评，也希望与合作伙伴一起，通过更好的威胁建模和真实案例分析来衡量模型可能造成的实际危害。
• 模型发布前风险评估：我们可为合作伙伴研发的模型在发布前进行前沿风险评估，并提供缓解建议，助力模型安全发布。
• 风险防范和缓解实践：我们可将平台监测到的风险预警信息共享给合作伙伴，以便对风险预警进行及时响应，及时缓解潜在重大风险。

我们期待与来自学术界、产业界及政策机构的伙伴在以上方向展开合作，联系方式：risk-monitor@concordia-ai.com。

参考链接

• 前沿AI风险监测平台：https://airiskmonitor.net/
• 具体风险评估方法：https://airiskmonitor.net/doc/zh/about#evaluation-methodology
• 《前沿AI风险监测报告(2025Q4)》中文版：https://airiskmonitor.net/doc/zh/report/2025-Q4
• 《前沿AI风险监测报告(2025Q4)》英文版：https://airiskmonitor.net/doc/en/report/2025-Q4
• 上期报告《前沿AI风险监测报告(2025Q3)》中文版：https://airiskmonitor.net/doc/zh/report/2025-Q3

注：平台尚未适配移动端，建议在PC端打开上述链接。

The post 安远AI发布2025Q4前沿AI风险监测报告：Gemini生物能力爆发，豆包、混元、MiniMax安全性大增 first appeared on Concordia AI.

前沿AI风险监测平台

背景

我们开发该平台主要出于以下四个原因：

1. 响应国家政策号召：中央政治局第二十次集体学习、2025年《网络安全法》修订都提出加强人工智能风险监测评估的要求，安远AI响应国家号召，推出国内首个前沿AI风险监测平台，为国内政策界、工业界、学术界和更广泛的AI社区提供前沿风险监测和预警。
2. 满足灾难性风险管理需求：参考网安标委《人工智能安全治理框架2.0》和上海人工智能实验室与安远AI联合发布的《前沿人工智能风险管理框架》，针对网络攻击、生物、化学和失控等潜在灾难性风险进行系统性的量化评估。
3. 弥补现有评估实践的不足：针对当前模型开发者自评缺乏统一标准、第三方评估缺乏全面性和可持续性的局限，提供一个中立、透明、标准统一且持续更新的第三方风险评估。
4. 服务人工智能全球治理：通过监测全球主流模型并提供双语支持，为《人工智能全球治理行动计划》、《国际人工智能安全报告》等全球治理机制提供及时、动态的风险监测数据。

十大关键洞察

在前沿AI风险监测报告(2025Q3)中，我们总结了关于前沿AI风险的十大关键洞察：

1. 前沿模型的风险指数过去一年持续上升

在网络攻击、生物风险、化学风险和失控这四个领域，过去一年发布的模型的风险指数持续创出新高。网络攻击领域的累积最大风险指数上升了31%，生物风险领域上升了38%，化学风险领域上升了17%，失控领域上升了50%。

2. 不同模型系列的风险指数趋势分化明显

过去一年，各模型系列的风险指数的变化趋势有明显分化：

• 风险指数保持稳定：如GPT和Claude系列，在所有领域的风险指数都维持在较低水平。
• 风险指数呈先增长后下降趋势：如DeepSeek、Qwen和MiniMax系列在网络攻击、生物风险和化学领域的表现。
• 风险指数呈快速增长趋势：如Grok系列在失控领域，Hunyuan系列在生物风险领域的表现。

值得注意的是，我们发现过去三个月发布的最新中国模型在多个领域的风险水平显著下降。这主要是由于它们对恶意请求的拒绝能力更强。

3. 推理模型带来能力分提升，但安全分未有相应提升

推理模型在能力上的得分远高于非推理模型，但它们的安全水平大致相同。风险帕累托前沿（即不存在其他模型同时具有更高能力分和更低安全分的一组模型）上的模型大部分是推理模型。

4. 开源模型的能力和安全表现和闭源模型整体相当

能力最顶尖的模型主要是闭源模型，但若从大多数模型的表现来看，在网络攻击、化学风险和失控领域，开源模型与闭源模型在“能力-安全”分布上并无显著差异。例外的是生物风险领域，开源模型的能力明显弱于闭源模型。

5. 前沿模型的网络攻击能力增长迅速

前沿模型在多个网络攻击基准测试中的能力正迅速增长：

• WMDP-Cyber（网络攻击知识）：最高分在一年内从68.9分上升到88.0分。
• CyberSecEval2-VulnerabilityExploit（漏洞利用）：最高分从55.4分跃升至91.7分。
• CyBench（夺旗赛）：最高分从25.0分增加到40.0分。

6. 前沿模型的生物能力已部分超越人类专家

在多个生物学基准上，前沿模型现在已经接近或超过了人类专家的水平。

• BioLP-Bench（生物实验方案的故障排查）：包括o4-mini在内的四个模型表现优于人类专家。
• LAB-Bench-CloningScenarios（克隆实验场景）：包括Claude Sonnet 4.5 Reasoning在内的两个模型表现超越了人类专家。
• LAB-Bench-SeqQA（DNA和蛋白质序列理解）：表现最好的GPT-5 (high)模型接近人类水平（71.5分 vs. 79分）。

7. …但多数前沿模型对有害生物问题的拒绝率偏低

两个衡量模型对有害生物学问题拒绝率的基准测试表明，生物安全防护措施尚有欠缺：

• SciKnowEval-BiologicalHarmfulQA：只有40%的模型拒绝了超过80%的有害提示，而35%的模型拒绝率低于50%。
• SOSBench-Bio：只有15%的模型拒绝率超过80%，而35%的模型低于20%。

8. 前沿模型的化学能力和安全水平提升缓慢

WMDP-Chem（化学武器相关知识）的分数在过去一年中略有上升，且各模型之间差异不大。

SOSBench-Chem（有害化学问题）的结果差异很大：只有30%的模型拒绝了超过80%的有害查询，而25%的模型拒绝率低于40%。过去一年拒绝率的提升幅度较小。

9. 多数前沿模型的越狱防护能力不足

StrongReject评估了模型对31种越狱方法的防御能力。只有40%的模型得分超过80分，而20%的模型得分低于60分（分数越高表示防护能力越强）。在所有测试中，只有Claude和GPT系列始终保持80分以上。

10. 大部分前沿模型的诚实性不足

MASK是一个评估模型诚实性的基准。只有四个模型得分超过80分，而30%的模型得分低于50分（分数越高表示模型越诚实）。诚实性是其失控风险的早期预警指标——不诚实的模型可能会隐藏其自身实力或真实意图。

后续计划

这仅仅是个开始，我们后续的计划是：

• 每季度定期更新对新模型的监测报告。
• 测评对象扩展到AI智能体、多模态模型和领域专用模型。
• 风险领域扩展到如大规模说服与有害操纵等新领域。
• 开发更有效的能力激发和威胁建模方法。
• 提高基准质量和多语言覆盖范围。

合作

我们正在寻求合作伙伴，共同进行基准开发、风险评估研究、发布前评估和风险信息共享。关于合作途径的更多细节，请参阅合作方式说明。联系方式：risk-monitor@concordia-ai.com。

The post 安远AI“前沿AI风险监测平台”的十大关键洞察 first appeared on Concordia AI.

截至2025年10月，安远AI也是国内唯一加入IASEAI的机构，秉持引领人机关系走向安全、可信、可靠未来的愿景和使命，传递人工智能治理领域的中国声音，加强国际合作，共享中国方案。 

IASEAI是一家独立非营利组织，由加州大学伯克利分校教授、人类兼容人工智能中心（CHAI）主任斯图尔特·罗素（Stuart Russell）于2024年创立，关注人工智能快速发展带来的风险与机遇。协会汇聚学术界、产业界、政策界与社会组织的力量，推动研究与政策协作，深化全球对人工智能安全与伦理的理解。其工作重点涵盖社区、研究、政策与教育，通过会议、研究资助与公众科普等形式，促进全球人工智能的安全与负责任发展。 

IASEAI现有的委员会聚集了多国顶尖的AI专家和领军人物，其中不乏中国人工智能安全领域的代表。图灵奖得主、清华大学交叉信息研究院院长姚期智担任董事委员，清华大学智能产业研究院院长张亚勤担任顾问委员。 

安远AI长期与多位IASEAI顾问及机构专家保持紧密合作，曾多次邀请相关嘉宾参与安远AI主办或协办的世界人工智能大会（WAIC）“人工智能安全与治理”论坛、智源大会“AI安全与对齐”论坛及中关村论坛通用人工智能论坛等重要活动，共同推动全球AI安全与治理议题的交流与合作。 

在2025年的IASEAI首届国际大会上，安远AI创始人谢旻希受邀出席，并在“全球视角下的人工智能安全与伦理”专题论坛上发言，分享中国在人工智能治理领域的最新进展与经验。IASEAI将于2026年举办第二届年度大会，安远AI将继续积极参与，为全球AI治理贡献中国智慧与力量。 

The post 安远AI正式加入国际人工智能安全与伦理协会，贡献中国智慧 first appeared on Concordia AI.

人工智能伙伴关系是一个由学术界、民间社团、行业和媒体组织组成的非营利性合作网络，旨在推动解决方案的共建与落地，通过召集不同的国际利益相关者，汇集集体智慧，使人工智能真正造福人类社会。PAI通过邀请来自相关领域的个人和机构，分享见解，形成指南，推动世界人工智能社区的工具开发、观点磋商和资源建设，促进集体智慧在人工智能实践中的落地采用；同时，PAI也借助公共对话、研究和教育，为公共政策制定建言献策，提高公众对有关人工智能未来关键议题的关注与理解。PAI的合作伙伴网络现已覆盖美国、加拿大、中国、法国、德国、新加坡、韩国等17个国家/地区的合计140余家组织机构，汇聚起来自全球不同部门、不同学科和不同群体的声音，共同确保人工智能以负责任、可持续的方式造福全人类。“随着人工智能能力的发展和全球使用率的增长，跨国界和跨部门的合作比以往任何时候都更加重要，” PAI首席执行官Rebecca Finlay在欢迎致辞中说道，“从儿童安全和现实世界的评估，到企业治理和高级安全研究，这10 个组织为全球人工智能对话带来了重要的专业知识，这是人工智能实现包容、负责任的未来所需要的。” PAI为其合作伙伴提供了一个独特的对话与协作平台，共同探索新兴技术的发展趋势及其对人类社会的影响。今年7月，PAI首席执行官Rebecca Finlay也受邀出席由安远AI主办的2025世界人工智能大会“AI安全与治理论坛”，与百度、阿里巴巴、xAI等国内外领先AI企业共同探讨风险管理经验与实践。推进人工智能安全与治理，共建人工智能繁荣未来，一直是安远AI愿景的重要组成部分。作为国内目前唯一深耕AI安全治理领域的第三方社会企业，安远AI兼具中国视角和国际影响力，自成立以来一直专注于AI安全和治理的研究与实践。“在安远AI，我们致力于确保人工智能的发展与社会福祉相契合。加入PAI增强了我们在促进协作、创新解决方案方面的承诺。我们也期冀借助 PAI 的全球社区，扩大影响力，推动共识”，安远AI创始人兼首席执行官谢旻希说道。

安远AI期待与PAI及全球合作伙伴携手，推动人工智能以安全、负责任的方式发展，共同建设更加包容与可持续的未来。 

The post 安远AI加入Partnership on AI，携手全球伙伴共筑负责任AI未来 first appeared on Concordia AI.

2025年7月，AIxBio全球论坛发布了《关于人工智能与生命科学融合的生物安全风险的声明》(Statement on Biosecurity Risks at the Convergence of AI and the Life Sciences)。这份声明已得到涵盖AI行业开发者、生命科学学者和人工智能安全研究者在内，超过40位专家的联合签署支持，包括中国科学院院士姚期智、图灵奖得主Yoshua Bengio、合成生物学先驱George Church、新西兰前总理Helen Clark、天津大学生物安全战略研究中心主任张卫文、安远AI创始人兼CEO谢旻希等。

声明指出AI与生命科学融合虽能极大促进公共健康与医学进步，但也带来降低生物风险门槛、提升危害上限，并削弱防御体系的严重风险，呼吁各国政府、产业界、学术界与资助方共同建立技术护栏和治理机制，投资负责任研发并推动国际合作，以确保该技术安全可控、造福社会。这份声明在非营利组织核威胁倡议组织（NTI）的官方网站上首发。

人工智能与生命科学融合的生物安全风险的声明

人工智能的迅猛进步及其与生命科学的融合，赋予了其巨大的造福社会的潜力，既能通过加快新型疫苗和疗法的研发改善公共卫生，也可提高人们快速发现新发传染病的能力，这些技术进步有望在全球范围内减轻疾病负担，促进经济发展。与此同时，因AI的广泛应用而成为可能的生命系统工程能力（下称“AIxBio能力”）迅速提高，也加剧了有害生物制剂意外流出或蓄意投放的风险，甚至不乏引起全球性生物灾难、波及全世界人口的危险情形。

随着AIxBio能力持续发展，利用AI造成生物灾害的门槛可能进一步降低。不法分子或将更容易获取必要的知识与相关信息支持，更有效地设计、构建并投放有害生物制剂。

与此同时，AIxBio能力还可能为这类行为“提高上限”，扩大生物灾难的潜在规模。AI加持下的生物学工具，可能设计开发出超越自然界或当前人类科学水平（例如人群杀伤力更强或传播力更高）的病原体。尽管目前还无法为这种AI滥用的具体发展进程下断言，但如果缺乏充分的安全防范举措，这类情形可能会在未来短短几年内就会成为现实。

在AI近期取得的技术进展中，有一项与此紧密相关——AI模型已经能设计新的生物分子，例如毒素、存在于病原体中的蛋白以及可与人体重要靶点结合的蛋白，AIxBio能力正快速提升。未来，AI或将支持更复杂的生物系统的设计，例如开发一组生物分子协同执行更复杂的功能（细胞信号传导、材料的酶促合成等），甚至打造出完整的病毒或细菌的基因组序列。

诸如此类的技术进展，可能使得别有用心之人设计满足特定目的的生物制剂变得更加容易。尽管眼下想要基于AI的设计去开发病毒或构建生物制剂并非易事，但实现这些的技术门槛正逐渐降低。

一种可能降低此类不法行为门槛、影响风险格局的新兴技术，是专门针对科学发现及开发而优化的AI智能体。这类智能体可以自主连续执行多步任务，达成复杂目标，而且可用于生命科学领域。针对生命科学优化的AI智能体，在理解科学文献、提出研究假设、设计实验方案和解释数据等方面的能力正突飞猛进，并开始与生物科研设备及先进实验室的机器人对接。如若缺乏审慎监管，这些AI智能体很可能追求超出人类期望的科学进步目标，造成预期之外的生物安全风险，不法分子也可能利用这些AI智能体协助开发有害生物制剂。

另一个引人担忧的问题是，AIxBio能力可能削弱生物安保防御措施的有效性，例如规避传染病监测系统、对抗医疗安全防范措施、绕过核酸合成筛查等等。全球生物安全态势一经冲击，可能扩大使用生物武器的空间，为生物攻击打开可乘之机。

尽管未来AI × 生命科学领域的进展难以准确预测，但这一领域的快速发展，要求我们未雨绸缪，前瞻性地为这类新兴风险做好准备。考虑到上面罗列的种种风险，可能出现的危险情形是：经验老道的不法分子利用经AI加持的生物工具，设计、生产并投放性质独特、危害性超过所有自然界病原体的生物制剂，最终引发一场破坏力堪比新冠疫情的波及全球的严重生物事件。

AIxBio能力是一把双刃剑，既有着造福全世界的巨大潜力，也有着造成重大危害的风险隐患，亟需引起各方重视，开展有多利益相关方参与的国际协作和果断行动。AIxBio能力的持续进步，意味着追踪技术发展、理解相关生物安全风险、制定有效的风险防范措施至关重要。我们呼吁各国政府、产业界、学术界、慈善界与民间社会通力合作，通过治理机制、防范举措及其他手段，在释放人工智能所具备的巨大积极潜力的同时，切实保障人工智能安全。

关于AIxBio全球论坛

AIxBio全球论坛(AIxBio Global Forum)是一个面向国际专家、政策制定者及相关利益相关方的平台，旨在识别并降低人工智能与生命科学交叉带来的生物安全风险。

核心目标：

• 形成对AI相关生物安全风险的共同理解。
• 支持开发和推广工具与实践，在发挥AIxBio技术积极作用的同时防范风险。
• 推动国家和全球层面的治理机制建设。

主要工作机制：

• 汇聚来自AI模型研发机构、生物安全与AI安全社群以及生命科学研究群体的多元专家和政策制定者。
• 设立技术工作组，识别最佳实践并制定技术防护措施，防止AIxBio技术被滥用。
• 制定研究议程，绘制关键开放问题和机遇的全景图。
• 通过分析、声明与政策建议，引导国家与全球治理战略，确保技术造福人类。

现有结构：

• 论坛目前设有两个技术工作组：1）生物设计工具，2）前瞻扫描、风险评估与评测。
• 工作组产出将提交论坛整体讨论，确保其结论兼具国际代表性与可操作性，从而为政策与实践提供有力指导。

关于安远AI的人工智能 x 生物安全探索与实践

安远AI长期关注前沿AI风险管理，人工智能 x 生物安全是其中的重要方向之一，我们陆续开展的工作包括但不限于：

• 与天津大学生物安全战略研究中心联合发布《人工智能 × 生命科学的负责任创新》报告
• 与上海人工智能实验室联合发布《前沿人工智能风险管理框架》，并配以《风险评测实践报告》，涉及生物风险
• 与天津大学生物安全战略研究中心联合举办“人工智能与生物风险融合研讨会“
• 受邀参加合成生物技术全国重点实验室举办的“生物安全闭门研讨会”
• 受邀参与在外交学院举办的“DNA合成筛查技术和政策闭门研讨会”
• 受邀参与《禁止生物武器公约》工作组第六次会议相关边会

我们希望为人工智能、生命科学与生物安全等领域之间建立系统性对话提供助力。

The post 全球40余位专家共倡AI×Bio安全，姚期智、张卫文、谢旻希等签署声明 first appeared on Concordia AI.

关于AI Verify 

AI Verify是由新加坡信息通信媒体发展局（IMDA）于2022年推出的框架和工具包，用于测试和验证AI系统的可信度。 

2023年成立的AI Verify基金会，则是支持和扩展AI Verify框架的全球合作倡议，汇集了组织、研究人员和政策制定者，集合全球开源社区的技术力量共同开发AI测试工具。 

2024年6月推出的Project Moonshot，是一款生成式AI测试开源工具包，将红队测试、基准测试和基线测试整合在一个易于使用的平台上，用于应对LLM安全和安保挑战。

我们为何加入

安远AI是国内目前唯一深耕AI安全治理领域的第三方社会企业，兼具中国视角和国际影响力。自成立以来，一直专注于AI安全和治理的研究与实践。作为AI Verify基金会的新成员，安远AI将： 

• 利用我们在AI安全和治理方面的专业知识，为基金会提供策略建议，拓展合作伙伴。 

• 与基金会其他成员共同开发和使用前沿AI评测工具，推动跨语言和跨文化评测。 

• 促进AI安全评测方面的国际交流与合作，推动制定国际互认的AI安全评测和标准体系。 

正如我们在成员证言中所述的：“安远AI致力于确保AI的开发和部署安全，并与全球利益保持一致。我们相信，在整个AI生命周期中进行严格的第三方测试对于确保我们能够从AI中获益并防范潜在危害至关重要。安远AI很高兴加入AI Verify基金会，为这项全球性努力作出贡献。”

我们期待与AI Verify基金会的伙伴们一起，为打造一个更加安全、负责任的AI未来贡献力量。 

The post 安远AI受邀加入新加坡“AI Verify基金会”，推动制定国际互认的AI安全评测和标准体系 first appeared on Concordia AI.