2025年1月
2025年1月，全球首份全面整合现有文献、探讨先进人工智能系统风险与能力的《国际人工智能安全报告》正式发布。这一重磅报告由图灵奖得主、计算机科学家Yoshua Bengio主持，凝聚了来自30个国家、96位人工智能专家的贡献，旨在为国际社会建立对先进人工智能风险的共识奠定坚实基础。
《国际人工智能安全报告》于2025年2月在巴黎人工智能行动峰会上正式呈现，此前的中期版本已于2024年5月在首尔人工智能峰会发布。该报告源自2023年布莱切利人工智能安全峰会的共识，由30个国家共同倡议，联合国、欧盟和经济合作与发展组织(OECD)专家顾问团支持，真正实现了国际性、独立性与包容性的愿景。
高级顾问团成员包括清华大学交叉信息科学研究院的姚期智院士、清华大学的张亚勤院士、冯雁（Pascale Fung，入职Meta前担任高级顾问）；中科院自动化所的曾毅研究员作为专家顾问小组成员；安远AI国际AI治理主管吴君仪（Kwan Yee Ng）则作为撰稿团队的一员，为报告的撰写与完善做出了贡献；安远AI为报告整体的内容提供了评论和反馈，也为中文版翻译提供了编辑和修改意见。
如报告主席Bengio所指出，自布莱切利峰会以来，”通用型人工智能的能力进一步提升”，包括”在编程和科学推理测试中表现出明显更好的性能”，同时”许多公司现在正在投资开发通用型人工智能’智能体’，它们能够自主规划并采取行动实现目标，几乎不需要或完全不需要人类监督的系统”。此份完整报告不仅“提高了所有章节的科学严谨性“，还“增加了对其他主题的讨论，如开放权重模型“，并“重组报告使其更加贴合政策制定者的需要“。
尽管《报告》汇总了科学界当前对通用型人工智能的科学理解与共识，《报告》仍强调，“作为本报告的撰稿专家，我们在有关通用型人工智能的能力、风险和风险缓解措施等方面仍存在诸多分歧，无论大小。但我们认为本报告对于增强我们对这项技术及其潜在风险的集体理解至关重要。 我们希望这份报告能够帮助国际社会就通用型人工智能达成更广泛的共识，更有效地缓解其风险，从而让人们能够安全地享受其众多潜在益处。我们期待着继续这项努力。”
作者: Yoshua Bengio, Bronwyn Fox, André Carlos Ponce de Leon Ferreira de Carvalho, Mona Nemer, Raquel Pezoa Rivera, Yi Zeng, Juha Heikkilä, Guillaume Avrin, Antonio Krüger, Balaraman Ravindran, Hammam Riza, Ciarán Seoighe, Ziv Katzir, Andrea Monti, Hiroaki Kitano, Nusu Mwamanzi, Fahad Albalawi, José Ramón López Portillo, Haroon Sheikh, Gill Jolly, Olubunmi Ajala, Jerry Sheehan, Dominic Vincent Ligot, Kyoung Mu Lee, Crystal Rugege, Denise Wong, Nuria Oliver, Christian Busch, Ahmet Halit Hatip, Oleksii Molchanovskyi, Marwan Alserkal, Chris Johnson, Amandeep Singh Gill, Saif M. Khan, Sören Mindermann, Daniel Privitera, Tamay Besiroglu, Rishi Bommasani, Stephen Casper, Yejin Choi, Philip Fox, Ben Garfinkel, Danielle Goldfarb, Hoda Heidari, Anson Ho, Sayash Kapoor, Leila Khalatbari, Shayne Longpre, Sam Manning, Vasilios Mavroudis, Mantas Mazeika, Julian Michael, Jessica Newman, Kwan Yee Ng, Chinasa T. Okolo, Deborah Raji, Girish Sastry, Elizabeth Seger, Theodora Skeadas, Tobin South, Daron Acemoglu, Olubayo Adekanmbi, David Dalrymple, Thomas G. Dietterich, Edward W. Felten, Pascale Fung, Pierre-Olivier Gourinchas, Fredrik Heintz, Geoffrey Hinton, Nick Jennings, Andreas Krause, Susan Leavy, Percy Liang, Teresa Ludermir, Vidushi Marda, Baran Acar, Ben Clifford, Lambrini Das, Claire Dennis, Freya Hempleman, Emma Strubell, Florian Tramèr, Lucia Velasco, Nicole Wheeler, Helen Margetts, John McDermid, Jane Munga, Arvind Narayanan, Alondra Nelson, Clara Neppel, Alice Oh, Gopal Ramchurn, Stuart Russell, Marietje Schaake, Bernhard Schölkopf, Dawn Song, Alvaro Soto, Lee Tiedrich, Gaël Varoquaux, Andrew Yao, Ya-Qin Zhang, Hannah Merchant, Rian Overy, Ben Snodin, Jonathan Barry, Benjamin Prud’homme
