为推动全球负责任地使用AI，我们荣幸地宣布，安远AI已正式成为新加坡“AI Verify Foundation”（人工智能验证基金会）的一员，与全球领先的科技公司如AWS、谷歌、IBM、微软、红帽、华为、商汤科技、蚂蚁集团、微众银行等共同肩负起推动AI透明、可解释、安全、公平、确保人类管理和监督的重要使命。
关于AI Verify
AI Verify是由新加坡信息通信媒体发展局（IMDA）于2022年推出的框架和工具包，用于测试和验证AI系统的可信度。
2023年成立的AI Verify基金会，则是支持和扩展AI Verify框架的全球合作倡议，汇集了组织、研究人员和政策制定者，集合全球开源社区的技术力量共同开发AI测试工具。
2024年6月推出的Project Moonshot，是一款生成式AI测试开源工具包，将红队测试、基准测试和基线测试整合在一个易于使用的平台上，用于应对LLM安全和安保挑战。
我们为何加入
安远AI是国内目前唯一深耕AI安全治理领域的第三方社会企业，兼具中国视角和国际影响力。自成立以来，一直专注于AI安全和治理的研究与实践。作为AI Verify基金会的新成员，安远AI将：
- 利用我们在AI安全和治理方面的专业知识，为基金会提供策略建议，拓展合作伙伴。
- 与基金会其他成员共同开发和使用前沿AI评测工具，推动跨语言和跨文化评测。
- 促进AI安全评测方面的国际交流与合作，推动制定国际互认的AI安全评测和标准体系。
正如我们在成员证言中所述的：“安远AI致力于确保AI的开发和部署安全，并与全球利益保持一致。我们相信，在整个AI生命周期中进行严格的第三方测试对于确保我们能够从AI中获益并防范潜在危害至关重要。安远AI很高兴加入AI Verify基金会，为这项全球性努力作出贡献。”
我们期待与AI Verify基金会的伙伴们一起，为打造一个更加安全、负责任的AI未来贡献力量。