高瓴人工智能学院曾毅教授在世界互联网大会发布《前沿人工智能安全与治理2026:风险认知与协同治理》报告
11月3日,世界互联网大会乌镇峰会主论坛上,《前沿人工智能安全与治理2026:风险认知与协同治理》报告正式发布。报告由世界互联网大会人工智能专业委员会主任委员、中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅发布。

报告系统梳理前沿人工智能风险图景,总结治理实践,结合前沿人工智能治理就绪度评估,识别关键治理缺口与薄弱之处,并就进一步加强全球各方治理协同,提出五点建议:一是推动模型安全评测协同,夯实风险证据基础;二是做好不同主体安全承诺及落实情况的协同核验;三是加强风险事件通报与联合处置;四是完善智能体和开放模型的协同治理安排;五是深化能力建设合作,普惠共享安全与治理资源。

曾毅教授介绍,报告中揭示了一个重要观察,高收入国家人工智能安全治理就续度方面显著优于中等收入、低收入国家。但这对中等收入国家和低收入国家是关键的潜在风险,因为最先进的人工智能技术与模型引入这些国家,但是他们在安全与治理方面准备不足,就极易受到技术风险伤害。这是我们通过这份报告给予各个国家的重要建议:安全治理确保人工智能的稳健发展与应用,发展与安全需并举并重。

报告由中国人民大学高瓴人工智能学院、北京前瞻人工智能安全与治理研究院、世界互联网大会和中国科学院大学作为主要编写团队,中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅和英国剑桥大学教授肖恩·欧·海格缇联合牵头,由来自近60家机构的近百位学者共同撰写。报告汇聚了多方智慧,历经多轮调研与研讨,并获得专委会成员及各方专家的积极响应与支持。报告旨在为国际社会相关讨论提供有益思路和参考,增进各方对前沿人工智能风险的认知与共识,提升前瞻准备与协同应对能力。
世界互联网大会人工智能专业委员会安全与治理推进计划,拟在此项成果的基础上,打造“前沿人工智能安全与治理”系列报告,作为面向国际社会的年度公共产品,旨在系统跟踪前沿人工智能的发展动态及其引发的安全与治理新挑战,评估关键风险,推动完善相关治理实践,力求增进全球共识,推动前沿人工智能安全、可靠、负责任发展,更好服务人类共同福祉。
报告链接:
