全球人工智能治理的进展、挑战与中国角色

　　郎 平 / 中国社会科学院世界经济与政治研究所研究员

　　【内容提要】近年来，随着生成式人工智能的不断突破创新，人工智能治理迅速成为诸多政府间国际组织和多边平台热议的话题。联合国作为最具权威性和代表性的国际组织积极引领全球人工智能治理进程，二十国集团、七国集团、经合组织等其他政府间国际组织也积极推进人工智能治理相关议程，国际社会发起全球人工智能安全治理的新进程。各国人工智能监管政策存在不确定性，大国战略竞争不断加剧，以及人工智能军事化安全风险加大，给全球人工智能治理带来诸多挑战。作为人工智能大国，中国深度参与和积极引领全球人工智能治理，为弥合全球智能鸿沟、促进人工智能国际合作、 推动构建全球人工智能治理框架贡献中国智慧和方案。

　　【关键词】人工智能 全球人工智能治理 人工智能安全风险

　　人工智能是人类技术发展新领域，也是当下最受关注的全球治理议题之一。近年来，生成式人工智能取得突破性发展，“空间智能”“具身智能”“生命智能”等新概念不断出现，人工智能技术规模化应用前景已经清晰可见，距离像人类一样思考和行动的“通用人工智能”似乎更近了一步。作为引领新一轮科技革命和产业变革的战略性技术，人工智能在给人类社会带来巨大发展机遇的同时，也带来诸多安全风险和挑战。如何在全球层面尽可能激发人工智能技术的发展潜力并构建有效的人工智能治理框架，已成为当下国际社会关注的焦点。

　　全球人工智能治理的进展

　　近年来，在算力提升、算法革新和大数据技术的助推下，人工智能迎来新一轮发展浪潮。语言大模型、多模态模型、智能体和具身智能等领域不断突破创新，技术的突破性进展使通用人工智能出现的可能性增大，国际社会对通用人工智能技术会危及人类生存的担忧不断加剧。2023年5月，包括OpenAI首席执行官萨姆·奥尔特曼、图灵奖获得者“深度学习之父”约书亚·本吉奥和杰弗里·辛顿等在内的370余位人工智能领域权威专家发表了仅有一句话内容的《人工智能风险声明》，呼吁“降低人工智能引发人类灭绝的风险，此风险应与流行病和核战争等其他大规模社会性风险一样，成为全球优先解决的事项”。[1]正是在此背景下，人工智能治理迅速成为诸多政府间国际组织和多边平台热议的话题。

　　国际社会对人工智能治理的关注可以追溯到2010年前后。当时联合国教科文组织和国际电信联盟已经开始关注人工智能技术对教育、文化和伦理以及通信技术的影响，但人工智能治理并没有被提上国际议程。2017年通常被看作全球人工智能治理进程的开端，这一年，国际电信联盟与“X大奖基金会”联合举办首届“人工智能造福人类全球峰会”，旨在推动人工智能助力可持续发展目标；联合国秘书长报告也首次明确将人工智能纳入全球治理议题。2018年，联合国成立数字合作高级别小组，提出人工智能治理需要国际合作。2019年，联合国教科文组织启动制定全球首份《人工智能伦理建议书》并于2021年11月正式通过，经合组织发布全球首个政府间人工智能治理原则文件，二十国集团首次提出“二十国集团人工智能原则”。2022年生成式人工智能取得突破性进展之后，全球人工智能治理进程开始加速推进。

　　第一，联合国作为最具权威性和代表性的国际组织，积极引领全球人工智能治理进程。2023年7月，联合国秘书长古特雷斯在安理会就人工智能举行的首场公开辩论会上表示，联合国是为人工智能制定国际标准与治理手段的“理想场所”，并考虑建立新的联合国机构来治理人工智能，机构的总体目标是“支持各国最大限度地受益于人工智能，减缓现有和潜在的风险，并构建和管理国际商定的监测与治理机制”。[2]10月，古特雷斯宣布组建人工智能高级别咨询机构，以帮助协调现有和新的人工智能治理倡议。2024年3月和7月，联合国大会先后通过《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》《加强人工智能能力建设国际合作》两项决议，强调在人工智能系统全生命周期内确保尊重、保护和增进人权以及基本自由等价值立场，推动形成非军事领域人工智能系统安全、可靠且值得信赖的监管和治理框架，有效凝聚了南北国家共识。9月，联合国未来峰会通过《全球数字契约》，将“加强人工智能国际治理，造福人类”视为五大目标之一，提出人工智能治理需采取平衡、包容和应对风险的方法，并承诺构建具体的实施机制，将成立人工智能国际科学小组，就人工智能治理问题开展全球对话，呼吁相关国际组织合作推动制定和采用可互操作的人工智能技术标准，利用现有的联合国和多利益攸关方机制支持人工智能能力建设等。[3] 2025年3月，联合国发布《设立与运作人工智能独立国际科学专家组与全球人工智能治理对话机制的职权范围与运行模式零号草案》，明确了专家组的组织架构与职能分工，并将全球人工智能治理对话机制设定为一个政府间与多利益攸关方共同参与的平台，致力于推动关于人工智能治理的公开、透明与包容性讨论。[4]此外，联合国教科文组织提出的人工智能伦理框架已得到50多个国家参与；国际电信联盟连续7年举办“人工智能造福人类全球峰会”，为全球人工智能利益攸关方交流对话搭建重要平台。

　　第二，其他政府间国际组织积极推进人工智能相关议程。2023年10月，七国集团领导人发起“广岛人工智能进程”，要求与“全球人工智能伙伴关系”、经合组织及发展中国家和新兴经济体合作，加快打造以人类为中心的包容性治理框架，并呼吁包括人工智能开发者在内的“所有相关人员”遵守国际行为准则。2023年11月，经合组织成员国批准了该组织对“人工智能系统”定义的更新，其中关于人工智能系统和生命周期的定义已成为全球人工智能政策制定的重要参考；2024年，经合组织发布新修订的《关于人工智能的建议书》，强调生成式人工智能背景下隐私、知识产权、安全和信息完整性保护的重要性，呼吁建立可互操作的全球治理框架。二十国集团在2023年新德里峰会上重申“以人为本，实现人工智能向善并服务全人类”的原则，2024年二十国集团里约热内卢峰会宣言表示将人工智能议题置于“全球治理机构改革”之中，并在2025年设立二十国集团人工智能任务组。2024年7月，上海合作组织发布《阿斯塔纳宣言》，高度关注人工智能技术发展与应用，表示愿在该领域开展合作，共同做好风险防范，确保人工智能造福全人类。金砖国家于2023年同意成立人工智能研究小组，促进形成具有广泛共识的人工智能治理框架和标准规范。

　　第三，国际社会发起全球人工智能安全治理新进程。2023年11月，由多个国家和国际组织共同发起的首届全球人工智能安全峰会在英国举办，推动签署了全球首个人工智能治理国际性声明——《布莱切利宣言》，强调各国“共同拥有维护人类安全的资源和任务，应为前沿人工智能系统的安全开发和部署建立正确的防护和治理机制”。2024年5月，人工智能首尔峰会的与会方联合发布《首尔宣言》和《关于人工智能安全科学的国际合作首尔意向书》，强调人工智能安全、创新、包容是相互关联的目标，敦促通过以人为本的人工智能技术解决全球性难题，增进民主、法治、人权、自由等价值，加大隐私保护力度，消除数字和人工智能鸿沟，从而提升人类福利水平。与会的全球人工智能相关企业承诺将致力于防范人工智能风险，以负责任的态度开发相关技术。2025年2月，在巴黎举办的人工智能行动峰会将人工智能可及性、普适性国际治理框架、人工智能驱动创新和发展、未来工作形态和劳动力市场、可持续发展和国际协调治理等列为优先事项。60个国家和国际组织签署了《关于发展包容、可持续的人工智能造福人类与地球的声明》，但美国和英国未签署。

　　全球人工智能治理面临的挑战

　　防范和应对人工智能的安全风险是国际社会的共同诉求。当下，人工智能技术正处于技术生命周期的起始阶段——创新和发展期，人工智能技术的发展蕴含着巨大的发展潜力和不确定性。与此同时，百年未有之大变局背景下大国竞争不断加剧，人工智能作为一项战略性技术必然会成为大国科技竞争的焦点。两种力量相互叠加，全球人工智能治理进程面临诸多挑战，任重而道远。

　　首先，人工智能技术快速发展，其大规模社会化应用并未真正开始，各国人工智能监管政策不断进行调整，为全球人工智能治理共识的达成增加了不确定性。当下，以人工智能为引领的数字技术革命正呈现显著的科技融合态势，人工智能技术的突破性创新还将进一步驱动更广泛的技术创新和变革，例如代理式人工智能、空间计算、智慧医疗、人工智能驱动的物联网、后量子加密技术、隐形智能设备等，其战略意义不容低估。尽可能激发人工智能技术的创新活力和发展潜能，成为各国政府制定人工智能监管政策的最大考量。欧盟一贯重视公民隐私保护和规范性权力，此前凭借《通用数据保护条例》引领了全球数据规则的制定，并且在2024年出台全球首部全面监管人工智能的法案——《欧盟人工智能法》。面对全球人工智能技术发展的浪潮，2025年2月，在法国巴黎举办的人工智能行动峰会上，欧盟委员会执行副主席维尔库宁表示，欧盟已着手简化人工智能监管规则，以便为技术创新松绑。美国特朗普政府上任伊始就明确表示反对人工智能领域的过度监管，副总统万斯在巴黎人工智能行动峰会上明确表示，对人工智能行业实施过度监管可能会扼杀一个刚刚起步的变革性行业，美国将尽一切努力促进人工智能行业的增长，把引领人工智能创新以及人工智能驱动的权力竞争作为政策的优先目标。在人工智能技术的创新期和发展期，各国人工智能监管立场的重大变化，特别是趋于放松监管的倾向，必然会给全球人工智能治理进程带来深远影响。

　　其次，人工智能成为大国博弈的前沿阵地，不断加剧的大国竞争或将增加全球人工智能治理的离心力。作为引领新一轮科技革命和产业变革的战略性技术，人工智能成为推动世界大变局加速演进、重塑世界秩序的重要力量，对国家的综合国力和核心竞争力发挥着关键的战略性作用。2023年11月，兰德公司发表《人工智能与地缘政治：人工智能如何影响国家的兴衰》报告，认为世界各国如何利用和管理人工智能发展将决定其实力兴衰，人工智能最终的发展道路将对未来世界的形态和轮廓产生重大影响。[5] 美国作为当今人工智能领域的第一大国，更是将人工智能竞争视为一场“高风险的经济和地缘政治竞赛”，作为战略资产的人工智能可以帮助美国获得经济和地缘政治优势。[6] 2025年1月，美国总统特朗普宣布启动一项名为“星际之门”（Stargate）的人工智能基础设施计划，预计未来4年内将投资5000亿美元，以巩固美国在人工智能领域的领导地位。2月，巴黎人工智能行动峰会期间，欧盟委员会主席冯德莱恩强调“希望欧洲成为人工智能领域的领先大陆之一”，并官宣了欧盟版“星际之门”计划“InvestAI”。中国人工智能大模型“深度求索”（DeepSeek）所引发的美西方强烈反应则使大国地缘政治竞争进一步具象化。美国外交学者网站、《华盛顿邮报》等多家媒体发文称，DeepSeek的出现是美国人工智能的“斯普特尼克时刻”，中国正在成为开源人工智能的全球领先者，并将改变全球人工智能竞赛的游戏规则；法国学者阿斯玛·马拉认为，DeepSeek将美国和中国的“对抗”摆在了台面上，为欧洲国家的人工智能发展敲响了警钟。[7] 随着越来越多的大国加入全球人工智能竞赛，大国间相互冲突的人工智能愿景很可能加剧国际社会的分裂，引发新的地缘政治对抗，制定全球人工智能治理统一规则变得更加困难。

　　最后，人工智能的国家安全风险是影响全球人工智能治理走向的双刃剑。如果说通用人工智能对人类的威胁是凝聚国际共识、推进全球人工智能治理的直接动力，那么在通用人工智能尚不知何时到来的当下，如何确保人工智能时代的国家安全则是每个国家的重要利益关切。一方面，人工智能带来的国家安全风险具有系统性、泛在性和低门槛的特点，人工智能技术可以被复制、共享并且应用在各领域，从批量化的虚假宣传到自动化的网络攻击，防范和化解人工智能安全风险是所有国家面临的共同挑战；另一方面，人工智能的武器化和军事化应用正在重塑战争形态，使本已复杂动荡的全球地缘政治态势更添不确定性。乌克兰危机已经成为人工智能技术的试验场，人工智能技术在认知战、情报战、无人机、辅助决策和网络对抗等领域被广泛应用。考虑到其低门槛和易扩散的特性，人工智能对国家安全的威胁甚至比核武器更难防范。2025年2月，兰德公司发布的《通用人工智能的五大国家安全难题》报告指出，通用人工智能将对美国国家安全带来五大战略性挑战：颠覆性武器系统涌现，系统性改变全球力量平衡，非专业人员开发大规模杀伤性技术，拥有能动性的智能体以及战略不稳定性增加。通用人工智能的发展轨迹及其突破性影响，乃至后通用人工智能时代的世界格局，都深陷巨大的不确定性中，这种不确定性对战略决策者和政策制定者构成严峻挑战。[8] 人工智能的军事化应用更凸显人工智能安全的竞争性和对抗性，政策制定者既要建立先发优势，又要避免陷入安全困境。因此，尽可能提升国家的竞争力和威慑能力往往成为优先选项，这将很大程度上削弱国家参与全球人工智能治理的积极性。

　　全球人工智能治理进程中的中国角色

　　作为世界第二大经济体和人工智能大国，中国始终积极参与和引领全球人工智能治理，是全球人工智能治理的积极倡导者和践行者。2023年10月，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中提出《全球人工智能治理倡议》，聚焦人工智能这一事关人类未来的重要领域，为中国积极参与全球人工智能治理指明了方向和路径。2025年4月，习近平总书记在中共中央政治局第二十次集体学习时强调，要广泛开展人工智能国际合作，帮助全球南方国家加强技术能力建设，为弥合全球智能鸿沟作出中国贡献。推动各方加强发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架和标准规范。中国积极落实《全球人工智能治理倡议》，践行中国理念主张，推动全球人工智能治理广泛交流和务实合作，获得国际社会广泛赞誉。

　　第一，为全球人工智能治理贡献中国方案。人工智能快速发展既是全世界的重大机遇，也是全球性的重大挑战，如何有效推进全球人工智能治理事关人类社会的福祉和人类文明进步的发展方向，更事关世界和平与稳定。2023年10月，中国提出《全球人工智能治理倡议》，围绕人工智能发展、安全和治理三方面系统阐述了中国方案。核心内容包括：坚持以人为本、智能向善，引导人工智能朝着有利于人类文明进步的方向发展；坚持相互尊重、平等互利，反对以意识形态划线或构建排他性集团，恶意阻挠他国人工智能发展；主张建立人工智能风险等级测试评估体系，不断提升人工智能技术的安全性、可靠性、可控性、公平性；支持在充分尊重各国政策和实践基础上，形成具有广泛共识的全球人工智能治理框架和标准规范，支持在联合国框架下讨论成立国际人工智能治理机构；加强面向发展中国家的国际合作与援助，弥合智能鸿沟和治理差距；等等。中国积极推动人工智能普惠发展，帮助发展中国家加强能力建设，主张开源人工智能技术，促进人工智能服务的可及性，实现各国共享智能红利。中国方案既体现了作为人工智能大国的责任担当，又彰显了作为最大发展中国家的协作精神。

　　第二，积极参与和引领全球人工智能治理进程，助力弥合全球智能鸿沟。中国支持联合国在全球人工智能治理中发挥重要作用，积极推动联合国框架内的人工智能治理进程与合作，深度参与联合国教科文组织、国际电信联盟、国际标准化组织等关于人工智能伦理的讨论和技术标准制定，大力推动联合国加强人工智能能力建设国际合作。2024年7月，中国提出的“加强人工智能能力建设国际合作”决议获联合国大会协商一致通过；9月，中国宣布《人工智能能力建设普惠计划》，围绕全球南方普遍期待提出“五大愿景”，开展“十项行动”，倡议成立“人工智能能力建设国际合作之友小组”。此外，中国还应邀出席在布莱切利、首尔和巴黎举办的关于人工智能的峰会，以高度负责的态度参与全球人工智能治理并签署相关会议宣言。

　　第三，推动人工智能领域的国际交流与对话，赋能双边和地区合作与发展。2024年5月，中法两国发表《关于人工智能和全球治理的联合声明》，一致认为促进人工智能的开发与安全，并为此推动适当的国际治理至关重要。中国高度重视与全球南方国家共享数字机遇，通过数字丝绸之路、金砖国家合作机制以及中非合作论坛、中国—东盟合作等双多边机制，将人工智能纳入合作框架，积极推动与全球南方国家在人工智能技术标准、基础设施建设以及产业层面的广泛合作。2024年7月，中国—金砖国家人工智能发展与合作中心启动，并于2025年1月在上海举办中心基地启用仪式，以推动金砖国家间技术与产业合作。同年4月，中国分别与越南、柬埔寨交换多项政府间合作文本，均涵盖了人工智能领域的合作。

　　第四，充分发挥全球治理平台的主场作用，引领构建全球人工智能治理框架。2024年7月，世界人工智能大会暨人工智能全球治理高级别会议发表《人工智能全球治理上海宣言》，呼吁各国秉持以人为本、智能向善原则，确保其发展过程中的安全性、可靠性、可控性和公平性，促进人工智能技术赋能人类社会发展，并且提出了推进人工智能国际合作的具体建议。2023年，世界互联网大会国际组织成立人工智能工作组，发布《发展负责任的生成式人工智能研究报告及共识文件》，并于2024年11月成立人工智能专业委员会；2024年乌镇峰会“网络空间国际规则：实践与探索”论坛发布成果文件《全球人工智能治理研究报告》，深入探讨全球人工智能治理的现状、议题和体系建设，明确提出了全球人工智能治理的“十大议题”以及推动构建完善全球人工智能治理体系建设应明确的目标宗旨、原则共识和行动路径。

　　结 语

　　伴随着数字技术革命的不断深化演进，全球人工智能治理将持续成为国际社会关注的焦点议题，但其未来走向还存在诸多不确定性。一方面，人工智能技术的发展前景尚不明朗，而这将在很大程度上决定“全球人工智能治理内容是什么”这一核心问题。如果在技术层面不能继续取得突破性进展，那么全球人工智能治理的主要内容很可能基于人工智能当下的创新和应用，聚焦于推动发展层面的能力建设和消除智能鸿沟以及防范其应用带来的安全风险。另一方面，在国际秩序重塑的过渡阶段，不断加剧的地缘政治冲突和大国竞争将决定全球人工智能治理进程到底能走多远。从乌克兰危机到中东冲突再到印巴交火，如果全球安全形势日趋紧张，大国协调得不到有效推进，考虑到人工智能技术的军民两用特点，全球人工智能治理的集体行动效果会大打折扣。但只要国际社会能够在平等尊重的基础上共商共建共享，坚持以人为本、智能向善，在不确定性中锚定确定性，就能共同推动人工智能技术发展造福世界。

　　本文是研究阐释党的二十大精神国家社科基金重大项目（项目批准号：23ZDA113）阶段性成果

　　—————————

　　[1] “Statement on AI Risk,” Center for AI Safety, May 2023, https://www.safe.ai/work/statement-on-ai-risk#press.

　　[2] 《秘书长：联合国是为人工智能制定全球标准与治理手段的“理想场所”》，联合国官网，2023年7月18日，https://news.un.org/zh/story/2023/07/1119877。

　　[3] “Global Digital Compact,” UN, September 2024, https://www.un.org/global-digital-compact/sites/default/files/2024-09/Global%20Digital%20Compact%20-%20English_0.pdf.

　　[4] “Terms of Reference and Modalities for the Establishment and Functioning of the Independent International Scientific Panel on Artificial Intelligence and the Global Dialogue on Artificial Intelligence Governance,” UN, March 17, 2025, https://www.un.org/global-digital-compact/sites/default/files/2025-03/ai_panel_and_dialogue_zero_draft_19_march_2025.pdf.

　　[5] Barry Pavel, et al, “AI and Geopolitics: How Might AI Affect the Rise and Fall of Nations?” Rand, November 3, 2023, https://www.rand.org/pubs/perspectives/PEA3034-1.html.

　　[6] Mohammed Soliman, “JD Vance Unveils America’s AI Doctrine,” The National Interest, February 13, 2025, https://nationalinterest.org/blog/techland/jd-vance-unveils-americas-ai-doctrine.

　　[7] 阿曼亭：《巴黎政治学院专家阿斯玛·马拉“DeepSeek：对欧洲的一记重击”》，欧中联合商会，2025年2月2日，https://www.eccu.fr/news/deepseek：对欧洲的一记重击/。

　　[8] Jim Mitre, Joel B. Predd, “Artificial General Intelligence’s Five Hard National Security Problems,” Feburary 10, 2025, https://www.rand.org/pubs/perspectives/PEA3691-4.html#:~:text=This%20paper%20puts%20forth%20five%20hard%20problems%20that,%284%29%20artificial%20entities%20with%20agency%2C%20and%20%285%29%20instability.

关注读览天下微信， 100万篇深度好文， 等你来看……