前沿人工智能：发展与治理

作者简介

"顾问：薛澜，清华大学文科资深教授、博士生导师，清华大学苏世民书院院长，清华大学公共管理学院学术委员会主任 ，世界科技工作者联合会执行理事会委员。 主编：梁正，清华大学公共管理学院教授，人工智能国际治理研究院副院长，人工智能治理研究中心主任，中国科技政策研究中心副主任，科技发展与治理研究中心学术委员会秘书长。同时兼任中国科学与科技政策研究会常务理事、副秘书长，公共管理专业委员会副主任，中国知识产权研究会理事，中国国际科学技术合作协会理事，《科学与管理》《中国标准化》杂志编委。主要研究方向为科技创新政策、研发全球化、标准与知识产权、新兴技术治理。在国内外学术期刊上发表论文近百篇，先后获第八届高等学校科学研究优秀成果一等奖，中国科学学与科技政策研究会优秀青年奖。主持国家科技创新2030重大项目，国家社会科学基金重大研究专项等科研项目近百项。"

内容简介

"在人类历史的长河中，每一次技术的飞跃都伴随着对未知的探索与对未来的思考。当前，人工智能的快速发展正在酝酿一场新的社会变革，重塑着世界的面貌和人类的生活方式；它既为我们带来了前所未有的便利，同时也会产生一系列伦理问题和治理挑战。如何驾驭这一强大而复杂的技术力量，使其更好地服务于人类社会，成为摆在我们面前的现实问题。 我国高度重视人工智能发展与治理问题。2018 年 10 月 31 日，习近平总书记在中共中央政治局第九次集体学习时强调：“人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题……各级领导干部要努力学习科技前沿知识，把握人工智能发展规律和特点，加强统筹协调，加大政策支持，形成工作合力”。2023年7月10日，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，以促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。在十四届全国人大二次会议上，李强总理在 2024 年《政府工作报告》中提出，要深化大数据、人工智能等研发应用，开展“人工智能 +”行动。 当前，前沿人工智能技术不断加速迭代，令人应接不暇，引发了全社会的疑问和焦虑。同时，人工智能技术的价值应用和风险防范，需要全社会成员的共同参与，因而需要在全国开展人工智能科普行动，主动迎接智能社会的来临。为此，清华大学人工智能国际治理研究院、人工智能治理研究中心、清华大学中国科技政策研究中心开展了一系列相关工作：一方面，与中国新闻网、财新网、央视财经频道、CGTN、搜狐科技等机构合作，通过媒体专访，积极回应社会需求；另一方面，深入政府、企业、学校等机构进行调研，掌握人工智能技术的最新动态和实际应用状况。团队在整理媒体采访和调研报告的基础上，形成了《前沿人工智能：发展与治理》一书。 全书从基本情况、应用现状、潜在风险、国际治理和应对策略五大方面入手，对前沿人工智能的发展与治理问题进行了全景解读。 第一章在梳理人工智能发展历程的基础上，介绍了以 ChatGPT、Sora 为代表的前沿人工智能的发展概况，说明了前沿人工智能的技术原理、主要特征、功能优势和局限之处。 第二章陈述了前沿人工智能的发展和应用现状。一是从数据、算力、算法等基本要素出发介绍了其发展情况；二是从产业发展、商业部署和变革趋势三个方面勾勒了前沿人工智能的产业生态；三是在提出应用场景的基础上，运用典型案例，生动展现了当前我国“人工智能 +”行动在工业、金融、政务、教育和医疗等场景的产业实践。 第三章分析了前沿人工智能的潜在风险。首先以风险源、影响主体、风险性质等为依据，建立了风险分类体系；然后以风险源为标准，详细解读了基于技术本身、技术开发和技术应用的共3类12种风险。 第四章探讨了前沿人工智能的国际治理。一方面，在比较美国、欧盟等国家和地区前沿人工智能治理模式的基础上，提出了对中国的经验借鉴和启示。另一方面，总结了当前应对人工智能风险的国际共识和分歧，提出要以搭建开放包容的国际平台为切入点，建立国际治理体系；我国要积极参与国际治理体系建设，为促进人工智能造福人类、推动构建人类命运共同体贡献力量。 第五章构建了前沿人工智能治理体系。首先分析了人工智能治理的内涵，从技术、制度、文化和资本角度对人工智能治理进行了解读；然后揭示了当前人工智能治理的困境，提出要坚持发展与治理的平衡，推动多元主体参与，不断完善敏捷治理；最后在梳理我国人工智能治理历史脉络的基础上，对未来人工智能治理范式进行了展望。 本书具有三大特色：第一，深入浅出，可读性强。我们力图用通俗易懂的语言、生动鲜活的案例，为读者系统呈现前沿人工智能发展与治理问题。第二，联系理论，贴近现实。我们将理论与实践融为一体，既从专业角度透视前沿人工智能的理论框架，又基于一线调研和实地考察，通过数据和事实说明前沿人工智能的应用价值和风险挑战。第三，立足中国，放眼国际。人工智能引发的全球性问题涉及“地球村”的方方面面，任何一个国家都无法单独应对，因而国际治理是人工智能治理版图中不可缺少的一部分，对此我们对“前沿人工智能的国际治理”作了专门探讨。我们认为，尽管人工智能会带来很多风险，但不发展才是最大的不安全。我们应坚持平衡包容、敏捷协同的治理思路，牢牢把握新一轮科技革命的机遇，推动高质量发展取得新的更大成效。 在书稿即将付梓之际，感谢中国发展出版社领导和同事们在出版过程中的辛勤努力；感谢众多企业、学校和地方政府在调研工作中的大力支持！ 本书各章作者具体如下： “第一章　读懂前沿人工智能”为田贵平、盖小雨； “第二章　前沿人工智能的发展与应用”为何江、韩希佳、黄甄铭、田贵平、李若忆、岡美保子、于洋、曾雄； “第三章　前沿人工智能的潜在风险”为田贵平、盖小雨； “第四章　前沿人工智能的国际治理”为梁正、盛舒洋、王净宇； “第五章　前沿人工智能的治理体系构建”为薛澜、梁正、李洋、庞桢敬、姜李丹。 最后，感谢新一代人工智能国家科技重大专项“新一代人工智能风险防范与治理手段研究”（2023ZD0121700）、清华大学自主科研计划（20223080026）和北京人文社会科学研究中心的资助。 " "在人类历史的长河中，每一次技术的飞跃都伴随着对未知的探索与对未来的思考。当前，人工智能的快速发展正在酝酿一场新的社会变革，重塑着世界的面貌和人类的生活方式；它既为我们带来了前所未有的便利，同时也会产生一系列伦理问题和治理挑战。如何驾驭这一强大而复杂的技术力量，使其更好地服务于人类社会，成为摆在我们面前的现实问题。 《前沿人工智能：发展与治理》一书从基本情况、应用现状、潜在风险、国际治理和应对策略五大方面入手，对前沿人工智能的发展与治理问题进行了全景解读。本书具有三大特色：第一，深入浅出，可读性强。作者力图用通俗易懂的语言、生动鲜活的案例，为读者系统呈现前沿人工智能发展与治理问题。第二，联系理论，贴近现实。作者将理论与实践融为一体，既从专业角度透视前沿人工智能的理论框架，又基于一线调研和实地考察，通过数据和事实说明前沿人工智能的应用价值和风险挑战。第三，立足中国，放眼国际。人工智能引发的全球性问题涉及“地球村”的方方面面，任何一个国家都无法单独应对，因而国际治理是人工智能治理版图中不可缺少的一部分，对此作者对“前沿人工智能的国际治理”作了专门探讨。作者认为，尽管人工智能会带来很多风险，但不发展才是最大的不安全。我们应坚持平衡包容、敏捷协同的治理思路，牢牢把握新一轮科技革命的机遇，推动高质量发展取得新的更大成效。"