龚  克

中国新一代人工智能发展战略研究院执行院长

信创海河实验室主任

2022年11月30日 ，ChatGPT“横空出世”，第一次以我们没有想象到的能力做文本、做图像、做视频、做音乐、做代码，不到两个月就赢得了超过一亿的用户，而且是在没有向14亿人口大国开放的情况下，达到了这样一个前所未有的数量。可以说，ChatGPT把人工智能推进到了一个新的阶段：技术上依靠大模型和一系列技术的组合，可以在相当程度上实现对语义的把握，基于此又可以用不同的形式把语义表达出来。我认为，这是最大的技术突破。

但是它在给人们带来惊喜的同时也带来了忧虑，它和人类是什么关系，能否被有效管控，会不会最终终结人类？于是乎就有一批人在2023年2月的时候呼吁，把AI先停一下。但是停下来没有呢？根据麦肯锡在2023年5月底发布的调查显示，按照不同地区、不同行业、不同职业岗位、不同年龄、不同性别来看，亚太地区和北美地区有41%的人在工作或者生活中会经常使用ChatGPT。比如，科技、媒体和通讯领域使用的人超过50%；CEO、CTO、CFO这个级别的高层管理人员有将近40%的人在用，中层管理人员有超过40%的人在用。所以能够说明人工智能已经进入到了我们的生产生活中。

那么，站在人类发展的立场上，对人工智能到底应该怎么看？

首先，没有人可以阻止人工智能技术的发展。

人类的发展历程表明没有人能够阻挡技术的进步，人类总是不断创造出新的工具来提升自身的能力。

有人会说因为AI太强大了，才对它产生恐惧，我觉得是不必要的。历史上所创造的工具都比人的功能要强大，如果不是这样就没有必要创造出这样的工具。这个强大不仅是在体力方面，而且还在脑力方面。比如算盘并没有扩展人的体力，其实是在帮助人的脑力。而现在的信息革命更多的就是在帮助人们脑力的发展，所以这一点是不可能阻挡的。

2023年11月发布的GPT4 Turbo就是一个非常重要的例子。GPT4 Turbo和2022年的相比，上下文从支持8K到了128K，不到一年的时间就有了这么大的突破。充分说明AI的发展不仅不会停止，而且还在技术上加速迭代、在产业上高速增长。AI是一种先进的生产力，习近平总书记曾对它作出判断：从社会发展史来看，人类经历了农业革命、工业革命，正在经历信息革命。工业革命拓展人类的体力，信息革命增强人类的脑力，带来生产力又一次质的飞跃，对国际政治、经济、文化、社会、生态、军事等领域产生深刻的影响。而引领新一轮科技革命和产业变革的战略性技术是人工智能，它具有溢出带动性很强的头雁效应。

其次，人工智能是有风险的。

风险无非来自于两个方面：一方面来自于技术的不成熟造成的问题以及事实推理的错误。另一方面就是对它的恶意应用。

我们要想发展健康的人工智能，从人类发展的角度来讲，首先就是必须有一个利于发展的治理环境。要用是不是有利于发展AI生产力作为判断我们这些政策的标准，而不能试图用现有的、不合时宜的东西来框住新兴的生产力。比如，我们需要大力普及AI知识，消除不必要的社会焦虑，并且培养未来智能化时代的合格公民。

另外，要基于风险区分不同层级进行治理。我国在基于伦理治理方面，建立了高风险清单——对人类的主观行为、心理情绪和生命健康有较强影响的人机融合研发是高风险的；舆论社会动员能力和社会意识引导能力的算法模型是具有高风险的；面向存在人身安全健康威胁的高度自主能力的自动化系统是高风险的。这是中国定义的三类高风险治理，其实欧洲的法案也有针对不同级风险的治理政策，比如对自然人身体和心理造成伤害的是不可以使用的，但用在关键基础设施、公民教育、就业、公共服务是可行的。所以要看什么人用，用在什么地方，形成治理的共识。

第三，推进全球多利益相关方共同治理。

现在当务之急是需要由联合国主导，形成一个多元参与的AI发展与治理的广泛对话，形成明确的共识，并且在此基础上合作创新，让AI具有人类的价值观，服务于人类的可持续发展。

本文选自《国家创新发展战略》（季刊）2024年第1期

内容为中国新一代人工智能发展战略研究院执行院长、信创海河实验室主任龚克在2023年“读懂中国”国际会议——“人工智能与人类未来”平行研讨会上发表的演讲。