【专家观点】龚克：人工智能发展有何新趋势、新挑战？

人工智能是国家战略的重要组成部分，是未来国际竞争的焦点和经济发展的新引擎。近年来，中国陆续出台了多项政策，鼓励人工智能行业发展与创新，《关于支持建设新一代人工智能示范应用场景的通知》、《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》、《新型数据中心发展三年行动计划 ( 2021-2023 年 ) 》等产业政策都为人工智能产业发展提供了长期保障。

人工智能技术可能会给未来的社会治理带来哪些新挑战？人工智能发展的下一步会走向何方？财新智库《数字时代，请回答！》邀请中国新一代人工智能发展战略研究院执行院长、南开大学学术委员会主任龚克分享了他的思考与回答。

   数字时代，请回答！   

人工智能正在全球各个国家、各个产业大行其道，您眼中的人工智能的发展逻辑和路径是怎样的？

龚克：近年来，人工智能有成果性突破的技术是大规模人工神经网络预训练模型。

所谓大规模，体现在网络参数特别大，即使用的神经元和层数特别多。2020年5月份，语言训练模型GPT-3达到了1750亿个参数，随后，网络参数的规模又迅速攀升，达摩院的M6已经超过了10万亿，逼近百万亿的量级。清华和达摩院合作的八卦炉已经达到了150万亿之上，直逼人类神经元的数量级。

可以看出，大规模的训练模型的快速发展，使得人工神经网络技术已产生量变到质变的突破。

从单媒体到跨媒体，从认知功能到生成功能，这无疑是未来人工智能的发展路径。举个例子，我们看到冬奥的播报，有声音，有字幕，还有手语的呈现，便是跨媒体人工智能的配合。

另外，在大模型发展的同时，类脑计算等轻小模型也取得了重大发展。比如清华大学无人驾驶自行车登上《自然》杂志封面，这辆自行车不仅可以响应声控、加速转弯，还可以自主避障、进行S型路线跟踪等。

这并不是说大规模神经网络做不到，但其妙就妙在用小规模的类脑模型做到了，且融合在一个芯片上变成实用系统，因此被《自然》杂志称为重大的进展。这也是人工智能的发展路径。

未来，大模型和小模型可以结合起来，或许又是一条发展路径。而这些路径背后的逻辑，就是应用牵引与技术驱动的结合。

快速迭代的AI技术为我们打开了更加多彩也更加复杂的新视界。这些全新的技术正在如何走进我们的现实世界呢？

龚克：近年来引人注目的应用进展就是AI用于科学研究的进展。比如在生命科学领域，Alphafold的蛋白质折叠的预测，实践证明达到了出乎意料的预测结果，成为了蛋白质科学新的非常重要的工具。不仅是AlphaFold，还有RoseTTAFold也发表在《自然科学》杂志上，达到了非常好的性能。

数学研究领域，利用AI算法有两个重大成果：一是拓扑学新定理，二是提出了代数表示论新的猜想。这都是过去人要用长时间的研究才能做到的。不久前，《自然》杂志又发表了一篇文章，是用人工智能深度学习算法提出了代数方程的最优解法。这比几十年前获得菲尔斯奖的成果又进了一步。

物质科学领域，有个软件叫FermiNet，可以近似计算薛定谔方程。我们知道薛定谔方程是微观物理学的基本方程，但是它几乎很难在一个真实的材料上求解。现在人工智能的算法有助于求解密度泛函，是我们求解薛定谔方程非常重要的做法。

技术科学应用领域，去年在美国DESIGN AUTOMATION大会的三个奖都用了AI设计方面。从架构搜索到电阻晶体管逻辑的综合，对整个设计进行验证，最后做布线的布局，都用上了机器学习。

AI在生命科学、技术科学、物质科学、数学上的成功应用不可小觑，它促进了科技第一生产力自身的发展，进而会推动加速整个经济社会的进展。

每一次重大的技术革命和产业革命，都不可避免地孼变出“负面效应”。人工智能技术可能会给我们未来的社会治理带来哪些新挑战？人工智能发展的下一步会走向何方？

龚克：这是个十分现实的科技发展与社会治理方面的问题。

2021年11月23号，联合国教科文组织发布了第一份《人工智能伦理建议书》。建议书中提出了关于人工智能治理四项重要的核心世界观：保护人权，保护环境和生态多样性，保护社会的多样性和包容性，保护和平、公正和互联。在这个价值观基础上，又提出了10项原则以及11个政策实施领域。

但所有这些好的观念和方案，怎么能够真正形式化地被计算机所理解？如何植入到人工智能的应用系统里面去，并实现人工智能的伦理化？这些都是非常现实而且重大的挑战。

对于人工智能发展的下一步，我想结合前面的几个例子谈三点：

第一，深度神经网络预训练大规模继续发展的同时，跨模态认知和生存能力更加强大的同时，类脑计算等轻小强新算法创新将更加活跃。大模型与小模型形成云边相互结合，这可能会形成一个新的发展趋势。

第二，在这个基础上，以数据驱动为特征的第二代AI现在正在可能向着“数据+知识”驱动的第三代人工智能演进。如果这样演进，人工智能在可解释性以及可预测性方面都会取得重大进展，将从根本上提升AI的可信度。

第三，AI的“两化”，它的工程化和伦理化，势在必行。工程化可降低AI融入千行百业的门槛，伦理化将驱动隐私计算等系列AI技术的发展。