AI 技术发展趋势

基于深度学习的人工智能方法在许多场景取得了重要突破，但仍然存在模型可解释性差、对抗样本鲁棒性差、数据与算力需求大、理论基础薄弱等问题。未来，人工智能需要突破的主要领域有：可解释人工智能和鲁棒人工智能理论与方法、通用人工智能理论与方法、安全、可靠、可信及可扩展的人工智能技术、类脑智能等。从感知智能走向认知智能是人工智能技术发展的趋势。

认知智能是人工智能技术的高级阶段，旨在赋予机器数据理解、知识表达、逻辑推理、自主学习等能力，使机器成为人类改造世界、提升能力的得力助手。在从感知智能到认知智能的发展过程中，语义及知识的表达和逻辑推理是进行认知的重要手段，而多模态学习则是获得信息融合和协同的重要手段。通过构建多模态的大规模基础模型，可以学习多种信息的融合表征，建立模态转换和协同关联，从而提高 AI 系统对复杂环境的认知和理解能力，进而获得多场景多任务的 AI 应用能力。

▶ 通用基础大模型 :

从弱人工智能到强人工智能发展的路线上，提高机器解决问题的“泛化”能力，是重要的手段。在场景泛化、模态泛化、任务泛化等方面，通过大规模基础模型的领域通用方法，赋予 AI 系统解决多问题的能力。随着数据规模逐渐扩大，数据模态进一步丰富，预训练大模型充分学习不同模态数据的表征，通过预训练 - 微调的模式，完成多种类型的任务。预训练模型与领域数据结合，基于多场景数据进行学习，将成为一种完成下游任务的基础模型，应对更为复杂的智能决策场景。

传统的 AI 是企业或组织根据自身已部署数据收集系统来收集数据，根据执行系统设计执行动作，从根本上导致的同一问题的模型多样化，然后这样会导致重复的模型训练工作，并且一个模型只能用在一个系统中，导致资源浪费。为提高资源利用率，同时得益于多点协作等技术的应用带来的通用基础设施和通用数据集，AI 模型亦将趋向通用化。

▶ 边缘人工智能 :

面向手机、可穿戴设备、传感器等海量边缘设备，通过模型压缩与优化加速技术，将智能赋予边缘设备。基于预训练大模型，根据边缘设备的计算、存储、功耗等限制，设计特定的低精度和稀疏化等模式，并通过知识蒸馏等方法，实现小尺寸、低复杂度、低功耗等目标。进一步，边缘设备可基于本地数据训练的模型优化大模型的性能。

▶ 自动自治 AI:

目前，深度学习的开发及应用并未突破主流监督学习的模式，数据清洗、数据标注，模型的设计、开发、训练和部署等都需要大量人力投入。迁移学习、小样本、零样本、自监督、弱监督、半监督、无监督及主动学习等新方法将推动人工智最终实现“自治”，解决模型训练、迭代、设计对人工的依赖。未来 AI 自治使得模型更加归一，数据规模进一步扩大，不再需要人工干预，模型可以在线学习吸收新的数据知识，实现自身能力的迭代提升。

数据规模扩大及在线学习将使模型的生产更加集约化，各行业的业务模型会汇聚成几个甚至一个超大模型。运用 AI 技术的本质就是要减少人工参与，甚至消除人工参与，当前 AI 在应用过程中往往与多种传感器系统和联网的策略和执行功能组件配合，避免过多人工收集处理数据作为 AI 进行自我更新的输入，也减少人工参与 AI输出结果的分析和执行。人类社会是实时变化的，固化的算法模型无法满足即便是单一的业务，因此， 为保障整个系统的有效性或准确性，AI 系统需要实时接收反馈，不断更新自身。以便系统向精准化迈进。

▶ 隐私保护学习 :

数据匿名化、联邦学习、差分隐私等一系列隐私保护学习方法，可以解决包括用户数据在授权范围以外被使用、模型训练后存在数据记忆等隐私泄露问题。联邦学习将数据保存在本地，通过模型融合，实现多个参与方在保护数据隐私要求的前提下进行机器学习，合作进行模型训练，实现用户间的数据联合建模。更加灵活高效的保护用户数据隐私的 AI 学习方法将帮助 AI 算法在各种场景中持续地进化，让数据被有效利用，充分发挥其商业、科学和社会价值，为用户提供高效优质的服务。

▶ 类脑人工智能 :

类脑人工智能期望借鉴和模仿生物神经元的工作模式，通过构建功能更加丰富的神经元，建立具有事件触发、脉冲编码、时间和空间信息协同处理的能力；利用神经动力学原理，可实现短时可塑性和长期记忆，在开放环境中具备自适应调整和学习能力；借鉴生物脑的稀疏连接和递归特性可大大减少能耗。如果能够突破相关技术，未来五到十年类脑计算可能会在众多计算任务中展现出性能和功耗优势，并在智能终端、穿戴式设备、自动驾驶等领域得到应用。

▶ 大小模型端云协同进化：

云上大模型全局知识向端上小模型有效降维迁移和大规模端上小模型学习所得新知识向大模型升维融合。异构终端轻量化模型弹性构建、端侧模型个性化增强学习、端云协同模型训练框架设计和分布式多擎计算，构建完善的大小模型端云协同进化技术体系，形成包含端云一致高性能模型运行容器、低时延端云模型迁移通道和端云协同进化部署的研发工具链。

▶ 多智能体博弈智能：

多智能体多回合复杂合作和冲突博弈可以实现自我学习和自我演化，以强化学习为基础的学习推理模型发展出面向进化的多维评估管理方法，结合合作和非合作博弈智能模型实现对复杂问题的人机协同求解。

▶ 3D 视觉：

3D 视觉技术是视觉 AI 领域多年热点研究方向之一，核心任务是对三维空间、物体及环境进行真实还原与重建。随着相关算法与硬件计算能力的不断升级， 3D 视觉算法效果得到大幅提升，三维几何重建更加精细，表面纹理重建更加清晰，带来更加逼真的视觉观感。基于 3D虚拟形象的舞台演出、直播带货、教育互动等应用层出不穷，成为 AI 内容产业全新发展方向。

▶ 公平性 AI 算法：

由于数据偏差、算法本身缺陷、甚至是人为偏见的存在，现有 AI 算法普遍存在对于某些特定人群效果不公平的 " 歧视性现象 "。随着 AI 算法在社会各行业的广泛落地应用，作为辅助人们决策的重要工具，算法的公平性问题正受到越来越多的关注。过去的几年业界已在逐步探索一些针对性的解决方案，包括构建更公正的数据集、算法训练中引入公平性约束损失、提高机器学习算法的可解释性等。

▶ 安全 AI：

近年来算法后门攻击、对抗样本攻击、模型窃取攻击等针对人工智能算法的攻击技术持续发展，通过篡改构造特殊数据诱骗人工智能应用产生不可信的错误结果，带来了更大的算法安全风险，因此保障人工智能应用安全可靠的需求日渐迫切。未来人工智能技术将向着安全智能方向持续演化，一方面从算法的可解释性入手提升模型的鲁棒性，另一方面化被动为主动，通过主动安全检测机制对各类攻击进行侦测与拦截，最终实现人工智能可用性与可信性双轨并重的现实需求，推动人工智能技术在更广泛领域的安全落地。

▶ 可解释性：

随着 AI 深入到生活的各个领域，特别是涉及多个系统，多个责任对象的领域，安全可信和责任相关问题凸显。要求 AI 不可再作为黑盒子存在，而应该呈现 AI 在发挥作用的每一个阶段的具体作用，是否符合法规等。例如自动驾驶领域，近期的特斯拉交通事故。可解释性也为工程师提供优化模型的依据。因此，学术界和业界正在 AI的可解释性方面进行了较大的投入。

▶ 多点协作：

在 AI 技术发展过程中，算力、数据和模型作为人工智能三要素被呈现，然而实际上位于大型数据中心或者说云端的大算力节点不具备访问位于边缘的具备海量数据的节点的权限；位于边缘的具备海量数据的节点不具备将数据转化为模型的算力，导致单一节点通常因为未能全部满足三要素导致难以完成任务。此外，5G 网络部署扩展以及未来 6G 网络部署，为多节点的互通提供更多的通信资源。这些因素促使 AI 技术向多点协作的方向发展。