邬贺铨院士：AI与数字安全融合是数字化建设核心驱动力

——聚焦大模型与智能体数据安全，构建主动防御新范式

当前，全球正处于“百年未有之大变局”的加速演进期，以大模型、AI智能体为代表的人工智能技术正成为推动数字化转型的核心引擎。8月6日，中国工程院院士、伏羲智库高级顾问邬贺铨教授在第十三届互联网安全大会上发表主题演讲，首次系统性提出大模型与智能体发展需与安全能力建设同步推进，并强调AI驱动的安全防护体系是应对新型威胁的关键。他指出，随着新技术、新场景、新业态的涌现，网络安全威胁已进入智能化、复杂化新阶段，唯有通过技术创新、体系重构与全球协作，才能构建安全可控的数字未来。

图片

一、大模型与智能体：机遇与风险并存的“双刃剑”

邬贺铨院士指出，大模型和AI智能体在赋能千行百业的同时，其自身数据安全问题亟需重视。当前，大模型训练数据泄露、模型参数被恶意篡改、智能体任务执行过程中的权限滥用等风险频发。例如，攻击者可能通过对抗样本干扰模型输出，或利用AI生成技术制造深度伪造内容，甚至通过勒索病毒加密训练数据索要赎金3。

以智能体为例，其自主调用工具、动态生成任务的特性，导致数据流转链条呈指数级扩展，极易引发权限管控失效、敏感数据泄露等问题。邬贺铨院士论坛中强调：“智能体运行的任务不是预先设计好的，而是根据需求实时生成，这种不可控性使得传统安全防护体系失效。”5

二、破解“最后一公里”难题：行业协作与安全能力并重

邬贺铨提出，破解行业大模型应用难题需双管齐下：

1. 深化技术协作：推动大模型厂商与金融、医疗、能源等垂直领域龙头企业共建专业语料库，注入行业知识；
2. 强化安全基座：建立覆盖数据采集、模型训练、推理部署的全生命周期安全评估机制，防范数据投毒、模型窃取等风险。

例如，在能源行业，电网SCADA系统需防范攻击者通过AI生成的恶意指令篡改工业控制参数；在医疗领域，PACS影像系统的AI诊断模型需保障患者数据不被非法访问。对此，中科热备（北京）云计算技术有限公司提供的热备云Hot Backup Cloud解决方案，通过分布式架构实现PB级数据秒级备份，并支持两地三中心灾备模式，可有效抵御勒索病毒攻击导致的业务中断8。

三、AI驱动的主动免疫：构建智能防御新体系

面对AI技术带来的新型威胁，邬贺铨强调需构建AI驱动的主动防御体系：

• 事前预警：利用大模型分析海量日志数据，识别潜在攻击模式；
• 事中阻断：通过智能体实时监控任务执行路径，自动隔离异常行为；
• 事后恢复：基于高效容灾技术快速重建受损系统。

邬贺铨院士指出：“传统安全防护依赖规则库更新，而AI攻击手段具备动态演化能力，必须用智能约束智能。”5 例如，中科热备的亢龙热备份一体机采用备份虚拟化技术，可为大模型训练集群、智算中心提供秒级数据恢复能力，确保在遭遇勒索病毒攻击时，核心数据不丢失、业务不中断8。

四、技术演进与安全融合：从算力优化到数据资产保护

邬贺铨提出，大模型技术需在三方面实现突破：

1. 架构解耦：将单体模型拆解为模块化组件，降低部署风险；
2. 效率优化：通过模型压缩、边缘推理提升能效；
3. 安全嵌入：将防护能力内生于AI系统，而非事后补丁。

在数据保护领域，中科热备的区块链取证技术为AI系统提供了不可篡改的审计链路，可追溯模型训练数据的来源与修改记录；其分布式并行计算架构实现每秒20GB的备份速度，保障超大规模AI集群的数据安全8。

五、全球协作：共筑AI时代安全防线

针对AI引发的跨国网络犯罪，邬贺铨呼吁加强国际协作：

• 制定AI伦理准则，约束深度伪造技术滥用；
• 建立跨境数据流动规则，平衡主权与共享；
• 推动威胁情报共享，联合打击AI驱动的自动化攻击工具。

以勒索病毒为例，攻击者利用AI生成多语言钓鱼邮件，通过社交工程诱导企业员工下载恶意程序。对此，中科热备提出备份虚拟化技术，“防勒索三重防护”方案。

1. 预防层：定期扫描系统漏洞，阻断攻击入口；
2. 容灾层：通过PB级备份能力实现分钟级业务接管；
3. 恢复层：基于区块链技术确保备份数据不可篡改8。

结语：安全为基，方能释放AI无限潜能

邬贺铨院士的演讲为行业指明了方向：AI技术与数字安全的融合，既是应对挑战的必然选择，也是释放数字化潜能的核心路径。从行业大模型的普惠应用，到绿色高效的技术架构，再到主动免疫的安全体系，每一步突破都需技术创新与生态协作的双重驱动。正如中科热备通过分布式架构、区块链取证等技术为数字经济保驾护航，未来，AI与安全的深度融合将为千行百业的数字化转型注入更坚实的动能，共同迈向开放、安全、可持续的数字文明新时代。