11月26日,以“AI赋能,高水平安全护航高质量发展”为主题的2025年(第十四届)电信和互联网行业网络安全年会在京举行。会议由中国通信企业协会主办,中国通信企业协会通信网络安全专业委员会承办。天融信科技集团受邀出席作主题分享,共同为智能体的安全治理提供建设性解决思路。
当下,生成式人工智能深度演进,智能体(Agent)正从概念走向规模化应用,成为撬动产业智能化变革的核心支点。Gartner预测,预计到2026年,超过80%的企业将使用生成式AI应用程序编程接口(API)或模型,或在相关生产环境中部署支持生成式AI的应用程序。当智能体逐渐成为连接数字与物理世界的关键桥梁的同时,其固有的不确定性也带来了前所未有的安全挑战。
天融信科技集团助理总裁 李建彬
“随着智能体技术的广泛应用,其带来的安全风险已逐渐凸显。‘黑盒’特性导致其意图越轨、行为失范、全链路风险不可见、事后追溯与责任界定困难等问题尤为突出,传统安全防护手段已难以应对。”李建彬在《智能体安全挑战与应对》主题演讲中谈到。
针对智能体安全领域的核心挑战,天融信提出以“一个安全运营中心”为核心,统筹“防护、监测、评估”三大能力,构建覆盖环境、数据、模型、应用与供应链的全生命周期智能体安全框架,并在此框架下凝练出四大核心应对策略。
● 精细化任务执行防护
在智能体任务执行的关键环节,如用户对话、服务调用、工具执行等节点部署安全控制点,实现对权限滥用、资源过载、恶意注入等违规行为的前置拦截与实时管控。
● 构建全业务流风险监测体系
通过旁路监测、流量分析等技术,对智能体在交互过程中的数据泄露、伦理偏离、恶意指令、异常提权等风险进行深度识别与响应,确保其行为全程可控。
● 实施运行过程安全评估
针对智能体依赖的大模型、MCP组件、外部知识库等,开展持续的脆弱性检测、对抗性评估与合规性审查,有效防范供应链投毒、漏洞利用等上游风险。
● 建立全生命周期操作追溯平台
基于思维链分析、行为链路重建等技术,记录从用户意图到工具调用的完整审计日志,实现安全事件的高效定责与回溯,为智能体的可信运行提供基石。
当前,智能体技术逐步融入产业核心领域,日益成为驱动产业变革的关键引擎。李建彬在演讲中谈到,智能体安全必将呈现“对抗节奏更快、技术博弈更深、覆盖范围更广”的特点。唯有通过政产学研用多方协同,夯实标准、人才、技术与实践四大支柱,方能共同构筑可信赖的智能未来。
自2014年启动AI工程化实践以来,天融信在持续夯实新质安全能力的过程中,已打造安全运营、漏洞评估、告警研判、情报解读、安全方案五大安全智能体。同时,针对大模型内生安全需求,天融信构建“框架-产品-服务”全链路防护体系,全方位保障大模型广泛应用。此外,天融信聚焦企业在大模型应用场景中的多样化诉求,推出智算云平台系统,助力客户快速搭建专属智能体,从多维度为企业数智化转型提供有力支撑。
据赛迪顾问发布的《中国2025中国智能体市场发展研究报告》显示,2024年,中国智能体市场规模达47.5亿元,同比增长64.4%;预计2025年将达78.4亿元,增速持续超过60%。智能体安全已成为决定企业未来竞争力的战略性问题。天融信将持续聚焦人工智能在企业实际业务场景中的创新与应用实践,为千行百业的数智化转型保驾护航。