CSA ChatGPT安全研讨会：深信服对GPT技术应用的几点深度思考

万物相生相成。以ChatGPT为代表的生成式人工智能,为网络安全领域曾经难解的问题,提供全新解决思路,也伴生出令人担忧的安全问题。

出现矛盾意味着新的突破正要诞生。对于网络安全厂商来说,如何在保证数据安全、合规的基础上,主动应用GPT技术,解决技术发展过程中遇到的新问题,这是一个寻求业务突破的必修课题。

5月30日,由云安全联盟大中华区主办、深信服等单位承办的「CSA ChatGPT安全研讨会」在线上举行。

由深信服参与翻译的CSA白皮书《ChatGPT的安全影响》在会上发布。白皮书强调了GPT技术在提升生产力和改变软件开发实践上的潜力,同时也指出区分其合法和非法使用的挑战。

深信服安全业务运营总监訾然博士参与本次研讨会,并在圆桌环节发表对GPT技术应用的观点。

观点一:攻防对抗持续升级,需以智能对抗智能

当前已经出现攻击者利用AI大模型快速构建攻击工具,无论是在挖掘代码的漏洞、针对漏洞生成攻击脚本,或者是批量生成钓鱼邮件、社会工程学的聊天回复等。当攻防对抗持续升级,深信服认为“以智能对抗智能”,才是未来的发展方向。

深信服以高质量企业级数据的训练,自研出安全垂直领域的大模型“安全GPT”,赋能安全产品和服务,大幅提升对未知、高级威胁的检测能力。

经5000万样本数据测试,相较传统检测引擎,赋能安全GPT技术的深信服XDR对攻击绕过手法的检测率高达95.7%,误报率(安全告警里判错的比例)仅4.3%。

观点二:GPT技术应用将成为安全厂商的核心生产力与竞争力

深信服自研的安全GPT由“大模型算法+威胁情报+安全知识”训练而成的。为了防止大语言模型提供错误解答诱导的风险,深信服还通过小模型进行了大量的微调,使其既有泛化的检测能力,也有高质量的攻击解释能力。

这是大模型带来的技术飞跃,也为安全厂商带来核心生产力与竞争力。

深信服在国内安全领域率先进行了GPT技术应用的实践,并实现了首秀演示,展现出以下能力:

1.大幅提升对流量和日志的安全检测效果。

2.自动分析用户安全现状,并生成处置建议。

3.自动化调查、分析、研判,提升安全运营效率。

4.自然语言交互,提高用户体验,降低对运营人员的专业要求。

观点三:拥抱大模型,需更充分地拥抱云化

为了用好大模型技术,安全产业需要更开放、互联,更充分地拥抱云化。

深信服AI技术架构在用户侧的落地,依赖于“开放平台+领先组件+云端服务”的先进体系。通过开放的平台,享受云端在线、海量数据的能力;通过领先的组件,抓取攻击现场的丰富数据,并基于云端和本地的模型进行防护;再通过云端的服务,提供7*24h在线的服务兜底。

深信服安全GPT技术应用在XDR平台,平台具备云化交付能力,内置与大量组件的联动能力,便捷交付,开箱即用。

面对GPT技术应用,深信服已经迈出了尝试的一小步,在复杂攻击成为新常态的背景下,以GPT技术构建安全建设全新范式,在更精准检测防御高级威胁的同时,为安全运营工作降本增效,提升各行业用户安全基准线。

秉持AI First的发展战略,深信服将探索与解决更多的应用难题。相信在不久的将来,深信服所有的安全产品和服务,都会接入到安全GPT,实现真正智能的安全,助力每一位用户“安全领先一步”。