2023年最新CSA研讨会-ChatGPT的安全影响白皮书下载

万物相生相成。以ChatGPT为代表的生成式人工智能，为网络安全领域曾经难解的问题，提供全新解决思路，也伴生出令人担忧的安全问题。

出现矛盾意味着新的突破正要诞生。对于网络安全厂商来说，如何在保证数据安全、合规的基础上，主动应用GPT技术，解决技术发展过程中遇到的新问题，这是一个寻求业务突破的必修课题。

5月30日，由云安全联盟大中华区主办、国内一线安全厂商等单位承办的「CSA ChatGPT安全研讨会」在线上举行。

翻译的CSA白皮书《ChatGPT的安全影响》在会上发布。白皮书强调了GPT技术在提升生产力和改变软件开发实践上的潜力，同时也指出区分其合法和非法使用的挑战。

观点一

攻防对抗持续升级，需以智能对抗智能

当前已经出现攻击者利用AI大模型快速构建攻击工具，无论是在挖掘代码的漏洞、针对漏洞生成攻击脚本，或者是批量生成钓鱼邮件、社会工程学的聊天回复等。当攻防对抗持续升级，认为「以智能对抗智能」，才是未来的发展方向。

以高质量企业级数据的训练，自研出安全垂直领域的大模型「安全GPT」，赋能安全产品和服务，大幅提升对未知、高级威胁的检测能力。

经5000万样本数据测试，相较传统检测引擎，赋能安全GPT技术的某厂商XDR对攻击绕过手法的检测率高达95.7%，误报率（安全告警里判错的比例）仅4.3%。

观点二

GPT技术应用将成为安全厂商的核心生产力与竞争力

某厂商自研的安全GPT由「大模型算法+威胁情报+安全知识」训练而成的。为了防止大语言模型提供错误解答诱导的风险，某厂商还通过小模型进行了大量的微调，使其既有泛化的检测能力，也有高质量的攻击解释能力。

这是大模型带来的技术飞跃，也为安全厂商带来核心生产力与竞争力。

某厂商在国内安全领域率先进行了GPT技术应用的实践，并实现了首秀演示，展现出以下能力：

1.大幅提升对流量和日志的安全检测效果。

2.自动分析用户安全现状，并生成处置建议。

3.自动化调查、分析、研判，提升安全运营效率。

4.自然语言交互，提高用户体验，降低对运营人员的专业要求。

观点三

拥抱大模型，需更充分地拥抱云化

为了用好大模型技术，安全产业需要更开放、互联，更充分地拥抱云化。

某厂商AI技术架构在用户侧的落地，依赖于「开放平台+领先组件+云端服务」的先进体系。通过开放的平台，享受云端在线、海量数据的能力；通过领先的组件，抓取攻击现场的丰富数据，并基于云端和本地的模型进行防护；再通过云端的服务，提供7*24h在线的服务兜底。

某厂商安全GPT技术应用在XDR平台，平台具备云化交付能力，内置与大量组件的联动能力，便捷交付，开箱即用。

面对GPT技术应用，某厂商已经迈出了尝试的一小步，在复杂攻击成为新常态的背景下，以GPT技术构筑安全建设全新范式，在更精准检测防御高级威胁的同时，为安全运营工作降本增效，提升各行业用户安全基准线。

秉持AI First的发展战略，某厂商将探索与解决GPT技术应用的更多难题。相信在不久的将来，某厂商所有的安全产品和服务，都会接入到安全GPT，实现真正智能的安全，助力每一位用户「安全领先一步」。