中国信通院发布《安全大模型能力要求与评估方法》系列规范

近年来，随着人工智能产业的高速发展，如何利用大模型技术来有效提升网络安全保障水平已成为网络安全领域的热点研究方向。针对当前网络安全行业存在的安全能力不足、运营效率低下、产品协同困难、安全专家缺乏等诸多问题，国内众多网络安全从业组织正积极探索大语言模型等人工智能技术在安全领域的应用，并相继推出各具特色的安全大模型相关产品，以提升整体网络安全保障能力。

为进一步规范安全大模型的设计、开发与应用，中国信息通信研究院(简称“中国信通院”)依托人工智能产业联盟(AIIA)安全治理委员会，联合多方研制了《安全大模型能力要求及评估方法》系列规范，共包含5部分。其中，《安全大模型能力要求与评估防范 第1部分：总体框架》和《安全大模型能力要求与评估防范 第2部分：基础网络安全》已于近日正式发布。

《安全大模型能力要求与评估方法 第1部分：总体框架》

文件规定了安全大模型所覆盖能力的总体框架和评估方法。安全大模型的架构分为基础设施层、通用安全能力和安全原子能力三层。安全大模型的研发旨在解决各类复杂的安全应用场景需求，通用安全能力和安全原子能力以不同的组合方式可以满足不同安全应用场景的需求。文件适用于网络安全大模型的研究开发、建设部署的相关组织，也适用于安全大模型使用方或第三方评测机构开展能力测试与产品选型。

安全大模型总体框架图

1. 安全大模型包含如下三层：

(1)基础设施层：基础设施层包含了支撑大模型运行的算力、模型和数据。

(2)通用安全能力：包括了安全问答、安全语言翻译、安全数据处理、安全任务编排、安全工具调用、安全告警研判、安全报告生成、大模型内生安全等通用能力。

(3)安全原子能力：包括了安全大模型可具备的基础网络安全能力、数据安全能力、内容安全能力和业务安全能力。

2. 安全应用场景场景包括：

安全运营、态势分析、安全管理、事件研判、安全技术防护、风险评估、攻防等场景。

《安全大模型能力要求与评估方法 第2部分：基础网络安全》

文件规定了安全大模型基础网络安全领域应具备的能力以及相应的评估流程与方法，适用于安全大模型基础网络安全能力部分的研究开发、建设部署的相关组织，也适用于网络安全大模型使用方或第三方评测机构开展能力测试与产品选型。

文件主要对安全大模型基础网络安全应具备的原子能力提出了具体要求，包括安全大模型可具备的恶意流量检测、入侵检测、访问控制、漏洞检测、恶意代码检测、渗透测试、攻击面检测溯源、WEB攻击检测、恶意邮件检测、代码审计、威胁情报分析、威胁狩猎等能力，同时对安全大模型应具备的通用安全能力进行了详细描述。

中国信通院将继续开展安全大模型系列规范的研制工作，围绕数据安全、内容安全、业务安全等方向编制相关标准，提升人工智能大模型等新技术产品变革与行业应用能力提升，欢迎业界同仁共同参与。

责任编辑：

文章来源：//www.profoottalk.com/2024/0719/11820.shtml