360集团携手中国信通院 共促人工智能安全发展

随着人工智能技术的迅猛发展，大模型在各个领域的应用日益广泛。为全力筑牢人工智能安全防线，进一步提高大模型技术的安全风险防范能力，今年2月，中国信息通信研究院（以下简称中国信通院）联合360集团，发起大模型安全基准测试SafetyAI Bench制定工作。

大模型安全基准测试秉持“公平公正、产业应用、选型参考”原则，采用科学严谨的测试方法，评估大模型在内容安全、数据安全和科技伦理等方面的表现。该体系将覆盖合法合规、隐私保护、文明健康、人工智能自主意识等27个维度的中文评测数据集，为行业提供全面、细致的安全性能测试指标。

作为信息通信行业的重要研究机构，中国信通院在人工智能和大数据领域具有深厚的研究底蕴和丰富的行业经验，是可以打通新技术研究、标准研制、试验验证、检测认证到产业推进“全链条、全环节”的产业创新平台。中国信通院专业的研究团队、广泛的行业合作网络及深厚的行业影响力，为大模型安全基准测试的顺利推进提供了有力保障。

作为国内较早布局人工智能大模型的企业，360集团自行研发的认知型通用大模型——“360智脑”，在中文通用大模型基准评测等多个第三方评测中，均位于国产大模型能力第一梯队。凭借在数字安全和人工智能领域的深厚积累，360集团将为本次标准测试工作提供技术支持、实践经验和创新思路，共同推动大模型安全基准测试体系的建立和完善。

责任编辑：

文章来源：//www.profoottalk.com/2024/0409/11260.shtml