国内首个生成式AI安全指导文件已正式发布！

2024年2月29日，信安标委正式发布《生成式人工智能服务安全基本要求》（以下简称“《基本要求》”）。

《基本要求》规定了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，并给出了适用范围。适用于服务提供者开展安全评估、提高安全水平，也可为相关主管部门评判生成式人工智能服务安全水平提供参考。

其中，语料安全，通俗一点讲就是大模型训练所引用的的数据，《基本要求》对这种训练语料来源的安全性提出了可操作的指引。比如，语料内容中含违法不良信息超过5%的，不应采集该来源语料等。

对于其他模型安全、安全措施、安全评估等内容，这里不做过多阐述。总体而言，《基本要求》的发布将有助于建立更安全、透明和有序的生成式人工智能服务生态系统。

另外，有市场人士表示，《基本要求》的发布在某种意义上是呼应2月15日美巨头OpenAI发布首个视频生成模型“Sora”。毕竟对比2023年ChatGPT推出之后，市场对生成式人工智能技术的兴趣激增，各种不合规的现象不间断涌现。

至于目前生成式人工智能生态现状、发展趋势如何？看如下简要介绍！

产业成新质生产力？

众所周知，当前生成式AI行业正处于快速发展阶段，目前在教育、娱乐、媒体、设计、科研、广告等多个行业都产生深远影响，并逐步渗透至商业决策、产品开发、客户服务等诸多业务场景。

在市场规模方面，据彭博社预计，全球生成式人工智能的市场规模将在2032年扩大至1.3万亿美元。国内方面，据工信部旗下赛迪研究院消息，预计2023年我国生成式人工智能市场规模将突破10万亿元，到2035年将突破30万亿元。

鉴于这广阔的市场，为促进生成式人工智能健康发展和规范应用，2023年8月15正式实施由国家发展和改革委员会、教育部、科学技术部、工业和信息化部等七部门公布《生成式人工智能服务管理暂行办法》。

此次再发布《基本要求》，无疑是为生成式人工智能行业健康发展增添新的护航神器，作为近期生成式人工智能领域最重磅的一个文件，将推动行业应用加速落地。

另外，在今年“两会”期间，多位人大代表与政协委员热议生成式AI，关注人才培养、场景落地、产业生态等问题。并认为当前生成式AI发展迅速，应用场景不断拓展，有望成为新质生产力。建议加强顶层设计，推动产学研合作，构建开放共享的产业生态。

在产业生态方面，国内生成式AI产业生态图谱主要包括基础设施层、算法模型层、平台层、场景应用层、服务层等部分。

其中，基础设施层：包括AI芯片、计算、存储、网络、安全、基础设施软件等；算法模型层：包括通用、面向行业的生成式AI大模型及模型库；平台层：包括大模型构建和编排、应用开发部署、数据管理软件及工具；场景应用层：面向生产效率提升、业务、行业搭建的应用，例如文本生成、图像生成、音频生成、视频生成、数字人等。服务层：跨越业务、IT和运营技术(OT)领域提供服务。

挑战方面，生成式AI的快速发展也将带来新的挑战。例如，如何保护用户隐私、如何确保模型的安全性、如何制定合理的法规等。这些挑战将影响生成式AI行业的未来发展，需要有针对性地进行深入思考和认真研究，并采取一系列迅速有效的举措，以保障安全有效地应用生成AI。

总体而言，随着技术的进步和应用领域的拓展，生成式AI将进一步智能化和个性化，为各个行业带来效率的提升和业务的创新。

安企积极推出生成式人工智能产品

前面提到，生成式AI技术的不断突破，将为各个行业带来效率的提升和业务的创新。安防作为AI落地应用的最佳落脚点更是如此，这也是目前市场的普遍共识。

为紧跟市场发展的脚步，截止今日安防知名厂商已推出自己的大模型，例如海康威视的观澜、大华股份的星汉、宇视科技的梧桐等。

据了解，海康威视观澜大模型，现已进入多模态阶段，支持视觉、语音、文本等融合训练处理。“观澜”大模型具备三层架构，分为最底层、中间层、最顶层，分别对应基础类大模型（通用大模型）、行业大模型（面向金融、交通、能源、工业等）和场景模型（用户模型）。

为了支持大模型研发，公司自建部署业内一流的数据中心，构建千卡并行训练能力，面对安防场景训练百亿级参数。截至23年上半年，公司AI开放平台服务中小微企业超2万家，生成模型超8万个，落地项目超1.4万个。

大华股份星汉大模型，是以视觉为核心，融合多模态能力，构建面向行业的大模型。目前已经在城市治理和电力行业应用落地，未来将不断拓宽大模型行业应用场景，帮助构建视频数据产业价值，助推数字经济发展。以自研星汉大模型为底座，公司未来将持续巩固在智慧物联领域的核心优势，随各应用商业化落地快速发展。

宇视科技梧桐大模型，以通用大模型+行业场景+训练调优为架构，集计算机视觉行业、自然语言处理行业等于一身，能够充分满足多样化的任务和场景需求。目前，“梧桐”大模型第一阶段的落地成果，AI长尾算法训练平台、边缘AI推理训练一体机，交互式数据治理、数据驾驶舱、VR展厅等得到高效应用。未来，“梧桐”也将在AI文旅等视频内容商业化运营的新赛道发挥新价值，与合作伙伴携手共筑AIoT新生态产品底座，共享差异化和增值点的红利。

值得注意的是，安防企业要想构建生成式AI应用，大体上可分为这几个步骤：找准场景、选择模型、模型适配和模型调整、应用开发和部署。也就是说，未来随着生成式AI的持续发展，安防产业链各细分企业要想融合利用生成式AI技术，或许可从公司聚焦的场景优先入手，从而助力安防+AI稳健前行。

综上所述，生成式AI行业市场现状良好，竞争格局多元，未来前景广阔。作为一个处在快速发展阶段的新兴行业，生成式AI将持续为各个行业带来巨大的商业价值和社会价值。

责任编辑：

文章来源：//www.profoottalk.com/2024/0326/11101.shtml