安防资讯网

首页 > 安防资讯网 重磅发布!生成式AI服务迎监管,国家网信办再出手

重磅发布!生成式AI服务迎监管,国家网信办再出手

近期,ChatGPT大火,以ChatGPT为代表的人工智能生成内容技术将变革文本、视频图像等内容的生产方式。AI可以按使用者的个人需求创作生成内容,并且生成的内容人工已经很难辨别真实性。随之而来的利用AI进行信息造假、网络水军、内容侵权等方面的安全风险不容忽视,将会侵犯个人隐私,危害社会稳定,甚至威胁国家安全。

为此,迫切需要针对这类生成文本的智能检测识别技术和产品,提升监管部门对内容安全治理的能力。

日前,为规范深度合成服务,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》)。《规定》通过系统性、创新性制度设计,首次回应了对深度合成服务的管理要求,为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。(点击此处了解《规定》详情)

4月11日,为促进生成式人工智能技术健康发展和规范应用,根据《中华人民共和国网络安全法》等法律法规,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》(以下简称:《意见稿》)【文件请点击资料下载】。生成式人工智能服务的提供者将迎来更加严格的监管。

《意见稿》指出:国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

同时《意见稿》拟规定,提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

阻止AI滥用,防止AI作恶,在充分发挥政府监管职能的同时,也需科技企业发挥技术能力,用“魔法”打败“魔法”。

作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队,美亚柏科2017年成立AI研发中心,深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题,2019年针对深度合成技术又特别成立专项研究团队(下称“专项团队”)。

专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累,自主研发深度伪造视频图像检测鉴定的核心引擎,打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。

与此同时,公司基于在电子数据取证和公共安全大数据多年的行业积累,已研究推出针对人工智能(如ChatGPT)生成文本内容的检测工具,中文生成文本检测的准确率超过90%。

未来,美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术,踔厉奋发,持续发力,按照《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法》的管理要求,针对深度合成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求,不断打磨推出更为安全、可信、可靠的人工智能技术产品,为维护和保障人工智能的健康发展和规范应用贡献力量!

文章来源://www.profoottalk.com/2023/0413/6080.shtml

Baidu
map