专家：将人工智能发展为安全、有用的“刀”

行业专家周四表示，需要做出更大的努力，使人工智能对人类社会安全——在人工智能技术和算法取得进一步进展之前，世界各地的监管机构必须设定道德界限。

浙江实验室主任、人工智能产业联盟副主席朱世强在2022年世界互联网大会乌镇峰会的人工智能和数字伦理论坛上表示：“刀子可以用来剁食材，但也可以用来杀人。理想情况下，我们应该把人工智能发展成一把锋利的刀子，它可以成为人类的实用工具，但永远不会伤害我们。”。

清华大学人工智能研究院院长、中国科学院院士张波表示，必须采取措施，防止人们失去对人工智能机器和潜在有感知机器人的控制，否则，科幻场景可能会发生。

“我们过去认为，只有当人工智能超越或接近人类时，机器才能成为人类的威胁。但事实是，尽管人工智能还处于萌芽阶段，但我们似乎比预期的更早就开始失去控制，”张波说。

目前，支持人工智能的技术可以生成高质量的信息，包括文本和图像，以满足用户的要求。但人工智能也可以摆脱用户的控制，被操纵来传递有偏见和不准确的信息。基于这些信息的决策可能导致灾难。然而，人们应该给予人工智能产业自由和自主权，使其朝着正确的方向发展，张波说。

他说：“人工智能系统也容易受到攻击，因为算法不安全、不可信或不可靠。当系统受到攻击时，它们甚至可能产生破坏性行为。”。“像AI deepfakes这样的技术——通过操纵视频和图像来创建看似真实但虚构的内容——对社会产生了巨大影响。”

开发人员必须在开发阶段对人工智能系统进行科学评估，并对其进行密切监控。此外，张波说，必须采取措施防止系统受到攻击或流氓行为。

浙江实验室的朱教授表示，尽管目前人工智能还处于萌芽阶段，但在推动其发展的同时，人们必须高度重视防止其被滥用。

他说，实验室已经开始开发方法，防止人工智能危害社会，并将其置于控制之下。