人工智能 要智能也要安全

人工智能 要智能也要安全

　　张国栋

　　据报道，随着人工智能技术应用越来越广泛，人工智能“脆弱面”也逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示，要加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控。（7月9日《经济参考报》）

　　智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活。

　　然而，人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化，进而引发更深层次的网络安全风险。一方面，人工智能通过算法和大数据进行深度学习，不排除演化出“自我意识”的可能，辅助甚至代替人类做出分析和决策，这易于发生反噬风险。

　　另一方面，人工智能产生的道德伦理隐忧不断。有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。

　　可见，人工智能也是一把“双刃剑”。在人工智能飞速发展的时代，在智能让生活变得更美好的同时，也需要我们加强对潜在风险的研判和防范，要把人工智能的“刃剑”用好，趋利避害，让科技的智能与人类的智慧并存、和谐，切实维护好人民利益和国家安全，确保人工智能安全可靠、可控。

　　首先，应加强技术研究，建立有效安全防护，抵御网络攻击。比如可以建立主动免疫的计算架构，对计算进行安全防护，使计算全程可测可控，不被干扰。利用人工智能应对网络攻击，“免疫系统”中不管哪个系统受到攻击，都有统一的人工智能系统发出指令，采取相应措施。

　　其次，在法治建设保障上，要高度重视立法工作，适时安排宏观立法。人工智能的发展离不开一部反映时代需求的《人工智能法》，以及配套法规组成的法律法规体系。建议有关部门优先对无人机的管理、自动驾驶、图像识别相对成熟的技术应用制定法律规章，以刚性的法规条款引领秩序。

　　再次，要进一步健全精准务实的政策支撑体系，构建政策集群。要进一步升级全流程的安全防控体系，并制定行业安全标准，做好应急防范的预案，加大重点领域的防控，加大对代码数据、算法等重点领域的综合管控力度，保障技术安全、产品安全、数据安全和应用安全。

　　要知道，没有安全，一切就无从谈起，人工智能也是如此。