2018WAIC“高光”时刻系列回顾：人工智能与信息安全需要平衡发展

当下，人工智能成为新一轮推动产业变革的驱动力，在经济、军事、医疗、文化等各领域蓬勃发展。

当下，人工智能成为新一轮推动产业变革的驱动力，在经济、军事、医疗、文化等各领域蓬勃发展。然而，任何新技术新应用都具有两面性，人工智能技术及其应用为人们生产生活提供便利的同时，也带来了安全隐患。如何让人工智能最终走向乐观变得尤为重要。

人工智能面临安全隐忧

图 | 中国科学院院士何积丰教授在会上演讲

人工智能技术威胁网络空间安全。

中国科学院院士何积丰教授在“2018世界人工智能大会·人工智能安全高端对话”会上指出，在工业安全领域，人工智能既可以进行安全防范，包括攻防对抗、内容分析、代码混淆、异常检测等，也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题，需建立主动防御的智能体系。

以自动驾驶汽车为例，其毫米波雷达、激光雷达、摄像头等感知设备都可以被干扰，而且自动驾驶系统本身可能存在的漏洞，都会导致信息安全问题。腾讯科恩实验室总监吕一平总监在会上表示，汽车行业目前处于网联阶段，通往自动驾驶阶段还需一定时间，除了技术达标以外，更重要的是法律法规的问题。

图 | 车辆会因为地上的三个贴纸驶入旁边车道(示意图)

在人工智能安全领域，隐私性问题也是民众普遍关心的问题。

人工智能的快速发展，可能加剧个人信息泄露，威胁个人隐私安全。对此，华东政法大学人工智能与大数据指数研究院院长高奇琦在去年大会上用了“透明人”概念，认为“未来人是‘透明人’，这恐怕是一个无法阻挡的趋势。”

为研发人工智能而大量使用数据过程中，如果数据被滥用，也会触及隐私安全。此前，美国百万人使用的社交app——Ever通过“周末与爷爷”、“最佳时刻”等温情的主题，诱导用户上传照片，未经授权使用人们照片进行面部识别技术进一步开发，并将这项技术出售给私营公司、执法部门和军方，以此来大大提升其财务状况。无独有偶，社交网络巨头Facebook在过去两年被爆出多起侵犯个人隐私的丑闻。

人工智能与安全需要平衡发展

人工智能时代，网络空间安全威胁全面泛化，但是人工智能也可以成为网络安全的“救世主”。如何平衡好人工智能与安全的关系，利用人工智能思想和技术应对各类安全威胁，是国内外产业界共同努力的方向。

图 | 腾讯公司安全管理部副总经理杨鹏致辞

为应对网络安全，腾讯基于其黑产对抗经验技术和反欺诈AI模型建造能力，打造出“宾果反诈骗防控系统”，自投入使用以来，全国重点诈骗区域诈骗号码大幅下降接近70%，有效遏制了诈骗态势蔓延。

阿里巴巴开发出云盾内容安全系统，该系统可以基于深度学习技术，提供文字、图片、视频等多媒体的内容风险智能识别服务，有效减少涉及恐怖、暴力、色情等违法违规信息。

作为人工智能领域的先行者，百度的人工智能安全平台目前已有近百家合作伙伴，覆盖超过1亿部智能设备。可帮助厂商有效应对智能终端、智能车机面临的各类安全风险，全面确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全。

在去年大会分论坛，眼神科技创始人兼CEO周军介绍了人工智能在金融安全领域的应用，用人脸、指纹、虹膜等多模态生物识别技术识别技术帮助金融机构降本增效，增强安全认证。

围绕着“人工智能带来信息安全挑战”，大会现场众多专家、学者和产业精英都纷纷建言献策，提出应对之道。

图 | 联合国人工智能和机器人中心主任伊莱克利•伯利兹在会上演讲

联合国人工智能和机器人中心主任伊莱克利•伯利兹建议对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式；中国移动研究院首席科学家冯俊兰女士指出，5G网络服务众多垂直工业，数据挖掘技术更易保护用户隐私信息，并提出了“通信改变社会”的愿景，强调电信运营商应当加强与垂直行业的互信和协作；在碁震KEEN公司创始人兼CE王琦看来，最重要的是法律保障，用法律的手段让人工智能行业的从业者加强自律，保持敬畏之心；上海优刻得信息科技公司CEO季昕华则表示，还需要技术手段对人工智能进行约束，“让AI可以分析数据，但是不获取数据，这应该是技术层面努力的方向”。

人工智能的安全问题与人工智能的快速发展相伴相随，只有妥善解决安全问题，才能实现人工智能的长期可持续发展，而这个过程不仅是一个技术问题，更是一个社会问题、伦理问题。如何使用好人工智能这把“双刃剑” ，是全世界所需解决的实际问题。

在即将于8月29日-31日举办的2019世界人工智能大会上，关于如何实现由传统安全时代的强管理向AI时代强技术支撑下的核心管理转变，业界权威们将再次为人工智能安全防护提供创新性的解决思路。

最后，记得关注微信公众号：镁客网（im2maker），更多干货在等你！