物联网时代的安全铁壁人工智能攻与防贸易

9月19日消息，伴随万物互联时代到来，物联安全也日益凸显。最新安全数据报告显示，到2045年，将有超过1千亿的设备连接在互联上，随着物联发展以及常用连接越来越多，络安全将成为络行业的首要话题。

黑客和病毒仍在兴波作浪

从世界上第一个电脑病毒C-BRAIN诞生到现在已经整整三十年了。直至今天，黑客和他们的病毒仍能在互联上兴波作浪，吸引全球关注。今年的Wannacry和Petya再度给多个国家造成经济损失。络病毒就像痼疾一样纠缠着互联，几乎看不到能够根除的迹象。作为互联的扩展和延伸，正在兴起之中的物联与络病毒、黑客攻击的关系又如何呢？隔岸观火、置身事外是绝无可能的。事实上，黑客的触角已经侵入了这一新产业，只不过由于物联的落地规模尚小，因此暂未造成太大破坏。而一旦物联的商业化程度达到互联的水平，其被黑客攻击而遭受的损失将远超互联。

据了解，2016年全球IoT设备共出现1117个漏洞，IoT设备漏洞类型包括权限绕过、拒绝服务、信息泄露、跨站、命令执行、缓冲区溢出、SQL注入、弱口令、设计缺陷等。2016年所发生攻击事件中，前三种类型漏洞数量分列前三名，由高到低分别占收录漏洞总数的2 %、19%、1 %。

人工智能时代的攻与防

络安全是道高一尺魔高一丈的世界。安全人员使用人工智能技术阻挡黑客攻击，反过来这也会使黑客使用人工智能技术发起更复杂的攻击。而随着大量人工智能模型开源，黑客入侵的工具也愈发多样化。只要稍加学习，黑客就可以利用开源工具欺骗识别系统，而技术难度的降低会促使很多人成为黑客，或者是进行一些此前做不到的攻击。这并非杞人忧天。

在络安全领域，对威胁的识别，并非一蹴而就，而是渐进发展的过程。在络钓鱼电子邮件中已有这样的案例，黑客通过模仿人类的说话习惯和内容，使得企业或个人被入侵时更加难以识别。以后的病毒变种会越来越多，检测越来越难，规模越来越大，生成的时间越来越短。

最新研究报告显示，人工智能安全领域的另一大隐忧：对抗样本。在图像识别问题中，攻击者将对抗样本输入机器学习模型，让机器在视觉上产生幻觉，从而让系统产生误判。依赖于数据的机器学习算法、深度学习算法本身存在很大的缺陷。对抗性生成络，则利用这种缺陷，设计新的架构去生成模型。目前的机器学习严重依赖于数据的分布，如果数据分布本身很复杂，或者是人为地把它变得复杂，黑客如果有手段去生成恶意的样本，就会导致识别不出来，或者识别错误。

如果干扰被用在无人驾驶领域，后果则不堪设想。比如，在无人驾驶测试路段德国A9高速公路上，有专门的标识引导无人驾驶车。如果路边的标识被恶意修改，误导依赖标识的无人驾驶车，则会造成极度危险的情况。因为算法本身的缺陷，在大规模使用人工智能之后，络安全则需要更换思路，设计新的方法。增加分析端的可解释性、降低算法复杂度、信息安全情报的共享或将解决这些算法上的缺陷。