在AlphaGo打败了世界围棋冠军之后，越来越多的机器人成为了我们的同事。人们不禁会想，AI的超强大脑最终会不会战胜人类？在面对机器人中的“坏人”时，谁才会成为网络安全的终极守护者？

这并不是骇人听闻，最近几年，网络勒索病毒来势汹汹，使“网络安全”一词再次出现在大家的视线中。2016年初发现的Petya勒索病毒，最初只是利用E-mail传播，然后不断地加强攻击的能力。到2017年时，已经波及了60个国家和地区的大约30万用户，使得数家企业被迫中断业务或者停止生产。因为网络的飞速发展使得全世界的联系更加紧密，这也令每个终端的安全变得十分的脆弱。

“在AI领域，我们有很大的风险，越来越多的系统是人工智能，受到更多攻击的可能也在增大。”7月8日在上海举行的一期“理解未来”讲座上，美国加州大学伯克利分校计算机系教授Dawn Song分享了她在计算机深度学习和安全领域的研究成果时称，AI与网络安全的结合还属于新兴产业，计算机安全领域还有许多没有解决并且十分具有挑战性的问题需要人们不断地追寻和探索答案。

在美国生活了20多年的Dawn Song，作为当今全球顶级的AI研究专家，尽管能够顺利的使用中文交流，但是在分享学术成果的时候还是习惯使用英文。Dawn Song说，用英文表达是为了让一些科学术语在用词时能够“更清楚”。

Dawn Song对AI的巨大发展十分感叹，她说：“AlphaGo最近打败了人类，ImageNet现在也是非常领先，这是一个计算机识别系统；另外还有深度学习，它已经是促进了我们生活的方方面面的发展，包括产品的研究、医学研究等，比如深度学习可以用来识别乳腺癌细胞中的游丝分裂，同时可以研究基因突变预防疾病，还可以用来改善安全方面的能力，包括人脸识别、欺诈检测以及恶意软件的检测等。”

在这次讲座上，Dawn Song教授显然不是想要详细的描述“人工智能的发展”，现如今，她最担忧的是深度学习和人工智能的另外一面——人工智能与安全。

当AI遇到黑客袭击的时候是什么样的？之所以要谈论这个问题，是因为Dawn Song通过研究发现，互联网技术的每一次提升，都会伴随着网络攻击的增加。比如在互联网开始之初，那是一共只有6万台计算机，当时有一个学生制造了第一个叫做蠕虫病毒，一下子使1/10的计算机受到了感染；13年后的另外一个叫做Code Red的病毒，感染了2000台主机，这使得全世界有很多的电脑受到了攻击；后来又出现了一个叫做Stuxnet的病毒，这个蠕虫病毒还叫做超级工厂病毒，这是一种针对工业控制系统编写的破坏性病毒，它相应的攻击能力非常强，造成了大面积的损害；今年的WannaCry病毒，影响了150个国家，导致了20万台计算机中毒。

Dawn Song教授说：“互联网还在不断发展，它已经成为我们日常生活中很重要的一部分；同时，互联网的攻击也在不断增加，可以看到，有许多病毒的攻击变得越来越多样化，也越来越严重。”

另外，Dawn Song研究还发现，网络上的攻击者不仅不断地追随新技术的发展脚步，甚至有时会领先于我们的技术发展，人工智能领域不可避免的存在着极大的风险。再加上AI系统越来越强，这也就意味着十分有可能被攻击者利用，结果也将更加严重。

Dawn Song以目前风靡全球的无人驾驶汽车为例进行了分析，称无人驾驶汽车在道路上行驶时，需要识别路边的路牌才能决定用什么速度、向什么方式行驶。如果我们在AI系统中做一个小小的修改，那么识别出来的结果将会完全不一样。“作为人眼我们能够识别一些区别，但如果是深度学习系统，可能就会犯一些错误，会进行一些错误的分类。”

目前，AI仍然存在着无法预料到的漏洞，而微小对抗性的攻击将会把漏洞无限放大。但是，正如互联网进步有很多都输在打补丁是才跃升的一样，Dawn Song认为，目前已经发现的问题将会随着AI技术的进步逐步得到解决。然而在AI系统里，将会继续有新的漏洞出现。