人类+机器 PK 机器 深度学习用于漏洞挖掘仍大有潜力

　　自2016年3月AlphaGo以压倒性的优势战胜韩国围棋选手九段李世石后，人工智能便引起了全世界的广泛关注。而在集结了尖端技术的黑客攻防领域，一场更高维度的人机大战也正式打响。

　　在今年“429首都网络安全日”系列活动上，由永信至诚主办、360企业安全集团战略支持，以“一小步”为主题的人与机器网络攻防竞赛(Robo Hacking Game,roboCTF/RHG)成功举办。国内外科研院所组成的十余只机器人战队与经验丰富的CTF选手在同一平台上一决高下。

　　活动现场，永信至诚副总裁、CTO张凯和美国乔治亚大学荣誉教授、360智能安全研究专家李康接受了媒体采访，他们就本次人机网络攻防大战的背景、赛题内容、人工智能技术在网络安全领域的发展与应用现状等话题分享了自己的看法。

　　据悉，本次竞赛的灵感源于Cyber Grand Challenge(CGC)，CGC是由美国国防部发起的全球性网络安全挑战赛，作为第一场在CTF竞赛中没有人类参与、完全由计算机完成的竞赛，CGC开启了网络自动攻防竞赛的先河，其目标是建立自动攻防系统对软件漏洞进行检测、验证和修补。而本次大赛是网络安全社区进行自动攻防CTF的一次有益尝试，就像在Word Computer Chess Championship(WCCC)中使用计算机程序一样，希望通过举办更多类似CGC的计算机自动攻防CTF赛事来继续这种尝试，激发出更多的研究成果。

　　赛事有别于CGC

　　张凯首先介绍了roboCTF/RHG赛事的特点，从CGC中继承了一些内容，并在系统平台、资源限制、积分计算等方面做了创新。从比赛形式上看，延用了部分CGC的形式，包括按轮次进行比赛;赛题不定期的放出和关闭;所有的计算机程序在主办方平台内运行;针对队伍的网路流量提供给对应队伍;赛题的漏洞利用程序和防御策略需要提供给平台验证;漏洞利用程序以PoV(Proof of vulnerbility)形式提交，而不是以完整的漏洞利用程序;赛题以32位x86二级制方式，静态编译并关闭堆栈保护等。

　　除了比CGC在赛事规模方面较小外，roboCTF/RHG还有其他几点不同，例如：

　　使用一套完全常用的普通操作系统(赛题在Ubuntu 14.04的Linux 3.13版本中编译和测试)，而不是CGC中使用的裁剪版DECREE操作系统。

　　使用iptables作为网络防御策略，而不是CGC中使用的专门设计的流量过滤系统。

　　对系统平台和资源不设限制。CGC为每个决赛队伍提供了一个节点集群，所有的队伍都具有相同的物理计算资源。roboCTF/RHG允许队伍使用他们自己的设备接入平台的选项。roboCTF/RHG也为队伍们提供了平台内部的独立的标准运行环境，队伍们可以在统一的资源环境下进行独立的排名。

　　竞赛中没有包含对赛题的补丁修补，因此在积分计算方面没有复杂和不透明的性能测试方法

　　PoV提交不以DECREE二进制程序的模式。队伍将用直接数据输入方式提交其PoV，等等

　　比赛使用队伍间竞争的方式。队伍通过提供PoV完成对赛题的crash、控制EIP、对指定的内存地址进行读或写特定内容来进行得分。

　　从赛题内容方面看，张凯认为在赛题设置时没有任何倾向性，并没有专门为人类或机器设计考题，而是仿真了现实网络常见的漏洞检测等赛题，roboCTF/RHG的漏洞类型包括所有内存访问异常类漏洞，包括但不限于堆栈溢出、堆溢出和格式字符串漏洞等。此外，赛题程序还具有32位Linux二进制程序，静态编译，堆栈保护关闭、无地址空间随机，GCC编译(版本TBA)，单进程，单线程等特征，所有的赛题均设计为从标准输入接收输入数据，并将结果发出标准输出(网络服务通过管道网络连接标准输入输出)。

　　人类+机器 PK 机器

　　从当日比赛结果来看，人类战队和机器之间各有胜负。李康教授表示符合预期。虽然自动化系统已经显示出了较强的漏洞发现和漏洞利用能力，但在很多方面，依然与人类专家有一定的差距。

　　在回答为何本次并未出现之前AlphaGo大战李世石人类被机器碾压的情形，李康认为，一方面网络安全的问题更加复杂多变，应对不同的网络环境人类战队可以根据自己的经验快速得分。此外，本次竞赛中不少人类战队采用了自动化工具，实质是人类+机器 PK. 机器。他认为网络安全业内仍有大量人才缺口，一方面可以用机器海量计算能力和人工智能技术弥补，另外一方面机器有自己的特点，如果一旦能解决问题，反应速度、扩展速度都比人类要强。所以，今后网络安全的问题的解决会很大程度上依赖于机器。

　　深度学习用于漏洞挖掘仍大有潜力

　　而在谈到人工智能技术在安全领域的应用状况时，李康表示以机器学习(深度学习)为代表的技术在图像识别、人脸检测、反欺诈等领域已有大量研究和使用成果，未来在行业领域会有更加广泛和深入的应用。但深度学习在漏洞挖掘或漏洞利用方面的优势还没体现出来。漏洞挖掘中一个比较难处理的地方在于漏洞之间的相似性，正常输入和异常输入没有太多相似特征，在属性类别或特征提取方面还有待研究，目前直接把深度学习用在漏洞挖掘领域并不好用。

　　张凯和李康表示，这次比赛是一个开端，旨在以此为契机，由领域内有丰富经验及建树的科学顾问共同制定网络安全自动化标准，定义全新的竞赛模式，吸引更多人关注、学习智能攻防技术，通过集合大家的力量共同推进智能及自动化技术在网络安全中的发展和应用，为未来网络安全智能化、自动化的技术发展、展示、评价及人才培养耕耘土壤。永信至诚将在今年5、6月份开启人与机器网络攻防竞赛(Robo Hacking Game)公开赛，敬请关注。