GeekPwn王琦CSS2018尖峰对话：打造AI与安全极客间的沟通桥梁

8月27日，第四届互联网安全领袖峰会(Cyber Security Summit，简称CSS)在北京昆泰酒店（望京）召开。当日下午，腾讯安全玄武实验室负责人于旸，SecurityResearchLabs首席科学家KarstenNohl，汽车黑客开山鼻祖CharlieMiller，知道创宇CEO赵伟及GeekPwn大赛发起和创办人、KEEN公司CEO王琦进行了一场名为“以极客之名，论未来安全之道”的尖峰对话，围绕当下数字时代下，移动安全、自动驾驶、AI等领域和安全人才培养等问题展开深入研讨。

针对时下AI技术的广泛应用，王琦表示，AI技术并不像媒体渲染或公众想像的那样“完美”。根据过去的报告显示，AI的开源代码中大致每1000行就含有一个安全漏洞。作为全球最大关注智能生活的安全极客大赛，GeekPwn一直致力于寻找AI潜藏的风险并不断帮助其完善，协助AI进行安全性的预演分析，助力AI安全健康成长。

不仅如此，GeekPwn Lab总监王海兵在 28日举行的CSS人工智能安全分论坛上，进行了主题为《从对抗样本的视角看人工智能安全》的分享。王海兵指出，对抗样本研究任重道远，同时，在AI和安全界之间也存在沟通鸿沟问题，不过GeekPwn(极棒)黑客大赛正在成为二者之间的沟通桥梁。

防患于未然 GeekPwn鼓励安全极客与AI跨界融合

一项新兴技术的兴起，必然会存在潜在的短板，AI亦是如此。作为一个整体，AI应用系统任何一个环节出现漏洞，都有可能出现安全问题。小到智能门锁、智能音箱、智能手机，大到智能家居、智能汽车，我们司空见惯的AI产品都可能存在安全隐患。隐私泄露，威胁财产甚至人身安全，智能产品的生产企业或许还没有足够的重视安全问题，低级漏洞屡见不鲜。

值得庆幸的是，及时发现与修复还为时未晚，而黑客这一群体，正是破解难题的关键。在下午的尖峰论坛上，王琦说：“不论AI还是IoT领域，信息技术发展的速度要高于安全技术的发展。我们经常在用黑客思维考虑的话，担心这里会不会出问题，那里会不会有问题。漏洞不是因为黑客才存在，恰恰是因为黑客发现才消灭的。”

在人才挖掘方面，GeekPwn鼓励极客们勇于探索新鲜事物，投入AI安全研究并且收获肯定和荣誉。对于AI这一尚未完全成熟的领域，安全极客可以凭借其敏锐的洞察力与不放弃的破题精神将其完善，而AI领域现在关注安全的不多，过去做安全的人对AI又知之甚少，GeekPwn正在做的就是为黑客提供一个展示自己的平台，让两个领域的人才进行融合，找到未来AI与专业安全的结合点，让更多人用技术获得世界的认可。

王琦幽默地说：在座的 Charlie Miller被喻为“黑掉汽车的第一人”，Karsten NohI很早就开始专注于移动安全研究，未能到现场的 Bruce Schneier更是密码学专家、多本密码学著作的知名作者。我们非常鼓励GeekPwn的选手要去做各种领域的“第一人”，这并不是为了炫技，王琦继而解释道，我们要比那些可能干坏事的人更早发现漏洞，更早消灭问题。

聚焦对抗样本 GeekPwn愿做安全界与AI界的桥梁

提到AI，就不得不提到“对抗样本”。所谓对抗样本是指在数据集中通过故意添加细微的干扰所形成的输入样本，导致模型以高置信度给出一个错误的输出。CSS2018大会的第二天，极棒实验室总监、AI安全专家王海兵在人工智能分论坛上，就以对抗样本的视角，对未来AI安全做出了大胆的预测和详尽的阐释。

人工智能与传统技术面面临着相似的安全问题。王海兵解释说，“人工智能安全具有丰富的层次性，从应用到算法，而任何一个环节出现漏洞的都会造成安全问题。比如极棒过往比赛中出现的被攻破的人脸识别门禁，这种方法虽然很传统，但是仍然具有破坏性。库，框架，云服务，这些AI的基础系统的漏洞也是AI安全的一大问题。”

而作为新技术，人工智能也存在着其特有的安全问题，即对抗样本。对抗样本可以是一张图片，一段语音甚至是一句话，其本身的多样性会对人工智能造成识别干扰，比如对于恶意软件的识别、对自动鉴黄系统的识别、对交通指示牌的识别。

除此之外，对抗样本攻击威胁模型还具有定向与非定向，数字攻击与物理攻击，扰动范围与攻击目标等多维度特点。目前对于对抗样本干扰的防守暂无令人满意的解决方案，这也是目前AI安全最快速发展的研究领域。GeekPwn率先涉足这一领域，于2018年GeekPwn美国站上全球首创对抗样本的CTF：CAAD CTF，集结了六支来自企业与学界的世界级顶级战队，在拉斯维加斯上演了一场精彩的AI攻防战。

GeekPwn始终走在对抗样本研究的最前端，致力于通过不同形式的比赛，发掘出更多的安全人才，探索出防御对抗样本，提高AI鲁棒性的方法。“作为全球首个探索人工智能与专业安全的前沿平台，极棒愿继续担当安全届与AI届的桥梁，让更多的安全极客加入进来，共同推动AI健康发展。”王海兵补充道。

（极棒实验室总监、AI安全专家王海兵）

在探索AI安全的历程中，GeekPwn曾通过软件漏洞攻破人脸识别门禁，证明了人工智能在软硬件层面可能存在安全问题；我们还证明了存在利用 AI做坏事的可能，2017年有选手通过 AI模拟人类笔迹，并成功骗过了专业笔迹鉴定师；当然还有 AI对抗 AI的情况，像是破解谷歌验证码、多款声纹识别系统等等。

GeekPwn2018嘉年华将于10月24日-25日在中国上海举办。届时，黑客屋挑战赛、数据追踪挑战赛、机器特工挑战赛、基于漏洞攻破挑战赛、非基于漏洞攻破挑战赛、GAN掉马赛克挑战赛、RFID远距离读写挑战赛等全新赛制精彩上演，以最前沿的议题，预演AI领域风险。