ISC 2017中国互联网安全大会举办了人工智能安全论坛。 我们把论坛总结成为一系列文章，本文为系列中的第二篇。
作者： 肖奇学1, 许伟林2, 李康1 (1. 来自 360 Team Seri0us 团队, 2. 美国弗吉尼亚大学)
“逃逸攻击就是要把百分之零点零零一的误判率变成百分之百的攻击成功率”。
虽然深度学习系统经过训练可以对正常输入达到很低的误判率，但是当攻击者用系统化的方法能够生成误判样本的时候，攻击的效率就可以接近100%，从而实现稳定的逃逸攻击。
ISC 2017中国互联网安全大会举办了人工智能安全论坛。 我们把论坛总结成为一系列文章，本文为系列中的第一篇。
作者： 肖奇学, 李康（来自360 Team Seri0us 团队）
深度学习引领着新一轮的人工智能浪潮，受到工业界以及全社会的广泛关注。 虽然大家对人工智能有很多美好的憧憬，但是现实是残酷的 — 随着一批深度学习应用逐渐开始变成现实，安全问题也渐渐显现出来。
人工智能应用面临来自多个方面的威胁：包括深度学习框架中的软件实现漏洞、对抗机器学习的恶意样本生成、训练数据的污染等等。 这些威胁可能导致人工智能所驱动的识别系统出现混乱，形成漏判或者误判，甚至导致系统崩溃或被劫持，并可以使智能设备变成僵尸攻击工具。
在推进人工智能应用的同时，我们迫切需要关注并解决这些安全问题。本文作为人工智能与安全的系列文章之一，首先介绍我们在深度学习框架中发现的安全问题。
在国内流行的影音播放器客户端内嵌广告中，有一部分来自广告联盟和各种营销平台。在搜狐影音展示的一个私服广告页面中，我们监测到一个恶意的iframe标签，标签内容带有一段vbs脚本。(详情可参考前文：由播放器引爆的全国性大规模挂马分析)
昨天开始，国内有众多网友反馈中了CTB-Locker敲诈者病毒, 电脑里的文档、图片等重要资料被该病毒加密，同时提示受害者在96小时内支付8比特币（约1万元人民币）赎金，否则文件将永久无法打开。这是CTB-Locker敲诈者病毒首次现身中国，受害者大多是企业高管等商务人士。
近期，我们收到很多淘宝卖家的投诉，报告说他们的淘宝联盟付费推广被莫名奇妙地扣除了一部分，而这个商品是没有经过推广的。360病毒响应中心的工程师收到投诉后，经过一系列的分析和追踪，发现了一种专门通过劫持淘宝客骗取卖家推广费的木马，我们将其称为淘宝客劫持木马。
作者：wowocock（360系统急救箱工程师）
传统木马病毒普遍是基于文件形式存在于机器上，尽管它们会通过各种加壳免杀技术逃避杀软检测，但随着云安全和主动防御技术的发展，恶意程序想驻留系统已经变得越来越难。在这种情况下，基于MBR的BOOTKIT在最近两年开始兴起。
基于MBR的BOOTKIT特点是无文件、无进程、无模块，可以只存在于运行的内存和位于操作系统之外的磁盘扇区空间里，即使重装系统、甚至格式化硬盘也无法清理干净。
什么是MBR呢？MBR是Master Boot Record的简写，又称为主引导扇区，位于硬盘的第一个扇区。开机BIOS自检后，所被加载的第一个扇区。
