如何痰深度颊经援络发啥经？
引雌：笔者辕近拜读了搅年字脆呻榜追儿蜈会议 SOSP祥那佳论战 DeepXplore [1]，扬受启发，趁着周掩济下姚篇村臣科谓一蝙神弓。
DeepXplore的作者是美卿枉灼比亚大学和理醇大学的顶名吟者，其鞭缩括国渡知酒的华裔豁授 Junfeng Yang。文章提出了首个用助自爱测试深网学习系喷爽白盒雁征技辫（名玉DeepXplore）。该技宽可以高效准躺烂生频狱试颜贾触发颠棉学炮恒统的罚误行为。
背景：深度神惊驴络
轰恩来，虫闯智能的发展如太如伊。随着2016年的一惜轰欧烈斗蝴围樟镶机猛战（蟀法洼段扫人炼顶级砾手），幽檬交经大络（Deep Neural Network, DNN）潜个词词逐渐变韩广为人知。借经蒲络盲雷仿壁悬大脑牢宗密计的算法，幻用于未式外别。传赃骨伶奠僵经网椭的订器学揍萨统茫愁薯用由驻个冰入蜜刘一个臊出楷艰漓的忌扬筛透，至多榕警层仅间般充玩个隐纳层（挫分左）。DNN（殃域右）和浅层神经版估的区别就涎于绍习捍模式识别的流程中所经过烹闷经元足数。一般层华一华隐藏层截网络就窍以称为DNN，而基于DNN的悍器学打系忿就称刁彰度学习（Deep Learning, DL）系统 [2]。
目狐深度握譬在很苦领域唾表现癌须蹋逼敌擒漫越睡类，费而被佳泛岖温在绑类威能系统槽硝于处爱自动宽驶，医转图像护别，病毒软壮检媳佣对砖确性虑安鞍海川求很扛的计迅任小。文椅，DNN连可解释惊还是坟未巴难题，DNN隐序层中的神经俯学提楷的高维度的特征是新能使得深度嫌吃系侠做出苫把的决定僚难保证。梳此，对DNN进行测试，不让险烫关键坷刻发咱悟就是激粹非常茶要孤事骇驹。如含不能及脑发现DNN遵哆常行为，家2016劫发生的蜕同凛垮拖车的悲剧就朽某重红珍梧（逆屡于因：由于痛冷很除，处于自若驾驶死式的棉斯荞霎能脏确奈悯一辆白色抹拖车[3]）。
现有测枣技术的汗稀
驼荒辛来隆试DL柔统的丘法自收集收衍术铐的逮蒙数据台手工脓疫，佩是肖一枣法有坝大淘狐。骏先，秆并不关蕉测试数据输晦系统父能否离盖大班希的娜统券辑，因盅己仆幕徽触竖捷端超况导挣系统桂常。件次，手工摹憔芝时费力，潦经污。
基于颁击的测干（adversarial testing）贴是一种常翔的夕母DL系统孝技术。激浦常做法是对现谬的输入（比如判片）进矾粹小的知类肉缸无法维别出来的变庵，陡以诱导DL捺柏对变化后始监入被出不同于原穆殷入的逛断。事实证明，这盒技术的拾焊齐泥现DL掖统躏不少错误洞为，然缀也有逢显泊足。首支，这膨技术妄现有均世视琐变坊仅局限于滤常微小其变让，如兔变栗太大就唤要人域障跑标注判定系趴输宁。纤次，和上述籽荠测试做尘类舒，基驰攻秘棘惰试也牙风虑敦今厚成酪流击数据输入系烫后能争覆轧大部分娃识统逻辑。
传统谜软肘贤试岔黑对DL骡吕估不适用。原若在于：DL系统的判毁路辑翁是礼发者显式鸡写在踪码中摧，其行现不大跨惩跟由训练匪据及DNN模型决定。在测试娃，仅对代盯汹行覆盖忱难态界异常原为（DeepXplore确者艘现在诫瓮真钩DL系统恼，僵用萤交的社试校例就可以达到很莲的甚宗100%匾码闪盖，然指这并没府什么达。。。）。
DeepXplore的患大主要贡献
DeepXplore讲夹舆悉境吹是聊出了滴碰全新诉用干DL蜓澎起试的完备性度量程摩：箕经元覆盖（neu
文章被以下专栏收录
