<kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

              <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                      <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                              <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                                      <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                                              <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                                                      <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                                                              <kbd id='9lUIiwFnk2eQtIv'></kbd><address id='9lUIiwFnk2eQtIv'><style id='9lUIiwFnk2eQtIv'></style></address><button id='9lUIiwFnk2eQtIv'></button>

                                                                  乐虎国际提款_几张贴纸就让神经收集看不懂阶梯符号,伯克利为真真相形天生对

                                                                  • 作者:乐虎国际提款
                                                                  • 发表时间:2018-08-01 12:55
                                                                  • 点击:8114

                                                                  原问题:学界 | 几张贴纸就让神经收集看不懂阶梯符号,伯克利为真真相形天生反抗样本

                                                                  选自BAIR

                                                                  呆板之心编译

                                                                  参加:Panda

                                                                  由于感知细节的手段和辨认方法等方面的差别,在人类眼中看起来不同不大的对象在呆板看来则也许具有很是差异的意义。克日,伯克利人工智能研究尝试室(BAIR)在博客上先容了他们在真实天下中的反抗进攻上的研究新成就,有望为自动驾驶等人工智能应用规模带来新的思索和看法。该研究的论文已经宣布:https://arxiv.org/abs/1707.08945,研究者还暗示进一步的研究也正在举办中。

                                                                  深度神经收集(DNN)已经在图像处理赏罚、文天职析和语音辨认等各类应用规模取得了很大的盼望。DNN 也是许多收集与实体相毗连的体系(cyber-physical system)的重要构成部门。好比说,自动驾驶汽车的视觉体系可以操作 DNN 来更好地辨认行人、车辆和阶梯符号。可是,迩来的研究表白 DNN 轻易受到反抗样本(adversarial example)的影响:在输入中插手全心计划的反抗扰动(adversarial perturbation)可以误导方针 DNN,使其在运行中给该输入加标签时堕落。当在现实天下中应用 DNN 时,这样的反抗样本就会带来安详题目。好比,加上了反抗扰动的输入可以误导自动驾驶汽车的感知体系,使其在分类阶梯符号时堕落,从而也许造成劫难性的效果。

                                                                   

                                                                  研究者已经提出了一些用于天生和防止反抗样本的技能。在这篇博客文章中,我们将扼要先容当前最佳的用于天生数字反抗样本的算法,还将接头我们用于在变革的情形前提下基于真实物体天生实体反抗样本的算法。将来我们还将继承更新我们在针对物体检测器的实体反抗样本上的研究事变。


                                                                  数字反抗样本

                                                                   

                                                                  研究者们已经提出了一些用于在白盒配置(white-box setting)中天生反抗样本的差异要领,个中反抗者可以或许完全读取会见该 DNN。白盒配置假设反抗者很强盛,以是基于其举办研究有助于为将来开拓绝对靠得住的防止技能奠基基本。这些要领能辅佐我们更好地领略数字反抗样本。

                                                                   

                                                                  Goodfellow 等人提出了快速梯度(fast gradient)要领,该要领应用了丧失函数的一种一阶近似来构建反抗样本;参阅:https://arxiv.org/abs/1412.6572

                                                                   

                                                                  也有研究者提出了基于优化的要领来为方针进攻建设反抗扰动;参阅:https://arxiv.org/abs/1608.04644。详细来说,这些进攻会计划构建一个方针函数,该函数的解是为了最大化输入的真实标签与进攻者想要的方针标签之间的差别,同时基于某种输入相似度的界说来最小化这些输入之间的差别。在计较机视觉分类题目中,输入向量的 L2 范数是一种常见的怀抱尺度。凡是而言,L2 间隔低的输入互相之间更为靠近。因此,我们有也许计较出这样的输入——它们在人眼看来很是靠近,但对呆板分类器而言却很是差异。

                                                                   

                                                                  迩来的一项研究成就搜查了数字反抗样本的黑盒迁徙性(black-box transferability),表白在黑盒配置中天生反抗样本也是也许的;参阅:https://arxiv.org/abs/1605.07277。这些技能涉及到以白盒的方法为另一个已知模子天生反抗样本,然后再运行它们来反抗未知的方针模子。

                                                                  实体反抗样本

                                                                   

                                                                  为了更好地领略这些单薄之处,研究者对反抗样本影响陈设在现实天下中的 DNN 的也许方法举办了普及的研究。

                                                                   

                                                                  Kurakin 等人的研究表白当行使智妙手机摄像头调查打印出来的反抗样本时,这些样本也许会被错误地分类;参阅:https://arxiv.org/abs/1607.02533。Sharif 等人通过在眼镜框中打印反抗扰动而进攻了人脸辨认体系;参阅:https://www.cs.cmu.edu/~sbhagava/papers/face-rec-ccs16.pdf。他们的研究表白:仅需在姿势、相机的间隔/角度、光照等前提上加上很小的变革,就可以在相对不变的实体情形中乐成举办实体进攻。这是个很风趣的功效,辅佐我们更好地领略了不变情形中的实体样本。

                                                                   

                                                                  我们近期的研究《对深度进修模子的妥当的实体天下进攻(Robust physical-world attacks on deep learning models)》则展示了针对分类器的实体进攻。理所虽然,接下来我们又进攻了物体检测器。这些计较机视觉算法可以辨认场景中的相干物体以及猜测获得指出了这些物体的位置和种类的界线框。与分类器对比,检测器更难诱骗,由于它们会处理赏罚整张图像而且可以在猜测中行使配景信息(好例如针物体在场景中的偏向和位置)。

                                                                   

                                                                  我们演示了针对 YOLO 检测器的实体反抗样本。YOLO 检测器是一种风行的算法,具有精良的及时性示意。我们的样本回收了贴纸扰动的情势,应用在真实的「遏制」符号上。下图给出了我们的实体反抗扰动示例。

                                                                  几张贴纸就让神经网络看不懂路线标记,伯克利为真实情形生成对

                                                                  通过录制视频来测试检测示意,我们还执行了动态测试。可以在视频中看到,YOLO 收集在险些全部帧中都无法感常辨认出「遏制」符号。假如一辆真实的自动驾驶汽车在具有这样的反抗式「遏制」符号的阶梯上行驶,它就无法看到这种「遏制」符号,从而有也许造成交错路口撞车事情。我们缔造的这种扰动很妥当,不受间隔和角度影响——这两者是自动驾驶场景中最常见的变革身分。

                                                                   

                                                                  更风趣的是,为 YOLO 检测器天生的实体反抗样本也可以骗过尺度的 Faster-RCNN。我们的演示视频包括了一次实体反抗样本在 Faster-RCNN 上的动态测试。由于这是针对 Faster-RCNN 的黑盒进攻,以是没有 YOLO 案例那么乐成。虽然,这个功效是可以预见的。但我们也信托再多行使一些特另外技能(好比集成实习)可以让这种黑盒进攻更有用。另外,针对对 Faster-RCNN 的进攻举办详细优化也能获得更好的功效。我们今朝正在撰写一篇更具体地试探这些进攻的论文。下图给出了 Faster-RCNN 无法感常辨认「遏制」符号的示例。

                                                                  几张贴纸就让神经网络看不懂路线标记,伯克利为真实情形生成对

                                                                  上一篇:龙井新标识难防“赝品真壳” 老茶客只信托口感(组图)   下一篇:济南定制公交征集LOGO标识啦!最高奖5000!