As a reader --> Diffusion Models for Imperceptible and Transferable Adversarial Attack

link管理

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

没人理的玉米 · 使用 QGIS 外掛程式處理資料集 - ...· 1 月前 ·

干练的小刀 · 【延伸阅读】武汉“超米字型”高铁加速推进· 2 月前 ·

叛逆的豌豆 · 台大公衛碩士學程· 4 月前 ·

失恋的茶壶 · Java基础第二天学习笔记-腾讯云开发者社区 ...· 8 月前 ·

刀枪不入的感冒药 · 丁烈云院士与武汉理工大学师生共话“复合型智能 ...· 1 年前 ·

简要摘要
许多现有的对抗性攻击在图像RGB空间上产生lp范数扰动。尽管在可转移性和攻击成功率方面取得了一些成就，但精心制作的对抗性样本很容易被人眼感知。对于视觉的不可感知性，最近的一些研究探索了不受lp范数约束的无限制攻击，但缺乏攻击黑箱模型的可转移性。这项工作利用扩散模型的生成和判别能力，提出了一种新的难以察觉和可转移的攻击。具体来说，不是在像素空间中直接操作，而是在扩散模型的潜在空间中制造扰动。结合精心设计的内容保存结构，可以生成嵌入语义线索的人类不敏感的扰动。
为了更好的可转移性，本文进一步“欺骗”可以被视为隐式识别代理的扩散模型，通过将其注意力从目标区域转移开。提出的方法DiffAttack是第一个将扩散模型引入对抗性攻击领域的方法。在各种模型结构、数据集和防御方法上进行的大量实验表明，攻击优于现有的攻击方法。

本文提出了一种基于扩散模型的新型无限制攻击。没有直接操作像素，而是优化了现有的预训练扩散模型的潜在优势。除了上面提到的高级扰动的基本可转移性优势外，将扩散模型引入对抗性攻击领域的动机主要来自它的两个有益特性：

①良好的隐蔽性
扩散模型最初是为图像合成而设计的，它倾向于生成符合人类感知的自然图像。这种固有的特性很好地符合对抗性攻击的不可感知性要求。此外，扩散模型内的迭代去噪过程有助于降低可感知的高频噪声。