跨境网络空间安全教育部工程研究中心在信息安全顶级著名期刊TIFS

上发表最新研究成果

近日，云南大学跨境网络空间安全教育部工程研究中心周维教授团队的论文“Boosting Black-box Attack to Deep Neural Networks with Conditional Diffusion Models”在信息安全领域国际著名期刊IEEE Transactions on Information Forensics and Security (TIFS) 成功发表，作者为云南大学的刘仁阳、周维^* 以及南洋理工大学的张天威、陈康杰、赵俊、Kwok-Yan Lam。刘仁阳是周维教授的博士生，研究方向为人工智能安全和数据隐私保护，在读期间以第一作者身份发表论文10篇，其中9篇发表在中国计算机学会（CCF）推荐期刊和会议上。本工作完成于刘仁阳前往新加坡南洋理工大学联合培养期间，合作导师为Kwok-Yan Lam教授。

图1 CDMA整体框架

该文章基于“对抗样本是正常样本的一种特殊表现形式，它们分别属于两个不同但‘相邻’的数据分布且可以通过特殊的数据转换器进行相互转换”这一假设提出了一种新颖的黑盒硬标签攻击方法，称为条件扩散模型攻击（CDMA），该方法利用条件扩散模型来构建前文所述的数据转换器，并以条件采样的形式将干净样本转换为其对应的对抗样本。这种通过以干净图像为条件变量来合成对抗样本的攻击方法可以显著地提高黑盒攻击的攻击成功率以及查询效率。大量的实验表明，CDMA 在查询次数受限场景下，能够获得更高的攻击成功率，即使在有目标的攻击设定中，CDMA 也能做到以更少的查询次数来实现更高的攻击成功率。此外，CDMA 生成的对抗样本可以有效地越过防御机制并保持较高的攻击性能。基于该论文的分布变换假设，训练良好的 CDMA 模型还可以在模型无关、数据无关的场景下生成对抗样本。

IEEE Transactions on Information Forensics and Security (TIFS) 是网络与信息安全领域国际顶级期刊，中科院一区TOP期刊，中国计算机学会(CCF)推荐A类期刊，中国密码学(CACR)推荐A类期刊，主要关注计算机及网络安全、可靠性最新的研究进展和技术，其在网络与信息安全领域具有极高的学术地位和影响力。

跨境网络空间安全教育部工程研究中心供稿

2024年5月6日