跨境网络空间安全教育部工程研究中心在多媒体技术与应用领域国际著名期刊TMM上发表最新研究成果

近日，云南大学跨境网络空间安全教育部工程研究中心周维教授团队的论文“STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario”被多媒体技术与应用领域国际著名期刊IEEE Transactions on Multimedia 正式录用，作者为云南大学的刘仁阳、周维^*、巫思杏，新加坡南洋理工大学的Kwok-Yan Lam、赵俊以及澳大利亚墨尔本大学的宫明明、胡冬庭。其中周维教授为通信作者，刘仁阳是周维教授的博士生，现为新加坡国立大学Research Fellow, 研究方向为人工智能安全和数据隐私保护。

图1 STBA整体框架

    为了在查询受限的黑盒攻击场景下评估现有常规训练和鲁棒训练的深度神经网络（DNN）模型的脆弱性与鲁棒性，本文提出了一种新的无噪声添加方法，STBA，用以合成扰动不可见的对抗样本。我们提出的STBA方法通过对图像高频部分进行空间变换并利用梯度估计来搜索最优的扰动流场来合成对抗样本。实验结果表明，STBA生成的对抗样本对人眼几乎不可察觉，同时显著提高了在查询受限的黑盒攻击场景下的攻击效率。在针对常规训练和鲁棒训练模型的攻击中，STBA分别只需几十次和几百次查询，即可获得高攻击成功率和高隐蔽性的对抗样本。大量实验验证了该方法在攻击成功率、查询次数及隐蔽性方面优于已有方法。即便是在鲁棒模型上，STBA也能在标准数据集上实现93.27%至100%的攻击成功率。受益于利用无噪声添加的方式生成对抗样本，STBA为评估现有深度学习模型面临难以察觉的对抗噪声时的脆弱性提供了一种新颖的、有效的评估方法，并有助于通过如微调或对抗训练等技术来进一步增强其鲁棒性。

 IEEE Transactions on Multimedia (TMM) 是多媒体技术与应用方面的顶级期刊，中科院一区TOP期刊，中国计算机学会(CCF)推荐B类期刊，主要关注音频、视频、图像处理、信号处理技术、内容理解、多媒体接口、应用程序和多媒体服务的各类研究，其在多媒体技术与应用领域具有较高的学术地位和影响力。

     跨境网络空间安全教育部工程研究中心供稿

    2024年9月20日