（通讯员 李娜）近日，学部韩亚洪教授指导的博士生石育澄撰写的论文“Query-efficient Black-box Adversarial Attack with Customized Iteration and Sampling”被计算机视觉和人工智能领域国际公认的顶级期刊《IEEE模式分析与机器智能汇刊》（简称“IEEE TPAMI”）录用。该论文针对人工智能安全和对抗机器学习中的“黑盒对抗攻击方法”开展研究，提出了新的查询高效的黑盒对抗攻击框架，该框架首次统一了基于迁移和基于决策的两种攻击策略，并在理论上揭示了对抗噪声与采样方差、噪声压缩单调性、以及决策攻击状态转移函数之间的关系。
图1 查询高效的黑盒对抗攻击框架
如图1所示，在新提出的由参数调节、迁移攻击、噪声压缩和状态转移四个模块组成的黑盒攻击框架上，论文进一步提出了“定制化迭代及采样攻击（CISA）”方法，显著提升了黑盒场景下攻击参数调节的效能、迭代攻击的迁移能力、以及噪声压缩的效率，并首次引入针对决策攻击状态转移函数的松弛方法，有效缓解了决策攻击采样过程易陷入局部最优的问题。该方法为黑盒对抗攻击中迁移攻击与决策攻击的统一与高效查询策略提供了新途径。
韩亚洪教授团队近年来在人工智能安全领域的对抗机器学习和对抗视觉等方向上承担了国家自然科学基金等多项国家级科研任务，三年多来在CVPR 2019、CVPR 2020、 IJCAI 2020、PR 2021、AAAI 2022等重要期刊和学术会议发表一系列研究成果，申请和授权多项发明专利，在NeurIPS 2018的Adversarial Vision Challenge中取得国内最好成绩，并于2021年参编了“中国人工智能学会蓝皮书”--《人工智能未来趋势、安全、教育与人类关系》。
论文信息：Yucheng Shi, Yahong Han, Qinghua Hu, Yi Yang, Qi Tian. Query-efficient Black-box Adversarial Attack with Customized Iteration and Sampling, IEEE TPAMI, DOI:10.1109/TPAMI.2022.3169802.
论文的Project Page：https://shiyuchengtju.github.io
