讲座主题:
A Multiversion Programming Inspired Approach to Detecting Audio Adversarial Examples
主讲人姓名及介绍:
杜小江博士是美国费城天普大学计算机与信息科学系的终身教授和安全与网络(SAN)实验室主任。杜小江博士在北京清华大学获得电气工程(自动化系)学士和硕士学位。他分别于2002年和2003年在马里兰大学帕克学院获得电机工程硕士和博士学位。他的研究兴趣是安全、无线网络和系统。他在这些领域撰写了350多篇期刊和会议论文,以及一本由斯普林格出版的书。杜博士获得了美国国家科学基金会(NSF)、陆军研究办公室、空军研究实验室、美国宇航局、宾夕法尼亚州和亚马逊的600多万美元研究资助。他获得了IEEEGlobeCom 2014年度最佳论文奖和ACMMobihoc2014年度最佳海报亚军奖。他在两种国际期刊的编辑部任职。杜博士曾担任2015年IEEE国际通信会议(ICC)通信和信息安全研讨会的首席主席,以及2015年IEEE无线通信和网络会议(WCNC)移动和无线网络轨道的联合主席。
报告摘要:
对抗性示例(AEs)是通过在输入中添加人类无法察觉的干扰而构建的,这样基于机器学习的分类器就错误地标记了它们。它们已经成为对机器学习可信度的严重威胁。虽然AEs在图像领域已经得到了很好的研究,但是音频AEs的研究较少。近年来,针对音频AEs的产生,人们提出了多种技术,并提出了相应的对策。我们的实验表明,在音频声发射条件下,由于不同的自动语音识别系统使用不同的体系结构、参数和训练数据集,自动语音识别系统(ASR)的转录结果存在显著差异(即传输能力差)。基于这一事实,在多版本编程的启发下,我们提出了一种新的音频声发射检测方法MVP-EARS,它利用不同的现成asr来确定音频是否是声发射。根据我们的知识建立了最大的音频声发射数据集,检测精度达到99.88%。虽然此时很难生成可传输音频ae,但它们将来可能成为现实。我们进一步利用上述思想,对检测系统进行主动训练,以应对可传输音频AEs。因此,主动式检测系统比攻击者处理可转移AEs领先了一大步。