（通訊員程齊凱）近日，第29屆ACM計(jì)算機(jī)與通信安全會(huì)議(ACM Conference on Computer and Communications Security, CCS 2022)官方發(fā)布了論文錄用結(jié)果。我院2020級(jí)博士研究生劉家偉以第一作者身份撰寫的論文被錄用。

該論文題目為“Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models”（《有序-無序：針對(duì)黑盒神經(jīng)排序模型的模仿對(duì)抗攻擊》），武漢大學(xué)為第一單位，指導(dǎo)教師為我院陸偉教授（通訊作者）、美國(guó)伍斯特理工學(xué)院劉曉鐘副教授（共同通訊作者）、美國(guó)印第安納大學(xué)Xiaofeng Wang教授，阿里巴巴達(dá)摩院算法專家康楊楊、宋凱嵩、孫常龍，印第安納大學(xué)博士后Di Tang參與論文相關(guān)工作。

隨著基于Transformer的BERT等預(yù)訓(xùn)練模型的提出和廣泛應(yīng)用，經(jīng)過深度預(yù)訓(xùn)練和微調(diào)的Transformer在眾多文本排序任務(wù)中取得了最優(yōu)越的性能。然而，神經(jīng)排序模型繼承了神經(jīng)網(wǎng)絡(luò)的對(duì)抗性弱點(diǎn)，即一個(gè)小的故意的擾動(dòng)（例如，圖像上的一些像素變化、文本中幾個(gè)字符的改變）可能會(huì)引發(fā)預(yù)測(cè)結(jié)果的極大變化，這種弱點(diǎn)可能被用作搜索引擎毒化、觀點(diǎn)引導(dǎo)等。先前的對(duì)抗排序攻擊主要集中在基于深度圖像排序系統(tǒng)、文本分類和機(jī)器翻譯系統(tǒng)上，而深度文本排序模型的漏洞尚未得到較多探索。此外，真實(shí)場(chǎng)景下的排序系統(tǒng)禁止任何形式的白盒訪問，黑盒攻擊更能揭示貼近實(shí)際的排序系統(tǒng)漏洞。

該論文利用不同神經(jīng)網(wǎng)絡(luò)之間的對(duì)抗樣本的可轉(zhuǎn)移特性，提出了一種針對(duì)深度文本排序系統(tǒng)的新型黑盒攻擊方法，揭示了深度文本排序模型存在的安全漏洞。通過采樣目標(biāo)排序模型的結(jié)果列表，無需任何白盒訪問權(quán)限，訓(xùn)練一個(gè)模仿模型來替代目標(biāo)排序模型，基于替代模型生成對(duì)抗攻擊文本，然后遷移到目標(biāo)排序模型上驗(yàn)證攻擊效果。大量的自動(dòng)檢測(cè)和人工評(píng)測(cè)證明，該方法能夠以黑盒方式有效實(shí)現(xiàn)攻擊目標(biāo)。

ACM CCS已有近30年的歷史，在系統(tǒng)及網(wǎng)絡(luò)安全領(lǐng)域享有崇高的聲譽(yù)，一直引領(lǐng)國(guó)際信息安全研究的潮流，谷歌H-5指數(shù)為98，為計(jì)算機(jī)安全與密碼學(xué)領(lǐng)域期刊會(huì)議最高，同時(shí)被中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）認(rèn)定為網(wǎng)絡(luò)安全A類國(guó)際學(xué)術(shù)會(huì)議，與IEEE S&P、USENIX Security、NDSS被業(yè)界并稱為網(wǎng)絡(luò)安全領(lǐng)域“四大頂級(jí)會(huì)議”。

2021年，劉家偉曾在人工智能領(lǐng)域頂級(jí)會(huì)議AAAI（CCF-A類）發(fā)表論文“Time to Transfer: Predicting and Evaluating Machine-Human Chatting Handoff”。這是我院首次在CCS和AAAI發(fā)表論文。（責(zé)編雷婷）

論文錄用列表：https://www.sigsac.org/ccs/CCS2022/program/accepted-papers.html

論文預(yù)印版鏈接：https://arxiv.org/abs/2209.06506