12月4日，中國科學院軟件研究所計算機科學國家重點實驗室張立軍和吳志林研究員領導的可信智能系統團隊在第三屆OPPO安全AI挑戰賽中獲得季軍。團隊成員李仞玨博士生、楊鵬飛助理研究員組成的CAS-SafeAI戰隊參加了此次挑戰賽。

　　第三屆OPPO安全AI挑戰賽聚焦于安全攸關領域的人臉識別場景，以神經網絡模型的對抗攻擊為具體任務。挑戰賽的攻擊目標為一組防御性集成模型，在無法直接訪問目標模型的設定下，需要設計遷移攻擊算法在本地生成對抗樣本，并提交至挑戰賽云端系統進行攻擊效果評估。此次挑戰賽設置冠軍1項、亞軍2項、季軍3項、優勝獎4項，共有來自國內外高校的2000多支隊伍參加。

　　CAS-SafeAI戰隊戰隊憑借扎實的理論基礎與分析能力，設計了基于差異性的遷移攻擊框架，有效提高了對抗樣本的泛化性，在比賽任務中取得了出色的效果，最終從眾多隊伍中脫穎而出，榮獲季軍（第四名）。

　　軟件所可信智能系統團隊主要從事可信人工智能、軟件驗證、硬件設計驗證等方面的基礎理論、算法與工具研究，并將成果應用于深度學習安全分析與攻擊防御、軟件內存安全分析、RISC-V處理器設計驗證等重要場景。

挑戰賽現場

頒獎現場

2021年度OPPO安全AI挑戰賽季軍獎杯