9月16日，以“共筑AI安全 安享智能未來”為主題的AISC首屆人工智能安全大賽圓滿落幕。

　　在人工智能安全大賽上，動駕駛安全賽題和人臉識別安全賽題從攻擊視角出發，通過讓選手攻擊目標模型挖掘算法漏洞，旨在發現更加穩定的攻擊算法，以更好的實現準確評估模型的安全性。深度偽造安全賽題則通過分析偽造音視頻的相似性，來溯源不同偽造內容是否來自同一種或同一類生物特征生成軟件。

　　自七月開啟報名以來，大賽共吸引來自全國范圍內70多所高等高校、科研院所、企業機構的超過400支團隊，共計600余名選手的踴躍參與。經過三個月的激烈角逐，最終，上海交通大學聯合戰隊“AreYouFake”與北京交通大學戰隊“BJTU-ADaM”分別摘得深度偽造安全與自動駕駛安全賽道桂冠，北京理工大學戰隊“DeepDream”與建信金科戰隊“Tian Quan&LianYi”共同位列人臉識別賽道第一名。

　　開放環境下的人工智能系統面臨諸多安全挑戰，如何解決通用人工智能算法全周期的安全保障問題成為重中之重。北京航空航天大學軟件開發環境國家重點實驗室副主任劉祥龍表示，目前人工智能算法及系統的安全性缺乏科學評測手段，難以有效評測完整的人工智能模型和算法能力。他表示，從技術上來看應形成從安全性測試到安全性分析與安全性加固的完整技術手段，最終形成標準化的測試流程。同時他指出，未來的人工智能安全應該圍繞從數據、算法到系統各個層次上的全面評測，同時配合一套整體的從硬件到軟件的安全可信計算環境。