所在位置:綜合新聞

戴上“白帽子” 人工智慧投身網絡安全攻防戰

  戴上“白帽子” 人工智慧投身網絡安全攻防戰

  面對計算機系統和網絡的缺陷和漏洞,黑客們找準機會實施攻擊,白帽黑客則利用黑客技術來測試網絡和系統的性能以判定它們能夠承受入侵的強弱程度。短短幾年時間,人工智慧已進駐多個行業,落地無數場景。其中一些行業和場景已為大家所熟知,還有一些正在進入我們的視野,在網絡安全領域,AI“白帽”正成為網絡安全工程師的得力助手。

  據報道,近日美國市場調研公司CB Insights發佈報告預測了2019年人工智慧行業的發展趨勢,其中一個趨勢便是用人工智慧發現網絡威脅。

  正在賦能網絡安全

  “人工智慧技術的蓬勃發展,為網絡安全攻防帶來的,不僅有機遇,也有挑戰。”北京理工大學網絡攻防對抗技術研究所所長閆懷志接受科技日報記者採訪時説。

  先説好的一面。360安全研究院鄒權臣博士告訴科技日報記者,目前人工智慧已經應用於惡意代碼檢測、惡意流量檢測、威脅情報收集、軟體漏洞挖掘等網絡安全領域。

  “例如在惡意代碼檢測方面,人工智慧通過對惡意程序的API調用序列、系統CPU利用率、收發的數據包等信息,自動識別惡意代碼的特徵,進而判定分類。”鄒權臣介紹,相比于傳統的基於動靜態分析的特徵檢測、啟髮式檢測技術,人工智慧可以大幅度提升檢測的準確率。

  360安全研究院研究員張德岳介紹,在軟體漏洞挖掘方面,採用人工智慧技術從漏洞相關的數據中提取經驗和知識,並用訓練好的模型提高漏洞挖掘的精度和效率,可以緩解當前該領域研究遇到的一些瓶頸問題,具體應用場景包括漏洞程序篩選、源代碼漏洞點預測等。

  “人工智慧在網絡安全領域的應用日益廣泛,運用人工智慧賦能網絡空間安全,主要體現在主動防禦、威脅分析、策略生成、態勢感知、攻防對抗等諸多方面。”閆懷志説,其中包括採用人工神經網絡技術,來檢測入侵行為、蠕蟲病毒等安全風險源;採用專家系統技術,進行安全規劃、安全運行中心管理等;此外人工智慧方法還有助於網絡空間安全環境的治理,比如打擊網絡詐騙。

  具備明顯“過人之處”

  與傳統的應對網絡安全的方式相比,人工智慧確實展示了其“過人之處”。

  在閆懷志看來,人工智慧方法在解決人力所不及的安全大數據統計和抽取規律方面具備天然優勢,它能夠全面提高威脅攻擊的識別、響應和反制速度,提升風險防範的預見性和準確性。特別是在異常行為檢測等應用場景模糊的非精確識別和匹配方面,更是如此。

  “人工智慧針對未知威脅和攻擊的檢測也更出色。因為傳統的特徵匹配方法對未知威脅幾乎無能為力,而人工智慧方法有時不需要先驗知識,對未知威脅的檢測能力較強。”閆懷志説。

  不得不説,人工智慧系統還具備成本效益優勢。閆懷志認為,人工智慧可以在第一時間發現和識別預防威脅,並立即啟動應急響應,高效的智慧檢測流程有助於減少人工參與、簡化流程、降低成本、減小損失。

  “傳統的應對網絡安全的方法依賴於人工硬編碼定義、提取特徵的方式完成相關任務,而人工智慧可以直接對原始數據進行訓練,從大量的數據中提取特徵,自動完成分類判定的工作。”張德岳説,如此一來後者既可以提高網絡安全中預測、防範、檢測、銷控等各個風險環節的自動化和智慧化程度,又能提升響應速度和判定的準確率。

  不能靠它包打天下

  “雖然人工智慧攪動了網絡安全領域的一池春水,但是應該理性看待人工智慧在應對網絡安全方面的優缺點,不能指望全靠人工智慧來包打天下。”閆懷志説,人工智慧在應對網絡安全問題時,也有較強的局限性。

  鄒權臣分析,這一方面受限於人工智慧算法本身的能力。因為傳統的機器學習技術依賴特徵提取,而算法的效果和性能又依賴識別和提取特徵的準確性。深度學習具有在高維數據中自動提取特徵的能力,同時面臨著持續學習、數據饑餓、可解釋性等問題。

  “另一方面機器學習、特別是深度學習過分依賴數據,但在惡意代碼檢測、軟體漏洞挖掘等領域,目前仍然存在數據收集困難的問題,缺少較好的數據集用於訓練,影響對相關領域的研究。”鄒權臣補充説,另外人工智慧嚴重依賴於耗費計算資源,複雜的深度學習網絡需要同時計算成百上千萬次的計算,需要強大的人工智慧芯片計算力的支撐。

  閆懷志則從不同方面總結了人工智慧的不足。比如,易於忽視或者拋棄人類專家在網絡安全領域的知識和經驗積累,對網絡安全的複雜應用場景考慮不足,對於已知威脅的檢測效率遠低於傳統的精確特徵識別方法等。

  “使用神經網絡和深度學習等算法,能夠較好地識別出未知攻擊威脅風險,達到‘知其然’的目的,但是這些算法通常無法揭示産生這種安全風險的基本機理,也就是‘不知其所以然’,從而為從源頭防禦這種攻擊風險帶來極大障礙。”閆懷志説。

  脆弱面帶來安全風險

  人工智慧在應對網絡安全問題時,有時甚至會展現出脆弱的一面。

  “一個真實環境中的人工智慧系統,會面臨數據安全、模型/算法安全、實現安全等多方面的安全威脅。”張德岳告訴科技日報記者。

  張德岳舉例説,在數據安全方面,在數據收集與標注時出現錯誤或注入惡意數據,將導致數據污染攻擊;在模型/算法安全方面,針對人工智慧算法存在黑盒和白盒對抗樣本攻擊,可導致識別系統出現混亂;在實現安全方面,除了人工智慧系統本身的代碼實現,其所基於的人工智慧框架以及所依賴的第三方軟體庫中的軟體實現漏洞,也都可能導致嚴重安全問題。

  “人工智慧對現有網絡安全格局的影響,離不開算法、數據和計算能力3個方面,其容易遭受攻擊的弱點也來自於此。”閆懷志總結説。

  對於防範人工智慧的脆弱性所帶來的安全風險,閆懷志指出:首先要從體系架構、系統算法容錯容侵設計、漏洞檢測和修復、安全配置等方面來增強人工智慧系統自身的安全性;其次,要用其所長,儘量減小其暴露給外界的潛在攻擊面;最後要構建網絡空間安全綜合防禦體系,從安全技術和安全管理等層面來協同防範安全攻擊,間接減緩攻擊者直接針對人工智慧系統發起攻擊以及攻擊成功的可能性。

  來自360安全研究院的專家也給出多個建議,其中包括:在數據獲取過程中,要加強對數據來源的控制與過濾,在一定程度上保證數據安全可靠;在數據傳輸過程中,要使用更加安全的傳輸協議與加密算法;在人工智慧系統的實現中,要保證代碼質量並進行完善的測試,此外還要及時更新或修補框架或依賴庫中存在的漏洞等。

關鍵詞: 安全;人工智慧;網絡;數據;檢測;方面;閆懷志;系統;攻擊;漏洞