本文轉載自微信公眾號《 中國教育信息化》，2024-05-21

AIGC，大模型，對話機器人……今年，人工智能頻上頭條。那么，當 AI 遇上網絡安全，又會碰撞出哪些新火花呢？一起來 2024 年教育系統網絡安全工作研討會看看。

↓ 點擊圖片播放視頻 ↓

本次會議聚集了眾多教育系統的網絡安全專家。

關于 AI 大模型時代，高校實戰攻防的思考，主要關心什么？

近幾年 AI 大模型在很多領域都在快速地落地和迭代，您認為當前 AI 大模型會對高校攻防實戰產生哪些影響呢？

北京大學計算中心網絡安全室主任 周昌令：

以前以攻促防，我們都是讓人來做。檢測的效果非常依賴于紅隊人員的水平。AI 大模型，它能夠創新性地去找到一些未知的，甚至不是規則里邊直接描述的問題，去提出解決建議。讓比較繁重的、重復的日常工作能夠解放出來，大家可以去關注更重要的目標。

從防守視角看 ，AI 大模型可以有哪些應用？

哈爾濱工業大學網絡安全與信息化辦公室高級工程師 辛毅：

從防守的方面，我們日常的各個安全設備、系統或者數據庫，中間件等產生的海量日志，利用生成式AI可以快速地進行挖掘。把所有可能的方向提供給我們的分析師，來做綜合性的研判。特別在分析惡意代碼，二進制方面優勢比較大。

在應用層面，AI大模型如何提升學校的網絡安全運營工作？

大連理工大學網絡與信息化中心網絡安全部部長 李先毅：

在安全方面的應用，很重要的一個就是安全人才的培養，可以更多地引入AI大模型；再有就是，網絡安全攻防對抗當中，是否能把AI大模型的攻擊手段引入到攻防演練中。用 AI 的手段來模擬攻擊的方式，通過人的能力的提升，進一步提升高校的防守和應急能力。

在學校網絡安全工作當中有沒有碰到一些實際的難題？

中山大學網絡與信息中心主任 何海濤：

攻方有了大模型技術的加持，攻守不平衡的情況會更加惡劣，對我們高校整個運營體系的能力增強提出了更高的要求。

從守方角度來講，也要有人工智能大模型的加持。以人工智能大模型，對抗外部的人工智能大模型攻擊。利用大模型的自學習能力，打破我們人類傳統的、慣性的思維框架，去找到一些以前我們的經驗所不能掌握的新型攻擊。

您認為 AI 的產生會對高校的網絡安全態勢產生什么影響？

深信服教育事業部副總經理 張濤：

GPT 的引入讓我們網絡安全攻擊的成本變得更低了，未知威脅手段變得更多樣化。實戰化人才很難做到安全有效地處置閉環。

深信服目前有沒有解決方案可以破解上述難題？

張濤：我們在安全運營1.0方案基礎的之上，做了能力升級。

第一是在技術架構上方面的升級：通過 GPT+XDR 賦能產品，提升檢錯率，對于高級威脅的檢測率基本上可以做到 96% 以上。比如像“挖礦”，現在基本上可以做到 100 毫秒之內就可以檢測出來。在實戰過程中，多次檢測出利用0Day漏洞的攻擊，做到一些人或者工具難以快速去實現的一些問題。

第二在運營上：能夠實現托管式運維，真正做到7X24小時運營閉環。過去，可能需要花數個小時；現在，通過對話式的方式，幾分鐘之內，就可以得到技術的支持，給出建議和解決方案。

第三，人才培養的實戰化。

在 AI 技術的加持下，高校網絡安全防護能力和效果得以全面升級。“運營閉環、實戰有效、智能駕駛”，讓我們為高校網絡安全加點AI（愛），讓校園更安全、更智慧，讓師生的學習和生活更安心、更美好。