AI的應用越來越廣泛，已經滲透到人們工作和生活的方方面面。隨之而來的，是AI的安全問題。我每天都在使用的AI助手，可信嗎？企業核心業務依賴的AI服務器，安全嗎？AI軟件的安全性，已經成為了一個復雜且多面的全球性議題。

近日，NVIDIA（英偉達） 官方發布了一則安全風險預警和軟件更新公告，公布 NVIDIA Triton 推理服務器存在著重要安全漏洞，提醒用戶盡快進行版本更新。（涉及的漏洞為深信服發現并提報）

Triton 推理服務器是NVIDIA發布的一款開源軟件，作為 NVIDIA AI 平臺的重要組成部分，該服務器可以針對各種工作負載，實現標準化的AI模型部署和執行，為用戶提供快速且可擴展的AI服務。Triton作為目前全球主流AI推理服務器，已被全球眾多人工智能廠商廣泛使用。

NVIDIA AI平臺大多數應用與功能的實現，背后都是由Triton 推理服務器提供基礎支持，這代表什么呢？

對于使用該服務器的廠商、企業來說，這個漏洞一旦被惡意攻擊者利用，他們的云端AI模型就很有可能完全被控制。攻擊者可以在未授權的情況下實現竊取用戶敏感數據、執行惡意代碼、修改AI模型計算結果、竊取AI模型等一系列操作，對用戶的數據隱私帶來的風險是災難性的，對企業利益和品牌信譽帶來的損失也是毀滅性的。

假設，某自動駕駛汽車廠商使用Triton 推理服務器來訓練和優化自動駕駛模型。這個漏洞被惡意攻擊者利用并成功控制，則可能導致車輛誤判、失控等安全問題，威脅到乘客和行人的生命安全。

再假設，某人工智能服務廠商使用Triton 推理服務器部署和開發其AI模型，如果被攻擊者利用此漏洞入侵，可能導致模型計算結果被篡改，甚至直接被“一鍵復制”式竊取，導致知識產權泄漏或聲譽受損。

對于我們每個人來說就是，你的“AI助手”帶著你所有的隱私和數據，背叛你了。

假設，你一直使用的某個對話類AI助手被黑客利用此漏洞控制，你的所有對話內容、日常行為習慣和隱私信息都會暴露，黑客可以公開并售賣你的個人信息，甚至利用這些信息實施詐騙、竊取財產，甚至盜用身份信息進行其他非法行為。

深信服安全研究員Lawliet和彭峙釀在日常研究過程中發現了這兩個漏洞，隨即編寫詳細的漏洞報告，積極與監管機構和NVIDIA官方取得聯系。NVIDIA官方驗證漏洞信息后第一時間發布官方公告提醒用戶更新，并致謝深信服。

AI技術的發展正如火如荼，但是對AI基礎設施安全性的研究才剛剛起步，在可預見的未來會有更多挑戰。比如本次發現的漏洞，屬于未授權遠程代碼執行漏洞，影響范圍大，未修復可能導致嚴重后果。面對這些挑戰，具備主動識別潛在風險的能力，并提前采取行動進行有效的修復和預防，可以為用戶使用的安全性提供多一層保障。

再次提醒各位NVIDIA AI推理服務器用戶，請及時檢查自己使用的版本是否更新升級，避免引發安全風險！另外，無論是使用AI推理服務器的廠商還是使用AI服務的個人用戶，都應提升安全意識，關注數據安全和隱私保護，在享受AI帶來的高效和便利的同時，確保AI使用過程的安全。

深信服注重網絡安全攻防技術研究，利用攻擊方視角解決網絡安全問題，并將安全研究技術應用到產品實踐中?；诙嗄甑募夹g積累，深信服在國內率先推出了多個前沿安全產品及服務，并在去年首秀自研的安全大模型——安全GPT的技術應用。發布至今，安全GPT已收獲130+體驗用戶。深信服AICP算力平臺在2024數字中國創新大賽的“信創賽道”和“城市賽道”中獲得2大獎項。

近期，彭峙釀等研究員受邀參加國際知名信息安全會議HITB x PHDays 2024，在主論壇發表主題演講，與全球網絡安全專家、團隊共同探討前沿安全技術。

未來，深信服將不斷提高專業技術造詣，加大對安全研究人才和技術研究層面的投入， 也將持續在AI安全領域深耕，為所有用戶的網絡安全保駕護航，讓AI技術更好地為人類社會的發展做出貢獻。