中文
2025-06-18 15:28:23
2019年，全球首例AI詐騙案震驚業界——攻擊者通過人工智能語音生成軟件，完美復刻了某英國能源公司母公司CEO的聲紋，一通電話便讓公司高管將約合173萬人民幣的資金轉出，這一事件標志著AI攻擊從理論走向現實。
發生在2024年的一起攻擊事件，再次刷新人們對于AI偽造攻擊的認知。黑客通過AI精準模仿某跨國企業高管身份，向員工發送釣魚郵件，還結合深度偽造技術，在視頻會議中偽裝成CFO下達轉賬指令，最終導致企業損失2500萬美元。
當自動化攻擊遇上深度偽造
AI偽造攻擊的威脅正急劇升級，其核心在于AI代理與深度偽造技術的協同作用：AI代理作為自動化攻擊的"執行者"，能夠快速掃描漏洞、投放惡意載荷并橫向移動；而深度偽造技術則為其提供強大的偽裝能力，通過深度偽造的語音、視頻或文本，冒充可信身份突破驗證防線。這種組合使攻擊者能夠自動化、規?；貙嵤┚珳试p騙，傳統基于靜態特征的身份驗證體系已岌岌可危。
Gartner預測到2028年，40%的社交工程攻擊將針對高管和員工，利用深度偽造音頻、視頻等偽造現實技術實施欺騙。
這類攻擊的棘手性在于：一方面，深度偽造檢測技術尚未成熟，但偽造內容的逼真度已經可以騙過人眼和檢測系統；另一方面，攻擊者結合社交工程策略，精心設計詐騙場景，使得高管及員工防不勝防。攻擊一旦成功，將造成巨額資金損失。
盡管深度偽造識別存在技術瓶頸，但我們仍可以從身份驗證角度切入，為企業構筑應對AI偽造攻擊的重要防線。
“技術+流程+人員” 構建更智能的防御體系
《IDC FutureScape：全球未來信任2024年預測——中國啟示》明確指出：到2027年，45%的大中型組織將被迫采用更先進的身份檢測和響應解決方案，以應對AI驅動的偽裝攻擊。
面對這一挑戰，企業需要構建技術、流程、人員協同作戰的動態防御體系。
升級技術層 部署下一代身份驗證矩陣
在身份安全領域，決策者尤其需要關注：不要讓防護措施成為一種“阻力”，核心是要找到安全性和可用性的平衡點。「無感化」正在成為下一代身份驗證的趨勢。
1. 無密碼驗證（Passkey）
Passkey是FIDO聯盟提出的一種無密碼認證解決方案，支持用戶通過生物識別或設備解鎖的方式登錄應用程序和網站，從根本上消除密碼爆破風險。在整個注冊和身份驗證流程中，用戶無需記憶復雜強密碼的同時也無需傳遞給服務器保存，安全性與體驗上都能得到顯著提升。
2. 行為式生物識別技術
行為式生物識別技術為持續身份驗證提供了創新解決方案。這項技術通過分析用戶交互特征（如擊鍵、鼠標軌跡等），建立“行為指紋”。實現持續身份監測，當檢測到異常操作模式時，將實時觸發防護。
3. 基于風險的身份驗證 (RBA)
這是一種多方面的動態用戶身份驗證方法，可顯著增強傳統的靜態用戶名/密碼機制，提供更高的安全性并改善用戶體驗，實現安全策略的動態化調整。其工作原理是在身份驗證過程中評估用戶活動、行為模式和上下文數據的各個方面。低風險操作下可無感通過，如遇中高風險，則觸發二次驗證或直接阻斷。
重構流程層 深化零信任架構實踐
零信任架構通過動態風險評估和持續驗證機制重構安全流程，實現秒級響應的智能閉環?；谧钚嘞拊瓌t，針對不同業務敏感度實施差異化管控策略，并實時動態調整訪問權限。
當EDR系統檢測到威脅時，XDR平臺能夠自動觸發包含終端隔離、令牌重置和橫向移動掃描在內的聯動響應機制，將傳統需要數小時的處置流程壓縮至秒級完成。這種持續監測和即時響應的閉環系統，將有效阻斷AI代理驅動的自動化攻擊鏈條，為企業構建起對抗新型網絡威脅的關鍵防線。
賦能人員層 鍛造AI時代的“人肉防火墻”
面對先進且不斷更迭的社會工程攻擊策略，單憑安全意識已不足以確保員工側有效防御。企業的人員培訓及高管安全防護，必須跟上技術演進步伐：
語音克隆測試
訓練員工識別AI合成的領導指令；
視頻會議演練
幫助員工發現偽造參會者的微表情破綻，訓練人員捕捉細微表情異常；
為高管定制專項防護方案
為C-level建立數字替身監測系統，基于高管的郵件措辭習慣、視頻會議肢體語言等行為特征，建立行為基線。當檢測到異常轉賬請求時，將自動觸發緊急熔斷機制：一方面強制要求二次身份確認，另一方面可即時調度安全團隊介入。
當前，攻擊者正利用AI技術持續突破傳統防御邊界。這場AI驅動的安全變革不是未來的挑戰，而是當下的生存之戰，企業應立即評估現有身份安全策略、規劃AI防御技術路線、開展全員AI攻防演練。唯有將數字身份安全置于網絡安全戰略的核心，并構建完善的技術與管理體系，方能在復雜威脅環境中穩固防線。
文獻參考：
《Gartner：到2027年，AI代理將使利用賬號暴露進行攻擊的時間減少50%》
《IDC FutureScape：全球未來信任2024年預測——中國啟示》
BlackCloak《數字高管保護：框架與評估方法》
