我們評估人工智慧 (AI) 在網路安全領域的現狀時，就會發現機會與挑戰並存。我們大多數人都同意，AI 確實正在重塑網路安全性 — 為防禦者和攻擊者提供變革的潛力。一方面，AI 促使網路安全團隊能夠以前所未有的速度自動偵測威脅、加快回應速度，並部署適應性安全架構。另一方面，攻擊者也在利用 AI，在創新和入侵之間展開持續的拉鋸戰。
雖然面臨挑戰，網路安全性中的 AI 未來仍然前景光明。隨著企業 (和廠商) 愈來愈擅長將 AI 融入安全策略，他們準備好超越新興威脅，並比以往更有效保護重要基礎結構。正在取得的進展不僅令人鼓舞，而且將成為保護未來數位環境的關鍵因素。
已取得那些進展？
雖然生成式 AI (GenAI) 和 ChatGPT 等工具將 AI 帶入主流，但 AI 已在網路安全領域廣泛應用十多年。雖然 AI 並不是新生事物，但近年來在網路安全領域的應用取得長足的進步。這已成為針對使用 AI 的攻擊者採取的主動防禦和回應策略之中的關鍵要素。現今的網路安全架構設計以 AI 為核心，有助於企業更有效偵測、回應和緩解威脅。這項技術已經對威脅偵測產生深遠的影響，因此更加具備情境感知能力和精確性。
重要的進展是全球認清 AI 需要大量的資源投入。預測顯示，到 2030 年，全球在 AI 驅動的網路安全解決方案上的支出將激增到 1,350 億美元。1這表示，使用者愈來愈一致認為，AI 不再是可有可無的選項；這對於跨產業和跨地區的數位基礎結構保護很重要。全球支出增加表示網路安全狀況發生更廣泛的轉變，AI 的目標不再是追趕攻擊者，而是超越攻擊者。
尤其是，GenAI 已經對網路安全領域帶來顛覆性的改變。這能夠自動執行先前的手動任務，而且獲得目標可視性和管理安全平台變得簡單和容易，因此專家能夠節省大量時間專注於從事其他高價值活動。GenAI 的主動性突顯網路安全如何從被動措施轉變為在威脅完全出現之前做好準備。
此外，AI 透過自動執行威脅監控、警示分類和惡意軟體分析等重複性任務，顯著增強網路安全工作流程。在網路安全人才供不應求的時代，這種自動化尤其有價值，AI 能夠處理日常操作，同時人類專業人員能夠專注於處理更具策略性的工作。
在威脅情報方面，AI 導致駭客更難掩飾行為，而且比傳統方法更迅速偵測出模式和訊號。要想領先於持續創新入侵系統方法的攻擊者，這種向即時數據驅動情報的轉變至關重要。
企業也利用 AI 保護營運技術 (OT) 環境 — 電網和醫療保健系統等重要基礎結構。Palo Alto Networks 的研究指出，每 4 家企業中有 3 家經歷過針對 OT 環境的網路攻擊，2這突顯對高階 AI 保護的必要性。AI 與關鍵系統的整合突顯使用者日益認清這種必要性，特別是在高風險領域。
隨著 AI 持續發展，在網路安全中的作用只會愈來愈大。未來的挑戰是如何確實將 AI 的能力與人類的專業知識相結合，因此企業面對日益複雜的威脅能夠保持敏捷。
近期可能取得那些進展？
AI 在網路安全領域最令人振奮的方面不僅在於已經取得的成就，也在於後續將取得的成就。隨著 AI 持續發展，這有助於企業進一步加強防禦能力，因此能夠對攻擊者先發制人。隨著代理 AI 興起，人類在網路安全性中的作用將變得愈來愈具有策略性，日常戰術管理將變得愈來愈自動化。雖然攻擊者勢必會試圖利用新的 AI 能力，但防禦者已經投入巨資促使 AI 在網路安全性中發揮最佳作用。
AI 將變得愈來愈重要的一個領域是邊緣運算，特別是在物聯網 (IoT) 發揮核心作用的環境中。隨著愈來愈多的裝置和數據來源加入邊緣環境，保護這些分散式系統面臨獨特的挑戰。對於偵測和緩解這些情境中的威脅，AI 即時處理和分析數據的能力很重要。美國國家衛生研究院指出，「對於新世代 IoT 系統維持最新和適應性的安全系統，高效率的 AI 機器學習和深度學習解決方案有其必要。」3這其中強調 AI 在 IoT 安全發展中的重要作用。
AI 在不久的將來發揮作用的另一個關鍵使用案例是數據隱私。隨著法規架構變得愈來愈嚴格，AI 在平衡數據存取和隱私保護方面將發揮重大作用。差異隱私和聯盟式學習等技術有助於 AI 分析大量數據集，同時保護個人可識別資訊 (PII)。企業在不損害數據安全性的情況下因應處理更大、更多樣化數據集的挑戰時，這些 AI 驅動的隱私解決方案十分重要。
AI 也有望徹底促進網路安全性的其他一些領域進行轉型：
- AI 優先安全作業中心 (SOC)：由於缺乏熟練的安全工程師，AI 將介入，達到威脅偵測與回應的自動化，促使 SOC 具備更加智慧和脈絡感知的能力。「未來的 SOC」將嚴重仰賴 AI 管理日益加劇的威脅，同時保持敏捷性。
- 網路釣魚和公司電子郵件入侵 (BEC) 防禦：鑑於電子郵件仍然是主要的攻擊途徑，AI 將增強對網路釣魚和 BEC 攻擊的防禦能力。AI 即時分析通訊模式的能力將有助於企業防範日益複雜的電子郵件威脅。
- 增強的數據見解：AI 將分析提升到新的層次。隨著圍繞大數據的討論持續發展，AI 驅動的分析將提供更多可行的見解，因此企業能夠更精確做出數據驅動的決策。
- 簡化 IT 和 SecOps 架構：隨著網路安全基礎結構變得愈來愈複雜，AI 將建立更加以平台為中心的網路安全方法，協助簡化工作流程。這種整合將降低營運複雜度並提高安全效用。
- 網路安全：隨著網路的互聯性和任務關鍵性愈來愈強，AI 將在保護任何裝置上的任何使用者 (無論在何處上網) 方面發揮關鍵作用。AI 驅動的解決方案將偵測弱點、防止橫向移動並即時回應滲透嘗試。
這些發展反映出網路安全的典範轉移 — 從被動到主動、從手動到自動化、從分散到整合。真正的機會在於企業如何將 AI 的能力與人類的專業知識相結合，不僅可以防禦新興威脅，也可以重塑網路安全性的執行方式。
需要注意的事項
隨著 AI 在網路安全領域的進步，企業面臨的其中一個最大風險就是自滿。雖然資訊長、資訊安全長以及其他高階主管和董事會領導人很容易對 AI 的重大成果感到滿意，但他們必須記住網路攻擊者正在持續發展。最近的一份報告顯示，許多企業認為自身的 AI 防禦體系牢不可破，結果卻遭遇入侵。惡意行動者只需要成功一次；他們很聰明、足智多謀，而且透過暗網論壇和其他地下管道進行更密切的協作。
企業必須保持警惕，持續改善 AI 策略以保持領先優勢。
此外，隨著 AI 持續融入安全作業，監管、風險與合規性 (GRC) 問題應該仍然是關注的首要重點。特別是隨著 AI 在處理個人和私人數據方面的作用日益增強，來自消費者團體和立法者的法規壓力正在增加。差異隱私和聯盟式學習等技術有助於緩解這些風險，但公司必須對法律和道德問題保持警惕。隨著新法規推出，例如 GDPR 和 CCPA 下的擴充隱私法，以及判例法的持續發展，企業必須確保 AI 部署合規並滿足未來需求。
您現在可以做什麼
為了充分發揮 AI 在網路安全領域的作用，企業應該考慮採取下列可行的步驟：
- 將 AI 整合至網路安全生態系統：AI 不應該孤立於網路安全功能之外。不過，這需要嵌入於網路、安全基礎結構、工作流程和政策中。任命唯一的「AI 網路安全沙皇」會限制 AI 的潛力。不過，網路安全團隊的每個成員都應該將 AI 視為核心競爭力，促進對該技術的集體了解和參與。
- 利用全面的威脅數據訓練 AI：AI 在網路安全中的效用取決於用於訓練模型的數據所達到的品質和廣度。通用或狹義的數據集無法確認現今威脅形勢的動態複雜度，因此 AI 難以預測和消除持續演變的攻擊。透過利用反映各種攻擊途徑和攻擊者行為的大量真實數據集，企業可以促使 AI 系統具備更敏銳的預測和防禦能力。Precision AI 體現這種方法，這整合全球威脅情報，不僅可以偵測進階威脅，也可以預先阻止進階威脅，為全面的適應性網路安全解決方案樹立新的標竿。
- 隨時了解並主動掌握 AI 發展：AI 領域正在迅速發展，新趨勢涵蓋最佳實務、負責任的使用、法規架構和威脅偵測技術等方面。了解這些趨勢很重要。定期了解業界報告、參加網路研討會並參與 AI 驅動的網路安全社群，藉以確保您的團隊持續學習和適應。
最終，網路安全性中的 AI 未來終將前景光明。隨著這項強大技術持續發展，這為企業提供領先於新興威脅和加強防禦的工具。不過，這種潛力也伴隨著責任。透過將 AI 嵌入於每一層安全防護中，並隨時了解最新發展，企業可以充分發揮 AI 的潛力，重塑我們防禦不斷變化的威脅形勢所採用的方式。
戰鬥尚未結束，但隨著 AI 加入，前景勢必更加光明。
想要看 Rich 還說了什麼？在這裡觀看他的其他影片。
1「AI and Cybersecurity: A New Era」，Morgan Stanley，2024 年 9 月 11 日。
2 The State of OT Security: A Comprehensive Guide to Trends, Risks, and Cyber Resilience，ABI Research 和 Palo Alto Networks，2024 年 3 月 21 日。
3 Tehseen Mazhar 等人，「Analysis of IoT Security Challenges and Its Solutions Using Artificial Intelligence」，Brain Sciences 13, no. 4: 683.
