今天，每個董事會會議廳裡的對話很可能都是圍繞著一個單一的變革力量：人工智慧 (AI)。許多人認為它是前所未有的成長、效率和創新的引擎。儘管這種信念有其道理，但整個革命是建立在脆弱的信任基礎—這個原本就脆弱的基礎即將進一步轉移。
當 AI 系統開始管理供應鏈、部署程式碼和執行金融交易時，風險的本質就會完全改變。首要威脅在於構成現代企業中樞神經系統的智慧型系統受到破壞，將導致災難性的代價。
為了利用 AI 的前景，同時降低其存在的風險，我們已經知道領導者必須超越防禦性的安全態勢。為了達到成效，領導者也必須從根本上改變他們對整體安全性的看法。他們必須將其視為創新的基礎，而非進步的障礙。要做到這一點，我們作為集體，必須建立以三大核心信任支柱為基礎的主動策略。
1. 信任工程
信任不能是事後的想法；它必須是工程上的成果。過去，安全性往往是拖慢進度的關卡。如今，這種模式已經反轉。現代化、統一的安全平台在設計上已內建信任機制，如今已成為強大的策略加速器。
自動化的安全性，當被視為 AI 開發生命週期的原生元件時，便能消除傳統發展進程中的阻礙。這讓團隊能夠以速度和信心來創新和部署新的模式，以提供直接、可量化的競爭優勢。從被動的態勢轉變為確保創新速度的態勢是關鍵。
「信任工程」方法也讓我們能夠解決困擾許多組織的隱形負債：累積數十年的安全債務。互不相連的點產品拼湊在一起，形成複雜而脆弱的攻擊面，而雲端現在更擴大了這個問題。我們獨家的內部研究發現，大多數與 AI 開發相關的雲端資料庫都沒有適當的安全保護，缺乏基本的加密或存取控制。
遷移到統一、值得信賴的平台，就等於為這筆債務進行再融資，這是任何董事會成員都會樂於接受的解決方案。這類平台可簡化作業、降低長期風險，並釋出最寶貴的資源，讓我們得以專注於成長，而非僅是防禦。
2. 培養信任文化
即使是設計最完美的系統，單一人為錯誤也可能造成損害。雖然技術提供了基礎，但警覺性和安全意識的文化則形成了信任堆疊的重要人為層。
在 AI 驅動的網路釣魚和複雜的社交工程時代，每名員工都必須成為組織的安全管理員。這項挑戰因影子 AI 的崛起更顯嚴峻。我們對 SaaS 風險的最新研究顯示，企業對未經認可的第三方 AI 工具的使用激增，形成了巨大的盲點，敏感的企業資料經常被送入不受信任的模型中。這就是為什麼這個支柱需要的不只是每年的訓練影片。這需要一種根深蒂固的意識文化，讓人們有能力質疑異常現象，並成為第一道防線。
這種文化的價值遠遠超過風險緩解。強大的文化可提供道德防線，確保以負責任的方式使用 AI，保護品牌並維繫客戶信心。贏得信心並不容易，失去信心卻很簡單。其重要的人為驅動流程可從內而外保護組織。
3. 信任管理
現代 AI 的速度與規模需要一個建基於兩大原則的新治理模式：堅定不移的人為控制與徹底的全產業協作。
首先，我們必須設計能保證人類監督的系統。健全、人性化的迴圈管理是防止自主系統可能引發的災難性業務中斷的最終保障。這是董事會層級的保證，確保我們最寶貴的工具仍在掌控之下，按照預期的方式運作。
其次，我們必須認識到，自身無法獨自面對這種新的威脅形勢。AI 驅動的攻擊是一個全生態系統的問題，需要全生態系統的防禦。跨公司、跨產業分享威脅情報與最佳實務，是我們共同生存與穩定的核心商業需求。
信任是最終的 ROI
要在 AI 時代保持領先之姿，就必須制定明確的策略。我們需要設計完善的系統來加速業務，需要警覺的文化來保護業務，也需要健全的治理來確保業務的彈性。現代安全策略的目標已從根本上改變，從單純防止事故轉變為積極創造和保護價值。
在 AI 優先的世界裡，蓬勃發展的組織將瞭解信任是資產負債表上最寶貴的資產，也是成功的最終的驅動力。
好奇 Ben 還想說什麼嗎？請查看他在 Perspectives 的其他文章。
