組織越來越多地採用 AI 來提高他們希望對其利益相關者產生正面影響的速度和規模。雖然使用 AI 有其好處,但它也開闢了新的攻擊面,而傳統安全系統在設計上無法評估或防護新發現的威脅媒介。
在開發這些 AI 系統時,主動評估其中的弱點,是更有效率、更具成本效益的方式,讓您的開發人員建立最具影響力的 AI 應用程式,並在產業中取得顯著的競爭優勢。
Prisma® AIRS™AI 紅隊演練測試特定 LLM 或 LLM 型應用程式對這些弱點的推論。它可測試應用程式是否產生非品牌輸出,或代理程式是否執行非為其設計的任務。