跳至主要內容
BilgeQor

AI 紅隊測試與 LLM 安全評估

了解您的 AI 應用程式在對抗性測試下的表現,取得有證據支持的提示注入、數據洩漏及濫用發現,以及按優先次序排列的修復清單。

按範圍定義的合作
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİ伊斯坦堡,土耳其
  • BilgeQor Ltd倫敦,英國
  • PT BILGEQOR INTELLIGENT SYSTEMS雅加達,印尼
我們會在 24 小時內回覆。

「AI 紅隊測試」是否適合您的需要?

最適合

  • ✓即將推出或擴展聊天機械人、副駕駛、檢索增強搜尋,或可存取公司數據或工具的 AI 代理的團隊
  • ✓必須以證據回應客戶或董事會有關 AI 風險問題的產品及安全負責人
  • ✓正為 EU AI Act 責任作準備、希望了解自家系統現況的機構
  • ✓模型會調用工具、瀏覽網頁,或根據外部人士提供的文件執行操作的工程團隊

以下情況更適合其他服務

  • –您希望測試您的網站應用程式及 API:可選用滲透測試及 API 安全測試
  • –您希望審查 AI 代理整合設計:可選用 LLM & AI Agent Security Review
  • –您希望針對貴機構模擬真人攻擊者:可選用 Red Team Exercise

評估內容

  • 了解隱藏指令能否劫持您的 AI:直接及間接提示注入測試,包括藏於文件、網頁、電郵及工具輸出中的指令
  • 將敏感數據留在內部:洩漏測試,涵蓋系統提示、檢索所得文件、訓練或微調數據,以及其他用戶的數據
  • 了解您的政策能否站得住腳:針對您所訂政策的濫用測試,涵蓋越獄、繞過有害內容限制,以及濫用獲准功能
  • 限制代理能做甚麼:審查代理及工具使用,包括過大的權限、不安全的操作、不安全的外掛程式,以及欠缺人手批核步驟
  • 保護模型背後的數據:審查檢索、向量資料庫及數據管道,包括存取控制及數據投毒路徑
  • 檢視模型周邊的管控措施:審查周邊應用程式的身份驗證、速率限制、輸出處理及日誌記錄
  • 為 EU AI Act 相關討論作好準備:就系統分類、文件記錄及監督方面的差距進行準備程度對照,並以準備程度概覽形式提供予您的顧問

交付成果

典型時間表
一般由簽署範圍起計 2–4 星期,視乎範圍內的 AI 系統及工具數量而定,並於書面建議書中確認。
定價
免費範圍洽談後提供固定費用建議書。
測試計劃及交戰規則摘要,讓所有人清楚知道會測試甚麼,以及測試於何處停止
發現登記冊,載有嚴重程度、重現用提示、證據及修復指引,讓您的團隊能重現並修復每個問題
攻擊路徑說明,展示各問題如何在您的應用程式中組合起來,讓您看清真正的業務風險
涵蓋模型、應用程式及數據層面的防護欄及管控措施建議
EU AI Act 準備程度對照圖,列出已識別的文件記錄及監督差距,可直接交給您的顧問
與產品、安全及工程持份者進行的匯報會議;您選擇修復的項目可提供複測

開始之前

  • +由負責該 AI 系統的管理層人員簽核,涵蓋測試方法及測試帳戶
  • +測試或預備環境,或在正式環境進行測試的限制
  • +測試帳戶、API 存取權限,以及模型、工具、數據來源及系統提示的文件
  • +涵蓋有害內容測試、數據處理及停止條件的書面可接受使用規則
  • +向模型供應商或平台發出通知(如其條款有此要求)
  • +測試期間可聯絡的指定聯絡人

不包含(可另行提供)

  • 法律意見,或就 EU AI Act 合規性、合格評定或認證作出的正式裁定;我們提供的是您的顧問所需的準備程度證據
  • 訓練或重新訓練模型,或建立新的防護欄系統(另行報價者除外)
  • 測試第三方模型供應商自身的基礎設施,以及可能影響共用或正式環境容量的拒絕服務測試
  • 對承載應用程式進行的一般網站及 API 測試:可另行選用滲透測試及 API 安全測試

執行流程

1

範圍界定與簽核

只有在擁有者給予書面許可,並簽署附有約定停止條件的範圍後,才會開始測試,讓您的正式 AI 系統及其用戶得到保護。在任何測試開始前,我們會確認 AI 系統、測試環境、濫用情境及禁止的操作。

2

威脅建模

我們梳理數據來源、工具、用戶及信任邊界,以判斷哪些攻擊路徑對您的系統最為重要。

3

對抗性測試

我們對範圍內的系統進行人手及自動化攻擊,並為每項發現記錄提示、回應及證據。

4

報告

我們以您的團隊可據以行動的形式,交付發現、攻擊路徑說明、管控措施建議及準備程度對照圖。

5

匯報與複測

我們會向您的持份者講解結果,並在您選擇的情況下,對您已作出的修復進行複測。

請先申請範圍界定。我們會在 24 小時內回覆,並於書面建議書中確認 AI 系統、整合、授權及測試時段。書面範圍確認後才開始工作。

範圍與報價

最終範圍及報價視乎 AI 系統、整合及測試時段。

為何選擇 BilgeQor

  • 每項發現均附有重現用提示及證據,攻擊路徑說明則展示各問題如何在您的應用程式中組合起來。
  • EU AI Act 準備程度對照圖讓您的顧問以結構化方式了解分類、文件記錄及監督方面的差距。
  • AI 系統、測試環境及停止條件會先在書面範圍中訂明;測試人員遠程工作,由伊斯坦堡、雅加達及倫敦協調。

常見問題

相關服務

OT、ICS 及 IoT 安全評估

以安全為先,評估工業控制系統、營運技術網絡及聯網設備的安全,並與您的工程師共同規劃。

測試您的 API 有否存取缺陷

經授權測試您的 REST、GraphQL 及流動後端 API,找出授權失效、注入及業務邏輯缺陷,並提供清晰的修復清單。

為您的 AI 應用程式進行壓力測試

請描述您的 AI 系統及其工具;我們會以書面回覆固定費用建議書。

提交後的流程

  1. 我們審閱您的需求
  2. 範圍討論
  3. 書面建議書

我們會在 24 小時內回覆。