跳至主要內容
BilgeQor

AI 紅隊演練與 LLM 安全評估

透過對抗式測試,了解您的 AI 應用程式在攻擊下的行為,取得針對提示注入、資料外洩與濫用的佐證發現,以及依優先順序排列的修補清單。

範疇式專案
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİ伊斯坦堡,土耳其
  • BilgeQor Ltd倫敦,英國
  • PT BILGEQOR INTELLIGENT SYSTEMS雅加達,印尼
我們會在 24 小時內回覆。

AI 紅隊演練 是否適合您?

最適合

  • ✓即將上線或擴大聊天機器人、Copilot、檢索增強式搜尋,或可存取公司資料或工具之 AI 代理的團隊
  • ✓必須以佐證回應客戶或董事會對 AI 風險提問的產品與資安負責人
  • ✓正為 EU AI Act 相關義務做準備,並想了解自身系統現況的組織
  • ✓其模型會呼叫工具、瀏覽網頁,或依據外部提供的文件採取行動的工程團隊

以下情況更適合其他服務

  • –您希望測試您的網頁應用程式與 API:可另以滲透測試與 API 安全測試提供
  • –您希望審查 AI 代理整合設計:可另以 LLM & AI Agent Security Review 提供
  • –您希望針對貴組織模擬真人攻擊者:可另以 Red Team Exercise 提供

我們評估的內容

  • 掌握隱藏指令是否能劫持您的 AI:直接與間接提示注入測試,包括藏在文件、網頁、電子郵件與工具輸出中的指令
  • 將敏感資料留在內部:洩漏測試涵蓋系統提示、檢索到的文件、訓練或微調資料,以及其他使用者的資料
  • 檢視您的政策是否站得住腳:針對您所設定的政策進行濫用測試,涵蓋越獄、繞過有害內容限制,以及濫用已允許的功能
  • 限制代理能做的事:審查代理與工具使用情形,包括過度權限、不安全的動作、不安全的外掛程式,以及缺少人工核准步驟
  • 保護模型背後的資料:審查檢索、向量資料庫與資料管線,包括存取控制與資料投毒路徑
  • 檢查模型周邊的控制措施:審查周邊應用程式的身分驗證、速率限制、輸出處理與記錄機制
  • 為 EU AI Act 相關討論做準備:針對系統分類、文件與監督缺口進行整備度對照,並以整備度檢視的形式提供給您的顧問

交付成果

典型時程
自簽署範圍起通常為 2–4 週,視納入範圍的 AI 系統與工具數量而定,並於書面提案中確認。
定價
免費範圍諮詢後提供固定費用提案。
測試計畫與作業規則摘要,讓所有人都清楚將測試什麼,以及測試在何處止步
發現事項清冊,載明嚴重程度、重現用提示、佐證與修補指引,讓您的團隊能重現並修復每個問題
攻擊路徑說明,呈現各項問題如何在您的應用程式中相互結合,讓您看清真正的業務風險
涵蓋模型、應用程式與資料各層的護欄與控制措施建議
EU AI Act 整備度對照,載明已識別的文件與監督缺口,可直接交給您的顧問
與產品、資安及工程相關人員的說明會;您可選擇對所做的修復進行複測

開始之前

  • +擁有該 AI 系統之主管對測試方法與測試帳號的核准
  • +測試或預備環境,或在正式環境中測試的限制條件
  • +測試帳號、API 存取權限,以及模型、工具、資料來源與系統提示的文件
  • +涵蓋有害內容測試、資料處理與停止條件的書面可接受使用規則
  • +依模型供應商或平台條款需要時,向其發出的通知
  • +測試期間可聯繫的指定聯絡人

不包含(可另行提供)

  • 法律意見,或對 EU AI Act 之合規、符合性評鑑或認證所作的正式判定;我們提供的是您的顧問所需的整備度佐證
  • 訓練或重新訓練模型,或建置新的護欄系統,除非另行報價
  • 對第三方模型供應商自身基礎架構的測試,以及可能影響共用或正式環境容量的阻斷服務測試
  • 對承載應用程式的一般 Web 與 API 測試:可另以滲透測試與 API 安全測試提供

運作方式

1

範圍界定與核准

僅在擁有者的書面許可與已簽署且載明停止條件的範圍下才會開始測試,讓您的線上 AI 系統及其使用者受到保護。在任何測試之前,我們會確認 AI 系統、測試環境、濫用情境與禁止的動作。

2

威脅建模

我們會對應資料來源、工具、使用者與信任邊界,判斷哪些攻擊路徑對您的系統最為重要。

3

對抗式測試

我們對範圍內的系統進行人工與自動化攻擊,並為每項發現記錄提示、回應與佐證。

4

報告

我們會以您的團隊可據以行動的形式,交付發現事項、攻擊路徑說明、控制措施建議與整備度對照。

5

說明會與複測

我們會向您的相關人員逐一說明結果,並在您選擇時,對您已做的修復進行複測。

請先申請範圍界定。我們會在 24 小時內回覆,並在書面提案中確認 AI 系統、整合、授權與測試時段。書面範圍確認後才會開始作業。

範疇與報價

最終範圍與報價取決於 AI 系統、整合與測試時段。

為什麼選擇 BilgeQor

  • 每項發現都附有重現用提示與佐證,攻擊路徑說明則呈現各項問題如何在您的應用程式中相互結合。
  • EU AI Act 整備度對照讓您的顧問能以結構化方式檢視分類、文件與監督方面的缺口。
  • AI 系統、測試環境與停止條件會先在書面範圍中確定;測試人員遠端作業,由Istanbul、Jakarta 與 London協調。

常見問題

相關服務

OT、ICS 與 IoT 安全評估

以安全為優先,對工業控制系統、營運技術網路與連網裝置進行資安評估,與您的工程師共同規劃。

測試您的 API 是否存在存取缺陷

針對您的 REST、GraphQL 與行動後端 API,經授權測試存取控制失效、注入與業務邏輯缺陷,並提供清楚的修補清單。

對您的 AI 應用程式進行壓力測試

說明您的 AI 系統及其工具;我們將以書面回覆固定費用提案。

送出後的流程

  1. 我們審閱您的需求
  2. 範圍討論
  3. 書面提案

我們會在 24 小時內回覆。