- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİ伊斯坦堡,土耳其
- BilgeQor Ltd倫敦,英國
- PT BILGEQOR INTELLIGENT SYSTEMS雅加達,印尼
我們會在 24 小時內回覆。
AI 紅隊演練 是否適合您?
最適合
- ✓即將上線或擴大聊天機器人、Copilot、檢索增強式搜尋,或可存取公司資料或工具之 AI 代理的團隊
- ✓必須以佐證回應客戶或董事會對 AI 風險提問的產品與資安負責人
- ✓正為 EU AI Act 相關義務做準備,並想了解自身系統現況的組織
- ✓其模型會呼叫工具、瀏覽網頁,或依據外部提供的文件採取行動的工程團隊
以下情況更適合其他服務
- –您希望測試您的網頁應用程式與 API:可另以滲透測試與 API 安全測試提供
- –您希望審查 AI 代理整合設計:可另以 LLM & AI Agent Security Review 提供
- –您希望針對貴組織模擬真人攻擊者:可另以 Red Team Exercise 提供
我們評估的內容
- 掌握隱藏指令是否能劫持您的 AI:直接與間接提示注入測試,包括藏在文件、網頁、電子郵件與工具輸出中的指令
- 將敏感資料留在內部:洩漏測試涵蓋系統提示、檢索到的文件、訓練或微調資料,以及其他使用者的資料
- 檢視您的政策是否站得住腳:針對您所設定的政策進行濫用測試,涵蓋越獄、繞過有害內容限制,以及濫用已允許的功能
- 限制代理能做的事:審查代理與工具使用情形,包括過度權限、不安全的動作、不安全的外掛程式,以及缺少人工核准步驟
- 保護模型背後的資料:審查檢索、向量資料庫與資料管線,包括存取控制與資料投毒路徑
- 檢查模型周邊的控制措施:審查周邊應用程式的身分驗證、速率限制、輸出處理與記錄機制
- 為 EU AI Act 相關討論做準備:針對系統分類、文件與監督缺口進行整備度對照,並以整備度檢視的形式提供給您的顧問
開始之前
- +擁有該 AI 系統之主管對測試方法與測試帳號的核准
- +測試或預備環境,或在正式環境中測試的限制條件
- +測試帳號、API 存取權限,以及模型、工具、資料來源與系統提示的文件
- +涵蓋有害內容測試、資料處理與停止條件的書面可接受使用規則
- +依模型供應商或平台條款需要時,向其發出的通知
- +測試期間可聯繫的指定聯絡人
不包含(可另行提供)
- 法律意見,或對 EU AI Act 之合規、符合性評鑑或認證所作的正式判定;我們提供的是您的顧問所需的整備度佐證
- 訓練或重新訓練模型,或建置新的護欄系統,除非另行報價
- 對第三方模型供應商自身基礎架構的測試,以及可能影響共用或正式環境容量的阻斷服務測試
- 對承載應用程式的一般 Web 與 API 測試:可另以滲透測試與 API 安全測試提供
運作方式
1
範圍界定與核准
僅在擁有者的書面許可與已簽署且載明停止條件的範圍下才會開始測試,讓您的線上 AI 系統及其使用者受到保護。在任何測試之前,我們會確認 AI 系統、測試環境、濫用情境與禁止的動作。
2
威脅建模
我們會對應資料來源、工具、使用者與信任邊界,判斷哪些攻擊路徑對您的系統最為重要。
3
對抗式測試
我們對範圍內的系統進行人工與自動化攻擊,並為每項發現記錄提示、回應與佐證。
4
報告
我們會以您的團隊可據以行動的形式,交付發現事項、攻擊路徑說明、控制措施建議與整備度對照。
5
說明會與複測
我們會向您的相關人員逐一說明結果,並在您選擇時,對您已做的修復進行複測。
請先申請範圍界定。我們會在 24 小時內回覆,並在書面提案中確認 AI 系統、整合、授權與測試時段。書面範圍確認後才會開始作業。
範疇與報價
最終範圍與報價取決於 AI 系統、整合與測試時段。
為什麼選擇 BilgeQor
- 每項發現都附有重現用提示與佐證,攻擊路徑說明則呈現各項問題如何在您的應用程式中相互結合。
- EU AI Act 整備度對照讓您的顧問能以結構化方式檢視分類、文件與監督方面的缺口。
- AI 系統、測試環境與停止條件會先在書面範圍中確定;測試人員遠端作業,由Istanbul、Jakarta 與 London協調。
常見問題
相關服務
以安全為優先,對工業控制系統、營運技術網路與連網裝置進行資安評估,與您的工程師共同規劃。
針對您的 REST、GraphQL 與行動後端 API,經授權測試存取控制失效、注入與業務邏輯缺陷,並提供清楚的修補清單。
