跳至主要内容
BilgeQor

AI 红队测试与 LLM 安全评估

了解您的 AI 应用在对抗性测试下的表现,获得关于提示注入、数据泄露和滥用的有证据支持的发现,以及按优先级排序的修复清单。

按范围定义的合作
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİ伊斯坦布尔,土耳其
  • BilgeQor Ltd伦敦,英国
  • PT BILGEQOR INTELLIGENT SYSTEMS雅加达,印度尼西亚
我们会在24小时内回复。

AI 红队测试 是否适合您的需求?

最适合

  • ✓即将上线或扩展聊天机器人、Copilot、检索增强搜索或可访问公司数据或工具的 AI 代理的团队
  • ✓需要用证据回应客户或董事会关于 AI 风险提问的产品和安全负责人
  • ✓正为 EU AI Act 义务做准备、希望了解自身系统处于什么位置的机构
  • ✓其模型会调用工具、浏览网页或处理外部方提供的文档的工程团队

以下情况更适合其他服务

  • –您希望测试您的 Web 应用和 API:可通过渗透测试与 API 安全测试提供
  • –您希望审查 AI 代理集成设计:可通过 LLM & AI Agent Security Review 提供
  • –您希望针对贵机构模拟真人攻击者:可通过 Red Team Exercise 提供

评估内容

  • 了解隐藏指令能否劫持您的 AI:直接与间接提示注入测试,包括隐藏在文档、网页、电邮和工具输出中的指令
  • 将敏感数据留在内部:泄露测试,涵盖系统提示词、检索到的文档、训练或微调数据以及其他用户的数据
  • 了解您的策略是否经得起考验:针对您设定的策略进行滥用测试,涵盖越狱、绕过有害内容限制以及对被允许功能的滥用
  • 限制代理能做的事:对代理和工具使用情况进行审查,涵盖权限过大、不安全操作、不安全的插件以及缺失的人工批准环节
  • 保护模型背后的数据:审查检索、向量库和数据管道,包括访问控制和投毒路径
  • 检查模型周边的控制措施:审查周边应用中的身份验证、速率限制、输出处理和日志记录
  • 为 EU AI Act 相关讨论做准备:就系统分类、文档和监督方面的差距进行就绪度映射,并以就绪度视图的形式提供给您的顾问

交付成果

典型时间线
通常自签署范围起 2–4 周,视范围内 AI 系统和工具的数量而定,并在您的书面方案中确认。
定价
免费范围沟通后提供固定费用方案。
测试计划与交战规则摘要,让所有人清楚哪些内容会被测试,以及测试在何处停止
发现登记册,含严重程度、复现提示词、证据和修复指引,让您的团队能够复现并修复每一项问题
攻击路径叙述,展示各问题如何在您的应用中相互结合,让您看清真实的业务风险
涵盖模型、应用和数据各层的护栏与控制措施建议
EU AI Act 就绪度映射,列明已识别的文档与监督方面的差距,可直接交给您的顾问
与产品、安全和工程相关方的复盘会;可对您选择进行的修复提供复测

开始之前

  • +由负责该 AI 系统的管理人员签字确认,涵盖测试方法和测试账户
  • +一个测试或预发布环境,或在生产环境中测试的限制条件
  • +测试账户、API 访问权限,以及模型、工具、数据源和系统提示词的文档
  • +涵盖有害内容测试、数据处理和停止条件的书面可接受使用规则
  • +在模型提供商或平台条款要求时,向其发出的通知
  • +测试期间可联系到的指定联系人

不包含(可另行提供)

  • 法律建议,或对 EU AI Act 合规性、符合性评估或认证作出的正式判定;我们提供您的顾问所需的就绪度证据
  • 训练或再训练模型,或构建新的护栏系统,除非另行报价
  • 对第三方模型提供商自身基础设施的测试,以及可能影响共享或生产容量的拒绝服务测试
  • 对承载应用的常规 Web 和 API 测试:可通过渗透测试和 API 安全测试服务提供

执行流程

1

界定范围与签字确认

只有在所有者给出书面许可、并签署了含约定停止条件的范围之后,测试才会开始,从而保护您的在线 AI 系统及其用户。在任何测试之前,我们会确认 AI 系统、测试环境、滥用场景和禁止的操作。

2

威胁建模

我们梳理数据源、工具、用户和信任边界,以判断哪些攻击路径对您的系统最为重要。

3

对抗性测试

我们对范围内的系统开展人工和自动化攻击,并为每项发现记录提示词、响应和证据。

4

报告

我们以您的团队能够据以行动的形式,交付发现、攻击路径叙述、控制措施建议和就绪度映射。

5

复盘与复测

我们向您的相关方讲解结果,并在您选择的情况下,对您已完成的修复进行复测。

请先申请范围界定。我们会在 24 小时内回复,并在书面方案中确认 AI 系统、集成、授权及测试窗口。书面范围确认后方开始工作。

范围与报价

最终范围与报价取决于 AI 系统、集成和测试窗口。

为何选择 BilgeQor

  • 每项发现均附复现提示词和证据,攻击路径叙述则展示各问题如何在您的应用中相互结合。
  • EU AI Act 就绪度映射为您的顾问提供关于分类、文档和监督差距的结构化视图。
  • AI 系统、测试环境和停止条件先在书面范围中确定;测试人员远程工作,由伊斯坦布尔、雅加达和伦敦协调。

常见问题

相关服务

OT、ICS 与 IoT 安全评估

以安全为先,对工业控制系统、运营技术网络和联网设备进行安全评估,并与您的工程师共同规划。

测试您的 API 是否存在访问缺陷

对您的 REST、GraphQL 和移动后端 API 进行经授权的测试,查找授权失效、注入和业务逻辑缺陷,并附清晰的修复清单。

对您的 AI 应用进行压力测试

请描述您的 AI 系统及其工具;我们会以书面形式回复固定费用方案。

提交后的流程

  1. 我们审阅您的请求
  2. 范围沟通
  3. 书面方案

我们会在24小时内回复。