Saltar al contenido principal
BilgeQor

Red Teaming de IA y evaluación de seguridad de LLM

Vea cómo se comporta su aplicación de IA bajo pruebas adversarias, con hallazgos documentados sobre inyección de prompts, fuga de datos y uso indebido, y una lista de correcciones priorizada.

Servicio de alcance definido
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİEstambul, Türkiye
  • BilgeQor LtdLondres, Reino Unido
  • PT BILGEQOR INTELLIGENT SYSTEMSYakarta, Indonesia
Le respondemos dentro de 24 horas.

¿Es Red Teaming de IA adecuado para usted?

Ideal para

  • ✓Equipos que van a lanzar o ampliar un chatbot, un copiloto, una búsqueda con generación aumentada por recuperación o un agente de IA con acceso a datos o herramientas de la empresa
  • ✓Responsables de producto y de seguridad que deben responder con pruebas a las preguntas de clientes o del consejo sobre el riesgo de la IA
  • ✓Organizaciones que se preparan para las obligaciones de la Ley de IA de la UE y quieren saber en qué punto se encuentran sus sistemas
  • ✓Equipos de ingeniería cuyos modelos llaman a herramientas, navegan por la web o actúan sobre documentos aportados por terceros

Otro servicio encaja mejor si

  • –Quiere que se prueben su aplicación web y sus API: lo cubren Pruebas de penetración y Pruebas de seguridad de API
  • –Quiere una revisión del diseño de la integración de un agente de IA: lo cubre Revisión de seguridad de LLM y agentes de IA
  • –Quiere que se simule un adversario humano contra su organización: lo cubre Ejercicio de Red Team

Lo que evaluamos

  • Sepa si instrucciones ocultas pueden secuestrar su IA: pruebas de inyección de prompts directa e indirecta, incluidas las instrucciones ocultas en documentos, páginas web, correos electrónicos y resultados de herramientas
  • Mantenga los datos sensibles dentro: pruebas de fuga que abarcan los prompts del sistema, los documentos recuperados, los datos de entrenamiento o de ajuste fino y los datos de otros usuarios
  • Compruebe cómo resiste su política: pruebas de uso indebido frente a la política que usted defina, con jailbreaks, elusión de filtros de contenido dañino y abuso de funciones permitidas
  • Limite lo que puede hacer un agente: revisión del agente y del uso de herramientas en busca de permisos excesivos, acciones inseguras, plugins inseguros y pasos de aprobación humana ausentes
  • Proteja los datos que hay detrás del modelo: revisión de la recuperación de información, del almacén vectorial y del flujo de datos, incluidos el control de acceso y las vías de envenenamiento
  • Verifique los controles que rodean al modelo: revisión de la autenticación, la limitación de frecuencia, el tratamiento de las salidas y el registro en la aplicación circundante
  • Prepare las conversaciones sobre la Ley de IA de la UE: mapa de preparación de las brechas de clasificación del sistema, documentación y supervisión, presentado como una visión de preparación para sus asesores

Entregables

Plazo habitual
Normalmente de 2–4 semanas desde la firma del alcance, según el número de sistemas de IA y de herramientas incluidos, y se confirma en su propuesta por escrito.
Precios
Propuesta a precio fijo tras una llamada de definición de alcance gratuita.
Un plan de pruebas y un resumen de las reglas de compromiso, para que todos sepan qué se va a probar y dónde terminan las pruebas
Un registro de hallazgos con gravedad, prompts de reproducción, evidencias y orientación para la corrección, para que su equipo pueda reproducir y corregir cada problema
Una descripción de las rutas de ataque que muestra cómo se combinan los problemas en su aplicación, para que pueda ver el riesgo real para el negocio
Recomendaciones de salvaguardas y controles en las capas del modelo, de la aplicación y de los datos
Un mapa de preparación para la Ley de IA de la UE con las brechas de documentación y supervisión identificadas, listo para entregar a sus asesores
Una sesión de presentación de resultados con las partes interesadas de producto, seguridad e ingeniería; se ofrece una nueva prueba de verificación de las correcciones que decida aplicar

Antes de empezar

  • +La aprobación de un directivo responsable del sistema de IA, que abarque los métodos de prueba y las cuentas de prueba
  • +Un entorno de pruebas o de preproducción, o límites para probar en producción
  • +Cuentas de prueba, acceso a la API y documentación del modelo, las herramientas, las fuentes de datos y los prompts del sistema
  • +Normas de uso aceptable por escrito que cubran las pruebas con contenido dañino, el tratamiento de datos y las condiciones de parada
  • +Notificaciones al proveedor del modelo o de la plataforma, cuando sus condiciones lo exijan
  • +Contactos designados disponibles durante el periodo de pruebas

No incluido (disponible por separado)

  • Asesoramiento jurídico o una determinación formal de cumplimiento de la Ley de IA de la UE, evaluación de conformidad o certificación; le entregamos las evidencias de preparación que necesitan sus asesores
  • El entrenamiento o reentrenamiento de modelos, o la creación de nuevos sistemas de salvaguardas, salvo que se presupuesten por separado
  • Pruebas sobre la infraestructura propia de los proveedores de modelos de terceros y pruebas de denegación de servicio que puedan afectar a la capacidad compartida o de producción
  • Pruebas generales web y de API de la aplicación anfitriona: disponibles como Pruebas de penetración y Pruebas de seguridad de API

Cómo funciona

1

Alcance y validación

Las pruebas solo comienzan con el permiso por escrito del propietario y un alcance firmado con condiciones de parada acordadas, para que su sistema de IA en producción y sus usuarios permanezcan protegidos. Antes de cualquier prueba confirmamos el sistema de IA, el entorno de pruebas, los escenarios de abuso y las acciones prohibidas.

2

Modelado de amenazas

Mapeamos las fuentes de datos, las herramientas, los usuarios y los límites de confianza para decidir qué rutas de ataque son más relevantes para su sistema.

3

Pruebas adversarias

Ejecutamos ataques manuales y automatizados contra el sistema incluido en el alcance y registramos los prompts, las respuestas y las evidencias de cada hallazgo.

4

Informe

Entregamos los hallazgos, la descripción de las rutas de ataque, las recomendaciones de controles y el mapa de preparación en un formato con el que sus equipos puedan actuar.

5

Presentación de resultados y nueva prueba

Explicamos los resultados a sus partes interesadas y, si usted lo decide, volvemos a probar las correcciones que haya aplicado.

Solicite primero el alcance. Respondemos en un plazo de 24 horas y confirmamos en una propuesta por escrito el sistema de IA, las integraciones, la autorización y la ventana de pruebas. El trabajo comienza cuando se confirma el alcance por escrito.

Alcance y cotización

El alcance definitivo y el presupuesto dependen de su sistema de IA, las integraciones y la ventana de pruebas.

Por qué BilgeQor

  • Cada hallazgo incluye prompts de reproducción y evidencias, y una descripción de las rutas de ataque muestra cómo se combinan los problemas en su aplicación.
  • El mapa de preparación para la Ley de IA de la UE ofrece a sus asesores una visión estructurada de las brechas de clasificación, documentación y supervisión.
  • Primero se fijan por escrito el sistema de IA, el entorno de pruebas y las condiciones de parada; los evaluadores trabajan en remoto, coordinados desde Estambul, Yakarta y Londres.

Preguntas frecuentes

Servicios relacionados

Evaluación de seguridad OT, ICS e IoT

Evaluación de seguridad de sistemas de control industrial, redes de tecnología operativa y dispositivos conectados, con prioridad en la seguridad operativa (safety) y planificada con sus ingenieros.

Pruebe sus API en busca de fallos de acceso

Pruebas autorizadas de sus API REST, GraphQL y de backend móvil en busca de autorización defectuosa, inyección y fallos de lógica de negocio, con una lista clara de correcciones.

Ponga a prueba su aplicación de IA

Describa su sistema de IA y sus herramientas; recibirá por escrito una propuesta a precio fijo.

Qué sucede después de enviar su solicitud

  1. Revisamos su solicitud
  2. Conversación sobre el alcance
  3. Propuesta escrita

Le respondemos dentro de 24 horas.