본문으로 건너뛰기
BilgeQor

AI 레드티밍 및 LLM 보안 평가

적대적 테스트에서 AI 애플리케이션이 어떻게 동작하는지 확인하세요. 프롬프트 인젝션, 데이터 유출, 오용에 대한 근거 기반 결과와 우선순위가 매겨진 조치 목록을 받아 보실 수 있습니다.

범위로 정의된 참여
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİ이스탄불, 튀르키예
  • BilgeQor Ltd런던, 영국
  • PT BILGEQOR INTELLIGENT SYSTEMS인도네시아 자카르타
24시간 이내에 회신합니다.

AI 레드티밍이(가) 적합한 선택입니까?

가장 적합한 경우

  • ✓회사 데이터나 도구에 접근할 수 있는 챗봇, 코파일럿, 검색 증강 검색 또는 AI 에이전트를 출시하거나 확대하려는 팀
  • ✓AI 위험에 대한 고객이나 이사회의 질문에 근거를 갖고 답해야 하는 제품 및 보안 책임자
  • ✓EU AI Act 의무 사항을 준비하며 자사 시스템의 현재 위치를 파악하려는 조직
  • ✓모델이 도구를 호출하거나 웹을 탐색하거나 외부에서 제공한 문서를 바탕으로 동작하는 엔지니어링 팀

다른 서비스가 더 적합한 경우

  • –웹 애플리케이션과 API를 테스트하려는 경우: 침투 테스트 및 API 보안 테스트에서 다룹니다
  • –AI 에이전트 연동 설계를 리뷰하려는 경우: LLM 및 AI 에이전트 보안 리뷰에서 다룹니다
  • –귀사를 대상으로 사람 공격자를 시뮬레이션하려는 경우: 레드팀 훈련에서 다룹니다

우리는 무엇을 평가합니까?

  • 숨겨진 지시문으로 AI가 탈취될 수 있는지 파악: 문서, 웹 페이지, 이메일, 도구 출력에 숨겨진 지시문을 포함한 직접·간접 프롬프트 인젝션 테스트
  • 민감한 데이터를 내부에 유지: 시스템 프롬프트, 검색된 문서, 학습 또는 파인튜닝 데이터, 다른 사용자의 데이터를 대상으로 한 유출 테스트
  • 정책이 실제로 얼마나 유지되는지 확인: 설정하신 정책에 대한 오용 테스트로, 탈옥, 유해 콘텐츠 우회, 허용된 기능의 악용을 다룹니다
  • 에이전트가 할 수 있는 일을 제한: 과도한 권한, 안전하지 않은 동작, 취약한 플러그인, 누락된 사람 승인 단계에 대한 에이전트 및 도구 사용 검토
  • 모델 뒤의 데이터를 보호: 접근 통제와 오염 경로를 포함한 검색, 벡터 저장소, 데이터 파이프라인 검토
  • 모델을 둘러싼 통제 점검: 주변 애플리케이션의 인증, 요청 속도 제한, 출력 처리, 로깅 검토
  • EU AI Act 관련 논의 준비: 시스템 분류, 문서화, 감독 측면의 미비점에 대한 준비도 매핑이며, 자문 담당자를 위한 준비도 관점으로 제시합니다

산출물

일반적인 일정
서명된 범위 확정 후 일반적으로 2–4주가 소요되며, 범위에 포함된 AI 시스템과 도구의 수에 따라 달라집니다. 정확한 일정은 서면 제안서로 확인해 드립니다.
가격
무료 범위 상담 후 고정 비용 제안서를 제공합니다.
테스트 계획과 교전 규칙 요약본: 무엇을 테스트하고 어디에서 테스트를 중단하는지 모두가 알 수 있도록 합니다
심각도, 재현 프롬프트, 증거, 조치 가이드를 담은 발견 사항 목록: 팀이 각 문제를 재현하고 수정할 수 있도록 합니다
문제들이 귀사 애플리케이션에서 어떻게 결합되는지 보여 주는 공격 경로 설명서: 실제 비즈니스 위험을 확인할 수 있습니다
모델, 애플리케이션, 데이터 계층 전반에 걸친 가드레일 및 통제 권고 사항
파악된 문서화 및 감독 측면의 미비점을 담은 EU AI Act 준비도 맵: 자문 담당자에게 바로 전달할 수 있습니다
제품, 보안, 엔지니어링 이해관계자와의 결과 공유 회의, 그리고 조치하기로 선택한 사항에 대한 재테스트(선택 사항)

시작 전 확인 사항

  • +AI 시스템을 소유한 경영진의 승인: 테스트 방법과 테스트 계정을 포함합니다
  • +테스트 또는 스테이징 환경, 또는 운영 환경 테스트 시 적용할 한도
  • +테스트 계정, API 접근 권한, 모델·도구·데이터 소스·시스템 프롬프트에 대한 문서
  • +유해 콘텐츠 테스트, 데이터 처리, 중단 조건을 다룬 서면 허용 사용 규칙
  • +약관상 필요한 경우 모델 제공업체 또는 플랫폼에 대한 사전 통지
  • +테스트 기간 중 연락 가능한 지정 담당자

포함되지 않음(별도 제공)

  • 법률 자문, 또는 EU AI Act 규정 준수 여부, 적합성 평가, 인증에 대한 공식적인 판단: 당사는 자문 담당자에게 필요한 준비도 근거를 제공합니다
  • 별도 견적이 없는 한 모델 학습·재학습 또는 새로운 가드레일 시스템 구축
  • 서드파티 모델 제공업체 자체 인프라에 대한 테스트, 그리고 공유 용량이나 운영 용량에 영향을 줄 수 있는 서비스 거부 테스트
  • 호스트 애플리케이션에 대한 일반 웹 및 API 테스트: 침투 테스트와 API 보안 테스트 서비스로 이용하실 수 있습니다

작동 방식

1

범위 설정 및 승인

테스트는 소유자의 서면 허가와 합의된 중단 조건이 담긴 서명된 범위가 있어야만 시작하며, 이를 통해 운영 중인 AI 시스템과 사용자를 보호합니다. 테스트 전에 AI 시스템, 테스트 환경, 악용 시나리오, 금지된 행위를 확인합니다.

2

위협 모델링

데이터 소스, 도구, 사용자, 신뢰 경계를 매핑하여 귀사 시스템에서 가장 중요한 공격 경로가 무엇인지 판단합니다.

3

적대적 테스트

범위에 포함된 시스템에 수동 및 자동 공격을 수행하고, 각 발견 사항마다 프롬프트, 응답, 증거를 기록합니다.

4

보고

발견 사항, 공격 경로 설명서, 통제 권고 사항, 준비도 맵을 팀이 바로 실행에 옮길 수 있는 형태로 전달합니다.

5

결과 공유 및 재테스트

이해관계자에게 결과를 설명해 드리며, 원하시는 경우 조치하신 사항을 재테스트합니다.

먼저 범위를 요청해 주세요. 24시간 이내에 회신하며, 서면 제안서에서 AI 시스템, 연동 대상, 허가 사항, 테스트 기간 항목을 확인합니다. 서면으로 범위가 확정되면 작업을 시작합니다.

범위 및 견적

최종 범위와 견적은 AI 시스템, 연동 대상, 테스트 기간에 따라 달라집니다.

BilgeQor를 선택하는 이유

  • 모든 발견 사항에는 재현 프롬프트와 증거가 제공되며, 공격 경로 설명서가 문제들이 귀사 애플리케이션에서 어떻게 결합되는지 보여 줍니다.
  • EU AI Act 준비도 맵은 분류, 문서화, 감독 측면의 미비점을 자문 담당자에게 체계적으로 보여 줍니다.
  • AI 시스템, 테스트 환경, 중단 조건은 먼저 서면 범위로 확정하며, 테스터는 이스탄불, 자카르타, 런던에서 조율하여 원격으로 근무합니다.

자주 묻는 질문

관련 서비스

OT, ICS, IoT 보안 평가

산업 제어 시스템, 운영 기술(OT) 네트워크, 연결된 디바이스에 대해 안전을 최우선으로 한 보안 평가를 귀사 엔지니어와 함께 계획합니다.

API의 접근 통제 결함을 테스트하세요

REST, GraphQL, 모바일 백엔드 API를 허가를 받아 테스트해 취약한 권한 부여, 인젝션, 비즈니스 로직 결함을 찾고, 명확한 수정 목록을 제공합니다.

AI 애플리케이션을 극한까지 시험해 보세요

AI 시스템과 사용하는 도구를 알려 주시면 고정 비용 제안서를 서면으로 보내 드립니다.

제출 후 진행 절차

  1. 요청 내용을 검토합니다
  2. 범위 협의
  3. 서면 제안서

24시간 이내에 회신합니다.