AI Red Teaming və LLM təhlükəsizliyinin qiymətləndirilməsi
AI tətbiqinizin hücum yönümlü test zamanı necə davrandığını görün: prompt injection, məlumat sızması və sui-istifadə üzrə sübutlu tapıntılar və prioritetləşdirilmiş düzəliş siyahısı.
- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİİstanbul, Türkiye
- BilgeQor LtdLondon, Birləşmiş Krallıq
- PT BILGEQOR INTELLIGENT SYSTEMSJakarta, İndoneziya
AI Red Teaming: əhatə fit?
Ən uyğun olduğu hallar
- ✓Şirkət məlumatlarına və ya alətlərə çıxışı olan çatbotu, copilot-u, retrieval-augmented axtarışı və ya AI agentini istifadəyə verməyə və ya genişləndirməyə hazırlaşan komandalar
- ✓AI riski ilə bağlı müştəri və ya idarə heyəti suallarına sübutla cavab verməli olan məhsul və təhlükəsizlik rəhbərləri
- ✓EU AI Act öhdəliklərinə hazırlaşan və sistemlərinin hansı vəziyyətdə olduğunu bilmək istəyən təşkilatlar
- ✓Modelləri alətləri çağıran, veb-də gəzən və ya kənar tərəflərin təqdim etdiyi sənədlər əsasında fəaliyyət göstərən mühəndislik komandaları
Başqa xidmətin daha uyğun olduğu hallar
- –Veb tətbiqinizin və API-lərinizin test edilməsini istəyirsiniz: Penetrasiya testi və API təhlükəsizlik testi bunu əhatə edir
- –AI agent inteqrasiya dizaynının icmalını istəyirsiniz: LLM və AI agent təhlükəsizliyi icmalı bunu əhatə edir
- –Təşkilatınıza qarşı insan rəqibin simulyasiyasını istəyirsiniz: Red Team təlimi bunu əhatə edir
Nəyi qiymətləndiririk
- Gizli təlimatların AI-nızı ələ keçirə bilib-bilməyəcəyini öyrənin: sənədlərdə, veb səhifələrdə, e-poçtlarda və alət çıxışlarında gizlədilmiş təlimatlar daxil olmaqla birbaşa və dolayı prompt injection testi
- Həssas məlumatı daxildə saxlayın: sistem promptlarını, əldə olunan sənədləri, təlim və ya fine-tuning məlumatlarını və digər istifadəçilərin məlumatlarını əhatə edən sızma testi
- Siyasətinizin nə dərəcədə davam gətirdiyini görün: sizin müəyyən etdiyiniz siyasətə qarşı jailbreak-ləri, zərərli məzmun məhdudiyyətlərinin aşılmasını və icazə verilmiş funksiyalardan sui-istifadəni əhatə edən sui-istifadə testi
- Agentin edə biləcəklərini məhdudlaşdırın: həddindən artıq icazələrin, təhlükəli əməliyyatların, etibarsız plaginlərin və çatışmayan insan təsdiqi addımlarının agent və alət istifadəsi üzrə icmalı
- Modelin arxasındakı məlumatı qoruyun: giriş nəzarəti və zəhərlənmə yolları daxil olmaqla retrieval, vektor bazası və məlumat boru kəməri icmalı
- Modelin ətrafındakı nəzarətləri yoxlayın: ətraf tətbiqdə autentifikasiyanın, sorğu sürətinin məhdudlaşdırılmasının, çıxışın emalının və jurnallaşdırmanın icmalı
- EU AI Act söhbətlərinə hazırlaşın: sistem təsnifatı, sənədləşdirmə və nəzarət boşluqlarının hazırlıq xəritələməsi, məsləhətçiləriniz üçün hazırlıq görünüşü kimi təqdim olunur
Çatdırılacaq nəticələr
- Tipik icra müddəti
- Adətən imzalanmış əhatə dairəsindən etibarən 2–4 həftə; müddət əhatəyə daxil olan AI sistemlərinin və alətlərin sayından asılıdır və yazılı təklifinizdə təsdiqlənir.
- Qiymət
- Pulsuz əhatə dairəsi zəngindən sonra sabit qiymətli təklif.
Başlamazdan əvvəl
- +Test üsullarını və test hesablarını əhatə edən, AI sisteminə sahib olan rəhbər tərəfindən təsdiq
- +Test və ya staging mühiti, yaxud istehsalda test üçün məhdudiyyətlər
- +Test hesabları, API girişi, model, alətlər, məlumat mənbələri və sistem promptları üzrə sənədlər
- +Zərərli məzmun testini, məlumatların emalını və dayandırma şərtlərini əhatə edən yazılı məqbul istifadə qaydaları
- +Şərtləri tələb etdikdə model provayderinin və ya platformanın bildirişləri
- +Test dövründə əlçatan olan adlı əlaqə şəxsləri
Daxil deyil (ayrıca mövcuddur)
- Hüquqi məsləhət və ya EU AI Act-a uyğunluğun rəsmi müəyyənləşdirilməsi, uyğunluğun qiymətləndirilməsi və ya sertifikatlaşdırma; biz məsləhətçilərinizin ehtiyac duyduğu hazırlıq sübutlarını təqdim edirik
- Modellərin təlimi və ya yenidən təlimi, yaxud yeni qoruyucu sistemlərin qurulması, ayrıca təklif olunmadığı hallarda
- Üçüncü tərəf model provayderlərinin öz infrastrukturunun testi və paylaşılan və ya istehsal gücünə təsir edə biləcək xidmətdən imtina (denial-of-service) testi
- Host tətbiqin ümumi veb və API testi: Penetrasiya testi və API təhlükəsizlik testi kimi mövcuddur
Necə işləyir
Əhatə dairəsi və razılaşma
Test yalnız sahibinin yazılı icazəsi və razılaşdırılmış dayandırma şərtləri ilə imzalanmış əhatə dairəsi əsasında başlayır; beləliklə canlı AI sisteminiz və istifadəçiləri qorunur. Hər hansı test başlamazdan əvvəl AI sistemini, test mühitini, sui-istifadə ssenarilərini və qadağan olunmuş əməliyyatları təsdiq edirik.
Təhdid modelləşdirməsi
Sisteminiz üçün hansı hücum yollarının daha vacib olduğunu müəyyən etmək üçün məlumat mənbələrini, alətləri, istifadəçiləri və etibar sərhədlərini xəritələndiririk.
Hücum yönümlü test
Əhatəyə daxil olan sistemə qarşı əl ilə və avtomatlaşdırılmış hücumlar həyata keçiririk, hər tapıntı üçün promptları, cavabları və sübutu qeyd edirik.
Hesabat
Tapıntıları, hücum yolu izahını, nəzarət tövsiyələrini və hazırlıq xəritəsini komandalarınızın əməli addım ata biləcəyi formada təqdim edirik.
Yekun müzakirə və təkrar test
Tərəflərinizi nəticələrlə tanış edirik və sizin seçiminizlə etdiyiniz düzəlişləri təkrar test edirik.
Əvvəlcə əhatə dairəsini istəyin. 24 saat ərzində cavab veririk və yazılı təklifdə AI sistemini, inteqrasiyaları, icazəni və test pəncərəsini təsdiqləyirik. İş yazılı əhatə dairəsi təsdiqləndikdən sonra başlayır.
Əhatə dairəsi və qiymət təklifi
Yekun əhatə dairəsi və qiymət təklifi AI sisteminizdən, inteqrasiyalarınızdan və test pəncərəsindən asılıdır.
Niyə BilgeQor
- Hər tapıntı təkrar istehsal promptları və sübutla təqdim olunur, hücum yolu izahı isə problemlərin tətbiqinizdə necə birləşdiyini göstərir.
- EU AI Act hazırlıq xəritəsi məsləhətçilərinizə təsnifat, sənədləşdirmə və nəzarət boşluqlarının strukturlaşdırılmış görünüşünü verir.
- AI sistemi, test mühiti və dayandırma şərtləri əvvəlcə yazılı əhatə dairəsində müəyyən edilir; testerlər uzaqdan işləyir, koordinasiya İstanbul, Cakarta və Londondan aparılır.
Tez-tez verilən suallar
Əlaqəli xidmətlər
OT, ICS və IoT təhlükəsizlik qiymətləndirməsi
Sənaye idarəetmə sistemlərinin, əməliyyat texnologiyası şəbəkələrinin və qoşulmuş cihazların mühəndislərinizlə birlikdə planlaşdırılan, təhlükəsizliyi (safety) birinci yerə qoyan qiymətləndirməsi.
API-lərinizi giriş qüsurlarına qarşı test edin
REST, GraphQL və mobil backend API-lərinizin pozulmuş avtorizasiya, inyeksiya və biznes məntiqi qüsurları üzrə icazəli testi; aydın düzəliş siyahısı ilə.
AI tətbiqinizi stress testindən keçirin
AI sisteminizi və alətlərini təsvir edin; sabit qiymətli təklif yazılı şəkildə qayıdır.
Göndərdikdən sonra nə baş verir
- Sorğunuzu nəzərdən keçiririk
- İş həcminin müzakirəsi
- Yazılı təklif
24 saat ərzində cavab veririk.
