Liigu põhisisu juurde
BilgeQor

Tehisintellekti Red Teaming ja LLM-i turvahindamine

Näete, kuidas teie tehisintellektirakendus käitub vastaspoole testimisel: tõenditega leiud prompt injectioni, andmelekete ja väärkasutuse kohta ning prioriteetidega parandusnimekiri.

Ulatusega määratletud kaasamine
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİİstanbul, Türgi
  • BilgeQor LtdLondon, Ühendkuningriik
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indoneesia
Vastame 24 tunni jooksul.

Kas Tehisintellekti Red Teaming sobib?

Sobib kõige paremini

  • ✓Meeskonnad, kes on alustamas või laiendamas vestlusrobotit, copiloti, retrieval-augmented otsingut või tehisintellekti agenti, millel on juurdepääs ettevõtte andmetele või tööriistadele
  • ✓Toote- ja turvajuhid, kes peavad vastama klientide või juhatuse küsimustele tehisintellekti riskide kohta tõenditega
  • ✓Organisatsioonid, kes valmistuvad ELi tehisintellektimääruse kohustusteks ja tahavad teada, kus nende süsteemid seisavad
  • ✓Arendusmeeskonnad, kelle mudelid kutsuvad tööriistu, sirvivad veebi või tegutsevad kolmandate osapoolte esitatud dokumentide põhjal

Mõni teine teenus sobib paremini, kui

  • –Soovite oma veebirakendust ja API-sid testida: Penetratsioonitestimine ja API turvatestimine katavad selle
  • –Soovite tehisintellekti agendi integratsiooni kavandi ülevaatust: LLM-i ja tehisintellekti agentide turvaülevaatus katab selle
  • –Soovite inimründajat oma organisatsiooni vastu simuleerida: Red Team õppus katab selle

Mida me hindame

  • Teadke, kas peidetud juhised suudavad teie tehisintellekti üle võtta: otsese ja kaudse prompt injectioni testimine, sealhulgas dokumentidesse, veebilehtedele, e-kirjadesse ja tööriistade väljundisse peidetud juhised
  • Hoidke tundlikud andmed sees: lekketestimine, mis hõlmab süsteemiprompte, otsitud dokumente, treening- või peenhäälestusandmeid ja teiste kasutajate andmeid
  • Vaadake, kuidas teie poliitika vastu peab: väärkasutuse testimine teie kehtestatud poliitika vastu, hõlmates jailbreake, kahjuliku sisu filtrist möödahiilimist ja lubatud funktsioonide kuritarvitamist
  • Piirake, mida agent teha saab: agendi ja tööriistakasutuse ülevaatus, mis hõlmab liigseid õigusi, ohtlikke toiminguid, ebaturvalisi pluginaid ja puuduvaid inimese kinnitusetappe
  • Kaitske mudeli taga olevaid andmeid: retrieval-süsteemi, vektorandmebaasi ja andmetorustiku ülevaatus, sealhulgas juurdepääsukontroll ja andmemürgitamise teed
  • Kontrollige mudeli ümber olevaid kaitsemeetmeid: ümbritseva rakenduse autentimise, päringute piiramise, väljundi käsitlemise ja logimise ülevaatus
  • Valmistuge vestlusteks ELi tehisintellektimääruse üle: süsteemi klassifitseerimise, dokumentatsiooni ja järelevalve lünkade valmisoleku kaardistus, esitatud valmisoleku ülevaatena teie nõustajatele

Tarned

Tüüpiline ajakava
Tavaliselt 2–4 nädalat allkirjastatud ulatusest, sõltuvalt ulatuses olevate tehisintellektisüsteemide ja tööriistade arvust; täpne ajakava kinnitatakse teie kirjalikus pakkumises.
Hinnakujundus
Fikseeritud hinnaga pakkumine pärast tasuta ulatuse määramise kõnet.
Testiplaan ja testimisreeglite kokkuvõte, et kõik teaksid, mida testitakse ja kus testimine peatub
Leidude register koos tõsidusastme, reprodutseerivate promptide, tõendite ja parandussuunistega, et teie meeskond saaks iga probleemi taasluua ja parandada
Ründetee narratiiv, mis näitab, kuidas probleemid teie rakenduses kokku moodustuvad, et näeksite tegelikku ärilist riski
Kaitsepiirete ja kontrollide soovitused mudeli-, rakenduse- ja andmekihis
ELi tehisintellektimääruse valmisoleku kaart tuvastatud dokumentatsiooni- ja järelevalvelünkadega, valmis teie nõustajatele edastamiseks
Tulemuste ülevaatus toote-, turva- ja arendusmeeskonna sidusrühmadega; teie valitud parandusi on võimalik kordustestida

Enne alustamist

  • +Tehisintellektisüsteemi eest vastutava juhtivtöötaja kinnitus, mis hõlmab testimismeetodeid ja testkontosid
  • +Test- või staging-keskkond või piirangud tootmises testimiseks
  • +Testkontod, API-juurdepääs ning mudeli, tööriistade, andmeallikate ja süsteemipromptide dokumentatsioon
  • +Kirjalikud lubatud kasutuse reeglid, mis hõlmavad kahjuliku sisu testimist, andmete käsitlemist ja peatamistingimusi
  • +Mudeli pakkuja või platvormi teavitused, kui nende tingimused neid nõuavad
  • +Nimetatud kontaktisikud, kes on testimisperioodil kättesaadavad

Ei sisaldu (saadaval eraldi)

  • Õigusnõustamine või ametlik ELi tehisintellektimääruse vastavuse (compliance) määramine, vastavushindamine või sertifitseerimine; me anname teile valmisoleku tõendid, mida teie nõustajad vajavad
  • Mudelite treenimine või ümbertreenimine või uute kaitsepiirete süsteemide ehitamine, kui seda pole eraldi pakutud
  • Kolmandate osapoolte mudelipakkujate enda infrastruktuuri testimine ning teenusetõkestusrünnete testimine, mis võiks mõjutada jagatud või tootmisvõimsust
  • Hostirakenduse üldine veebi- ja API-testimine: saadaval teenustena Penetratsioonitestimine ja API turvatestimine

Kuidas see toimib

1

Ulatus ja heakskiit

Testimine algab alles omaniku kirjaliku loa ja allkirjastatud ulatusega, milles on kokku lepitud peatamistingimused, et teie töötav tehisintellektisüsteem ja selle kasutajad püsiksid kaitstud. Enne mis tahes testimist kinnitame tehisintellektisüsteemi, testkeskkonna, kuritarvitusstsenaariumid ja keelatud toimingud.

2

Ohumodelleerimine

Kaardistame andmeallikad, tööriistad, kasutajad ja usaldusepiirid, et otsustada, millised ründeteed on teie süsteemi jaoks kõige olulisemad.

3

Vastaspoole testimine

Teeme ulatuses olevale süsteemile käsitsi ja automatiseeritud rünnakuid ning talletame iga leiu kohta promptid, vastused ja tõendid.

4

Aruandlus

Edastame leiud, ründetee narratiivi, kontrollide soovitused ja valmisoleku kaardi kujul, mille põhjal teie meeskonnad saavad tegutseda.

5

Tulemuste ülevaatus ja kordustest

Tutvustame teie sidusrühmadele tulemusi ja teie soovi korral teeme kordustesti parandustele, mille olete teinud.

Küsige kõigepealt ulatust. Vastame 24 tunni jooksul ja kinnitame kirjalikus pakkumises tehisintellektisüsteemi, integratsioonid, loa ja testimisakna. Töö algab pärast kirjaliku ulatuse kinnitamist.

Ulatus ja hinnapakkumine

Lõplik ulatus ja hinnapakkumine sõltuvad teie tehisintellektisüsteemist, integratsioonidest ja testimisaknast.

Miks BilgeQor

  • Iga leiuga kaasnevad reprodutseerivad promptid ja tõendid ning ründetee narratiiv näitab, kuidas probleemid teie rakenduses kokku moodustuvad.
  • ELi tehisintellektimääruse valmisoleku kaart annab teie nõustajatele struktureeritud ülevaate klassifitseerimise, dokumentatsiooni ja järelevalve lünkadest.
  • Tehisintellektisüsteem, testkeskkond ja peatamistingimused fikseeritakse esmalt kirjalikus ulatuses; testijad töötavad kaugtööna, koordineerituna Istanbulist, Jakartast ja Londonist.

Korduma kippuvad küsimused

Seotud teenused

OT, ICS ja IoT turvalisuse hindamine

Tööstuslike juhtimissüsteemide, operatsioonitehnoloogia võrkude ja ühendatud seadmete turvalisuse hindamine, mille esikohal on ohutus ja mis on planeeritud koos teie inseneridega.

Testige oma API-sid juurdepääsuvigade suhtes

Teie REST-i, GraphQL-i ja mobiili taustasüsteemi API-de testimine loaga katkise autoriseerimise, süstimise ja ärilogika vigade suhtes, selge parandusloeteluga.

Proovige oma tehisintellektirakendus stressiga läbi

Kirjeldage oma tehisintellektisüsteemi ja selle tööriistu; fikseeritud hinnaga pakkumine saabub kirjalikult.

Mis juhtub pärast saatmist

  1. Vaatame teie päringu üle
  2. Ulatuse arutelu
  3. Kirjalik pakkumus

Vastame 24 tunni jooksul.