Tehisintellekti Red Teaming ja LLM-i turvahindamine
Näete, kuidas teie tehisintellektirakendus käitub vastaspoole testimisel: tõenditega leiud prompt injectioni, andmelekete ja väärkasutuse kohta ning prioriteetidega parandusnimekiri.
- UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİİstanbul, Türgi
- BilgeQor LtdLondon, Ühendkuningriik
- PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indoneesia
Kas Tehisintellekti Red Teaming sobib?
Sobib kõige paremini
- ✓Meeskonnad, kes on alustamas või laiendamas vestlusrobotit, copiloti, retrieval-augmented otsingut või tehisintellekti agenti, millel on juurdepääs ettevõtte andmetele või tööriistadele
- ✓Toote- ja turvajuhid, kes peavad vastama klientide või juhatuse küsimustele tehisintellekti riskide kohta tõenditega
- ✓Organisatsioonid, kes valmistuvad ELi tehisintellektimääruse kohustusteks ja tahavad teada, kus nende süsteemid seisavad
- ✓Arendusmeeskonnad, kelle mudelid kutsuvad tööriistu, sirvivad veebi või tegutsevad kolmandate osapoolte esitatud dokumentide põhjal
Mõni teine teenus sobib paremini, kui
- –Soovite oma veebirakendust ja API-sid testida: Penetratsioonitestimine ja API turvatestimine katavad selle
- –Soovite tehisintellekti agendi integratsiooni kavandi ülevaatust: LLM-i ja tehisintellekti agentide turvaülevaatus katab selle
- –Soovite inimründajat oma organisatsiooni vastu simuleerida: Red Team õppus katab selle
Mida me hindame
- Teadke, kas peidetud juhised suudavad teie tehisintellekti üle võtta: otsese ja kaudse prompt injectioni testimine, sealhulgas dokumentidesse, veebilehtedele, e-kirjadesse ja tööriistade väljundisse peidetud juhised
- Hoidke tundlikud andmed sees: lekketestimine, mis hõlmab süsteemiprompte, otsitud dokumente, treening- või peenhäälestusandmeid ja teiste kasutajate andmeid
- Vaadake, kuidas teie poliitika vastu peab: väärkasutuse testimine teie kehtestatud poliitika vastu, hõlmates jailbreake, kahjuliku sisu filtrist möödahiilimist ja lubatud funktsioonide kuritarvitamist
- Piirake, mida agent teha saab: agendi ja tööriistakasutuse ülevaatus, mis hõlmab liigseid õigusi, ohtlikke toiminguid, ebaturvalisi pluginaid ja puuduvaid inimese kinnitusetappe
- Kaitske mudeli taga olevaid andmeid: retrieval-süsteemi, vektorandmebaasi ja andmetorustiku ülevaatus, sealhulgas juurdepääsukontroll ja andmemürgitamise teed
- Kontrollige mudeli ümber olevaid kaitsemeetmeid: ümbritseva rakenduse autentimise, päringute piiramise, väljundi käsitlemise ja logimise ülevaatus
- Valmistuge vestlusteks ELi tehisintellektimääruse üle: süsteemi klassifitseerimise, dokumentatsiooni ja järelevalve lünkade valmisoleku kaardistus, esitatud valmisoleku ülevaatena teie nõustajatele
Tarned
- Tüüpiline ajakava
- Tavaliselt 2–4 nädalat allkirjastatud ulatusest, sõltuvalt ulatuses olevate tehisintellektisüsteemide ja tööriistade arvust; täpne ajakava kinnitatakse teie kirjalikus pakkumises.
- Hinnakujundus
- Fikseeritud hinnaga pakkumine pärast tasuta ulatuse määramise kõnet.
Enne alustamist
- +Tehisintellektisüsteemi eest vastutava juhtivtöötaja kinnitus, mis hõlmab testimismeetodeid ja testkontosid
- +Test- või staging-keskkond või piirangud tootmises testimiseks
- +Testkontod, API-juurdepääs ning mudeli, tööriistade, andmeallikate ja süsteemipromptide dokumentatsioon
- +Kirjalikud lubatud kasutuse reeglid, mis hõlmavad kahjuliku sisu testimist, andmete käsitlemist ja peatamistingimusi
- +Mudeli pakkuja või platvormi teavitused, kui nende tingimused neid nõuavad
- +Nimetatud kontaktisikud, kes on testimisperioodil kättesaadavad
Ei sisaldu (saadaval eraldi)
- Õigusnõustamine või ametlik ELi tehisintellektimääruse vastavuse (compliance) määramine, vastavushindamine või sertifitseerimine; me anname teile valmisoleku tõendid, mida teie nõustajad vajavad
- Mudelite treenimine või ümbertreenimine või uute kaitsepiirete süsteemide ehitamine, kui seda pole eraldi pakutud
- Kolmandate osapoolte mudelipakkujate enda infrastruktuuri testimine ning teenusetõkestusrünnete testimine, mis võiks mõjutada jagatud või tootmisvõimsust
- Hostirakenduse üldine veebi- ja API-testimine: saadaval teenustena Penetratsioonitestimine ja API turvatestimine
Kuidas see toimib
Ulatus ja heakskiit
Testimine algab alles omaniku kirjaliku loa ja allkirjastatud ulatusega, milles on kokku lepitud peatamistingimused, et teie töötav tehisintellektisüsteem ja selle kasutajad püsiksid kaitstud. Enne mis tahes testimist kinnitame tehisintellektisüsteemi, testkeskkonna, kuritarvitusstsenaariumid ja keelatud toimingud.
Ohumodelleerimine
Kaardistame andmeallikad, tööriistad, kasutajad ja usaldusepiirid, et otsustada, millised ründeteed on teie süsteemi jaoks kõige olulisemad.
Vastaspoole testimine
Teeme ulatuses olevale süsteemile käsitsi ja automatiseeritud rünnakuid ning talletame iga leiu kohta promptid, vastused ja tõendid.
Aruandlus
Edastame leiud, ründetee narratiivi, kontrollide soovitused ja valmisoleku kaardi kujul, mille põhjal teie meeskonnad saavad tegutseda.
Tulemuste ülevaatus ja kordustest
Tutvustame teie sidusrühmadele tulemusi ja teie soovi korral teeme kordustesti parandustele, mille olete teinud.
Küsige kõigepealt ulatust. Vastame 24 tunni jooksul ja kinnitame kirjalikus pakkumises tehisintellektisüsteemi, integratsioonid, loa ja testimisakna. Töö algab pärast kirjaliku ulatuse kinnitamist.
Ulatus ja hinnapakkumine
Lõplik ulatus ja hinnapakkumine sõltuvad teie tehisintellektisüsteemist, integratsioonidest ja testimisaknast.
Miks BilgeQor
- Iga leiuga kaasnevad reprodutseerivad promptid ja tõendid ning ründetee narratiiv näitab, kuidas probleemid teie rakenduses kokku moodustuvad.
- ELi tehisintellektimääruse valmisoleku kaart annab teie nõustajatele struktureeritud ülevaate klassifitseerimise, dokumentatsiooni ja järelevalve lünkadest.
- Tehisintellektisüsteem, testkeskkond ja peatamistingimused fikseeritakse esmalt kirjalikus ulatuses; testijad töötavad kaugtööna, koordineerituna Istanbulist, Jakartast ja Londonist.
Korduma kippuvad küsimused
Seotud teenused
OT, ICS ja IoT turvalisuse hindamine
Tööstuslike juhtimissüsteemide, operatsioonitehnoloogia võrkude ja ühendatud seadmete turvalisuse hindamine, mille esikohal on ohutus ja mis on planeeritud koos teie inseneridega.
Testige oma API-sid juurdepääsuvigade suhtes
Teie REST-i, GraphQL-i ja mobiili taustasüsteemi API-de testimine loaga katkise autoriseerimise, süstimise ja ärilogika vigade suhtes, selge parandusloeteluga.
Tööstusharud
Proovige oma tehisintellektirakendus stressiga läbi
Kirjeldage oma tehisintellektisüsteemi ja selle tööriistu; fikseeritud hinnaga pakkumine saabub kirjalikult.
Mis juhtub pärast saatmist
- Vaatame teie päringu üle
- Ulatuse arutelu
- Kirjalik pakkumus
Vastame 24 tunni jooksul.
