Tsallaka zuwa babban abun ciki
BilgeQor

AI Red Teaming da Kimanta Tsaron LLM

Ku ga yadda aikace-aikacen AI ɗinku ke aiki a ƙarƙashin gwajin kwaikwayon maharin, tare da abubuwan da aka gano masu shaida kan prompt injection, zubar bayanai da amfani mara kyau, da jerin gyare-gyare bisa fifiko.

Aikin da aka ƙayyade iyakokinsa
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
  • BilgeQor LtdLondon, Ƙasar Birtaniya
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
Muna amsawa cikin awanni 24.

Je, AI Red Teaming inafaa?

Mafi dacewa da

  • ✓Tawagogin da ke shirin ƙaddamar ko faɗaɗa chatbot, copilot, bincike mai jawo bayanai (retrieval-augmented) ko wakilin AI mai samun damar bayanan kamfani ko kayan aiki
  • ✓Shugabannin samfur da tsaro waɗanda dole ne su amsa tambayoyin abokan ciniki ko hukumar gudanarwa kan haɗarin AI da shaida
  • ✓Ƙungiyoyin da ke shirin cika wajibai na EU AI Act waɗanda ke son sanin inda tsarukansu suka tsaya
  • ✓Tawagogin injiniyanci waɗanda model ɗinsu ke kiran kayan aiki, bincika yanar gizo ko aiki bisa takardun da waɗanda ba cikinsu ba suka bayar

Wata hidima ta fi dacewa idan

  • –Kuna son a gwada aikace-aikacen yanar gizo da API ɗinku: Gwajin Kutse da Gwajin Tsaron API suna ɗaukar hakan
  • –Kuna son bitar ƙirar haɗa wakilin AI: LLM & AI Agent Security Review yana ɗaukar hakan
  • –Kuna son a kwaikwayi maharin ɗan adam a kan ƙungiyarku: Red Team Exercise yana ɗaukar hakan

Abin da Muke Tantancewa

  • Ku san ko umarnin da aka ɓoye zai iya kwace ikon AI ɗinku: gwajin prompt-injection kai tsaye da na kaikaice, har da umarnin da aka ɓoye a cikin takardu, shafukan yanar gizo, imel da sakamakon kayan aiki
  • Ku riƙe bayanai masu mahimmanci a ciki: gwajin zubar bayanai da ya shafi system prompts, takardun da aka jawo, bayanan horarwa ko fine-tuning da bayanan sauran masu amfani
  • Ku ga yadda manufarku ke jurewa: gwajin amfani mara kyau bisa manufar da kuka tsara, wanda ya shafi jailbreaks, kewaye matatar abubuwa masu cutarwa da cin zarafin ayyukan da aka halatta
  • Ku iyakance abin da wakili zai iya yi: bitar wakili da amfani da kayan aiki kan izini fiye da kima, ayyuka marasa aminci, plugins marasa tsaro da rashin matakan amincewar ɗan Adam
  • Ku kare bayanan da ke bayan model ɗin: bitar retrieval, vector store da bututun bayanai, har da sarrafa samun dama da hanyoyin gurɓata bayanai
  • Ku duba matakan sarrafawa da ke kewaye da model ɗin: bitar tantancewa, iyakance adadin buƙatu, sarrafa fitarwa da rajista a aikace-aikacen da ke kewaye
  • Ku shirya don tattaunawar EU AI Act: taswirar shiri ta rarrabuwar tsari, takardu da giɓin sa ido, ana gabatar da ita a matsayin kallon shiri ga masu ba ku shawara

Abubuwan da aka kawo

Jadawalin lokaci na yau da kullum
Yawanci makonni 2–4 daga lokacin da aka sanya wa iyakar aiki hannu, gwargwadon adadin tsarukan AI da kayan aikin da ke cikin iyaka, kamar yadda za a tabbatar a tayinku a rubuce.
Farashi
Tayi da kuɗi tsayayye bayan kiran tattaunawa kyauta kan iyakar aiki.
Tsarin gwaji da taƙaitaccen sharuɗɗan gudanar da aiki, domin kowa ya san abin da za a gwada da inda gwajin zai tsaya
Rajistar abubuwan da aka gano mai ɗauke da tsanani, prompts na sake haifarwa, shaida da jagorar gyara, don ƙungiyarku ta iya sake haifar da kowace matsala ta kuma gyara ta
Bayanin hanyar hari da ke nuna yadda matsaloli ke haɗuwa a aikace-aikacenku, domin ku ga ainihin haɗarin kasuwanci
Shawarwarin matakan kariya da sarrafawa a matakan model, aikace-aikace da bayanai
Taswirar shirin EU AI Act mai nuna giɓin takardu da sa ido da aka gano, a shirye don miƙawa masu ba ku shawara
Taron bayani tare da masu ruwa da tsaki na samfur, tsaro da injiniyanci; ana iya sake gwada gyare-gyaren da kuka zaɓa yi

Kafin mu fara

  • +Amincewar wani babban jami'i da ke da alhakin tsarin AI, wanda ya ƙunshi hanyoyin gwaji da asusun gwaji
  • +Muhallin gwaji ko staging, ko iyakoki don gwaji a muhallin samarwa
  • +Asusun gwaji, damar API da takardun model ɗin, kayan aiki, tushen bayanai da system prompts
  • +Sharuɗɗan amfani da aka yarda da su a rubuce, waɗanda suka shafi gwajin abubuwa masu cutarwa, sarrafa bayanai da yanayin tsayawa
  • +Sanarwa ga mai samar da model ko dandamali, inda sharuɗɗansu suka buƙata
  • +Mutane da aka sa wa suna waɗanda za a iya samu a lokacin gwajin

Ba a haɗa ba (ana samu daban)

  • Shawarar shari'a ko hukunci na hukuma kan bin tsare-tsaren EU AI Act, tantance daidaito (conformity assessment) ko bayar da shaidar cancanta (certification); muna ba ku shaidar shirin da masu ba ku shawara ke buƙata
  • Horar da model ko sake horar da su, ko gina sababbin tsarukan kariya (guardrail), sai dai idan an ba da tayi daban
  • Gwajin kayayyakin aikin masu samar da model na ɓangare na uku da kansu, da gwajin hana sabis (denial-of-service) wanda zai iya shafar ƙarfin da ake rabawa ko na samarwa
  • Gwajin yanar gizo da API gaba ɗaya na aikace-aikacen da ke ɗauke da shi: ana samu a matsayin Gwajin Kutse da Gwajin Tsaron API

Yadda Yake Aiki

1

Bayyana iyakar aiki da amincewa

Ana fara gwaji ne kawai da izinin mai shi a rubuce da iyakar aiki da aka sanya wa hannu tare da yanayin tsayawa da aka amince da su, don tsarin AI ɗinku mai aiki da masu amfani da shi su kasance cikin kariya. Muna tabbatar da tsarin AI, muhallin gwaji, yanayin cin zarafi da ayyukan da aka hana kafin kowane gwaji.

2

Tsara samfurin barazana

Muna tsara taswirar tushen bayanai, kayan aiki, masu amfani da iyakokin amana don yanke hukunci kan hanyoyin hari mafi muhimmanci ga tsarinku.

3

Gwajin kwaikwayon maharin

Muna gudanar da hare-hare na hannu da na atomatik kan tsarin da ke cikin iyaka, muna rubuta prompts, amsoshi da shaida ga kowane abin da aka gano.

4

Rahoto

Muna isar da abubuwan da aka gano, bayanin hanyar hari, shawarwarin sarrafawa da taswirar shiri ta hanyar da ƙungiyoyinku za su iya aiki da ita.

5

Taron bayani da sake gwaji

Muna wuce da masu ruwa da tsakinku kan sakamakon kuma, idan kun zaɓa, mu sake gwada gyare-gyaren da kuka yi.

Ku fara da neman iyakar aiki. Muna amsawa cikin awanni 24 kuma mu tabbatar da tsarin AI, haɗe-haɗe, amincewa da lokacin gwaji a cikin rubutaccen tayi. Aiki yana farawa da zarar an tabbatar da iyakar aiki a rubuce.

Iyakar Aiki da Ƙiyasin Farashi

Iyakar aiki ta ƙarshe da tayin farashi sun dogara da tsarin AI ɗinku, haɗe-haɗe da lokacin gwaji.

Dalilin zaɓar BilgeQor

  • Kowane abin da aka gano yana zuwa da prompts na sake haifarwa da shaida, kuma bayanin hanyar hari yana nuna yadda matsaloli ke haɗuwa a aikace-aikacenku.
  • Taswirar shirin EU AI Act tana ba masu ba ku shawara tsararren kallo kan rarrabuwa, takardu da giɓin sa ido.
  • Ana fara saita tsarin AI, muhallin gwaji da yanayin tsayawa a iyakar aiki da aka rubuta; masu gwajin suna aiki daga nesa, ana haɗa su daga Istanbul, Jakarta da London.

Tambayoyin da Ake Yawan Yi

Ayyukan da suka shafi

Tantance Tsaron OT, ICS da IoT

Kimanta tsaron tsarukan sarrafa masana'antu, hanyoyin sadarwar fasahar aiki (OT) da na'urorin da aka haɗa tare da fifiko ga aminci, da aka tsara tare da injiniyoyinku.

Gwada API ɗinku don gano gazawar samun dama

Gwajin API ɗinku na REST, GraphQL da na baya na wayar hannu da aka amince da shi don gazawar samun dama, injection da kurakuran dabarun kasuwanci, tare da bayyanannen jerin gyare-gyare.

Gwada ƙarfin aikace-aikacen AI ɗinku

Bayyana tsarin AI ɗinku da kayan aikinsa; tayi mai kuɗi tsayayye yana dawowa a rubuce.

Abin da ke faruwa bayan kun aika

  1. Muna duba buƙatarku
  2. Tattaunawa kan iyakar aiki
  3. Shawarwarin da aka rubuta

Muna amsawa cikin awanni 24.