Lọ sí àkóónú pàtàkì
BilgeQor

AI Red Teaming àti Àyẹ̀wò Ààbò LLM

Wo bí ohun-èlò AI rẹ ṣe ń hùwà lábẹ́ ìdánwò ìkọlù, pẹ̀lú àwọn àbájáde tí a fi ẹ̀rí ṣe àtìlẹ́yìn lórí prompt injection, ìjò dátà àti ìlò àìtọ́, àti àtòjọ àtúnṣe tí a tò ní ìpele.

Ìfọwọ́sowọ́pọ̀ tí ààlà iṣẹ́ rẹ̀ ti ṣe kedere
  • UPRELAY YAZILIM TEKNOLOJİLERİ LİMİTED ŞİRKETİIstanbul, Türkiye
  • BilgeQor LtdLondon, Ilẹ̀ Ọba Aṣọ̀kan
  • PT BILGEQOR INTELLIGENT SYSTEMSJakarta, Indonesia
A máa ń fèsì láàrin wákàtí 24.

Je, AI Red Teaming inafaa?

Dára jùlọ fún

  • ✓Àwọn ẹgbẹ́ tó fẹ́ ṣe ìfilọ́lẹ̀ tàbí fẹ̀ chatbot, copilot, ìwá tí a mú dára pẹ̀lú ìgbàpadà (retrieval-augmented) tàbí aṣojú AI tó ní ìwọlé sí dátà tàbí àwọn irinṣẹ́ ilé-iṣẹ́
  • ✓Àwọn aṣáájú ọjà àti ààbò tí wọ́n gbọ́dọ̀ dáhùn àwọn ìbéèrè oníbàárà tàbí ìgbìmọ̀ nípa ewu AI pẹ̀lú ẹ̀rí
  • ✓Àwọn ètò-àjọ tí ń múra sílẹ̀ fún àwọn ojúṣe EU AI Act tí wọ́n fẹ́ mọ ibi tí àwọn ẹ̀rọ wọn dúró sí
  • ✓Àwọn ẹgbẹ́ ìmọ̀-ẹ̀rọ tí àwọn àwòṣe wọn ń pe àwọn irinṣẹ́, ń lọ kiri wẹ́ẹ̀bù tàbí ń ṣe iṣẹ́ lórí àwọn ìwé tí àwọn ẹni òde pèsè

Iṣẹ́ mìíràn dára jù bí

  • –O fẹ́ kí a dán ohun-èlò wẹ́ẹ̀bù àti àwọn API rẹ wò: Ìdánwò Ìwọlé àti Ìdánwò Ààbò API bo ìyẹn
  • –O fẹ́ àyẹ̀wò àwòrán ìṣọ̀kan aṣojú AI: LLM & AI Agent Security Review bo ìyẹn
  • –O fẹ́ àfarawé olùkọlù ènìyàn lórí ètò-àjọ rẹ: Red Team Exercise bo ìyẹn

Ohun Tí A Ń Ṣàyẹ̀wò

  • Mọ̀ bóyá àwọn ìtọ́ni tó farapamọ́ lè gba AI rẹ: ìdánwò prompt-injection tààrà àti aláìtààrà, pẹ̀lú àwọn ìtọ́ni tó farapamọ́ nínú àwọn ìwé, àwọn ojú-ìwé wẹ́ẹ̀bù, àwọn ímeèlì àti àwọn èsì irinṣẹ́
  • Pa dátà aláàbò mọ́ inú: ìdánwò ìjò tó bo system prompt, àwọn ìwé tí a gbà padà, dátà ìkẹ́kọ̀ọ́ tàbí fine-tuning àti dátà àwọn olùlò mìíràn
  • Wo bí ìlànà rẹ ṣe dúró: ìdánwò ìlò àìtọ́ lòdì sí ìlànà tí o ṣètò, tó bo jailbreak, yíyẹ̀ àkóónú tó lè pa ni lára àti ìlòkulò àwọn iṣẹ́ tí a gbà láyè
  • Dín ohun tí aṣojú lè ṣe kù: àyẹ̀wò aṣojú àti lílo irinṣẹ́ lórí àwọn ìyọ̀ǹda tó pọ̀ jù, àwọn ìgbésẹ̀ aláìléwu, àwọn plugin tí kò dáàbò bo àti àwọn ìgbésẹ̀ ìfọwọ́sí ènìyàn tó sọnù
  • Dáàbò bo dátà tó wà lẹ́yìn àwòṣe: àyẹ̀wò retrieval, vector store àti pípẹ́lẹ́ẹ̀nì dátà, pẹ̀lú ìdarí ìwọlé àti àwọn ọ̀nà poisoning
  • Ṣàyẹ̀wò àwọn ìdarí tó yí àwòṣe ká: àyẹ̀wò ìfìdí ẹni múlẹ̀, rate limiting, ìbójútó output àti ìkọsílẹ̀ nínú ohun-èlò tó yí i ká
  • Múra sílẹ̀ fún àwọn ìjíròrò EU AI Act: àwòrán ìmúrasílẹ̀ ti ìpínsísọ̀rí ẹ̀rọ, ìwé àti àwọn àlàfo àbójútó, tí a gbé kalẹ̀ gẹ́gẹ́ bí ojú ìwòye ìmúrasílẹ̀ fún àwọn olùmọ̀ràn rẹ

Àwọn àbájáde iṣẹ́ tí a ní láti fi léni lọ́wọ́

Àkókò tó wọ́pọ̀
Ní gbogbogbòò ọ̀sẹ̀ 2–4 láti ìgbà tí a fọwọ́ sí ààlà iṣẹ́, ó sinmi lórí iye àwọn ẹ̀rọ AI àti irinṣẹ́ tó wà nínú ààlà iṣẹ́, a ó sì fìdí rẹ̀ múlẹ̀ nínú àbá tí a kọ sílẹ̀ fún ọ.
Iye Owó
Àbá oníye-kan-náà lẹ́yìn ìpè ìṣàlàyé ààlà iṣẹ́ ọ̀fẹ́.
Ètò ìdánwò àti àkópọ̀ àwọn òfin ìbáṣepọ̀ iṣẹ́ (rules of engagement), kí gbogbo ènìyàn lè mọ ohun tí a ó dán wò àti ibi tí ìdánwò dúró
Àkọsílẹ̀ àbájáde pẹ̀lú ìwọ̀n ewu, àwọn prompt ìtúnṣẹlẹ̀, ẹ̀rí àti ìtọ́sọ́nà àtúnṣe, kí ẹgbẹ́ rẹ lè tún ọ̀rọ̀ kọ̀ọ̀kan ṣẹlẹ̀ kí wọ́n sì tún un ṣe
Ìtàn ọ̀nà ìkọlù tó fi bí àwọn ìṣòro ṣe ń dàpọ̀ nínú ohun-èlò rẹ hàn, kí o lè rí ewu iṣẹ́ ajé gidi
Àwọn àbá guardrail àti ìdarí káàkiri àwọn ìpele àwòṣe, ohun-èlò àti dátà
Àwòrán ìmúrasílẹ̀ EU AI Act pẹ̀lú àwọn àlàfo ìwé àti àbójútó tí a dá mọ̀, tó ṣetán láti fi lé àwọn olùmọ̀ràn rẹ lọ́wọ́
Ìsọ̀rọ̀ ìparí pẹ̀lú àwọn tó nífẹ̀ẹ́ sí ọjà, ààbò àti ìmọ̀-ẹ̀rọ; ìdánwò àtúnṣe àwọn àtúnṣe tí o yàn láti ṣe wà

Kí a tó bẹ̀rẹ̀

  • +Ìfọwọ́sí láti ọwọ́ alákòóso tó ni ẹ̀rọ AI náà, tó bo àwọn ọ̀nà ìdánwò àti àwọn àkọọ́lẹ̀ ìdánwò
  • +Àyíká ìdánwò tàbí staging, tàbí àwọn ààlà fún ìdánwò nínú iṣẹ́-ṣíṣe
  • +Àwọn àkọọ́lẹ̀ ìdánwò, ìwọlé API àti ìwé nípa àwòṣe, àwọn irinṣẹ́, àwọn orísun dátà àti àwọn system prompt
  • +Àwọn òfin lílò tó yẹ tí a kọ, tó bo ìdánwò àkóónú tó lè pa ni lára, ìbójútó dátà àti àwọn ipò ìdúró
  • +Àwọn ìkéde sí olùpèsè àwòṣe tàbí pẹpẹ, níbi tí àwọn òfin wọn bá nílò wọn
  • +Àwọn olùbáṣepọ̀ tí a dárúkọ tí a lè dé nígbà ìdánwò

Kò sí nínú rẹ̀ (wà lọ́tọ̀ọ̀tọ̀)

  • Ìmọ̀ràn òfin tàbí ìpinnu déédé lórí ìbámu òfin EU AI Act, ìṣàyẹ̀wò ìbámu tàbí ìjẹ́rìísí; a ń fún ọ ní ẹ̀rí ìmúrasílẹ̀ tí àwọn olùmọ̀ràn rẹ nílò
  • Kíkọ́ tàbí títún kọ́ àwọn àwòṣe, tàbí kíkọ́ àwọn ètò guardrail tuntun, àyàfi tí a bá sọ iye rẹ̀ lọ́tọ̀
  • Ìdánwò ẹ̀rọ ìpìlẹ̀ àwọn olùpèsè àwòṣe ẹni-kẹta fúnra wọn, àti ìdánwò denial-of-service tó lè kan agbára àjọpín tàbí ti iṣẹ́-ṣíṣe
  • Ìdánwò wẹ́ẹ̀bù àti API gbogbogbòò ti ohun-èlò olùgbàlejò: wà gẹ́gẹ́ bí Ìdánwò Ìwọlé àti Ìdánwò Ààbò API

Bí Ó Ṣe Ń Ṣiṣẹ́

1

Ìṣàlàyé ààlà iṣẹ́ àti ìfọwọ́sí

Ìdánwò ń bẹ̀rẹ̀ nìkan pẹ̀lú ìyọ̀ǹda tí a kọ láti ọ̀dọ̀ olóhun àti ààlà iṣẹ́ tí a fọwọ́ sí pẹ̀lú àwọn ipò ìdúró tí a gbà, kí ẹ̀rọ AI rẹ tí ń ṣiṣẹ́ àti àwọn olùlò rẹ̀ lè wà ní ààbò. A ń fìdí ẹ̀rọ AI náà, àyíká ìdánwò, àwọn ìran ìlòkulò àti àwọn ìgbésẹ̀ tí a kà léèwọ̀ múlẹ̀ kí ìdánwò kankan tó wáyé.

2

Àwòṣe ewu

A ń ṣe àwòrán àwọn orísun dátà, àwọn irinṣẹ́, àwọn olùlò àti àwọn ààlà ìgbẹ́kẹ̀lé láti pinnu àwọn ọ̀nà ìkọlù tó ṣe pàtàkì jù fún ẹ̀rọ rẹ.

3

Ìdánwò ìkọlù

A ń ṣe àwọn ìkọlù pẹ̀lú ọwọ́ àti aládàáṣe sí ẹ̀rọ tó wà nínú ààlà iṣẹ́, a sì ń ṣàkọsílẹ̀ àwọn prompt, àwọn ìdáhùn àti ẹ̀rí fún àbájáde kọ̀ọ̀kan.

4

Ìròyìn

A ń fi àwọn àbájáde, ìtàn ọ̀nà ìkọlù, àwọn àbá ìdarí àti àwòrán ìmúrasílẹ̀ jíṣẹ́ ní ọ̀nà tí àwọn ẹgbẹ́ rẹ lè gbé ìgbésẹ̀ lé.

5

Ìsọ̀rọ̀ ìparí àti ìdánwò àtúnṣe

A ń ṣàlàyé àwọn èsì fún àwọn tó nífẹ̀ẹ́ sí iṣẹ́ náà, àti níbi tí o bá yàn án, a ń dán àwọn àtúnṣe tí o ti ṣe wò lẹ́ẹ̀kan sí i.

Béèrè fún ààlà iṣẹ́ ná. A ń dáhùn láàrín wákàtí 24, a sì ń fìdí ètò AI, ìṣọ̀kan, ìfọwọ́sí àti àkókò ìdánwò múlẹ̀ nínú àbá tí a kọ sílẹ̀. Iṣẹ́ ń bẹ̀rẹ̀ lẹ́yìn tí a bá fìdí ààlà iṣẹ́ tí a kọ sílẹ̀ múlẹ̀.

Ààlà Iṣẹ́ àti Ìṣirò Iye Owó

Ààlà iṣẹ́ ìkẹyìn àti iye owó sinmi lórí ètò AI rẹ, ìṣọ̀kan àti àkókò ìdánwò.

Ìdí tí o fi yan BilgeQor

  • Gbogbo àbájáde wá pẹ̀lú àwọn prompt ìtúnṣẹlẹ̀ àti ẹ̀rí, ìtàn ọ̀nà ìkọlù sì fi bí àwọn ìṣòro ṣe ń dàpọ̀ nínú ohun-èlò rẹ hàn.
  • Àwòrán ìmúrasílẹ̀ EU AI Act ń fún àwọn olùmọ̀ràn rẹ ní ojú ìwòye tó ní ètò nípa ìpínsísọ̀rí, ìwé àti àwọn àlàfo àbójútó.
  • A kọ ẹ̀rọ AI náà, àyíká ìdánwò àti àwọn ipò ìdúró sínú ààlà iṣẹ́ tí a kọ sílẹ̀ ní àkọ́kọ́; àwọn olùdánwò ń ṣiṣẹ́ láti ọ̀nà jíjìn, tí a ń ṣàkóso láti Istanbul, Jakarta àti London.

Àwọn Ìbéèrè Tí A Máa Ń Béèrè Lọ́pọ̀ ìgbà

Àwọn iṣẹ́ tó ní ìbáṣepọ̀

Àyẹ̀wò Ààbò OT, ICS àti IoT

Ìṣàyẹ̀wò ààbò àwọn ètò ìdarí ilé-iṣẹ́, àwọn nẹ́tíwọ́ọ̀kì ìmọ̀-ẹ̀rọ iṣẹ́ àti àwọn ẹ̀rọ tí a so pọ̀, tí a fi ààbò ènìyàn ṣáájú, tí a sì ṣètò pẹ̀lú àwọn onímọ̀-ẹ̀rọ rẹ.

Dán àwọn API rẹ wò fún àwọn àbùkù ìwọlé

Ìdánwò tí a fàṣẹ sí lórí àwọn API REST, GraphQL àti ẹ̀yìn alágbèéká rẹ fún àṣẹ tó bàjẹ́, injection àti àbùkù ọgbọ́n iṣẹ́, pẹ̀lú àtòjọ àtúnṣe tó ṣe kedere.

Dán ohun-èlò AI rẹ wò dé òpin

Ṣàpèjúwe ẹ̀rọ AI rẹ àti àwọn irinṣẹ́ rẹ̀; àbá oníye-kan-náà yóò padà wá ní kíkọ.

Ohun tí ó ń ṣẹlẹ̀ lẹ́yìn tí ẹ bá fi ránṣẹ́

  1. A ń ṣàyẹ̀wò ìbéèrè yín
  2. Ìjíròrò lórí ààlà iṣẹ́
  3. Ìfilọ́lẹ̀ tí a kọ sílẹ̀

A máa ń fèsì láàrin wákàtí 24.