AI-agenter: sikker integrasjon, datagrenser og gjennomgang

AI-agenter kombinerer en språkmodell med verktøy, datakilder og tilganger, slik at de kan utføre handlinger og ikke bare svare på spørsmål. Denne utvidede rekkevidden gir risikoer som prompt injection, utilsiktet dataeksponering og misbruk av verktøy.

Disse veiledningene forklarer risikoene, hvordan en agent integreres med tydelige tilgangsgrenser, hvordan dataene til en kunnskapsassistent avgrenses, og hvordan styring, sikkerhetsgjennomgang og løpende oppfølging inngår i drift av agenter i produksjon.