Sikkerhet for AI-agentene du kjører
Vi sikrer AI-agentene bedriften din bruker: hver tilgang kartlagt, hver agent låst til minste privilegium, hver handling loggført og hver kontroll testet.
Foto: artur_schlenker / Pixabay 
Foto: PIRO4D / Pixabay
Hver AI-agent som kan lese en innboks, søke i en database eller kalle et API, er en ny dør inn i bedriften, og den åpnes for alle som skriver de rette ordene til den. De fleste bedrifter har allerede flere slike dører enn de vet om: assistenten noen koblet til innboksen sin, chatverktøyet med nøkkel til den delte disken, agenten en leverandør slo på. Vi kartlegger dørene, låser hver av dem til det agenten trenger, loggfører det som passerer, og tester at låsene holder.
Kartlagt: hver agent og hva den når
Du kan ikke beskytte en dør du ikke vet finnes. Vi fører opp hver agent i bruk — både dem IT har godkjent, og dem de ansatte har koblet til på egen hånd — med tilgangene den har, verktøyene den kan kalle, og dataene de gir tilgang til. Kartet er et dokument som ligger sammen med konfigurasjonen din og oppdateres hver gang en agent legges til — ikke et lysbilde laget én gang til et møte — og det er det første en revisor, en stor kunde eller et forsikringsselskap vil be om.
Låst: hver agent med minste privilegium
Hver agent får sin egen identitet og ikke flere privilegier enn jobben krever: roller i stedet for delte kontoer (RBAC), kun lesetilgang som standard, og skrivetilgang bare gjennom avgrensede verktøy med grenser for hvor ofte og hvor mye. Hemmeligheter deles opp per agent og per vert, limes aldri inn i en prompt og kan roteres uten kodeendringer. Tekst en agent leser — en e-post, en nettside, et dokument — behandles som data, aldri som instrukser, så en melding som sier «ignorer reglene dine», har ingen virkning. Kontrollene feiler lukket: når en sjekk ikke kan kjøres, avvises handlingen.
Loggført: hva den gjorde, og for hvem
Hvert verktøykall logges med hvem det ble gjort for, hva som ble bedt om, hva det berørte og hva som kom tilbake, og loggen oppbevares der agenten selv ikke kan endre den. Varsler utløses av det uvanlige — en plutselig bølge av oppslag, et verktøy brukt klokken tre om natten, tilgang til data agenten aldri før har trengt. Skjer noe likevel, er det loggen som gjør en hendelse til en tidslinje i stedet for gjetting.
Et kart, en lås og en logg er tre påstander — helt til noen prøver å komme seg forbi dem.
Hver kontroll nedenfor prøves med vilje, ved hver kjøring, av dem som installerte den.
En lås skal testes, ikke tas på tro
En kontroll som aldri er testet, er en kontroll du håper virker. Vi har funnet tre beskyttelser mot brute force-angrep på én server som aldri hadde virket, selv om hver av dem meldte at alt var i orden. Derfor blir hver kontroll vi installerer, bevist ved hver kjøring: utestengingen prøves mot en testadresse, regelen leses tilbake, et injeksjonsangrep forsøkes med vilje. Har en lekkasje allerede skjedd, demmer vi den inn, roterer det som ble eksponert, og legger inn en regel i repoet som hindrer at den samme lekkasjen skjer igjen.
Arbeidet bak det
Vi har gjort dette arbeidet på servere, identitetssystemer og plattformer. Vi skrev 1 000 RBAC-regler på tvers av Linux- og databaseservere, ledet tilgangsstyringen på tvers av M365 og single sign-on, og drev et kontinuerlig program for sikkerhetsskanning med 21 skriftlige revisjoner. Vi delte opp hver driftshemmelighet per vert, la til en forhåndssjekk av hemmeligheter på ett sekund, fant tre låser på døren, og ingen av dem var låst, og beviste at utestengingen av inntrengere virker ved hver kjøring. Vi bygde hastighetsbegrensning som feiler lukket og skrev en avgrensningsregel etter en lekkasje. Hvordan vi holder orden i eget hus, står på slik arbeider vi sikkert.
Slik foregår et oppdrag
Det begynner med en gjennomgang med kun lesetilgang. Vi kartlegger hver agent, tilgangene den har og hva den kan nå med dem, og gir deg funnene sortert etter risiko, hvert med begrunnelse og forslag til løsning. Rettelsene gjøres deretter i konfigurasjonen og repoet ditt og går gjennom din egen kodegjennomgang, med sjekker som slår ut når en agent får tilgang utover det kartet viser. Du beholder kartet, loggen og testene — det du gir en revisor eller et forsikringsselskap — og dataene agentene leser, kan tilgangsstyres på samme måte. Det kjøpes som resten av arbeidet vårt, på vilkårene i hva det koster.
Har agenter allerede nøkler til systemene dine, så si hvilke.
Hver agent du kjører, har en nøkkel til noe — og du bør vite hvilken, og til hva.
Det begynner med et kart, kun med lesetilgang, over hver agent og tilgangene den har, med funnene sortert etter risiko.
