# Sikkerhet for AI-agentene du kjører

Hver AI-agent som kan lese en innboks, søke i en database eller kalle et API, er
en ny dør inn i bedriften, og den åpnes for alle som skriver de rette ordene til
den. De fleste bedrifter har allerede flere slike dører enn de vet om:
assistenten noen koblet til innboksen sin, chatverktøyet med nøkkel til den
delte disken, agenten en leverandør slo på. Vi kartlegger dørene, låser hver av
dem til det agenten trenger, loggfører det som passerer, og tester at låsene
holder.

## Kartlagt: hver agent og hva den når

Du kan ikke beskytte en dør du ikke vet finnes. Vi fører opp hver agent i bruk —
både dem IT har godkjent, og dem de ansatte har koblet til på egen hånd — med
tilgangene den har, verktøyene den kan kalle, og dataene de gir tilgang til.
Kartet er et dokument som ligger sammen med konfigurasjonen din og oppdateres
hver gang en agent legges til — ikke et lysbilde laget én gang til et møte — og
det er det første en revisor, en stor kunde eller et forsikringsselskap vil be
om.

## Låst: hver agent med minste privilegium

Hver agent får sin egen identitet og ikke flere
[privilegier](/nb/glossary/#privilege) enn jobben krever: roller i stedet for
delte kontoer ([RBAC](/nb/glossary/#rbac)), kun lesetilgang som standard, og
skrivetilgang bare gjennom avgrensede verktøy med grenser for hvor ofte og hvor
mye. [Hemmeligheter](/nb/glossary/#secret) deles opp per agent og per vert,
limes aldri inn i en prompt og kan roteres uten kodeendringer. Tekst en agent
leser — en e-post, en nettside, et dokument — behandles som data, aldri som
instrukser, så en melding som sier «ignorer reglene dine», har ingen virkning.
Kontrollene feiler lukket: når en sjekk ikke kan kjøres, avvises handlingen.

## Loggført: hva den gjorde, og for hvem

Hvert verktøykall [logges](/nb/glossary/#logging) med hvem det ble gjort for,
hva som ble bedt om, hva det berørte og hva som kom tilbake, og loggen
oppbevares der agenten selv ikke kan endre den. [Varsler](/nb/glossary/#alert)
utløses av det uvanlige — en plutselig bølge av oppslag, et verktøy brukt
klokken tre om natten, tilgang til data agenten aldri før har trengt. Skjer noe
likevel, er det loggen som gjør en [hendelse](/nb/glossary/#incident) til en
tidslinje i stedet for gjetting.

## En lås skal testes, ikke tas på tro

En kontroll som aldri er testet, er en kontroll du håper virker. Vi har funnet
tre beskyttelser mot brute force-angrep på én server som aldri hadde virket,
selv om hver av dem meldte at alt var i orden. Derfor blir hver kontroll vi
installerer, bevist ved hver kjøring: utestengingen prøves mot en testadresse,
regelen leses tilbake, et injeksjonsangrep forsøkes med vilje. Har en lekkasje
allerede skjedd, demmer vi den inn, roterer det som ble eksponert, og legger inn
en regel i repoet som hindrer at den samme lekkasjen skjer igjen.

## Arbeidet bak det

Vi har gjort dette arbeidet på servere, identitetssystemer og plattformer. Vi
[skrev 1 000 RBAC-regler på tvers av Linux- og databaseservere](/nb/portfolio/wrote-1000-rbac-rules-to-secure-linux-servers/),
[ledet tilgangsstyringen på tvers av M365 og single sign-on](/nb/portfolio/led-access-management-across-m365-and-sso/),
og [drev et kontinuerlig program for sikkerhetsskanning med 21 skriftlige revisjoner](/nb/portfolio/ran-a-continuous-security-scanning-programme/).
Vi [delte opp hver driftshemmelighet per vert](/nb/portfolio/split-every-operational-secret-per-host/),
[la til en forhåndssjekk av hemmeligheter på ett sekund](/nb/portfolio/added-a-one-second-preflight-for-secrets/),
[fant tre låser på døren, og ingen av dem var låst](/nb/portfolio/three-locks-on-the-door-none-of-them-locked/),
og [beviste at utestengingen av inntrengere virker ved hver kjøring](/nb/portfolio/proved-the-intrusion-ban-works-every-run/).
Vi [bygde hastighetsbegrensning som feiler lukket](/nb/portfolio/built-fail-closed-rate-limiting-and-anti-abuse/)
og [skrev en avgrensningsregel etter en lekkasje](/nb/portfolio/wrote-a-scope-rule-after-a-credential-leak/).
Hvordan vi holder orden i eget hus, står på [slik arbeider vi sikkert](/nb/security/).

## Slik foregår et oppdrag

Det begynner med en gjennomgang med kun lesetilgang. Vi kartlegger hver agent,
tilgangene den har og hva den kan nå med dem, og gir deg funnene sortert etter
risiko, hvert med begrunnelse og forslag til løsning. Rettelsene gjøres deretter
i konfigurasjonen og repoet ditt og går gjennom din egen kodegjennomgang, med
sjekker som slår ut når en agent får tilgang utover det kartet viser. Du
beholder kartet, loggen og testene — det du gir en revisor eller et
forsikringsselskap — og [dataene agentene leser](/nb/ai-data/), kan
tilgangsstyres på samme måte. Det kjøpes som resten av arbeidet vårt, på
vilkårene i [hva det koster](/nb/what-it-costs/).

Har agenter allerede nøkler til systemene dine, så
[si hvilke](/nb/contact/) *(vi svarer samme dag)*.

<https://engineer.company/nb/ai-security/>
