AI-angrep vil snart gå i maskinhastighet

Nøkkelinnsikt
- Cybersikkerhet er på vei inn i en hastighetskrig der den som automatiserer først får overtaket.
- Menneskelig dømmekraft trengs fortsatt for strategi og grenser, men mennesker kan ikke stå i hver forsvarssløyfe når angrep presses ned mot sekunder.
- AI-agenter gjør ikke bare kode verdifull. De gjør også prompts, hukommelse og intern arbeidslogikk til attraktive mål.
- Mandias advarsel er samtidig et salgsargument for agent-mot-agent-forsvar.
Dette er et AI-generert sammendrag. Kildevideoen kan inneholde demonstrasjoner, visuelt innhold og ytterligere kontekst.
Kort fortalt
Kevin Mandia, grunnlegger av Mandiant og tidligere FireEye-sjef, mener AI er i ferd med å endre cybersikkerhet på én helt konkret måte: angrepene vil øke i fart raskere enn forsvarssiden klarer å følge manuelt. I et kort intervju hos Bloomberg Technology sier han at AI-agenter i løpet av mindre enn to år vil bli et sentralt offensivt verktøy i cyberdomenet, fordi de kan tenke, lære og handle med full hukommelse i maskinhastighet.
Det er viktig fordi dette ikke bare handler om litt mer effektivitet. Det handler om et skifte i selve tidsenheten sikkerhetsarbeid foregår i. Hvis sårbarheter kan oppdages på sekunder i stedet for dager eller minutter, vil et forsvar som fortsatt venter på menneskelig gjennomgang rett og slett være for tregt.
Les også:
Utgangspunktet: kildekodelekkasjer betyr noe annet i agentæraen
Klippet starter midt i en diskusjon om en hendelse der kildekode ble eksponert på grunn av brukerfeil, ikke et direkte angrep. Mandias første poeng er nøkternt: å miste kildekode er pinlig, men det er ikke det samme som å miste kundedata, legitimasjon eller modellvekter. Han sier eksplisitt at ingen av disse verdiene gikk tapt i saken de diskuterer.
Hvorfor trekker han frem modellvekter? Fordi det verdifulle laget i et agentbasert system ikke bare er selve kodebasen. Det er også hukommelsen, instruksene og den interne logikken som avgjør hvordan agentene bruker bedriftens data. Mandia sier at agenter har "total recall on your data and how you purpose those agents". Dermed blir en lekkasje mer alvorlig enn en vanlig kodeglipp, fordi angripere kan studere hvordan systemet fungerer og lete etter svakheter som prompt injection, altså forsøk på å lure AI-en med tekst som får den til å ignorere sine egentlige instrukser.
Konklusjonen hans er samtidig pragmatisk. Flere øyne på koden kan også gi raskere feilretting. Hvis millioner av mennesker plutselig kan inspisere eksponert kode, vil noen av dem oppdage svakheter før kriminelle gjør det. Resultatet blir at oppdateringer og feilrettinger må sendes ut raskere enn før.
Hovedpåstanden: angrepssiden får AI først
Mandias sentrale argument er at alle store teknologiskifter følger samme mønster: ondsinnet bruk kommer raskere enn nyttig bruk. Han bruker internett som analogi. Da penger, informasjon og koordinering kunne flyte globalt, fulgte kriminalitet og spionasje samme ruter.
Spådommen hans er skarp. I løpet av under to år vil AI-agenter "become the offense in the cyber domain". Det høres dramatisk ut, men begrunnelsen er konkret: fart, hukommelse og automatisering. En angriper trenger ikke lenger manuelt gå gjennom rekognosering, testing, utnyttelse og oppfølging steg for steg. Agenter kan kjøre disse løkkene kontinuerlig.
Det endrer hva som teller som responstid. Sikkerhetsteam tenker vanligvis i varsler, saker i kø, eskaleringer og tidsrom der systemer kan oppdateres. Mandia sier i praksis at kampen flytter seg under dette nivået. Når sårbarhetsjakt skjer på sekunder i stedet for dager eller minutter, blir den gamle arbeidsflyten ikke bare treg, men feil dimensjonert for problemet.
Hvorfor mennesker ikke kan stå i hver forsvarssløyfe
Den skarpeste setningen i intervjuet handler ikke om angriperne, men om forsvarerne. Mandia sier at forsvaret må bli autonomt fordi det ikke kan ha mennesker som må godkjenne hvert steg underveis.
Det betyr ikke at mennesker forsvinner fra cybersikkerhet. Rollen endres. Mennesker blir viktige i strategi, regler, terskler, godkjenning og analyse etter hendelser. Men mennesker kan ikke godkjenne hver lille defensive handling dersom en angriper styrt av AI-agenter allerede beveger seg i maskinhastighet.
Her oppstår en interessant spenning mot resten av AI-debatten. I mange forretningsprosesser er menneskelig kontroll underveis helt riktig, fordi menneskelig dømmekraft hindrer stille feil. Men i aktivt cyberforsvar mener Mandia at et menneske i hver taktiske kontrollsløyfe blir en sårbarhet i seg selv. Hvis systemet stopper for å vente på godkjenning mens angriperagenten fortsetter, blir pausen selve svakheten.
Det er kjernen i budskapet. Menneskelig tilsyn betyr fortsatt noe. Menneskelig ventetid skalerer ikke.
Forretningslogikken bak advarselen
Mandia avslutter med en kort beskrivelse av hva Armadin bygger: "all offense all the time". Poenget er ikke å angripe kunder, men å bruke offensive agenter til å trene defensive agenter, slik at de gode finner nye og uvanlige angrepsveier før de dårlige gjør det.
Det er viktig fordi det peker mot neste fase i cybersikkerhet: agent mot agent. Forsvarssiden vil trenge systemer som kontinuerlig simulerer angrep, leter etter svakheter og automatisk oppdaterer forsvarsposisjonen. Statiske revisjoner og årlige sikkerhetsgjennomganger vil ikke være nok hvis både oppdagelse og utnyttelse blir automatisert.
Det forklarer også hvorfor sikkerhetsbransjen ikke bare er redd, men også offensiv. Hvis Mandia har rett, åpner det et stort marked for autonomt forsvar, maskinbasert angrepssimulering og respons i maskinhastighet.
Hva du bør følge med på
Intervjuet er kort, og derfor etterlater det noen åpne spørsmål. Mandia forklarer ikke hvordan autonomt forsvar skal unngå overreaksjoner, ødelagte arbeidsflyter eller for mange falske positiver i stor skala. Han sier heller lite om hva som skjer når begge sider bruker like modeller og like typer infrastruktur.
Likevel er retningen tydelig. Cybersikkerhet er på vei fra menneskehastighet til maskinhastighet. De organisasjonene som lykkes best, blir neppe de med flest varsler eller størst team. Det blir de som er tydelige på hvilke vurderinger som må forbli menneskelige, og hvilke reaksjoner som må delegeres til maskiner.
For lesere utenfor sikkerhetsfeltet er hovedpoenget enkelt: AI-agenter endrer ikke bare hvordan selskaper bygger programvare eller automatiserer kontorarbeid. De endrer også balansen mellom angriperfart og forsvarsfart. Og i cybersikkerhet avgjør fart ofte utfallet.
Praktiske implikasjoner
- Sikkerhetsteam bør anta at manuell gjennomgang blir en flaskehals i deler av cyberforsvaret.
- Selskaper som bruker AI-agenter bør behandle instruksjoner til AI-en, hukommelse og modellatferd som høyt verdsatte eiendeler, ikke bare støtteinfrastruktur.
- Ledergrupper bør vente å se flere sikkerhetsprodukter bygget for agent-mot-agent-forsvar.
Ordliste
| Begrep | Forklaring |
|---|---|
| AI-agent | Programvare som kan planlegge, handle og tilpasse seg mot et mål uten å vente på et menneske for hvert steg. |
| Prompt injection | En måte å manipulere et AI-system på ved å gi det input som overstyrer eller vrir instruksjonene det følger. |
| Modellvekter | De interne tallverdiene i en trent AI-modell som styrer hvordan den lager svar og vurderinger. |
| Autonomt forsvar | Sikkerhetssystemer som oppdager og reagerer automatisk på trusler i stedet for å vente på manuell godkjenning. |
| Maskinhastighet | Farten programvare kan jobbe i. Her betyr det at systemer kan teste, skanne og handle langt raskere enn mennesker rekker å reagere. |
| Spionasje | Hemmelig innhenting av sensitiv informasjon, ofte utført av stater eller statstilknyttede aktører. |
Kilder og ressurser
Vil du vite mer? Se hele videoen på YouTube →