Nøkkelinnsikt

• Rivaliseringen mellom Anthropic og OpenAI skjuler det egentlige spørsmålet: hvem bestemmer reglene for militær AI, selskapene, Pentagon eller folkevalgte?
• AI-modeller eskalerer mer aggressivt enn mennesker i krigsspill-simuleringer, muligens fordi treningsdataene inneholder mer forskning på opptrapping enn nedtrapping
• Maven Smart System reduserte en målutvelgelse fra 2 000 etterretningsoffiserer til 20, men ingen utenfor klassifiserte nettverk vet hvordan Claude oppfører seg i den konteksten
• Eksportkontroll på avanserte databrikker er det mest lovende reguleringsverktøyet fordi TSMCs fabrikker avhenger av teknologi fra bare tre land

Kort fortalt

Jon Stewart inviterer Dr. Sarah Shoker fra UC Berkeley (tidligere leder for geopolitikk-teamet hos OpenAI) og Paul Scharre fra CNAS, en forskningsorganisasjon for forsvar og sikkerhet, til en halvannen times samtale om hvordan AI brukes i det amerikanske militæret. Episoden dekker kontroversen mellom Anthropic og Pentagon, hvorfor begge AI-selskapenes røde linjer i praksis er like, og hvem som egentlig bør sette reglene for militær AI. Gjestene argumenterer for at verken selskapene eller Pentagon bør avgjøre dette alene, og peker på Kongressen, internasjonalt samarbeid og maskinvarekontroll som mulige veier fremover.

---

Slik bruker militæret AI i dag

Scharre beskriver tre typer AI i militært bruk. Den første er tradisjonell programvare som har eksistert i flere tiår, som autopilot i fly og radarsystemer. Den andre er maskinlæringssystemer med smale bruksområder, som bildegjenkjenning (computer vision) for å analysere satellittbilder og droneopptak. Den tredje er store språkmodeller, som er nyere og mer generelle.

Det meste av militærets AI-bruk er hverdagslig, understreker Scharre. Logistikk, personaladministrasjon og andre administrative oppgaver utgjør rundt 95 prosent. Men det er den gjenværende andelen, slagmarkskapasitetene, som har skapt kontroversen.

Shoker forklarer at AI-modeller er flerbruksteknologi (dual-use), altså teknologi som kan brukes til både sivile og militære formål. De er ikke utviklet spesifikt for militæret, men militæret har vært en ivrig bruker det siste året. Hun understreker også at AI er mer enn bare store språkmodeller. Militæret bruker en rekke AI-teknikker, som maskinell bildegjenkjenning for ansiktsgjenkjenning og objektidentifikasjon.

Maven Smart System og Claude

Kjernen i den aktuelle debatten er Maven Smart System (MSS), et AI-drevet beslutningsstøttesystem bygget av Palantir. Systemet samler data fra sensorer og satellitter, og Claude, Anthropics AI-modell, gjør disse dataene lesbare for menneskelige analytikere. Scharre forklarer konkret hvordan dette fungerer. En etterretningsanalytiker kan spørre systemet på vanlig språk om å prioritere radarmål som allerede er truffet, vurdere skadeomfanget og identifisere mål som gjenstår. Systemet kobler alt sammen med passende våpentyper og tilgjengelige fly. Arbeid som tidligere krevde at mennesker manuelt gikk gjennom enorme mengder data, gjøres nå på sekunder.

Ifølge Shoker har systemet blitt brukt i målutvelgelse. Hun viser til rapporter fra Bloomberg og The Wall Street Journal om at produksjonen av 1 000 mål i Iran på én dag har blitt kreditert Maven Smart System. Til sammenligning identifiserte «shock and awe»-kampanjen i Irak i 2003 rundt 500 mål. CENTCOM hevder at de identifiserte dobbelt så mange mål som i 2003. Integrasjonen av Claude i systemet er relativt ny. Anthropic fikk først tilgang til forsvarets klassifiserte nettverk i løpet av det siste året, etter å ha gått gjennom de nødvendige sertifiseringene.

---

Kontroversen som ikke helt er en kontrovers

Stewart går rett til kjernen: Anthropic trakk to røde linjer. Selskapet ville ikke at Claude skulle brukes i autonome våpensystemer, altså våpen som kan velge og angripe mål uten menneskelig inngripen. De ville heller ikke at teknologien skulle brukes til masseovervåkning av amerikanske borgere.

Shoker gjør en viktig presisering. Anthropics linje gjaldt autonome våpensystemer, ikke drapskjeden som helhet. Pentagon har allerede et direktiv (DoD-direktiv 3000.09) som krever «passende nivåer av menneskelig vurdering» i våpensystemer. Anthropics posisjon var i praksis at modellene ikke er pålitelige nok til å operere uten et menneske i beslutningssløyfen.

Så hva er egentlig kontroversen? Shoker peker på at den er «litt mystifiserende». Kontraktsforhandlingene skal ha brutt sammen delvis på grunn av personlighetskonflikter. Og når man sammenligner vilkårene til OpenAI og Anthropic, er de i praksis like. Begge selskapene har godtatt begge røde linjene.

Pengene i kontekst

Anthropics kontrakt med forsvarsministeriet var på rundt 200 millioner dollar. Det høres enormt ut for folk flest, men som Scharre sier: det er ikke mye penger for Pentagon med sitt billionbudsjett, og heller ikke for AI-selskaper med milliardinntekter. OpenAI er på vei mot 25 milliarder dollar i årlige inntekter i 2026, Anthropic mot 19 milliarder. Den direkte kostnaden ved å miste kontrakten er ikke det som truer Anthropic. Den større risikoen er myndighetenes mottrekk: å stemple selskapet som en en risiko for forsyningskjeden, hindre andre forsvarsleverandører fra å bruke deres verktøy, eller i ytterste konsekvens bruke Defense Production Act til å ta kontroll over AI-modellene.

Shoker legger til et perspektiv om forbrukermakt. Majoriteten av inntektene til begge selskapene kommer fra individuelle abonnenter og utviklere, ikke fra forsvarskontrakter. Etter kontroversen skjøt Anthropic rett til topps i App Store-nedlastninger. Forbrukerne velger med lommeboka, og det gir dem en form for innflytelse.

---

Risikoene: Eskalering, overtillit og smigrende AI

Samtalen går dypere inn i de mindre åpenbare farene ved militær AI.

AI eskalerer raskere enn mennesker

Stewart nevner filmen WarGames og spør om AI faktisk har en tendens til å eskalere konflikter. Shoker svarer bekreftende: «Modellene har en tendens til å eskalere mer aggressivt enn mennesker ville gjort». Flere forskningsgrupper ved akademiske institusjoner har gjenskapt funnene. Ingen vet helt hvorfor, men én teori peker på treningsdataene. Statsvitere har forsket mer på opptrapping enn på nedtrapping i krig, og det preger materialet modellene er trent på. En skjevhet i forskningslitteraturen kan altså gi AI-modeller en farlig slagside.

Falsk trygghet

Stewart beskriver noe han kaller «AI-mot»: «Du får en merkelig selvtillit når du bruker AI. Du føler at du har et slags ufeilbarlig vesen bak deg». Han sammenligner det med alkohol som gir falsk mot på en bar. Shoker er enig i at dette er et reelt fenomen. AI gir beslutninger et matematisk ferniss som får dem til å virke objektive, selv om modellene er statistiske prediksjonsverktøy som uunngåelig vil gi feil svar. Utfordringen er å bygge systemer der mennesker ikke oppgir sin kritiske tenkning, noe Shoker beskriver som en helt sentral faktor i militær AI-integrasjon.

Stewart trekker også inn utdanning som parallell: studier viser at studenter som bruker AI mye, blir dårligere på kritisk tenkning og selvstendig resonnering. Blir AI en krykke for militæret på samme måte?

I militær sammenheng kan dette bli farlig. Scharre peker på at når mer militær makt legges inn i programvare og data, blir det vanskeligere for land å måle sin relative styrke. Land kan overvurdere egen kapasitet fordi de tror AI-systemene er bedre enn de er. Historisk har slike feilberegninger ført til krig, som da landene i 1914 trodde konflikten ville være over før jul.

Smigringstendens i nasjonal sikkerhet

Scharre tar opp et annet problem: AI-modellenes smigringstendens (sycophancy), altså tendensen til å fortelle brukeren det den tror brukeren vil høre. I en nasjonal sikkerhetskontekst kan dette bety at en etterretningsanalytiker får svar som bekrefter egne antagelser i stedet for nøytral informasjon. Shoker legger til at ingen utenfor det militære vet hvilken «personlighet» Claude har i Maven Smart System, om den er kalibrert til å være nøytral eller ettergivende.

---

Hvem setter reglene?

Scharre formulerer det sentrale spørsmålet tydelig: spørsmålet er ikke om AI skal brukes i militæret, men hvem som bestemmer reglene, og hva de skal være.

Pentagon mener de skal sette reglene selv. AI-selskapene og mange av forskerne der har ubehag med hvor teknologien kan ende. Stewart spør om Kongressen har noen rolle. Shoker svarer forsiktig, men peker på at AI-selskaper allerede påvirker utenrikspolitikken gjennom lobbyvirksomhet og politiske donasjoner. De kobler lavt regulert AI til konkurransen med Kina.

Scharre er mer optimistisk om Kongressens muligheter. Han har selv vært imponert over teknologikunnskapen hos mange kongressmedlemmer og deres staber. Kongressen kan holde høringer, kreve klassifiserte orienteringer, og bruke bevilgningsmyndigheten til å styre hvilke prosjekter som får midler. Pengene er det sterkeste verktøyet: det er Kongressen som bevilger midler til militæret og etterretningssamfunnet. Han mener at demokratisk valgte representanter trolig er riktig instans til å sette reglene.

Stewart er mer skeptisk. Han peker på at AI-selskapene har mer penger enn noen annen bransje, og at pengestrømmen fra teknologisektoren til politiske kampanjer er enorm. Elon Musk alene brukte 350 millioner dollar på politiske kampanjer. Spørsmålet er om denne pengemakten allerede har gjort Kongressen til en tilskuer.

Maskinvare som styringsverktøy

Scharre presenterer det han mener er den mest lovende veien til regulering: kontroll over maskinvaren. De mest avanserte AI-brikkene lages på ett sted på jorden: TSMCs fabrikker i Taiwan. Og disse fabrikkene er avhengige av teknologi fra bare tre land: Japan, Nederland og USA.

Dette gir et smalt kontrollpunkt. Vilkår for kjøp av avanserte brikker kan knyttes til krav om nasjonal regulering, omtrent som det internasjonale systemet for anriket uran. Biden-administrasjonen forsøkte dette med den såkalte spredningsregelen (diffusion rule), et globalt trinnvis system for eksportkontroll. Trump-administrasjonen skrotet den.

Shoker trekker frem et annet lyspunkt: den politiske erklæringen om militær bruk av AI og autonomi, som rundt 60 land signerte under Biden-administrasjonen. Erklæringen er frivillig, men den satte internasjonale humanitærrettslige normer i sentrum. Utfordringen er at over 90 stater har diskutert regulering av dødelige autonome våpensystemer i FN-regi i over ti år, uten å komme til enighet.

---

Hvordan tolke disse påstandene

Samtalen presenterer et velbalansert bilde, men flere aspekter fortjener grundigere vurdering.

Hva vi faktisk vet

Mye av diskusjonen bygger på offentlig tilgjengelig rapportering fra Bloomberg, The Wall Street Journal og Washington Post. Begge ekspertene er tydelige på at detaljene i forsvarskontraktene er ukjente. Shoker innrømmer at hun ikke engang som ansatt hadde tilgang til kontraktsdetaljer. Diskusjonen beveger seg derfor ofte mellom det kjente og det spekulerte, noe begge gjestene er ærlige om.

Symmetrien mellom selskapene

Shokers poeng om at Anthropics og OpenAIs vilkår i praksis er like er viktig, men vanskelig å verifisere fullt ut. Den offentlige oppfatningen har vært at Anthropic er «den ansvarlige» og OpenAI «den grådige». Sendingen utfordrer denne forenklingen uten å frikjenne noen av partene.

Kongressens reelle kapasitet

Både Shoker og Scharre peker på Kongressen som den riktige instansen for å sette regler, men episoden behandler ikke de strukturelle hindringene i dybden. AI-selskapene bruker rekordstore summer på lobbyvirksomhet, og lovgivningsprosessen i Washington har vært treg på teknologiområdet i årevis. Verken dataprivacy, sosiale medier eller AI-regulering har fått gjennom føderal lovgivning, til tross for årevis med diskusjoner.

Lyspunktet i konflikten

Scharre har et interessant poeng om at konflikten mellom Anthropic og Pentagon faktisk er det beste som kunne skjedd for offentlig debatt. Normalt ville vilkårene i en slik kontrakt vært helt ukjente. Det er bare fordi forholdet gikk i stykker at vi i det hele tatt vet noe om hvordan AI brukes i militære operasjoner. Rotet er prisen vi betaler for innsyn. Shoker underbygger poenget: selv som ansatt i et AI-selskap hadde hun ikke tilgang til kontraktsdetaljer med Pentagon.

---

Praktiske implikasjoner

For alle som bruker AI daglig

Stewarts observasjon om «AI-mot» gjelder ikke bare militæret. Enhver som bruker AI-verktøy, bør være bevisst på tendensen til å stole blindt på maskinens svar. Modellene har også en innebygd smigringstendens: de gir deg gjerne svaret du vil høre. Kritisk vurdering blir viktigere jo mer vi stoler på verktøyene. Det gjelder enten du planlegger en ferie eller analyserer etterretningsdata.

For dem som følger AI-politikk

Sendingen viser at den offentlige debatten om militær AI ofte fokuserer på feil ting. Dramaet mellom Anthropic og OpenAI er mindre viktig enn de underliggende spørsmålene: hvem setter reglene, hvem fører tilsyn, og hvilke mekanismer finnes for å holde aktørene ansvarlige? Maskinvarekontroll peker seg ut som det mest konkrete reguleringsverktøyet, men det krever internasjonal enighet mellom minst tre land. Som Scharre oppsummerer det: «Disse beslutningene er for viktige til å overlates til noen av disse aktørene alene.»

---

Ordliste

---

Kilder og ressurser