Jon Stewart spør hvem som bestemmer reglene for militær AI

Nøkkelinnsikt

• Rivaliseringen mellom Anthropic og OpenAI skjuler det egentlige spørsmålet: hvem bestemmer reglene for militær AI, selskapene, Pentagon eller folkevalgte?
• AI-modeller eskalerer mer aggressivt enn mennesker i krigsspill-simuleringer, muligens fordi treningsdataene inneholder mer forskning på opptrapping enn nedtrapping
• Maven Smart System reduserte en målutvelgelse fra 2 000 etterretningsoffiserer til 20, men ingen utenfor klassifiserte nettverk vet hvordan Claude oppfører seg i den konteksten
• Eksportkontroll på avanserte databrikker er det mest lovende reguleringsverktøyet fordi TSMCs fabrikker avhenger av teknologi fra bare tre land

Kort fortalt

Jon Stewart inviterer Dr. Sarah Shoker fra UC Berkeley (tidligere leder for geopolitikk-teamet hos OpenAI) og Paul Scharre fra CNAS, en forskningsorganisasjon for forsvar og sikkerhet, til en halvannen times samtale om hvordan AI brukes i det amerikanske militæret. Episoden dekker kontroversen mellom Anthropic og Pentagon, hvorfor begge AI-selskapenes røde linjer i praksis er like, og hvem som egentlig bør sette reglene for militær AI. Gjestene argumenterer for at verken selskapene eller Pentagon bør avgjøre dette alene, og peker på Kongressen, internasjonalt samarbeid og maskinvarekontroll som mulige veier fremover.

---

Slik bruker militæret AI i dag

Scharre deler militær AI i tre kategorier. Tradisjonell programvare har eksistert i flere tiår: autopilot i fly, radarsystemer, missiler som styrer seg selv mot målet etter oppskytning. Så kommer maskinlæring med smale bruksområder, som bildegjenkjenning (computer vision) for å analysere satellittbilder og droneopptak. Den nyeste kategorien er store språkmodeller, som er mer generelle og kan kombinere ulike typer data.

Rundt 95 prosent av militærets AI-bruk er hverdagslig, understreker Scharre. Logistikk, personaladministrasjon, byråkrati. Det er de siste fem prosentene, slagmarkskapasitetene, som har skapt kontroversen.

Shoker legger til at AI-modeller er flerbruksteknologi (dual-use): samme modell som hjelper noen med å skrive en e-post, kan hjelpe en analytiker med å behandle etterretningsdata. Militæret har ikke bestilt skreddersydde modeller. De bruker de samme verktøyene som resten av verden.

Maven Smart System og Claude

Kjernen i debatten er Maven Smart System (MSS), et AI-drevet beslutningsstøttesystem bygget av Palantir. Systemet samler data fra sensorer og satellitter, og Claude, Anthropics AI-modell, gjør dataene lesbare for menneskelige analytikere. Scharre gir et konkret eksempel: en etterretningsanalytiker kan spørre systemet på vanlig språk om å prioritere radarmål som allerede er truffet, vurdere skadeomfanget og finne mål som gjenstår. Systemet kobler alt sammen med passende våpentyper og tilgjengelige fly. Jobb som før krevde 2 000 etterretningsoffiserer, håndteres nå av rundt 20.

Shoker viser til rapporter fra Bloomberg og The Wall Street Journal om at produksjonen av 1 000 mål i Iran på én dag har blitt kreditert Maven Smart System. Til sammenligning identifiserte «shock and awe»-kampanjen i Irak i 2003 rundt 500 mål. Dobbelt så mange mål, på en brøkdel av tiden. Claude kom inn i systemet relativt nylig. Anthropic fikk tilgang til forsvarets klassifiserte nettverk i løpet av det siste året.

---

Kontroversen som ikke helt er en kontrovers

Stewart går rett til kjernen: Anthropic trakk to røde linjer. Ingen autonome våpensystemer, altså våpen som velger og angriper mål uten menneskelig inngripen. Ingen masseovervåkning av amerikanske borgere.

Shoker presiserer: Anthropics linje gjaldt autonome våpensystemer, ikke drapskjeden som helhet. Pentagon har allerede et direktiv (DoD-direktiv 3000.09) som krever «passende nivåer av menneskelig vurdering» i våpensystemer. I praksis sa Anthropic bare at modellene ikke er pålitelige nok til å operere uten et menneske i beslutningssløyfen.

Så hva er egentlig kontroversen? Shoker kaller den «litt mystifiserende». Forhandlingene skal ha brutt sammen delvis på grunn av personlighetskonflikter. Sammenligner man vilkårene til OpenAI og Anthropic, er de i praksis like. Begge selskapene har godtatt begge røde linjene.

Pengene i kontekst

Anthropics kontrakt med forsvarsministeriet var på rundt 200 millioner dollar. Mye penger for folk flest, men småpenger for Pentagon med sitt billionbudsjett. Heller ikke spesielt mye for AI-selskapene: OpenAI er på vei mot 25 milliarder dollar i årlige inntekter i 2026, Anthropic mot 19 milliarder. Kontrakten i seg selv er ikke det som truer Anthropic. Trusselen er myndighetenes mottrekk: å stemple selskapet som en risiko for forsyningskjeden, hindre andre forsvarsleverandører fra å bruke verktøyene deres, eller i ytterste konsekvens bruke Defense Production Act til å ta kontroll over AI-modellene.

Men forbrukerne har også makt. Mesteparten av inntektene til begge selskapene kommer fra individuelle abonnenter og utviklere, ikke fra forsvarskontrakter. Etter kontroversen skjøt Anthropic rett til topps i App Store-nedlastninger. Folk velger med lommeboka, og det gir dem reell innflytelse.

---

Risikoene: Eskalering, overtillit og smigrende AI

Kontraktstøvet legger seg, men de underliggende farene ved militær AI gjør det ikke.

AI eskalerer raskere enn mennesker

Stewart nevner filmen WarGames og spør om AI faktisk trapper opp konflikter. Shoker bekrefter: «Modellene har en tendens til å eskalere mer aggressivt enn mennesker ville gjort». Flere forskergrupper har gjenskapt funnene. Ingen vet helt hvorfor, men én teori peker på treningsdataene. Statsvitere har forsket langt mer på opptrapping enn nedtrapping i krig, og det preger materialet modellene er trent på. En skjevhet i forskningslitteraturen kan gi AI-modeller en farlig slagside.

Falsk trygghet

Stewart kaller det «AI-mot»: «Du får en merkelig selvtillit når du bruker AI. Du føler at du har et slags ufeilbarlig vesen bak deg». Omtrent som alkohol gir falsk mot på en bar. Shoker er enig. AI gir beslutninger et matematisk ferniss som får dem til å virke objektive, selv om modellene er statistiske verktøy som vil gi feil svar. Utfordringen er å bygge systemer der mennesker ikke slutter å tenke selv, noe Shoker beskriver som helt sentralt i militær AI-integrasjon.

Han trekker også inn utdanning som parallell: studier viser at studenter som bruker AI mye, blir dårligere på kritisk tenkning. Blir AI en krykke for militæret på samme måte?

Scharre mener faren er reell. Når mer militær makt legges inn i programvare og data, blir det vanskeligere for land å måle sin relative styrke. Et land kan overvurdere egen kapasitet fordi det tror AI-systemene er bedre enn de er. Historisk har slike feilberegninger ført til krig, som da landene i 1914 trodde konflikten ville være over før jul.

Når AI sier det du vil høre

Scharre tar opp smigringstendens (sycophancy): AI-modeller har en tendens til å gi brukeren det svaret den tror brukeren vil ha. I en sikkerhetskontekst betyr det at en etterretningsanalytiker kan få svar som bekrefter egne antagelser i stedet for å utfordre dem. Shoker legger til at ingen utenfor det militære vet hvilken «personlighet» Claude har i Maven Smart System, altså om den er stilt inn til å være nøytral eller medgjørlig.

---

Hvem setter reglene?

Scharre stiller spørsmålet rett ut: det handler ikke om hvorvidt AI skal brukes i militæret, men hvem som bestemmer reglene, og hva de skal være.

Pentagon vil sette reglene selv. AI-selskapene er ukomfortable med hvor teknologien kan ende. Og Stewart drar inn en tredje aktør som ingen av sidene snakker høyt om: Kongressen. Shoker påpeker at AI-selskaper allerede påvirker politikken gjennom lobbyvirksomhet og donasjoner. De kobler lavt regulert AI til konkurransen med Kina.

Scharre er mer optimistisk. Han har vært imponert over teknologikunnskapen hos flere kongressmedlemmer og deres staber. Kongressen kan holde høringer, kreve klassifiserte orienteringer, og bruke bevilgningsmyndigheten til å styre hvilke prosjekter som får midler. Pengene er det sterkeste verktøyet: det er Kongressen som kontrollerer militærbudsjettet. Demokratisk valgte representanter er trolig riktig instans til å sette reglene, mener han.

Stewart er skeptisk. AI-selskapene har mer penger enn noen annen bransje, og pengestrømmen til politiske kampanjer er enorm. Elon Musk alene brukte 350 millioner dollar. Har pengemakten allerede gjort Kongressen til en tilskuer?

Maskinvare som styringsverktøy

Scharre presenterer det han mener er den mest lovende veien til regulering: kontroll over maskinvaren. De mest avanserte AI-brikkene lages på ett sted på jorden: TSMCs fabrikker i Taiwan. Og disse fabrikkene er avhengige av teknologi fra bare tre land: Japan, Nederland og USA.

Dette gir et smalt kontrollpunkt. Vilkår for kjøp av avanserte brikker kan knyttes til krav om nasjonal regulering, omtrent som det internasjonale systemet for anriket uran. Biden-administrasjonen forsøkte dette med den såkalte spredningsregelen (diffusion rule), et globalt trinnvis system for eksportkontroll. Trump-administrasjonen skrotet den.

Shoker trekker frem et annet lyspunkt: den politiske erklæringen om militær bruk av AI og autonomi, som rundt 60 land signerte under Biden-administrasjonen. Erklæringen er frivillig, men den satte internasjonale humanitærrettslige normer i sentrum. Utfordringen er at over 90 stater har diskutert regulering av dødelige autonome våpensystemer i FN-regi i over ti år, uten å komme til enighet.

---

Hvordan tolke disse påstandene

Samtalen er velbalansert, men flere aspekter fortjener et kritisk blikk.

Hva vi faktisk vet

Diskusjonen bygger på offentlig rapportering fra Bloomberg, The Wall Street Journal og Washington Post. Begge ekspertene innrømmer at detaljene i forsvarskontraktene er ukjente. Shoker hadde ikke engang tilgang til kontraktsdetaljer som ansatt hos OpenAI. Samtalen beveger seg derfor ofte mellom det kjente og det spekulerte, noe begge gjestene er ærlige om.

Symmetrien mellom selskapene

Shokers poeng om at Anthropics og OpenAIs vilkår i praksis er like, er viktig men vanskelig å verifisere fullt ut. Offentligheten har stemplet Anthropic som «den ansvarlige» og OpenAI som «den grådige». Episoden utfordrer denne forenklingen uten å frikjenne noen av partene.

Kongressens reelle kapasitet

Både Shoker og Scharre peker på Kongressen som den riktige instansen for å sette regler, men episoden behandler ikke de strukturelle hindringene i dybden. AI-selskapene bruker rekordstore summer på lobbyvirksomhet, og lovgivningsprosessen i Washington har vært treg på teknologiområdet i årevis. Verken dataprivacy, sosiale medier eller AI-regulering har fått gjennom føderal lovgivning, til tross for årevis med diskusjoner.

Lyspunktet i konflikten

Scharre har et overraskende poeng: konflikten mellom Anthropic og Pentagon er kanskje det beste som kunne skjedd for offentlig debatt. Normalt ville vilkårene i en slik kontrakt vært helt ukjente. Det er bare fordi forholdet gikk i stykker at vi i det hele tatt vet noe om hvordan AI brukes i militære operasjoner. Rotet er prisen vi betaler for innsyn. Shoker underbygger poenget: selv som ansatt i et AI-selskap hadde hun ikke tilgang til kontraktsdetaljer med Pentagon.

---

Praktiske implikasjoner

For alle som bruker AI daglig

Stewarts observasjon om «AI-mot» gjelder langt utover militæret. Bruker du AI-verktøy, har du sannsynligvis kjent det selv: en trygghet på at svaret er riktig, uten å sjekke. Modellene har dessuten en tendens til å gi deg svaret du vil ha. Jo mer vi stoler på verktøyene, jo viktigere blir det å tenke selv. Det gjelder enten du planlegger en ferie eller analyserer etterretningsdata.

For dem som følger AI-politikk

Den offentlige debatten om militær AI fokuserer ofte på feil ting. Dramaet mellom Anthropic og OpenAI er mindre viktig enn de underliggende spørsmålene: hvem setter reglene, hvem fører tilsyn, og hvilke mekanismer finnes for å holde aktørene ansvarlige? Maskinvarekontroll peker seg ut som det mest konkrete reguleringsverktøyet, men det krever enighet mellom minst tre land. Som Scharre oppsummerer det: «Disse beslutningene er for viktige til å overlates til noen av disse aktørene alene.»

---

Ordliste

---

Kilder og ressurser