Anthropics Project Glasswing skal sikre verdens kode

Nøkkelinnsikt

• Anthropic lot sikkerhetseksperter bruke sin nye AI-modell til å finne feil i programvare før den ble sluppet til alle. Det er det stikk motsatte av Facebooks gamle motto: beveg deg raskt og bryt ting.
• En feil som hadde ligget skjult i 27 år i et mye brukt operativsystem ble funnet av AI-modellen. Det viser at AI kan oppdage ting som selv erfarne sikkerhetseksperter overser.
• 100 millioner dollar i gratis modelltilgang betyr at Anthropic betaler for at Mythos brukes til forsvar. De tjener ikke penger på dette direkte, men bygger tillit.
• Mythos-lekkasjen skjedde 30. mars. Den offisielle lanseringen 7. april bærer preg av det. Anthropic fremskyndet kunngjøringen etter at lekkasjen avslørte prosjektet før de var klare.

Kort fortalt

Anthropic har offisielt lansert Project Glasswing. Det er et samarbeid mellom 12 store selskaper, blant dem AWS, Apple, Google, Microsoft, NVIDIA, Cisco, Broadcom, CrowdStrike, JPMorganChase, Linux Foundation og Palo Alto Networks. Målet er å finne og tette kritiske sikkerhetshull i programvare før angripere rekker det. Kjernen i prosjektet er Claude Mythos Preview, en upublisert toppmodell som Anthropic hevder er blitt så god på kode at den kan måle seg med profesjonelle sikkerhetsforskere. Anthropic bidrar med 100 millioner dollar i gratis modelltilgang til deltakerne, pluss 2,5 millioner dollar til Linux Foundation og 1,5 millioner dollar til Apache Software Foundation.

Hva er Claude Mythos Preview?

Mythos er en generell toppmodell som Anthropic ikke har trent spesielt for cybersikkerhet. Den ble usedvanlig god på sikkerhet som en sideeffekt av å bli svært god på kode. Som en av talerne i lanseringsvideoen forklarer: modellen ble trent til å skrive god kode, og det viste seg at det å skrive god kode også betyr å være god til å finne og utnytte sikkerhetshull i kode.

Tallene støtter påstanden. På Mythos CyberGym, Anthropics egen sikkerhetstest, scorer Mythos Preview 83,1 prosent mot Claude Opus 4.6 sine 66,6 prosent. Det betyr at Mythos løser fire av fem sikkerhetsoppgaver som den forrige toppmodellen bare klarte to av tre. På SWE-bench Verified, en mye brukt test for å måle hvor godt AI-modeller kan fikse feil i ekte programvare, scorer den 93,9 prosent mot 80,8 prosent. For å sette det i perspektiv: forskjellen mellom 80 og 94 prosent er som å gå fra å stryke på én av fem eksamener til å bestå nesten alle.

Det som gjør Mythos særlig verdifull for sikkerhetsarbeid, er evnen til å kjede sårbarheter sammen: finne to, tre, av og til fem separate feil som hver ser ufarlig ut alene, og kombinere dem til et virkningsfullt angrep. Det er nøyaktig slik dyktige angripere jobber, og det krever grundig analyse av all koden i et helt programvareprosjekt — den typen arbeid som tidligere tok en erfaren sikkerhetsforsker en hel arbeidsdag.

Anthropic slipper ikke Mythos til allmennheten. Som en av talerne sier direkte: «We won't be releasing this model widely.» Den er tilgjengelig for Glasswing-partnere via Claude API, Amazon Bedrock, Google Cloud Vertex AI og Microsoft Azure AI Foundry. Prisen for å bruke Mythos via API (et programmeringsgrensesnitt) er 25 dollar per million input-token og 125 dollar per million output-token. Token er måleenheten for tekst og kode som sendes til og fra modellen. Anthropic har lovet å publisere en offentlig rapport om Glasswing-funnene innen 90 dager.

Hva de fant

Sammen med Glasswing-partnerne har Anthropic allerede skannet åpen kildekode-programvare på tvers av alle større plattformer. Resultatene er oppsiktsvekkende. En sikkerhetsforsker i videoen oppsummerer opplevelsen enkelt: «I found more bugs in the last couple of weeks than I found in the rest of my life combined.»

Det mest konkrete eksempelet er en 27 år gammel feil i OpenBSD, et operativsystem som brukes i alt fra banker til servere som holder internett i gang. Feilen gjorde det mulig for hvem som helst å krasje en hvilken som helst OpenBSD-server ved å sende en liten, spesielt utformet mengde data over nettverket. Den hadde ligget uoppdaget i kode som erfarne eksperter hadde gjennomgått i nesten tre tiår.

På Linux fant teamet flere alvorlige feil som lar en vanlig bruker uten spesielle tillatelser skaffe seg full administratortilgang, bare ved å kjøre en standard systemfil på sin egen maskin.

En 16 år gammel sårbarhet ble også funnet i FFmpeg, det åpne kildekode-verktøyet for multimedia som er innebygd i utallige apper og tjenester verden over.

Alle feilene ble varslet ansvarlig til de som vedlikeholder programvaren, før de ble kjent for allmennheten. Oppdateringene er sluppet. De som kjører oppdaterte versjoner av disse systemene, er ikke lenger sårbare.

Samarbeidet og pengene

Project Glasswing har nå 12 grunnleggende partnere og mer enn 40 organisasjoner totalt. Grunnpartnerne, listet i videobeskrivelsen, er: Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA og Palo Alto Networks.

Pengebruken viser hvor alvorlig Anthropic tar dette. 100 millioner dollar i gratis modelltilgang gir deltakende organisasjoner muligheten til å bruke Mythos i stor skala uten å betale selv. 2,5 millioner dollar går til Linux Foundation, nærmere bestemt Alpha-Omega-prosjektet og Open Source Security Foundation (OpenSSF), som koordinerer sikkerhetsarbeid i åpen kildekode-infrastruktur. 1,5 millioner dollar går til Apache Software Foundation, som står bak en rekke mye brukte åpen kildekode-verktøy for servere.

Hvorfor gi forsvarerne tilgang først? Som en av talerne sier: «No single organization sees the whole picture and can tackle this on their own.» Å gi organisasjonene som vedlikeholder verdens mest kritiske kode tilgang til Mythos først, skal minske vinduet der angripere kan utnytte kjente hull.

Dobbeltbruksproblemet: verktøy for begge sider

Anthropic er åpen om det grunnleggende dilemmaet. De samme egenskapene som gjør Mythos nyttig for forsvarere, gjør den farlig i feil hender. Hvis en modell kan finne og kjede sårbarheter på nivå med en profesjonell sikkerhetsforsker, kan den like gjerne hjelpe en angriper med det samme.

Dette er ikke et problem som løses ved å holde Mythos hemmelig for alltid. Kraftigere modeller vil komme, fra Anthropic og fra andre. Den eneste løsningen, slik Anthropic ser det, er å sørge for at de som vedlikeholder verdens mest kritiske programvare, allerede har skannet og tettet koden sin før slike modeller blir allment tilgjengelige.

Videoen avsluttes med et langsiktig perspektiv: dette er et flerårig arbeid, ikke noe som løses over natten. Målet er en verden der systemene som driver banker, sykehus og internett er vesentlig sikrere enn de er i dag.

En siste ting: tidslinja er viktig. Mythos-lekkasjen avslørte ved et uhell tusenvis av interne filer og fikk aksjekursene til cybersikkerhetsselskaper til å falle. Det skjedde 30. mars. Den offisielle lanseringen kom 7. april. Det er vanskelig å se den polerte kunngjøringen uten å tenke at Anthropic fremskyndet den fordi lekkasjen allerede hadde gjort Mythos kjent.

Ordliste

Kilder og ressurser