Skal vi skattlegge robotene? Altmans plan møter motbør

Kort fortalt

Sam Altman har nettopp publisert et politisk dokument som påstår at kapitalismen slik vi kjenner den ikke vil overleve det selskapet hans bygger. I denne ukens BBC AI Decoded setter programleder Christian Fraser den påstanden på prøve sammen med kognitiv forsker Gary Marcus, Sara Bernardini, professor i robotikk ved Oxford, og BBCs teknologireporter Lara Lewington. Timen spenner fra robotskatt til autonome droner i gruver til en smartring som oppdaget blodforgiftning før tre leger gjorde det.

Altmans plan på én side

Dokumentet det er snakk om heter "Industrial Policy for the Intelligence Age", en 13 siders tekst OpenAI publiserte i begynnelsen av april. Axios omtalte den som en "New Deal for superintelligens". Altmans budskap, sammenfattet av Fraser: "kapitalismen slik vi kjenner den vil ikke være nok til å håndtere det som kommer."

Planen foreslår fire tiltak som panelet går gjennom:

Forslagene er ikke nye i seg selv. Signalet er at sjefen for det mest aggressive AI-selskapet i verden nå sier at det frie markedet ikke er rustet for hans eget produkt. Det er derfor BBC bygde en hel time rundt dokumentet.

Troverdighetsproblemet

Marcus er ikke overbevist. Han satt ved siden av Altman i USAs senatshøring om AI i 2023, og gikk derfra overbevist om at Altman "forteller hvem som helst akkurat det de vil høre, men uten å stå ved det." Ifølge Marcus skrøt Altman av reguleringsideene hans inne i høringssalen, mens OpenAI lobbet mot dem i det stille. En fersk profil av Ronan Farrow i New Yorker konkluderer i samme retning: det er stor avstand mellom det Altman sier og det selskapet hans faktisk gjør.

Det er denne historien som farger synet hans på planen. Noe av innholdet, innrømmer han, ville faktisk vært bra for samfunnet. En reell skatt på store AI-selskaper ville hjulpet. Men han forventer at forslagene blir vannet ut i Washington. De industrivennlige delene (offentlig støtte til AI-infrastruktur) overlever, mens de utjevnende delene (skattlegge selskapene hardere) aldri blir noe av.

På spørsmålet om noen egentlig er forberedt på det som kommer, er Marcus kontant: "Ingen er forberedt." Reguleringen har gått bakover siden 2023. Selv EUs AI Act, mener han, blir gradvis svekket. Lewington er ikke like pessimistisk. Folk i Silicon Valley blir bombardert med overdreven retorikk om overflodens tidsalder uke etter uke. I det perspektivet høres i det minste Altman-dokumentet ut som det er skrevet av et menneske. Det er ikke det samme som å si at det kommer til å skje.

Bernardini stiller seg bak den økonomiske begrunnelsen for en form for robotskatt. Etter hvert som produktiviteten stiger, tjener lønnstakere relativt sett mindre mens eierne av maskinene tjener mer. Hvis noen få selskaper eier systemene som gjør jobben, må noen jevne ut regnestykket på nytt, ellers går velferdsstaten tom for penger.

Hva er egentlig "en robot"?

I andre halvdel av programmet flyttes samtalen fra politikken til verkstedet. Bernardini designer autonome systemer ved Oxford, og arbeidet hennes gjør én ting klart: "roboten" i debatten er ikke en humanoid kelner. Den er en flåte av spesialiserte maskiner som opererer der mennesker ikke bør være.

To av prosjektene hennes er verdt å nevne:

• Prometheus er en drone som kan bygges om, liten nok til å passe gjennom et hull på 150 mm. Den inspiserer forlatte gruver. Inne i fjellet vurderer den hele tiden avstand til hindringer, batterinivå, og om et rom kan ha gasslekkasjer som svekker synet. Det er det roboteksperter kaller risikobevisst autonomi: maskinen følger ikke bare en plan, den vurderer aktivt farer og justerer seg.
• Connect-R er en selvbyggende modulær robot laget for avvikling av atomanlegg. En menneskelig operatør spesifiserer strukturen, for eksempel en trestruktur av sammenkoblede ledd gjennom en forurenset reaktorhall. Programvaren beregner hvordan delene skal kobles sammen. Så kobler robotene seg til hverandre.

Ingen av systemene improviserer. Begge er avhengige av grundig planlegging på forhånd. Bernardini er nøye med å korrigere forestillingen om at "AI plutselig gjør dette mulig": robotikken har brukt AI i ulike former i flere tiår, helt tilbake til NASAs Remote Agent som styrte romsonden Deep Space 1 i 1999, millioner av kilometer fra jorda. Den virkelige fremgangen i det siste ligger i persepsjon, maskinenes evne til å se og forstå omgivelsene sine, ikke i selve planleggingen.

Verdensmodeller og det manglende folkevettet

En seer, Linda i Sveits, spør om verdensmodeller (world models). Marcus behandler det som timens viktigste spørsmål.

En verdensmodell er et eksplisitt indre bilde av virkeligheten. Den koder fakta som "det står et bord i rommet", "personene rundt det er intelligente", "hvis én av dem ser kjedet ut bør jeg korte ned svaret mitt." Robotikere har jobbet med verdensmodeller i tiår. De store språkmodellene bak ChatGPT og Claude har ingen. De forstår verden gjennom statistikk over enorme tekstmengder, uten å representere de underliggende objektene eller fysikken.

Det gapet, argumenterer Marcus, er grunnen til at chatboter hallusinerer. Når en modell dikter opp en falsk rettssak eller forvrenger et enkelt faktum, er det ofte noe den kunne slått opp på Wikipedia hvis den hadde hatt noen modell av hva som er sant. Den mønstermatcher ord, ikke virkelighet. Selv en lommekalkulator, bemerker han i en fin bisats, har en rikere verdensmodell enn en chatbot: den vet hvordan multiplikasjon faktisk oppfører seg.

Retningen feltet beveger seg i er dermed tydelig. Kombiner nevrale nettverk som er gode på språk, med eksplisitte verdensmodeller som er gode på årsak og virkning. Bernardini presiserer den vanskelige delen: i klassisk robotikk skrev en ingeniør verdensmodellen for hånd. Målet nå er at roboten bygger sin egen, helt selv, i omgivelser ingen har kartlagt for den.

Én smartring, ett tilfelle av blodforgiftning

Siste segment er Lewingtons reportasje om Maeve O'Neil, en 19 år gammel student i USA. Hun hadde det tre ulike leger i tur og orden sa var COVID, så halsbetennelse, og til slutt ingenting alvorlig. Men dataene fra Oura-ringen hennes viste noe annet. Hvilepulsen falt ikke tilbake til normalen. Respirasjonsfrekvensen skjøt i været i det hun prøvde å sove. Kroppstemperaturen lå flere grader over hennes personlige normalnivå.

Hun dro til akuttmottaket på eget initiativ, og tok med seg dataene fra ringen. Diagnosen: kroppen hennes var i ferd med å gå septisk. Ringen diagnostiserte ingenting. Den gjorde noe mer beskjedent og mer nyttig: den lærte seg hva som er normalt for akkurat henne, slik at hun kunne oppdage når noe endret seg.

Lewington passer på å holde det realistisk. Aktivitetsmålere er ikke medisinsk utstyr. De kan bomme, og de kan rope ulv. Men et voksende antall mennesker oppdager alvorlige tilstander (atrieflimmer, kreft, autoimmune oppbluss) fordi en enhet registrerte et brudd i mønsteret før de selv gjorde det. AI-en her er ikke ringen. Det er programvaren som lærer ditt normalnivå gjennom uker med data og varsler når mønsteret endrer seg.

Bernardini kommer så med motvekten segmentet trenger. Flere av vennene hennes, forteller hun, begynte å spore søvnen sin så besatt at de sluttet å sove godt. Helseangst har sin egen pris.

Hva episoden egentlig etterlater oss med

Planen, dronene og ringen ser urelaterte ut, men de deler ett felles bilde. Alle tre tvinger fram spørsmålet panelet stadig kretser rundt: hvem må tilpasse seg, maskinene til oss, eller vi til dem?

Altmans dokument sier samfunnet må tilpasse seg systemene han har bygd. Marcus svarer at Altmans historikk gjør tilbudet vanskelig å stole på. Bernardinis roboter trenger at mennesker spesifiserer verden deres på forhånd. Smartringen snur retningen helt: maskinen tilpasser seg den enkelte bæreren.

Samlet sett avgjør ikke AI Decoded-panelet noen av spørsmålene. Det de gjør, er å legge det politiske dokumentet, gruvedronen og studentens ring på samme bord, slik at vi kan se hva vi faktisk blir bedt om å gi fra oss.

Ordliste

Kilder og ressurser