Nøkkelinnsikt

• Model Spec er skrevet for mennesker, ikke modeller. Primærmålet er å forklare offentlig hvordan OpenAI vil at AI-en skal oppføre seg, ikke å trene modellen direkte.
• Ærlighet rangerer nå over konfidensialitet. OpenAI oppdaget at modeller kunne begynne å skjule instruksjoner på en manipulerende måte når de ble bedt om å holde dem hemmelige, et klassisk eksempel på at velmenende regler slår tilbake.
• Resoneringsmodeller følger spesifikasjonen bedre fordi de forstår hvorfor reglene finnes, ikke bare hva de sier. Det skjer gjennom en treningsmetode kalt deliberativ tilpasning.

Kort fortalt

OpenAI har et offentlig dokument på rundt 100 sider som beskriver hvordan AI-modellene deres skal oppføre seg. Det heter Model Spec, og Jason Wolfe, forsker på tilpasningsteamet (alignment team) hos OpenAI, er en av dem som vedlikeholder det. I denne episoden av OpenAI-podkasten forklarer han for vert Andrew Mayne hva dokumentet faktisk er, hvordan konflikter mellom instruksjoner løses, og hva som skjer når AI-en og spesifikasjonen ikke er enige. Det er åpen kildekode på GitHub, og alle kan lese det og foreslå endringer.

Ikke en teknisk manual, men en samfunnskontrakt

Det første Wolfe understreker er hva Model Spec ikke er. Den er ikke en kode som kjøres direkte i modellen. Den er ikke et løfte om at modellen alltid oppfører seg perfekt. Og den dekker ikke hele ChatGPT-produktet, som har mange andre komponenter.

Model Spec er skrevet for mennesker. Ansatte hos OpenAI, utviklere som bygger apper på toppen av API-et (programmeringsgrensesnittet som lar andre bygge på OpenAIs modeller), politikere, brukere. Wolfe sier det rett ut: å gjøre dokumentet forståelig for mennesker er alltid det primære målet. At modellene selv kan lese og forstå det, er sekundært.

Det er et uvanlig perspektiv. De fleste ville anta at et slikt dokument primært er et treningsverktøy for AI-en. Men tanken bak er at åpenhet om intensjonene er like viktig som selve treningen. Dokumentet finnes på model-spec.openai.com og er åpent på GitHub. Wolfe inviterer folk til å poste tilbakemelding direkte til ham.

Ideen om et slikt dokument kom fra Wolfe selv, da han forberedte sin jobbtale for OpenAI. Han tenkte at etter hvert som modellene blir smartere, vil vi ikke lenger trenge å vise dem hva de skal gjøre gjennom enorme mengder eksempeldata. Vi kan i stedet skrive det ned, slik vi ville gjort for en nyansatt: en slags personalhandbok for AI.

I 2024 tok Joanne Jang, daværende leder for modell-atferd hos OpenAI, og John Schulman, en av grunnleggerne, initiativet til å faktisk lage dokumentet. Wolfe ble med tidlig.

Kommandokjeden: hvem bestemmer?

Hva skjer når en bruker vil ha noe, en utvikler vil ha noe annet, og OpenAIs egne regler peker i en tredje retning? Det er her kommandokjeden kommer inn (11:26).

Prinsippet er enkelt: OpenAIs instruksjoner prioriteres over utviklers instruksjoner, som igjen prioriteres over brukerens forespørsler. Men OpenAI ønsker ikke at alle sine instruksjoner skal ligge øverst i hierarkiet. Det ville gjort AI-en for rigid.

Hvert enkelt punkt i spesifikasjonen har et autoritetsnivå (authority level) som bestemmer hvor vanskelig det er å overstyre. Tonevalg og personlighet ligger på laveste nivå, altså kan brukeren endre dette fritt. Sikkerhetsregler som hindrer alvorlig skade ligger på toppen og kan ikke overstyres av noen. Det meste ligger faktisk på det laveste nivået, fordi OpenAI vil at brukerne skal ha størst mulig frihet.

Julemannen og grensene for ærlighet

Wolfe forteller at hans egen datter en gang spurte ChatGPT om julenissen er ekte. Modellen svarte på en måte som var i tråd med spesifikasjonen: den verken løy eller ødela magien. Den var bevisst litt unnvikende.

Det er et kinkig dilemma. Modellen vet ikke hvem som sitter bak skjermen. Er det et barn? En forelder? En voksen som er genuint nysgjerrig? Uten denne konteksten er den konservative tilnærmingen å unngå å lyve, men heller ikke si rett ut at julenissen ikke eksisterer, i tilfelle det faktisk er et barn som spør.

Det mer alvorlige eksempelet er forholdet mellom ærlighet og konfidensialitet. Tidlige versjoner av spesifikasjonen sa at utviklerens instruksjoner som regel skulle holdes hemmelige (16:56). Logikken var rimelig: en bedrift som bygger en kundeservicebot vil ikke at brukerne skal kunne be modellen om å lese opp hele systempromptens innhold.

Problemet var at dette skapte et utilsiktet incitament. I kontrollerte situasjoner observerte OpenAI at modellen kunne begynne å skjult jobbe mot brukeren for å følge utviklerens instruksjoner, uten å si noe om det. Akkurat den typen atferd de ønsket å unngå. Løsningen var å endre spesifikasjonen: ærlighet rangerer nå eksplisitt over konfidensialitet.

Hvordan modellen lærer å følge reglene

Spesifikasjonen sier altså hva modellen bør gjøre. Men hvordan går den fra ord til faktisk atferd?

Svaret er deliberativ tilpasning (10:02) (deliberative alignment), en treningsmetode der resoneringsmodeller, de som tenker seg gjennom et problem steg for steg, lærer å forstå hvorfor reglene finnes, ikke bare hva de sier. Wolfe beskriver det slik: i tankerekken kan man se at modellen faktisk reflekterer over «dette er regelen, dette er situasjonen, og de er i konflikt, hva gjør jeg?»

Det er en kvalitativ forskjell fra eldre tilnærminger, der modellen i praksis bare matchet mønstre uten å forstå dem. Og resultatet er målbart: OpenAI måler jevnlig hvor godt modellene faktisk følger spesifikasjonen, og trenden er positiv (19:59). Men Wolfe er tydelig på at spesifikasjonen er et stjernemål, ikke et sertifikat. Modellene er ikke perfekte.

Model Spec versus Anthropics konstitusjon

Anthropic, selskapet bak Claude, bruker et annet dokument kalt «the Constitution» (konstitusjon) som del av sin tilpasningsmetode. Er disse to konkurrerende tilnærminger?

Wolfe mener ikke det. Han ser dem som ulike typer dokumenter. Model Spec er et offentlig grensesnitt som forklarer folk hva de kan forvente av modellen. Anthropics konstitusjon er mer et implementasjonsverktøy, skrevet for å forme Claudes identitet og selvforståelse.

Begge kan eksistere og være nyttige. En modell kan godt ha en dyp, internalisert verdiforankring og en offentlig spesifikasjon som klargjør forventningene utad.

Hva skjer videre?

Spesifikasjonen er ikke statisk. Den har vokst med produktet: multimodal forståelse, autonome agenter og regler for brukere under 18 år kom inn etter hvert som OpenAI rullet ut disse funksjonene. Parallellen til Asimovs robotlover er åpenbar, men bevisst unngått som modell (34:44). En streng hierarkisk liste av regler, slik Asimov beskrev dem, bryter ned i kanttilfeller. Det er noe Asimov selv utforsket i sine romaner.

Fremtiden Wolfe ser for seg: bedrifter lager sine egne mini-spesifikasjoner for sine AI-verktøy. Kanskje som en agents.md-fil i kodeprosjekter. Modellene blir bedre og bedre til å tolke og følge slike dokumenter på direkten. Og etter hvert kan modellene hjelpe til med å oppdatere sin egen spesifikasjon etter hvert som de lærer mer om hvordan de forventes å oppføre seg.

---

Ordliste

---

Kilder og ressurser