Anthropic finner et «arbeidsrom» inni Claude – og kaller det J-space
juli publiserte Anthropics tolkningsteam en artikkel med en påstand som fikk både nevrovitenskapsfolk og AI-forskere til å lene seg fram: språkmodeller ser ut til å ha noe som fungerer som et globalt arbeidsrom – samme konsept kognisjonsforskere har brukt i flere tiår for å beskrive hvordan bevisste tanker fungerer i en menneskehjerne.
Verktøyet: Jacobian-linsen
Funnet kommer fra et nytt tolkningsverktøy kalt J-lens (Jacobian-linsen). Det isolerer interne vektorer i modellen som koder for et ord modellen potensielt kunne "si høyt" senere – altså det den holder klart til å verbalisere, ikke nødvendigvis det den sier akkurat nå. Ved å følge disse vektorene mener forskerne å kunne lese ut noe av det modellen "har i tankene" i et gitt øyeblikk. Dette samlepunktet kaller de J-space.
Det er verdt å presisere hvor lite dette faktisk er: J-space utgjør ifølge Anthropic aldri mer enn rundt 10 prosent av aktiveringsvariansen, og egenskapene som minner om et arbeidsrom finnes bare i midtre lag av nettverket – ikke gjennom hele modellen.
Hva de fant – og hva de ikke fant
Det mest konkrete alignment-relevante funnet: da forskerne trente Claude til å sette ord på etiske prinsipper når den ble avbrutt midt i en respons, forbedret dette modellens oppførsel også i vanlige, uavbrutte situasjoner – uten at den etiske oppførselen ble trent direkte inn. Tolkningen er at å forme hva en modell er disponert til å si, også kan forme hvordan den resonnerer stille, "i mørket".
Her bør man dempe forventningene fra råvinkelen om at man nå kan "endre" J-space etter behov. Det forskerne har vist er en indirekte kobling: trening på verbal atferd påvirker intern resonnering i eksperimenter. Det er ikke det samme som å ha en bryter man kan justere J-space med direkte.
Forfatterne selv er også tydelige på at J-lens er et «ufullstendig verktøy» som bare tilnærmet fanger opp modellens underliggende struktur. Resultatene er kjørt på Anthropics egne modeller – Claude Sonnet 4.5, Haiku 4.5, Opus 4.5 og Opus 4.6 – og foreløpig uten uavhengig replikasjon fra andre AI-lab. Nevroforskerne Stanislas Dehaene og Lionel Naccache, som er sentrale i teorien om global arbeidsrom-bevissthet, bidro riktignok med kommentarer til arbeidet, og Neel Nanda ved Google DeepMind skal ha replikert enkelte funn på åpne vekter.
Ikke en bevissthetspåstand
Anthropic er eksplisitte på at dette ikke er en påstand om at Claude er bevisst. Artikkelen tar ingen posisjon på det filosofisk vanskelige spørsmålet om subjektiv opplevelse – bare på om det finnes en funksjonell, målbar struktur som ligner arbeidsrommet fra Global Workspace Theory. Det er et viktig skille, men et som lett forsvinner i overskrifter.
Ressurser
- Verbalizable Representations Form a Global Workspace in Language Models – originalartikkelen på Transformer Circuits Thread
