Mening: AI-modeller er mystiske «skapninger», og selv deres skapere forstår dem ikke fullt ut

Anthropics nylige studie om hvordan deres Claude 3.5 Haiku-modell fungerer, lover banebrytende avsløringer og en gnist av innsikt i forståelsen av hvordan avansert AI-teknologi opererer. Men hva mener de når de sier at LLMs er «levende organismer» som «tenker»?

For noen dager siden, la Anthropic frem to artikler med banebrytende forskning om hvordan store språkmodeller (LLMs) fungerer. Mens de tekniske utviklingene var interessante og relevante, var det ordbruken til AI-ekspertene som fanget oppmerksomheten min mest.

I studien Om biologien i en stor språkmodell, sammenlignet forskerne seg selv med biologer som studerer komplekse «levende organismer» som har utviklet seg gjennom milliarder av år.

“På samme måte, selv om språkmodeller genereres av enkle, menneskeskapte treningsalgoritmer, ser mekanismene som er født av disse algoritmene ut til å være ganske komplekse,” skrev forskerne.

I løpet av de siste årene, har AI-modeller utviklet seg betydelig. Og vi har vært vitne til denne raske utviklingen de siste månedene. Vi har sett ChatGPT gå fra å være en tekstbasert modell til en snakkende følgesvenn, til nå å være en flerdimensjonal agent som også kan generere fantastiske Studio Ghibli-stilte bilder.

Men, hva om de nåværende grensesprengende AI-modellene når det sci-fi nivået av å utvikle slik avansert resonnering at ikke engang deres skapere kan forstå deres prosesser og systemer? Det er flere mysterier rundt AI-teknologier som det kan være relevant å gjenbesøke – eller dykke ned i – i 2025.

Det skremmende svarte-boksen paradokset med AI-modeller

Det er flere diskusjoner om adopsjon og forståelse av AI, og hvordan de som forstår hvordan generative AI-modeller fungerer, er mindre tilbøyelige til å betrakte chatbots som deres «venner» eller «magiske» applikasjoner. Men det er en annen debatt—blant eksperter og personer som er mer kjent med teknologien—om hvorvidt man skal sammenligne eller betrakte LLMs som uavhengige kreasjoner. Når det gjelder det siste, er det en spesiell ingrediens, en gåte kjent som «AI black-box paradokset,» som spiller en avgjørende rolle i diskusjonen.

Dyp læringssystemer er opplært til å gjenkjenne elementer og trender på lignende måter som mennesker gjør. Akkurat som vi lærer barn å gjenkjenne mønstre og tildele spesifikke ord til forskjellige objekter, har LLMs blitt trent til å lage unike forbindelser og bygge nettverk som blir mer og mer komplekse etterhvert som de «vokser.»

Samir Rawashdeh, assosiert professor i elektrisk og datateknikk, spesialiserer seg i kunstig intelligens og forklarer at akkurat som når vi studerer menneskelig intelligens, er det nesten umulig å faktisk se hvordan dyp læringssystemer tar avgjørelser og kommer til konklusjoner. Dette er hva eksperter kaller «black box problemet.»

AI Modeller Utfordrer Menneskelig Forståelse

Anthropics nylige studie kastet lys over AI black box situasjonen ved å forklare hvordan dens modell «tenker» i visse scenarioer som tidligere var uklare eller til og med helt feil. Selv om studien er basert på modellen Claude 3.5 Haiku, lar den eksperter utvikle verktøy og analysere lignende egenskaper på andre AI modeller.

«Å forstå naturen til denne intelligensen er en dyp vitenskapelig utfordring, som har potensialet til å endre vår oppfatning av hva det betyr å ‘tenke’,» uttaler artikkelen delt av Anthropic’s forskere.

Likevel, bruken av ordet «tenke,» tilskrevet AI-teknologier, opprører visse eksperter i bransjen og er en del av kritikken mot undersøkelsen. En Reddit-bruker forklarte hvorfor det irriterer en gruppe mennesker: «Det er mye antropomorfisering gjennom hele artikkelen som forvirrer arbeidet. For eksempel bruker den ordet ‘tenke’ når den burde si ‘beregne’. Vi snakker om dataprogramvare, ikke en biologisk hjerne.»

Selv om de «humaniserte» begrepene hjelper ikke-tekniske mennesker å forstå AI-modeller bedre og skaper debatt i samfunnet, er sannheten at uansett om vi sier «beregne» eller «tenke», forblir den samme utfordringen: vi har ikke full forståelse eller fullstendig gjennomsiktighet på hvordan LLM-er opererer.

Hva Kan Vi Forvente Av Avanserte AI-Modeller i Den Nære Fremtid

Kan du forestille deg å ignorere eksistensen av avanserte AI-teknologier som ChatGPT, DeepSeek, Perplexity, eller Claude—nå eller i den nære fremtid? Alle tegn peker på at det ikke er noen vei tilbake. Generativ og resonnerende AI har allerede forvandlet hverdagen vår, og de vil bare fortsette å utvikle seg.

Nesten hver dag rapporterer vi på WizCase en ny utvikling i bransjen – en ny AI-modell, et nytt AI-verktøy, et nytt AI-selskap – som har potensial til å gjøre en stor innvirkning på samfunnet vårt. Tanken om å ta en pause for først å få en bedre forståelse av disse avanserte modellene og hvordan de fungerer – eller til og med å senke tempoet litt – virker umulig, gitt det raske tempoet i AI-kappløpet og involveringen av regjeringer og verdens mektigste selskaper.

“AI-modeller utøver økende innflytelse på hvordan vi lever og arbeider, vi må forstå dem godt nok til å sikre at deres innvirkning er positiv,” uttaler Anthropic i deres papir. Selv om det høres litt urealistisk ut, forblir forskerne positive: “Vi tror at resultatene våre her, og den fremgangsbanen de er bygget på, er spennende bevis på at vi kan møte denne utfordringen.”

Men hvor raskt kan disse oppdagelsene egentlig bevege seg? Artikkelen noterer også at resultatene bare dekker noen få områder og spesifikke tilfeller, og at det ikke er mulig å bygge mer generelle konklusjoner. Så, sannsynligvis ikke raskt nok.

Mens regulatorer introduserer tiltak som EU AI Act, for å kreve mer transparens, trekker de anklager og utbrudd fra store tech-selskaper for angivelig å bremse fremgangen, fortsetter kraftige AI-modeller å utvikle seg.

Som samfunn må vi strebe etter å finne en balanse mellom å fordype vår forståelse av hvordan disse teknologiene fungerer, og å adoptere dem på måter som bringer meningsfulle fordeler og fremgang til samfunnene våre. Er dette mulig? Ideen om bare å be eller håpe på at disse «skapningene» forblir «etiske» og «gode» virker ikke så langt-fetched akkurat nå.