5
lesetid
Forstå AI-hallusinasjoner: Hva de er, og hvordan du kan forhindre dem
Hvis du har begynt å bruke AI-verktøy til virksomheten din eller personlige prosjekter, har du sannsynligvis hatt ditt eget «vent, hva?»-øyeblikk. Velkommen til den ville verdenen av AI-hallusinasjoner.
Hvis du tenker "hvordan kan noen ikke dobbeltsjekke kildene sine?" Vel, det er nettopp fellen med KI-hallusinasjoner. De høres så overbevisende ut, så profesjonelt skrevet, at selv erfarne fagfolk kan bli lurt.
Hvis du har begynt å bruke KI-verktøy til virksomheten din eller personlige prosjekter, har du sannsynligvis opplevd ditt eget "vent, hva?"-øyeblikk. Velkommen til den ville verdenen av KI-hallusinasjoner.
Tro meg, det er avgjørende å forstå dem hvis du vil utnytte KI-ens kraft uten fallgruvene. La oss dykke ned i hva KI-hallusinasjoner er, og diskutere konkrete strategier for å unngå dem.
Hva er AI-hallusinasjoner?
La oss forklare det helt enkelt. En AI-hallusinasjon oppstår når kunstig intelligens, spesielt de store språkmodellene (LLM-er) i chatbyer, dikter opp informasjon eller gir svar som ikke stemmer med virkeligheten. Det kan sammenlignes med å spørre en tilsynelatende skråsikker person om veien, bare for å oppdage at vedkommende finner på gatenavn etter eget godtbefinnende.
Dette dreier seg ikke om tradisjonelle feil eller tekniske programvarefeil. Det er snarere en naturlig konsekvens av hvordan AI lærer og formulerer svar på. AI-en bruker fantasien til å fylle tomrommene når den mangler konkrete fakta.
Eksempler fra den virkelige verden:
Her er tre eksempler på hallusinasjoner som har skapt overskrifter i Norge den siste tiden:
Faren som ble feilaktig stemplet som kriminell: En norsk mann søkte på sitt eget navn i ChatGPT. AI-en svarte urovekkende skråsikkert at han var dømt til 21 års fengsel for å ha drept sine to sønner. Dette var ikke bare en mindre unøyaktighet, men en ren løgn som kunne ha skadet mannens ettermæle og omdømme alvorlig. Du kan lese hele historien i Aftenposten.
Skolerapporten i Tromsø: Tidlig i 2025 opplevde Tromsø kommune baksiden av medaljen ved bruk av generativ AI. De brukte verktøyet til å utarbeide en rapport om skolestruktur. Rapporten viste seg å inneholde 18 kildehenvisninger til forskningsrapporter, og av disse var hele 11 oppdiktede. Flere norske forskere ble tildelt æren for arbeidet de aldri hadde utført. Dette ble en pinlig affære som svekket tilliten til kommunens beslutningsgrunnlag.
Hurtigrutens oppdiktede reiseruter: Selv Hurtigruten har fått merke AI-ens kreative tendenser. Generative verktøy har diktet opp troverdige, men fullstendig fiktive havnenavn (som "Nordfjordvik"), lagt til ikke-eksisterende stoppesteder i reiseruten, og krydret tekstene med oppdiktede attraksjoner som vikingfestivaler eller middelalderkatedraler på små fiskevær der slikt aldri har eksistert.
AI-hallusinasjoner oppstår fordi modellen tetter kunnskapshull med mønsterbaserte gjetninger fremfor faktasjekk.
Hvorfor oppstår AI-hallusinasjoner?
Ved å forstå årsakene til at disse feilene oppstår, blir det enklere å forebygge dem.
Enorme datamengder
Grunnen ligger i måten disse systemene trenes på. De fôres med milliarder av tekster fra internett, bøker og artikler. Dette datagrunnlaget inneholder blant annet:
Informasjon fra ulike kulturer og rettssystemer
Historiske tekster fra vidt forskjellige tidsepoker
Fiksjon blandet med fakta (modellene har tross alt lest fantasybøker også)
Motstridende informasjon om samme tema
AI-en forstår ikke hva som er objektivt sant på samme måte som oss. Den beregner kun hvilke ord som mest sannsynlig bør følge etter hverandre basert på mønstre.
Manglende kontekst
Når vi stiller vage eller upresise spørsmål, må AI-en tolke hvilken ramme eller sammenheng informasjonen skal plasseres i. Begrenset kontekstforståelse fører fort til logiske blindveier.
La oss ta et enkelt eksempel:
Du stiller spørsmålet: "Hva skjer om jeg blir tatt for nasking i butikken?"
Svarene du får kan variere fra en mild irettesettelse til fysisk avstraffelse som amputasjon av hender (noe som praktiseres i enkelte land). Grunnen til spriket er at du ikke spesifiserte:
Hvilket land du befinner deg i
Din alder
Hvilket årstall det gjelder (lover endres over tid)
Hva som ble nasket
Når konteksten mangler, henter AI-en data fra hele sitt globale informasjonsarkiv, inkludert lovverk fra fjerne rettssystemer.
Slik unngår du AI-hallusinasjoner
Det positive er at du med enkle grep kan redusere forekomsten av hallusinasjoner betydelig.
1. Gi presise instruksjoner og kontekst
Hemmeligheten ligger i god
