AI gætter, når signalet er uklart

Når man taler om “hallucinationer” i AI, kan det lyde dramatisk. Som om teknologien opfinder ting ud af det blå. I praksis er forklaringen langt mere jordnær.

Store sprogmodeller (LLM’er) arbejder med sandsynligheder. De analyserer mønstre i tekst og genererer det mest sandsynlige næste ord i en sammenhæng. De vurderer ikke sandhed i traditionel forstand, og de stopper ikke op for at stille afklarende spørgsmål. Hvis noget er uklart eller fragmenteret, fortsætter de mønstret.

Det betyder, at uklar kommunikation øger risikoen for upræcis gengivelse.

Hvis jeres hjemmeside ét sted beskriver jer som “strategisk rådgiver”, et andet sted som “konsulent” og et tredje sted som “leverandør”, skaber det et uklart billede. Hvis jeres kerneydelse først fremgår tydeligt på en underside, mens forsiden taler bredt og generelt, må AI selv afgøre, hvad der er centralt.

Og når AI prioriterer, forenkler den.

Den samler information. Den generaliserer. Den vælger det mest sandsynlige billede ud fra de signaler, den kan aflæse. Resultatet kan være en gengivelse, der ligger tæt på – men ikke er præcis.

Det er sjældent et teknisk problem. Det er et strukturelt.

Jo mere konsistent og entydigt jeres digitale signal er, desto mindre skal AI gætte. Det betyder ikke, at I kan styre outputtet. Men det betyder, at I kan reducere risikoen for misforståelser.

I en AI-drevet søgeverden bliver klarhed derfor ikke kun et spørgsmål om god kommunikation. Det bliver en måde at minimere repræsentationsrisiko på.

Når AI sammenfatter jeres virksomhed, gør den det ud fra det billede, I selv har gjort muligt at aflæse.