I sidste uge fortalte en borgerrådgiver i Silkeborg Kommune til DR, at det nu kan tage en specialist op til to dage at gennemgå én klage fra en borger. Klagerne fylder snildt 30 sider, indeholder 40-50 klagepunkter og henviser til paragraffer, der nogle gange ikke findes. Også andre kommuner og statslige klageinstanser oplever det samme. AI har givet borgerne, hvad DR kalder "lynhurtige superkræfter".
Det er en konkret historie, men også et eksempel på et mønster, der breder sig. med AI er det blevet let at producere indhold, der ser fagligt overbevisende ud, uden at man nødvendigvis selv forstår det, man har skrevet. Og det stiller modtageren over for en helt ny opgave.
Tiden var kvalitetskontrollen
Det er et centrale skift. Tidligere krævede det noget at producere en præcis, juridisk velformuleret klage. Man måtte sætte sig ind i sagen, måske rådføre sig med sin advokat, bruge tid som kapital. Den tid var samtidig en form for kvalitetskontrol. Den, der havde skrevet teksten, havde også vurderet den og investeret i opgaven.
I dag kan afsenderens indsigt være frakoblet det, der står på papiret. Borgeren, der sender en 30-siders klage med opfundne paragraffer, har ikke gennemskuet at det de udarbejder ikke nødvendigvis stemmer overens med virkeligheden. AI'en lyder lige sikker på sig selv, uanset om den citerer en reel paragraf eller finder på en der ikke findes. Den, der ikke selv kender området, kan ikke se forskellen.
Det er en variant af det, jeg tidligere har skrevet om, da AI begyndte at overtage junioropgaverne: man skal kende området for at kunne vurdere det, AI'en producerer. Pointen er den samme her. At kunne skrive noget er ikke det samme som at kunne vurdere det. Og når afsenderen ikke selv har vurderet, bliver modtageren den første, der opdager, at noget er galt - specielt hvis de modtageren har den faglige tyngde til at forstå det.
At kunne skrive noget er ikke det samme som at kunne vurdere det.
Mødet bliver eksamen
Det er en helt anden opgave end den, organisationer er bygget til. Det er ikke længere nok at læse. Modtageren skal nu også faktatjekke det, der ser professionelt ud.
Når man ikke længere kan stole på det skrevne alene, ændrer man måden, man sorterer på.
Vi har selv i høj grad droppet den klassiske ansættelsesproces. Vi modtager ikke på samme måde ansøgninger længere. Sammen med min recruiter rækker vi selv ud til kandidater, og når vi har fundet nogen, vi gerne vil tale med, tager jeg 15 minutter på Teams. Det kan lyde af lidt, og måske en smule arrogant, men på 15 minutter kan jeg vurdere, om indholdet og personen bag hænger sammen.
Det samme mønster ses i mange organisationer. Mails er blevet længere og mere fagligt klingende, men også mere upersonlige og uden forretningsmæssig kontekst. Tilbage står ofte en korrespondance, hvor to sprogmodeller reelt skriver til hinanden.
Det er der, det viser sig, om der står en ekspert bag. Det ubehagelige er, at jo mere man har polstret op til mødet, jo større bliver faldet. Den, der har sendt en imponerende mailkorrespondance, sættes på prøve mod et indtryk, der allerede er bygget op og måske er falskt, ikke bare som alle andre.
Det kræver indsigt i sagen at kunne vurdere den
Når det velformulerede ikke længere er et tegn på, hvem der har sat sig ind i sagen, mister sproget sin evne til at fortælle os noget. Det rammer kommunerne lige nu. Det rammer HR-afdelinger, indkøbere og kundeservice.
En global undersøgelse fra Melbourne Business School og KPMG, baseret på 48.000 respondenter i 47 lande, viste sidste år, at 66% af medarbejdere bruger AI-output uden at tjekke det, og 56% indrømmer, at de har lavet fejl i deres arbejde på grund af det. Det er ikke kun borgere med 30-siders klager. Det er også organisationerne selv, der producerer indhold, de ikke har vurderet.
De svar, der oftest bliver foreslået — bedre filtre, smartere regler, ny digital dannelse — er rigtige, men ikke tilstrækkelige. For når formen ikke kan stå alene, kræver vurderingen et menneske med viden om det, der bliver vurderet, ikke bare et human in the loop.
AI har gjort det let at producere det, der ser fagligt ud. At forstå det er blevet sværere, fordi formen ikke længere fortæller os noget. Forskellen er bare, at det nu er svært at se forskel.