Agentic flooding udfordrer velfærdsstatens bæreevne

AI-assistenter har fået antallet af klager og ansøgninger til offentlige services til at eksplodere i flere lande, eksempelvis er britiske boligklager mere end fordoblet siden 2022.

Det betyder, at AI ændrer borgernes adfærd, hvilket skaber både pres på systemerne og en mulighed for at gentænke, hvordan services skal fungere.

Forskere præsenterer nu dokumentation for fænomenet, men der er endnu ingen klar løsning på, hvordan man skal håndtere den voksende strøm af henvendelser.

AI-assistenter gør det nu så nemt at udfylde formularer og sende klager, at offentlige myndigheder verden over ser en markant stigning i antallet af henvendelser. I Storbritannien er klagerne til boligombudsmanden mere end fordoblet siden ChatGPT blev lanceret, fra 2.600 i 2022 til over 7.000 sidste år. I USA er klagerne til forbrugerbeskyttelsesmyndigheden CFPB femdoblet i samme periode. Lignende spring ses i Brasilien, hvor antallet af domstolsbegæringer er vokset, og i Tyskland, hvor borgerforslag er steget.

Forskeren Chris Schmitz følger udviklingen og kalder fænomenet for »agentic flooding«, hvilket betyder, at AI-assistenter oversvømmer systemerne med henvendelser. I et videnskabeligt papir, der præsenteres næste måned på konferencen AI Ethics and Society, har han undersøgt 84 sager med potentiel oversvømmelse på tværs af 11 forskellige retssystemer. Han finder bred evidens for, at AI-værktøjer ændrer måden, folk interagerer med offentlige services på. Fælles for de undersøgte services er, at de har onlineformularer, som en AI-assistent kan tilgå. Papiret konkluderer ikke med sikkerhed, at AI direkte forårsager stigningen, men de fleste sager følger samme mønster: Henvendelser var nogenlunde stabile før 2022 og steg derefter i stigende tempo, i takt med at AI-teknologien blev mere udbredt. Væksten er ikke aftaget i de fleste tilfælde, hvilket tyder på, at den vil fortsætte i årevis.

Det svære spørgsmål er, hvad man skal gøre ved det. Nogle af de nye indgivelser er klart fjendtlige eller spam, men andre kommer fra legitime ansøgere, der bruger AI til at indgive krav, som de ellers ville have opgivet. Hvor nogle ser AI-genereret spam, ser Schmitz en sjælden mulighed for at gentænke sociale services til AI-æraen. For ham er det let at se, hvordan AI's voksende evner og tilgængelighed driver brugen op. Tidligere krævede det måske at samle en masse kontekst og prompte ChatGPT 3.5 meget præcist, men nu kan det gøres langt lettere, og folk opdager gradvist, at det er noget, man kan gøre.