AI låser restaurantbilleder fast i 2015

Billeder skabt af kunstig intelligens ligner ofte gamle restaurantmenuer fra 2015, fordi modellerne er trænet på begrænsede data. Dette skaber et unaturligt udtryk, som gør det svært at skelne mellem ægte fotos og kunstige billeder. Derfor udvikler virksomheder nu værktøjer til at identificere og afsløre dette indhold.

Har du lagt mærke til, at billeder af mad fra kunstig intelligens (AI) ofte ligner hinanden? Det skyldes, at teknologien er trænet på billeddata fra 2015. Alex Lisle, der er teknisk direktør hos virksomheden Reality Defender, forklarer, at systemerne bruger en begrænset samling af billeder. Det svarer til at lære at lave mad ved kun at kigge i én bestemt kogebog. I dette tilfælde minder billederne om gamle menukort fra restaurantkæden Chili's.

Billederne ser ofte mærkelige ud, fordi de er for glatte og symmetriske. Det er lidt som et filter, der er skruet for højt op. Man kan se det på ost, der bobler unaturligt meget på en burrito, eller iskugler, der er helt perfekte cirkler. Nogle gange laver systemerne endda billeder af rejer, der spiser deres egne haler.

Problemet opstår, fordi diffusionsmodeller (systemer, der skaber billeder ved at finde mønstre i data) og store sprogmodeller (LLM, som er AI-systemer trænet på enorme mængder tekst) leder efter genveje i store datamængder. Når en bruger beder om et billede af en burgerrestaurant, gætter modellen på det mest sandsynlige resultat baseret på det udseende, den har lært. Det resulterer i et udtryk, som føles forkert for os, selvom det er svært at sætte ord på hvorfor.

Denne tendens skaber vækst for virksomheder, der sælger værktøjer til at afsløre AI og bekræfte, om indhold er ægte. Reality Defender er en af de nye virksomheder, der tilbyder løsninger til at identificere dette materiale. Det er blevet vigtigt for mange at kunne skelne mellem et rigtigt fotografi og noget, som en maskine har skabt.

Vil du have, at jeg uddyber, hvordan en diffusionsmodel rent faktisk skaber et billede fra bunden?