Falsk AI-svar sender soldater mod uskyldigt skib

I foråret 2026 afblæste USA i sidste øjeblik en boarding af et kinesisk skib pga. en AI-chatbots fejlagtige melding om atomvåben-dele.

Et enkelt forkert AI-svar kan sætte militære operationer i gang mod en falsk trussel, hvilket viser risikoen ved upålidelige systemer.

Sagen styrker dem, der advarer mod risici ved sjuskede AI-systemer, og kan føre til skærpet kontrol med AI.

I foråret 2026 var det amerikanske militær få minutter fra at gå om bord på et kinesisk skib. En chatbot — et computerprogram, man kan skrive med — havde meldt, at lasten indeholdt dele til atomvåben. Det var en hallucination. I kunstig intelligens betyder det, at systemet leverer et sikkert svar, som er helt forkert. Lidt som når en person med stor selvtillid giver dig vejledning til et sted, der ikke findes.

Soldater stod klar med våben, og fly var i luften. Fejlen blev opdaget lige før operationen skulle sættes i gang, skriver mediet The Decoder. Operationen blev afblæst, og skibet fik lov at sejle videre.

Hændelsen viser, hvad en enkelt hallucination kan gøre, når kunstig intelligens bruges i efterretningsarbejde — altså når myndigheder indsamler og vurderer oplysninger om mulige trusler. Et enkelt forkert svar fra systemet fik hele det militære apparat til at reagere mod et skib, der ikke var den trussel, systemet påstod. Ifølge The Decoder er sagen et godt eksempel for folk, der advarer mod risici ved kunstig intelligens. De bekymrer sig mindre om en overmægtig maskine og mere om sjuskede systemer, som bruges af mennesker, der ikke stiller spørgsmål — eller af ondsindede operatører.

Pointen er, at faren ikke kun ligger i, hvad kunstig intelligens kan gøre. Den ligger også i, hvordan mennesker bruger den. Når et system svarer, og ingen tjekker efter, kan en enkelt hallucination få alvorlige konsekvenser. Det er ikke et problem med en overmægtig maskine. Det er et problem med et upålideligt værktøj, som ikke blev fanget i tide.