AI-rapporter tvinger Google til pause i bugjagt

Google har fra 1. oktober pauseret sit belønningsprogram for sikkerhedsfejl i software med offentlig kode, pga. overvældende mange ugyldige, automatiske rapporter. Ingengører brugte tid på at læse rapporter, skrevet af AI-værktøjer (computerprogrammer der genererer tekst), som sjældent beskrev virkelige fejl. Programmet genoptages tidligst i første kvartal 2027; deltagere henvises i mellemtiden til andre sikkerhedsprogrammer hos Google.

Google har sat sin »belønningspulje« for open source-software på pause fra 1. oktober. Open source-software er programmer, hvis kode er åben for alle – ligesom en opskrift, som enhver må læse, smage på og forbedre. Gennem sårbarhedsprogrammet har selskabet lovet penge til folk, der finder svage punkter i koden, på samme måde som en huslejer betaler en nabo for at rapportere et knækket rækværk.

Men puljen blev overmandet. Google skriver på mediet X og på programmets hjemmeside, at pausen skyldes en »signifikant stigning i automatiske indberetninger« – altså rapporter, der er produceret af computere eller kunstig intelligens, uden at et menneske har tjekket dem først. »Langt de fleste er ugyldige,« hedder det. Ifølge Tom's Hardware var Googles ingeniører og vedligeholdere af open source-projekterne simpelthen overvældede af rapporter, der indeholdt hallucinationer. Det er en fætter til det, der sker, når en chatbot opfinder løgnagtige kilder med knivskarv sikkerhed: maskinen leverer en overbevisende, men helt falsk besked.

Programmet genoptages tidligst i første kvartal 2027. I mellemtiden henviser Google deltagerne til sine øvrige sårbarhedsprogrammer, så man stadig kan melde huller i Googles egne produkter og få en skilling for det.