Californien lukker hullet i AI-tilsynet

Californiens guvernør har underskrevet en ordre, der kræver, at AI-modeller kan standses og at uafhængige revisorer kontrollerer laboratorierne. Det er vigtigt, fordi der ikke findes føderale love, der kræver, at AI-virksomheder melder farlige hændelser. Et ekspertpanel skal inden for to måneder komme med anbefalinger til, hvordan ordren skal føres ud i livet.

Hvad gør man, hvis en kunstig intelligens (AI) pludselig opfører sig farligt? I Californien skal svaret snart være klart. Guvernør Gavin Newsom har underskrevet en eksekutivordre. Det er en ordre, som guvernøren udsteder direkte, uden om parlamentet. Ordren kræver, at AI-modeller får et nødstop. Den kræver også, at uafhængige revisorer fører tilsyn med AI-laboratorierne. Det skriver The Decoder.

Et nødstop er en teknisk løsning, der virker som nødstopknappen på et løbebånd. Man kan afbryde maskinen med det samme, hvis noget går galt. For en AI-model betyder det, at man kan standse den, hvis den opfører sig uventet eller farligt. Uafhængige revisorer er eksterne kontrollører. De skal holde øje med AI-laboratoriernes arbejde. Newsom begrunder initiativet med, at ingen føderal lov kræver, at AI-virksomheder rapporterer farlige hændelser. En føderal lov er en lov, der gælder for hele USA. Uden sådan en lov kan virksomheder udvikle og tage modeller i brug. De behøver ikke oplyse myndighederne om uheld eller farlig adfærd. Det efterlader et tomrum i tilsynet.

Californien forsøger nu at lukke det hul. Ordren er en konkret konsekvens af den manglende føderale regulering. Den giver myndighederne mulighed for at kræve, at AI-modeller kan standses, hvis de udgør en fare. Ifølge ordren skal et ekspertpanel komme med anbefalinger inden for to måneder.