Californien vil kunne slukke for de største AI-modeller

Californiens guvernør har underskrevet en bekendtgørelse, der skal gøre delstaten førende med at føre tilsyn med kunstig intelligens (AI).

Det betyder noget, fordi AI kan være risikabelt, og Californien er hjemsted for mange store AI-virksomheder.

En ekspertgruppe skal om to måneder komme med forslag til regler, herunder uafhængige kontroller og et nødstop for avancerede modeller.

Californiens guvernør Gavin Newsom (Demokraterne) underskrev fredag en bekendtgørelse — en officiel ordre fra guvernøren. Den skal gøre delstaten til den førende på tilsyn med kunstig intelligens, også kaldet AI. Kunstig intelligens er computerprogrammer, der kan lære og løse opgaver, som normalt kræver menneskelig intelligens. Ordren sætter arbejdet i gang med at stramme sikkerheden omkring kunstig intelligens i Californiens lovgivning.

Delstaten skal samle en gruppe eksperter, som inden to måneder skal komme med anbefalinger til, hvordan AI-sikkerheden bliver strammet. Gruppen skal vurdere tre krav. Det første handler om, hvorvidt AI-virksomheder skal have uafhængige verifikationsgrupper fysisk til stede. Det kan man sammenligne med en ekstern revisor, der tjekker en virksomheds regnskaber. Men her skal gruppen løbende revidere AI-modellerne, altså de programmer, der driver AI-systemerne. Det andet krav handler om virksomhedernes egne rapporter. Deres transparensrapporter, som viser, hvordan AI-systemerne virker, og deres risikovurderinger — vurderinger af, hvilke risici systemerne kan udgøre — skal kunne måles mod standarder, som uafhængige revisorer står bag. Det tredje krav er et nødstop, også kaldet et kill switch, for frontmodeller — de mest avancerede AI-systemer, der findes. Et nødstop er en slags nødbremsesystem, der kan stoppe et AI-system, hvis noget går galt.

The Verge's beskrivelse af ordren er afkortet. Derfor fremgår det ikke, hvordan et sådant nødstop i praksis skal virke, eller hvem der i givet fald kan udløse det. Anbefalingerne skal ligge om to måneder.