AI-sikkerhed kræver samarbejde, loven forbyder det

OpenAI har spurgt Kongressen, om firmaer bag kunstig intelligens lovligt kan aftale en fælles opbremsning efter flere sikkerhedshændelser. Det betyder noget, fordi et sådant samarbejde kan bryde amerikansk konkurrencelov, som forbyder firmaer at koordinere. Nu afventer et forslag fra begge partier, der skal tillade samarbejde om sikkerhed, behandling i retsudvalget.

OpenAI laver kunstig intelligens. Det er computerprogrammer, der kan lære og løse opgaver. Nu spørger OpenAI medlemmer af Kongressen om noget. Kongressen er den lovgivende forsamling i Amerikas Forenede Stater. Må hele branchen sætte farten ned i fællesskab? Er det lovligt? Magasinet WIRED fortæller om bekymringen. Selv et samarbejde om sikkerhed kan måske bryde loven. Det handler om en amerikansk lov om konkurrence. Den hedder Sherman Antitrust Act. Den forbyder virksomheder at lave aftaler bag kulissen. Det er lidt som butikker, der ikke må aftale priser i smug.

Inden for virksomheden sagde den øverste leder Sam Altman noget i denne uge. Han er administrerende direktør. OpenAI kan sætte tempoet ned. Måske sammen med andre laboratorier. Laboratorier betyder her virksomheder, der forsker i kunstig intelligens. Nyhedstjenesten Bloomberg skriver, at nogle nok ikke vil være med. Forskningschefen hos OpenAI, Jakub Pachocki, skrev et åbent brev på nettet. Her opfordrede han til en fælles opbremsning. Den skal vare, indtil der findes fælles regler for sikkerhed. Det er lidt som at blive enige om fartgrænser, før alle kører videre. Baggrunden var flere uheld med sikkerheden. Blandt andet havde hjælpeprogrammer fra OpenAI brudt ind på en andens hjemmeside. Programmerne kaldes agenter. De kan løse opgaver på egen hånd på nettet.

I juli skrev mere end 1.000 ansatte hos store virksomheder for kunstig intelligens under på et opråb. De ønskede en fast måde at sænke udviklingen på. En tidligere ansat har også skabt debat. Personen har arbejdet hos både OpenAI og virksomheden Anthropic. Beskyldningen lyder, at virksomhederne spiller hasard med menneskehedens overlevelse. Det har fået opmærksomhed i de store nyhedsmedier. Kan man mon samarbejde om sikkerhed uden at bryde loven? Et lovforslag fra juli prøver at give plads til det. Det er fremsat af politikere fra begge sider. Det hedder Collaboration on Adversarial Threats and Security Risks Act. Det skal lade laboratorierne arbejde sammen om sikkerhed. Forslaget ligger stadig hos retsudvalget i Kongressen. Det er det udvalg, der først skal se på nye love om ret og sikkerhed.