Sikkerhedsalliance kan true konkurrencen

OpenAI, Anthropic og Google har ført samtaler om AI-sikkerhed. Det er vigtigt, fordi de vil undgå katastrofale risici, men konkurrencelov og Trumps modstand skaber spændinger. Nu arbejder de på en standardorganisation og uafhængige sikkerhedstjek, mens regeringen ikke deltager.

De tre store AI-virksomheder OpenAI, Anthropic og Google har i flere uger ført samtaler om sikkerhed ved kunstig intelligens. Det fortalte OpenAIs globale politiske chef, Chris Lehane, tirsdag til journalister. Samtalerne kommer efter et opråb fra Anthropics chef, Dario Amodei, der lørdag opfordrede branchen til at bremse udviklingen af frontmodeller – de allermest avancerede AI-systemer. Hans bekymring er, at de kan føre til katastrofale risici. Man kan sammenligne det med en ekstremt kraftig racerbil: Den kan køre utroligt hurtigt, men uden bremser og sikkerhedsudstyr kan den også forårsage stor skade.

OpenAIs Sam Altman og Googles Demis Hassabis støttede opråbet. Altman sagde, at OpenAI vil lade uafhængige evaluatorer – altså eksperter uden for virksomheden – overvåge sikkerheden. Men flere i branchen, inklusive Altman selv, har peget på et problem: Samarbejdet kan stride mod konkurrencelovgivningen, hvis det undertrykker konkurrence. Konkurrencelovgivning er regler, der skal forhindre, at virksomheder laver aftaler, som skader forbrugerne. Amodei foreslog i sit essay en snæver statslig dispensation til sikkerhedskoordinering, men Lehane sagde, at virksomhederne ikke har brug for en.

Ifølge The Information arbejder de tre virksomheder også på at oprette en standardorganisation for AI-branchen – en organisation, der skal lave fælles regler og retningslinjer. Hassabis opfordrede i juli den amerikanske regering til at etablere et tilsynsorgan, der kan vurdere verdens mest avancerede modeller og koordinere opbremsninger i branchen, hvis farerne vokser.

Præsident Trump afviser sikkerhedsbekymringerne som fup. Han siger, at en opbremsning vil give Kina et forspring i kapløbet om AI.