OpenAI fjerner centralt sikkerhedsteam, mens firmaet sigter mod børsen

OpenAI har opløst deres team for beredskab, som skulle vurdere og mindske risici ved AI. Det sker som led i en omorganisering før en kommende børsnotering (salg af aktier), hvilket skaber bekymring for sikkerheden. Opgaverne er nu fordelt på andre interne teams, mens flere ledende profiler har forladt firmaet.

OpenAI har for nylig lukket deres beredskabsteam. Man kan sammenligne dette team med en slags sikkerhedsvagt, der holder øje med potentielle farer, før de overhovedet opstår. Deres opgave var at vurdere, om de kunstige intelligenser udgjorde alvorlige risici, og finde metoder til at mindske disse farer. Nu er ansvaret i stedet fordelt på specifikke områder som biologi og cybersikkerhed, som handler om at beskytte computerstystemer mod angreb. Disse opgaver er flyttet ind i virksomhedens eksisterende teams.

Denne ændring er en del af en større omorganisering, fordi OpenAI forventer en børsnotering (IPO). En børsnotering betyder, at virksomheden bliver offentlig, så almindelige mennesker kan købe aktier i den. Over de seneste år har OpenAI gradvist ændret deres model for rækkevidde. Tidligere har de også opløst teams, der arbejdede med »superalignment« – altså det at sikre, at en superintelligent maskine følger menneskers værdier – og parathed til kunstig generel intelligens (AGI). AGI er en betegnelse for en maskine, der kan udføre enhver intellektuel opgave, som et menneske kan.

Flere ledende personer har forladt virksomheden for nylig, blandt andet cheferne for etik, fremtidsvisioner og sikkerhed. Jan Leike, som forlod firmaet i 2024, mener, at OpenAI prioriterer at lave nye produkter højere end at sørge for sikkerheden.

Dylan Scandinaro ledede beredskabsteamet, efter han kom fra firmaet Anthropic i februar. I dag fokuserer han på konsekvenserne af det, man kalder rekursivt selvforbedrende kunstig intelligens. Det er en form for teknologi, der kan gøre sig selv klogere og klogere i en uendelig cirkel, lidt ligesom en elev, der skriver sine egne bedre lærebøger for at kunne lære endnu hurtigere.

Vil du have, at jeg forklarer nærmere, hvad risikoen ved en selvforbedrende kunstig intelligens egentlig går ud på?