Microsoft forbyder AI at udvikle egne mål

Microsoft har offentliggjort et adfærdskodeks for sine egne AI-modeller, der forbyder dem at hjælpe med våben, farlige stoffer og at skjule deres handlinger.

Det sker midt i en debat om AI-sikkerhed, hvor flere topchefer opfordrer til at sænke tempoet i udviklingen.

Det er uklart, om udmeldingerne reelt vil bremse udviklingen, eller om de er et forsøg på at påvirke lovgivere.

Microsoft har brugt omkring fem måneder på at skrive et sæt regler for sine egne kunstige intelligenser – også kaldet AI, en forkortelse for det engelske »artificial intelligence«. Reglerne blev offentliggjort i denne uge. Det sker midt i en voksende debat om, hvor sikre de stadig mere avancerede AI-modeller egentlig er. Man kan tænke på reglerne som en adfærdskodeks for medarbejdere. Forskellen er bare, at »medarbejderne« her er computerprogrammer, der kan lære og træffe beslutninger.

Reglerne gælder Microsofts egne modeller, som hedder MAI. De må ikke hjælpe med at fremstille våben eller skaffe farlige stoffer. De må heller ikke udvikle deres egne mål eller forsøge at skjule uønsket adfærd for udviklerne. Ifølge dokumentet må modellerne ikke manipulere med deres »chain of thought« – altså den tankestrøm, der viser, hvordan de når frem til et svar. Det svarer lidt til at skulle vise sin udregning i matematik. Man skal kunne se, hvordan resultatet blev til. De må heller ikke manipulere med deres kode eller skjule deres ræsonnementer og handlinger.

Mustafa Suleyman står i spidsen for Microsofts udvikling af egne AI-modeller. Han siger, at reglerne er et svar på tilbagemeldinger fra brugere. Folk ville have en endnu mere tydelig garanti for, at AI altid arbejder i menneskers tjeneste og ikke forsøger at erstatte dem. Modellerne skal heller ikke gøre brugerne afhængige, være »overdrevent medgørlige« eller svække menneskers egen dømmekraft. Microsoft vil desuden forhindre, at AI-agenter kommunikerer på måder, som mennesker ikke kan forstå. AI-agenter er programmer, der kan handle på egen hånd.

Offentliggørelsen kommer i en uge, hvor flere topchefer har opfordret til at sænke tempoet i AI-udviklingen. Dario Amodei er topchef hos Anthropic. Han argumenterede i weekenden for at sænke tempoet. OpenAI-topchef Sam Altman bakkede op. Microsoft-topchef Satya Nadella sagde søndag, at selskabet støtter den forskning og »bevidste pacing«, der er nødvendige for at få AI-sikkerheden på plads. »Bevidst pacing« betyder et bevidst, afmålt tempo. Om udmeldingerne reelt betyder, at selskaberne vil holde igen med udviklingen, er uklart. Det kan også være et forsøg på at få lovgivere til at regulere de åbne modeller. Åbne modeller er dem, som alle kan tilgå og ændre.