Menneskelig kontrol bliver kravet til Microsofts AI

Microsoft har udgivet et regelsæt for sine AI-modeller, der kræver menneskelig kontrol og gennemsigtighed i modellernes tankegang.

Det betyder noget, fordi Microsoft dermed afviser at give modellerne bevidsthed eller rettigheder, i modsætning til andre AI-firmaer.

Nu er det uvist, hvordan reglerne konkret håndhæves, og om de gælder for alle modeller.

Microsoft har udgivet et sæt regler for sine kunstige intelligens-modeller, de såkaldte MAI-modeller. Reglerne minder om husregler for en virksomhed: De siger, at et menneske altid skal have kontrol, før modellerne får lov til at handle på egen hånd. Microsofts AI-chef Mustafa Suleyman siger det kort: Hvis det ikke er sikkert, skal vi ikke bygge det.

Reglerne kræver også, at modellernes tankegang skal kunne læses af mennesker. Ligesom en håndværker forklarer, hvad hun laver, skal modellen vise sine overvejelser. Brugeren skal kunne følge med i, hvad modellen gør, og hvorfor. Det er en konkret regel, ikke bare et løfte.

Microsoft afviser samtidig, at modellerne har et indre liv eller kan gøre krav på bevidsthed. Her er selskabet uenig med firmaet Anthropic, som ifølge The Decoder ikke udelukker den slags egenskaber på samme måde. Uenigheden handler ikke om teknik, men om, hvordan man taler om modellerne. Microsoft vil ikke tilskrive dem egenskaber, der kan føre til krav om rettigheder. Selskabet skriver det direkte: Ingen rettigheder.

Reglerne passer ind i den kurs, Microsoft allerede har lagt for sin AI-forretning. Menneskelig kontrol er ikke noget, man lægger oven i modellerne bagefter — det er en forudsætning for at bygge dem. Hvad reglerne helt konkret kræver af udviklere og produkter, fremgår ikke af kilden. Det står heller ikke klart, hvordan reglerne håndhæves, eller om de gælder for alle MAI-modeller.