Microsoft-chef kræver nødbremse til AI-modeller

Microsofts topchef Satya Nadella vil have alle AI-modeller behandlet, som om de allerede er brudt ind i. Så skal AI-systemer kunne overvåges og stoppes af en godkendt person og efterlade spor, som mennesker kan læse, og som ingen kan ændre. Nu kræver han indberetning, uafhængige eftersyn, tjekbare data og kontrol fra start, mens branchen må enes om stærkere værn.

Microsofts topchef Satya Nadella vil have alle modeller for kunstig intelligens behandlet, som om nogen allerede er brudt ind i dem. I et langt opslag på det sociale medie X afviser han, at kunstig intelligens skal være lukkede bokse. En lukket boks betyder her et system, hvor du ikke kan se indeni, og hvor du kun kan sige ja eller nej til de svar og handlinger, det kommer med.

Hvad betyder det for dig, der bruger kunstig intelligens? Det betyder et krav om, at systemerne kan overvåges og stoppes. En godkendt person skal altid kunne sætte modellen på pause eller slukke den midt i en opgave. Det er som en nødbremse, der virker, mens toget kører.

Nadella kræver også, at modellerne efterlader spor, som mennesker kan læse, og som ingen kan ændre. Tænk på en logbog, hvor man bagefter kan se, hvad der er sket. Han peger desuden på, at hændelser, altså situationer hvor noget går galt, skal indberettes hurtigt. Der skal være uafhængige eftersyn, altså undersøgelser af nogen uden for firmaet. Data skal kunne efterprøves, så oplysninger kan tjekkes. Og indeslutning skal være der fra start. Indeslutning betyder at holde systemet inden for sikre grænser, så det ikke kan gøre skade.

Mere avancerede modeller kræver ifølge ham mere avancerede teknikker til indeslutning. Det skal branchen blive enige om.