Aftale beskytter elevers data mod AI-træning

Microsoft har indgået en aftale med en stor amerikansk lærerforening om ti principper for AI-sikkerhed og privatliv i skoler.

Aftalen betyder, at skoledistrikter kan gøre principperne juridisk bindende, hvilket beskytter elevers og læreres data mod misbrug.

Nu kan distrikter vælge at tage principperne i brug, mens presset på tech-virksomheder for strammere beskyttelse øges.

Microsoft har lavet en aftale med den næststørste lærerforening i USA, American Federation of Teachers (AFT), og dens afdeling i New York, United Federation of Teachers (UFT). Aftalen handler om ti principper for sikkerhed og privatliv, når kunstig intelligens (AI) bruges i undervisningen. AI er computere, der kan lære og løse opgaver, som normalt kræver menneskelig intelligens, for eksempel at svare på spørgsmål eller lave tekster. Principperne kan blive en del af de kontrakter, som skoledistrikter laver med Microsoft. Det betyder, at hvis et skoledistrikt vælger at bruge principperne, kan det skrive dem ind i aftalen og kræve, at Microsoft følger dem. Hvis ikke, kan distriktet gå rettens vej for at få dem håndhævet.

Microsoft lover blandt andet, at det ikke vil bruge data fra elever eller lærere til at træne sine AI-modeller. At træne en AI-model betyder, at man fodrer den med mange oplysninger, så den kan lære at lave forudsigelser eller svare bedre. Virksomheden skal også begrænse, hvor mange data den indsamler, og fortælle familier på et letforståeligt sprog, hvordan værktøjerne virker. Det giver forældre og elever bedre mulighed for at vide, hvad der sker med deres oplysninger, når de bruger AI i skolen.

Aftalen kommer kun en uge efter, at to store skolesystemer i USA har forbudt AI, der vender sig direkte mod elever. Det lægger pres på tech-virksomheder for at stramme beskyttelsen af privatlivet i uddannelsessektoren. Sektoren er den del af samfundet, der handler om skoler og undervisning.