Åbne modeller får sikkerhed indbygget fra starten

Base Labs, Hugging Face og Goodfire indgår partnerskab om sikkerhedsstandarder for åbne AI-modeller, efter at over 6.000 modeller fik fjernet sikkerhed.

Det er vigtigt, fordi åbne modeller kan misbruges, og sikkerhed skal bygges ind fra starten, ikke bagefter.

Nu udvikler de fælles værktøjer til evaluering og overvågning og opfordrer udviklere til at bidrage.

På Hugging Face, en stor platform for kunstig intelligens (AI), findes der over 6.000 såkaldte open-weight-modeller. Det betyder, at modellernes »vægte« — de indstillinger, der bestemmer, hvordan modellen opfører sig — er offentligt tilgængelige. Mange af dem er dog blevet strippet for deres sikkerhedsforanstaltninger. Det er gjort med en teknik kaldet abliteration. Den fjerner bevidst de mekanismer, der ellers forhindrer modellen i at svare på skadelige eller farlige forespørgsler.

Nu går forskningsarmen hos AI-virksomheden Baseten, som hedder Base Labs, sammen med Hugging Face og Goodfire om at lave fælles sikkerhedsstandarder for åbne modeller. Partnerskabet blev annonceret onsdag. Det skal udvikle fælles infrastruktur til at evaluere og overvåge modellerne. Base Labs vil offentliggøre metoder til træning og overvågning. Så sikkerhed bliver bygget ind i modellerne fra starten i stedet for at blive tilføjet bagefter. Tænk på det som at bygge et hus med brandalarmer og nødudgange fra begyndelsen. Det er bedre end at installere dem, når huset allerede står færdigt.

»Vi tror, at åbenhed er en fordel for AI-sikkerhed,« skriver Baseten på det sociale medie X. »Åbenhed giver mere indsigt i modellernes adfærd og større mulighed for at omsætte sikkerhedsforskning til konkrete og gennemsigtige kontroller end lukket kildekode.« Goodfire arbejder med at åbne AI's »black box« — altså at forklare, hvordan modeller træffer beslutninger. De er den sandsynlige kandidat til at bygge sikkerheden ind i modellerne. »Sikkerhed skal bygges ind i åbne modeller og leveres af dem, der serverer dem,« skriver Goodfire i et svar til Baseten.

Begge virksomheder har kapital til at føre arbejdet ud i livet. Baseten rejste 1,5 milliarder dollars i en såkaldt Series F-runde i juni. Det er en sen investeringsrunde, hvor investorer skyder penge i en virksomhed. Baseten blev vurderet til 13 milliarder dollars. Goodfire rejste 150 millioner dollars i en Series B-runde — endnu en investeringsrunde — ledet af B Capital tidligere i år. Baseten opfordrer nu udviklere til at bidrage til standarden. »Sammen bygger vi et økosystem af åbne modeller, der er sikre og tilgængelige for alle,« skriver virksomheden.