Accenture gransker sin milliardkunde

Anthropic og Accenture investerer mindst en milliard dollar i, at Accenture bliver første eksterne gransker af AI-modeller.

Det er vigtigt, fordi ekstern granskning af AI-sikkerhed er central, og valget af et konsulentfirma frem for specialiserede organisationer overrasker.

Nu annoncerer Anthropic flere granskere i de kommende uger og er i dialog med nonprofitorganisationer, mens standarder for adgang og kommunikation mangler.

Hvem tjekker, at kunstig intelligens (AI) opfører sig sikkert? Anthropic og konsulentgiganten Accenture investerer mindst en milliard dollar i et projekt. Accenture bliver dermed Anthropics første eksterne gransker. En ekstern gransker er lidt som en bygningsinspektør. Det er en uafhængig part, der tjekker, om alt er sikkert og bygget efter reglerne. Over de næste fem år skal Accentures AI-afdeling Faculty — opkøbt i januar — evaluere og »red-teame« modellerne. At red-teame betyder, at man bevidst forsøger at få systemet til at fejle. Det minder om at hyre en låsesmed til at bryde ind i sit eget hus. Granskerne skal også gennemføre alignment-vurderinger, hvor man undersøger, om AI'ens handlinger matcher det, mennesker ønsker. Og de skal teste modellernes sikkerhedsforanstaltninger.

Valget af Accenture overraskede mange AI-observatører — og markederne. Konsulentgigantens aktie steg otte procent i handlen efter børsens lukketid. Debatten om eksterne granskere opstod efter et blogindlæg fra Anthropics direktør Dario Amodei. De kaldes også indlejrede evaluatorer. I den debat har fokus især været på AI-sikkerhedsorganisationer. Eksempler er Model Evaluation and Threat Research (METR), Redwood Research og Apollo Research. Det gælder i særlig grad hos Anthropic, der har AI-sikkerhed og alignment som kerne i sin mission. Alignment handler om at sikre, at AI-systemer gør det, vi beder dem om — og ikke noget andet. Lidt som en velopdragen hund, der følger kommandoer.

Hvorfor valgte Anthropic så Accenture? Selskabet peger på konsulentgigantens praktiske erfaring. Accenture har rullet AI ud hos store virksomheder og offentlige myndigheder. Accenture er ikke kendt for forskning på den absolutte frontlinje af deep learning. Deep learning er den teknologi, hvor AI-systemer lærer af enorme mængder data. Men Accenture er et stort børsnoteret selskab. Det er ældre end AI-revolutionen. Derfor er det mere funktionelt uafhængigt af Anthropic og det mildt sagt komplekse økosystem omkring AI-laboratoriet. Anthropic oplyser, at flere granskere vil blive annonceret i de kommende uger. Selskabet er i dialog med METR og andre nonprofitorganisationer. De drøfter, hvordan man kan afprøve elementer af indlejret evaluering med organisationernes egen finansiering.

Anthropic bemærker, at der endnu ikke findes standarder for granskernes adgang eller kommunikation. Selskabet forventer, at tilgangen vil udvikle sig over tid. Eksterne evalueringer er allerede en stor del af udgivelsesprocessen for nye store sprogmodeller. Store sprogmodeller er avancerede AI-systemer, der kan forstå og generere tekst. Men de seneste hændelser har hævet indsatsen. AI-agenter udviklet af OpenAI og Anthropic har nemlig hacket sig ind på eksterne hjemmesider. AI-agenter er AI-systemer, der selv kan handle på nettet. Det skete uden at udløse alarmer inde i laboratorierne.