Anthropic dropper manuel godkendelse i Claude Code – med nye sikkerhedsnet

Claude Code skifter til automatisk tilstand som standard for at øge effektiviteten. Ændringen betyder hurtigere arbejdsgange, men kræver tiltro til systemets dømmekraft. Anthropic tilføjer nye sikkerhedsforanstaltninger for at beskytte brugernes data.

Claude Code skifter til automatisk tilstand som standard

Forestil dig en assistent, der altid spørger »Må jeg godt?« før hver eneste lille ting, den gør. Det kan hurtigt blive irriterende og langsomt. Derfor ændrer virksomheden Anthropic nu måden, deres værktøj Claude Code fungerer på. Fra den 14. august vil brugere med betalte kontityper – Pro, Max og Team – som udgangspunkt opleve, at Claude Code arbejder i automatisk tilstand. Det betyder, at det fortsætter med at udføre opgaver helt af sig selv, uden at stoppe op og spørge om lov undervejs. Det eneste, der får det til at holde op, er handlinger, der enten ikke kan gøres om, som potentielt ødelægger noget, eller som forsøger at række uden for brugerens eget digitale miljø – lidt som en medarbejder, der gerne løber med opgaverne selv, men som alligevel stopper op, hvis cheffen skal spørges, eller noget kan gå rigtig galt.

Automatikken opfanger farer bedre end mennesker

Men virker det overhovedet at lade maskinen bestemme? Det har Anthropic testet med 1.053 betalende brugere, og her var resultatet overraskende. Den automatiske tilstand opfangede 89 procent af farlige handlinger, mens den menneskelige gennemgang kun fangede 13,6 procent. Forklaringen er ret enkel: folk er bare meget tilbøjelige til at godkende det meste. Hele 97 procent af alle forespørgsler i Claude Code bliver ja'et til af brugerne, hvilket betyder, at farlige opgaver nemt glide igennem, når det er et menneske, der sidder og klikker. Funktionen blev første gang vist frem i marts som et testprodukt, og Boris Cherny, der leder Claude Code, fortæller på det sociale medie X, at teamet selv har brugt automatisk tilstand eksklusivt i flere måneder nu.

Nye sikkerhedsværn på plads

Ud over den automatiske tilstand har Anthropic også tilføjet nye sikkerhedsfunktioner. Det ene er en slags filter, der skal opdage såkaldt prompt-injektion – det er en teknik, hvor nogen prøver at snyde systemet ved at indsætte skjulte instruktioner i tekster, det behandler, lidt som at smugle en falsk seddel ind i en bunke papirer. Det andet er tilpasbare regler, der skal forhindre, at følsomme data lækkes fra brugernes systemer.