Bank of America bruger 4.000 folk på AI-fundne huller

Bank of America har sat 4.000 ansatte og konsulenter til at lukke sikkerhedshuller i software, som kunstig intelligens har fundet. Det viser, at kunstig intelligens kan finde mange fejl, og at virksomheder nu må bruge store ressourcer på at rette dem. Banken forventer, at udgiften falder over tid, og flere selskaber følger nu efter.

Bank of America har sat 4.000 mennesker til at lukke sikkerhedshuller i software. Et sikkerhedshul er en lille fejl i et program, som fremmede kan udnytte til at bryde ind — lidt som et vindue, nogen har glemt at lukke. Hullerne er fundet af modeller for kunstig intelligens. Det er computerprogrammer, der har lært at genkende mønstre i meget store mængder tekst og kode. Det skriver tv-stationen CNBC. Ifølge bankens topchef, Brian Moynihan, er 1.000 af de 4.000 eksterne konsulenter, altså folk ansat i andre firmaer, mens 3.000 er bankens egne ansatte. De har arbejdet på opgaven siden andet kvartal, altså årets anden tremånedersperiode.

Hvad oprydningen alene koster, står ikke klart. Moynihan siger, at banken i tredje kvartal brugte flere hundrede millioner dollars på softwarearbejde og på krav om hvidvaskkontrol tilsammen. Hvidvaskkontrol er bankens tjek af, at penge ikke kommer fra kriminalitet. Han gav ikke et selvstændigt tal for arbejdet med sikkerhedshullerne. Til gengæld forventer han, at prisen falder med tiden.

Hullerne er ifølge CNBC fundet af modeller som Mythos fra firmaet Anthropic. Anthropic sendte i april modellen Mythos ud til udvalgte partnere gennem noget, firmaet kalder Project Glasswing. Samtidig oplyste Anthropic, at modellen havde fundet tusindvis af alvorlige sikkerhedshuller. Det tal kommer fra Anthropic selv. Firmaet OpenAI fulgte efter i maj med sit Daybreak-program for cybersikkerhed, altså beskyttelse af computere og netværk mod angreb.

Kritikere afviste i første omgang advarslerne og modtrækkene fra laboratorierne som PR, altså arbejde for at skabe god omtale. Siden er debatten skiftet. Det sker blandt andet efter sikkerhedshændelser som et hackerangreb mod firmaet Hugging Face, og efter uafhængige vurderinger der bekræfter, at de nye modeller har stærkere evner. Bank of America er blandt de første store amerikanske selskaber, der fortæller, hvor mange mennesker de har sat på at udbedre sårbarheder fundet af kunstig intelligens.