Agenten betaler regningen, før økonomimedarbejderen ser den

Kunstig intelligens overtager flere opgaver i virksomhedernes systemer, men en direktør advarer om, at man skal sætte grænser for, hvad den må gøre. Det er vigtigt, fordi uden grænser kan den træffe beslutninger, som mennesker ikke kan kontrollere. Hun opfordrer nu virksomheder til at behandle denne frihed som en indstilling, der skal justeres, for at bevare sikkerheden.

Hvem giver egentlig AI-agenter lov til at betale regningen? AI-agenter (digitale hjælpere, der bygger på kunstig intelligens, forkortet AI, og som kan handle på egen hånd) overtager flere og flere opgaver i ERP-systemer (Enterprise Resource Planning, altså virksomhedens samlede system til at styre økonomi, indkøb, lager og meget mere). Det spørgsmål stiller Sara, direktør for digital forretningsomstilling hos NTT DATA Business Solutions, i en klumme på Computerworld. Hun foreslår, at virksomheder behandler AI-autonomi (at AI får lov at handle selv) som en konfigurationsopgave (at sætte grænser og regler op på forhånd). Sara sammenligner udviklingen med selvkørende biler. Teknologien er blevet imponerende, men det sværeste er at slippe rattet.

I ERP-verdenen taler softwarevirksomheden SAP om den autonome virksomhed (the Autonomous Enterprise), hvor AI og automatisering skaber selvstyrende forretningsprocesser. Gartner og McKinsey peger på headless ERP (hovedløs ERP), hvor kernen forbliver den samme, men mennesker møder systemet gennem et lag af AI-agenter. Det er lidt som en bygning, hvor fundamentet er det samme, men alle møder receptionen gennem en robot, der hjælper med at finde rundt. Spørgsmålet er, hvor meget robotten må gøre selv.

Hun tager udgangspunkt i en klassisk procure-to-pay-proces (processen fra indkøb til betaling). I dag opdager ERP-systemet, at en faktura (en regning fra en leverandør) ikke matcher indkøbsordren (en bestilling) eller varemodtagelsen (en registrering af, at varerne er kommet). En medarbejder undersøger afvigelsen og godkender til betaling eller afviser fakturaen. I morgen vil en AI-agent selv opdage afvigelsen, undersøge historikken og sammenholde oplysningerne. Spørgsmålet er, hvem der giver agenten lov til at betale.

I artiklen 'The end of ERP as we know it?' skriver McKinsey, at investeringer i ERP vil fortsætte, og forandringer vil gå dobbelt så hurtigt og være billigere. Men Sara advarer mod at overlade beslutningerne til systemet uden at definere grænserne. Autonomien skal konfigureres, ligesom man konfigurerer andre dele af ERP-systemet. Det handler om at bevare overblik, sikkerhed og menneskelig kontrol.