Kunstig intelligens er ved at tage et stort spring i den finansielle sektor. Hvor teknologien hidtil har svaret på spørgsmål som en simpel hjælper, kan nye autonome AI-agenter nu selv udføre handlinger. De kan logge ind, udfylde formularer, betale regninger og flytte penge rundt mellem konti, mens brugeren sover. Mulighederne for at automatisere hverdagsøkonomien er store, men det medfører også en helt ny type økonomisk risiko.

Når softwaren tager over

Den grundlæggende fare handler om forskellen på hensigt og resultat. En kunstig assistent behøver ikke at blive hacket for at lave alvorlige fejl. Hvis systemet misforstår en opgave, kan det flytte 100.000 dollar svarende til knap 700.000 kroner til en forkert modtager, selvom det blot forsøgte at udføre sin programmering. Hidtil har ansvaret for enhver pengeoverførsel ligget hos mennesket bag skærmen, men med fuldmagt til software opstår der et kontroltab. Deling af loginoplysninger og direkte adgang på tværs af platforme åbner for uforudsete transaktioner.

Bankerne opruster forsvaret

Finansielle institutioner og myndigheder arbejder allerede på højtryk for at dæmme op for truslen. Bankerne bruger nu selv kunstig intelligens til at overvåge og bremse utilsigtede handlinger fra selvkørende programmer. Samtidig mangler der faste standarder for forbrugerbeskyttelse på området. Reglerne for, hvem der hæfter ved fejltrin begået af en digital agent, er endnu ikke fuldt afklarede i lovgivningen.

Krav om klare stopknapper

Løsningen er ikke nødvendigvis at fravælge teknologien, men at stille krav før adgangen gives. Sikre systemer kræver klare beløbsgrænser, detaljerede logbøger over alle handlinger samt en effektiv nødbremse, der omgående kan afbryde forbindelsen til kontoen. Før sådanne sikkerhedsfunktioner er på plads, bør man overveje nøje, hvor meget magt over formuen man vil overlade til en algoritme.