Kunstig intelligens (AI) har revolutioneret mange områder i de senere år, herunder banksektoren. Der har været både positive og negative aspekter af implementeringen, især spørgsmålet om algoritmisk diskrimination i udlån.

I Canada og mere generelt rundt om i verden har implementeringen af kunstig intelligens i større banker ført til øget produktivitet, samtidig med at den tilbyder større personalisering af tjenester.

Ifølge IEEE Global Survey forventes vedtagelsen af AI-baserede løsninger at fordobles globalt i 2025 og nå 80 procent af de finansielle institutioner.

Nogle banker er mere avancerede, såsom BMO Financial Group, som har oprettet specifikke stillinger for at overvåge integrationen af AI i sine digitale tjenester for at forblive konkurrencedygtige. Som følge heraf kunne den globale bankindustris overskud takket være kunstig intelligens overstige 2 billioner USD i 2028, hvilket repræsenterer en vækst på næsten ni procent mellem 2024 og 2028.

Som professor ved Laval University for videns- og innovationsledelse og videnskabsformidler fik jeg hjælp til at skrive denne analyse af Kandet Oumar Bah, forfatter til et forskningsprojekt om algoritmisk diskrimination, og Aziza Halilem, ekspert i styring og cyberrisiko ved den franske tilsyns- og afviklingsmyndighed.

Hvordan forbedrer AI bankens ydeevne?

Integrationen af kunstig intelligens i banksektoren har allerede optimeret de finansielle processer markant med en 25 til 40 procents gevinst i operationel effektivitet. Kombineret med de voksende muligheder for big data - for eksempel den massive indsamling af data - tilbyder AI kraftfulde analyser, der allerede kan reducere fejlmarginerne i finansielle systemer med 18 til 30 procent.

Det gør det også muligt at overvåge millioner af transaktioner i realtid, opdage mistænkelig adfærd og endda forebyggende blokere visse svigagtige transaktioner. Dette er en af ​​anvendelserne implementeret af J.P. Morgan.

Derudover hjælper platforme såsom FICO, der specialiserer sig i AI-baseret beslutningsanalyse, finansielle institutioner med at udnytte en række kundedata og forfine deres kreditbeslutninger gennem avancerede prædiktive modeller.

Adskillige banker rundt om i verden er nu afhængige af automatiserede ratingalgoritmer, der kan analysere adskillige parametre, herunder indkomst, kredithistorik og gældsforhold, på få sekunder. På kreditmarkedet forbedrer disse værktøjer behandlingen af ansøgninger væsentligt, især for "standard" sager, såsom dem med eksplicitte lånegarantier.

Men hvad med de andre sager?

Formaliserer uretfærdighed?

Som de amerikanske forskere Tambari Nuka og Amos Ogunola påpeger, udgør illusionen om, at algoritmer producerer retfærdige og objektive forudsigelser, en stor risiko for banksektoren.

Ved at gennemgå den videnskabelige litteratur advarer de mod fristelsen til blindt at delegere vurderingen af kompleks menneskelig adfærd til automatiserede systemer. Flere centralbanker, herunder Canadas, har også udtrykt stærke forbehold over for dette og advaret om de operationelle risici forbundet med overdreven afhængighed af kunstig intelligens, især ved vurdering af kreditværdighed og solvens.

Selvom algoritmer er teknisk neutrale, kan de forstærke eksisterende uligheder, når træningsdata er plettet af historiske skævheder, især dem, der er arvet fra systemisk diskrimination mod visse grupper. Disse skævheder skyldes ikke kun eksplicitte variabler såsom køn eller etnisk oprindelse, men også fra indirekte sammenhænge med faktorer såsom bopæl eller type beskæftigelse.

For eksempel kan ratingsystemer tildele lavere kreditgrænser til kvinder, selv i situationer, hvor de økonomisk svarer til mænd. Analyse af variabler såsom postnumre og beskæftigelseshistorie kan også føre til udelukkelse af medlemmer af marginaliserede grupper, såsom racialiserede individer, arbejdere med uregelmæssige indkomster og nylige immigranter.

Virginia Eubanks, professor i USA og ekspert i social retfærdighed, illustrerer dette fænomen godt og viser, hvordan mennesker, der bor i historisk dårligt stillede kvarterer eller med atypiske karriereveje, straffes af automatiserede økonomiske beslutninger baseret på forudindtaget data.

Dette rejser et afgørende spørgsmål:hvordan kan vi sikre, at automatiseringen af finansielle beslutninger hjælper med at reducere uligheder i adgangen til banktjenester?

Afhjælpning af fejl gennem inklusiv finansiering

Adskillige veje undersøges i den videnskabelige litteratur som reaktion på disse risici for diskrimination. Nuka og Ogunola foreslår for eksempel en tilgang til finansiel inklusion. Dette indebærer løbende forbedring af statistiske modeller ved at identificere og korrigere skævheder i træningsdata for at reducere forskelle i behandling mellem sociale grupper.

Ud over tekniske løsninger er der for nylig blevet indført lovgivningsmæssige rammer for at sikre gennemsigtighed og retfærdighed af algoritmer i følsomme sektorer såsom finans. Canadas Artificial Intelligence and Data Act og Europas EU Artificial Intelligence Act er eksempler på dette. Sidstnævnte, der blev vedtaget i 2024 og implementeret gradvist, stiller strenge krav til højrisiko AI-systemer, såsom dem, der bruges til at yde kredit.

Artikel 13 opstiller krav til gennemsigtighed for at sikre, at systemerne kan revideres, og at deres beslutninger kan forstås af alle interessenter. Målet er at forhindre algoritmisk diskrimination og sikre etisk og rimelig brug. Finansielle tilsynsmyndigheder har også en afgørende rolle at spille for at sikre overholdelse af fair konkurrenceregler og garantere forsigtig og gennemsigtig praksis af hensyn til finansiel stabilitet og kundebeskyttelse.

Pres fra visse teknologiske og finansielle lobbyer for at bremse vedtagelsen af strenge standarder udgør imidlertid en betydelig risiko:Manglen på regulering i nogle lande og vanskeligheder med håndhævelse i andre kan fremme uigennemsigtighed til skade for de mest sårbare borgere.