Studie zu Trustworthy AI: Nur 1 von 10 Banken hat eine realistische Basis für vertrauenswürdige KI

Mehr als die Hälfte der Banken plant, ihre KI-Architektur auszubauen, aber verantwortungsvolle Innovation wird meist nicht mitgedacht

Verbraucher bleiben laut forsa-Befragung skeptisch

Banken investieren zwar mehr in KI als andere Branchen – trotzdem fehlt es ihnen oft noch an einer Infrastruktur, die einen wirklich vertrauenswürdigen Einsatz der Technologie gewährleistet. Zu dem Ergebnis kommt eine aktuelle weltweite IDC-Studie im Auftrag von SAS, einem der weltweit führenden Anbieter von Lösungen für Daten und KI.

Gefühlte Wahrheit: Die IDC-Ergebnisse auf einen Blick

Demnach ergibt sich folgendes Bild:

• Lediglich bei 11 Prozent der Banken stimmen das wahrgenommene Vertrauen der befragten Mitarbeiter in KI und die tatsächliche Vertrauenswürdigkeit der Systeme überein.
• Fast die Hälfte (47 Prozent) befindet sich im sogenannten „Vertrauensdilemma“: Sie nutzen also entweder eigentlich vertrauenswürdige KI zu wenig oder verlassen sich blindlings auf Systeme, die nicht validiert sind.

Fast 90 Prozent der Finanzinstitute stehen somit noch vor der Aufgabe, Vertrauen und nachweisliche Belastbarkeit dieses Vertrauens in Einklang zu bringen. Dieser Handlungsbedarf liegt darin begründet, dass Banken zwar zunehmend in KI investieren (60 Prozent erwarten laut IDC einen Anstieg der Ausgaben dafür um bis zu 20 Prozent), allerdings nicht in Responsible Innovation, die KI wirklich verlässlich macht. In einer Branche, in der ein einziges versagendes Modell regulatorische Strafgebühren nach sich zieht und die Kundenbindung über Nacht aufs Spiel setzt, eine gefährliche Diskrepanz.

Um sie zu beheben, sollten sich Banken vor allem auf folgende Schwachstellen konzentrieren:

• Datensilos: Fast ein Fünftel (19 Prozent) hadert mit isolierten Dateninfrastrukturen; das ist im Branchenvergleich die höchste Rate.
• Mangelhafte Datenbasis: Ein signifikanter Anteil der Banken gibt an, dass es ihnen an Data Governance (45 Prozent) oder an einer zentralisierten, optimierten Dateninfrastruktur (41 Prozent) fehlt.

Immerhin ist das Problembewusstsein vorhanden: 52 Prozent der Banken planen, ihre KI-Architektur auszubauen, 43 Prozent wollen dedizierte KI-Teams auf- oder ausbauen.

Der „IDC Data and AI Impact Report: The Trust Imperative“, für den rund 2.400 Experten aus IT- und Fachabteilungen weltweit befragt wurden, steht hier zum Download bereit. Abgefragt wurden neben Banken Behörden, Versicherungen und Life Sciences.

Verbrauchersicht: Skepsis beim KI-Einsatz in Banken

Zu den Ergebnissen passt, dass sich in einer aktuellen repräsentativen forsa-Umfrage zwei von fünf Bundesbürgern (41 Prozent) explizit dagegen aussprechen, dass Banken KI einsetzen – mehr als in den anderen abgefragten Branchen (Behörden, Gesundheitswesen, Versicherungen). Ebenso gering ist der Anteil derjenigen, die ihre Daten bei Finanzinstituten in guten Händen wähnen, wenn KI mit im Spiel ist.

„Banken investieren zwar mehr in KI als andere Branchen – implementieren die Technologie jedoch zu oft ohne die nötige Weitsicht“, sagt Lars Kunert, Director FSI bei SAS. „Heute schauen Aufsichtsbehörden und Verbraucher gleichermaßen darauf, inwieweit KI vertrauenswürdig ist. Am Ende werden diejenigen Banken das Rennen machen, die in Governance, Erklärbarkeit, Transparenz und eine starke Datengrundlage investieren – und zwar, bevor sie KI skalieren, nicht erst, wenn Schaden entstanden ist.“