Vertrauen ist keine Verteidigungsstrategie mehr, sondern ein Angriffsvorteil.
KI ist allgegenwärtig, doch die Ablehnung gegenüber KI nimmt zu. Warum? Weil das Vertrauen nicht mit der Verbreitung Schritt gehalten hat. Der bereits im zweiten Jahr erscheinende Bericht über die Auswirkungen von Daten und KI verfolgt, wie Unternehmen weltweit KI einsetzen, Vertrauen in KI aufbauen und daraus geschäftlichen Nutzen erzielen.
Studienergebnisse aus diesem Jahr zeigen, dass dies allmählich zur Realität wird. Während Unternehmen den Übergang von generativer KI zu autonomeren Systemen vollziehen, wird Vertrauen zum ausschlaggebenden Faktor, der über Erfolg oder Stagnation entscheidet.
Schwerpunkt Erklärbarkeit
Vor einem Jahr war Vertrauen vor allem im Zusammenhang mit generativer KI ein Thema. Heute fragen sich Unternehmen, ob sie der KI zutrauen, stellvertretend für sie zu handeln. Da KI zunehmend nicht mehr nur Ergebnisse generiert, sondern Entscheidungen trifft und Maßnahmen ergreift, gewinnt die Vertrauenswürdigkeit immer mehr an Bedeutung. Agentische KI steht nun im Mittelpunkt der Diskussion, und das Thema Vertrauen hat Mühe, damit Schritt zu halten.
76 % der Befragten vertrauen der generativen KI. Der agentischen KI vertrauen hingegen nur 66 %. Ein Rückgang um 10 Prozentpunkte. Warum? Weil das Vertrauen mit zunehmender Autonomie abnimmt.
Der Vertrauensverlust hat Konsequenzen. 97,2 % der Befragten geben an, dass sie zumindest einige KI-Empfehlungen übergehen. Dies liegt in erster Linie nicht an einer schlechten Ausgabequalität, sondern an fehlenden Erklärungen und Kontextinformationen. Wenn Nutzer nicht nachvollziehen können, wie eine Entscheidung zustande gekommen ist, sind sie weniger bereit, die KI für sich entscheiden zu lassen.
Vertrauen sinkt mit zunehmender Autonomie der KI
Vertrauen in generative KI
Vertrauen in agentische KI
Bessere Daten schaffen
Die KI hat weiterhin ein Datenproblem. Die zweite Ausgabe dieser jährlichen Studie zeigt, dass die meisten Unternehmen über Dateninfrastrukturen verfügen, welche die Erklärbarkeit und die Nachvollziehbarkeit der Validierung, die agentische KI erfordert, nicht vollständig unterstützen können.
Nur 17,5 % verfügen über eine vollständig optimierte Dateninfrastruktur (ein Anstieg gegenüber 10,2 % im Vorjahr), welche die für das Vertrauen in agentische Entscheidungen erforderliche Transparenz bietet.
Wenn Sie die Herleitung einer Entscheidung nachweisen können, können Sie diese auch verteidigen. Wenn nicht, gehören Sie zu der Vielzahl von Unternehmen, die Entscheidungen übergehen und damit ihre Investitionen verschwenden.
Die Datenreife bleibt ein großes Hindernis
Optimierte Infrastruktur heute
Optimierte Infrastruktur im Vorjahr
Dem Beispiel der Vorreiter folgen
Was zeichnet einen vertrauenswürdigen Vorreiter im Bereich KI aus?
Diese Studie misst die Vertrauenswürdigkeit von KI anhand von fünf Dimensionen: Datenqualität und -governance; Modellgovernance und -aufsicht; Erklärbarkeit und Fairness; Richtlinien für verantwortungsvolle KI; Prüfung und Rechenschaftspflicht.
Zusammen bilden diese Dimensionen den Vertrauenswürdigkeitsindex. Unternehmen, die 80 oder mehr Punkte erzielen, werden als vertrauenswürdige Vorreiter im Bereich KI eingestuft.
Die wichtigste Erkenntnis aus zwei Jahren Forschung: Vertrauenswürdigkeit und Geschäftsergebnisse gehen Hand in Hand. Die Unternehmen, die am stärksten in vertrauenswürdige KI investieren, heben sich weiterhin deutlich vom Rest des Marktes ab. Vertrauenswürdige Vorreiter im KI-Bereich verzeichnen mit 15-mal höherer Wahrscheinlichkeit einen starken ROI, doch der Unterschied geht über die finanziellen Ergebnisse hinaus. Vorreiter investieren eher in Governance, Erklärbarkeit, Validierung und Mitarbeiterschulungen und schaffen so Systeme, auf die die Menschen vertrauen und die sie gerne nutzen.
Diejenigen, die bei verantwortungsvoller KI – und damit auch beim ROI – führend sind, arbeiten daran, diesen Vorsprung auszubauen: 85 % werden ihre Investitionen in vertrauenswürdige KI im nächsten Jahr um 10 % oder mehr erhöhen, während dies nur bei 26 % der Unternehmen der Fall ist, die hinterherhinken. Die Kluft zwischen Vorreitern und Nachzüglern ist bereits erheblich. Da die Vorreiter ihre Investitionen in vertrauenswürdige KI weiter erhöhen, dürfte es immer schwieriger werden, diese Kluft zu schließen.
Lesen Sie den vollständigen Bericht, um Erkenntnisse von den Vorreitern im Bereich KI zu gewinnen.
Geplantes Wachstum der Investitionen in vertrauenswürdige KI
Vertrauenswürdige Unternehmen
Unternehmen mit geringem Vertrauen
Branchenüberblick
Obwohl jede Branche mit unterschiedlichen Vorschriften, Risiken und Prioritäten konfrontiert ist, zeigt sich in der gesamten Studie dasselbe Muster: Unternehmen, die in vertrauenswürdige KI investieren, schneiden durchweg besser ab als diejenigen, die dies nicht tun.
Wählen Sie Ihre Branche aus und erfahren Sie mehr Details:
Banken
Highlight
Banken wenden ihre jahrzehntelangen Praktiken im Risikomanagement und in der Compliance nun auch auf die KI an und tragen so dazu bei, Vertrauen aufzubauen und bessere Ergebnisse zu erzielen. 85 % der Vorreiter im Bereich vertrauenswürdiger KI im Bankensektor haben Richtlinien für verantwortungsvolle KI für alle Mitarbeiter eingeführt, verglichen mit nur 29 % der Nachzügler.
Hauptanliegen
Mit zunehmender Autonomie der KI bleibt die Aufsicht eine Herausforderung. 38 % der Vorreiter im Bereich vertrauenswürdiger KI nennen die Verwaltung der Autonomie und der menschlichen Aufsicht als Anliegen, verglichen mit 12 % der Nachzügler.
Richtlinien für verantwortungsvolle KI fördern Vertrauen im Bankensektor
Unternehmen mit hohem Vertrauen in KI
Unternehmen mit geringem Vertrauen in KI
Und Banken mit hohem Vertrauen berichten mit 6,6-mal höherer Wahrscheinlichkeit von einem hohen ROI durch KI.
Versicherungen
Highlight
Die Versicherungsbranche liefert eines der deutlichsten Beispiele dafür, dass vertrauenswürdige KI und wirtschaftliche Leistung Hand in Hand gehen. 59 % der vertrauenswürdigen Vorreiter im KI-Bereich berichten von einem starken oder hohen ROI für KI. Bei den Nachzüglern sinkt dieser Wert auf 0 %.
Hauptanliegen
Mit der zunehmenden Verbreitung von KI wird es immer wichtiger, das richtige Gleichgewicht zwischen Autonomie und Aufsicht zu wahren. 34 % der Vorreiter im Bereich vertrauenswürdiger KI nennen die Verwaltung von Autonomie und menschlicher Aufsicht als zentrales Anliegen.
Hohes Vertrauen in KI führt zu einem höheren ROI im Versicherungswesen
Versicherer mit hohem Vertrauen
Versicherer mit geringem Vertrauen
Life Sciences
Highlight
Life-Science-Unternehmen bauen auf etablierten Qualitäts-, Audit- und Compliance-Verfahren auf, um ihre KI Governance zu stärken. 91 % der vertrauenswürdigen KI-Vorreiter verfügen über Richtlinien für verantwortungsvolle KI, die alle Mitarbeiter erreichen – im Vergleich zu nur 7 % der Nachzügler.
Hauptanliegen
Die Datengrundlage bleibt von entscheidender Bedeutung. 62 % der Vorreiter im Bereich vertrauenswürdige KI nennen den Datenschutz als Anliegen in Anbetracht der Sensibilität und Komplexität der von ihnen verwalteten Daten.
Richtlinien für verantwortungsvolle KI erreichen jeden Mitarbeiter
Unternehmen mit höherem Vertrauen
Unternehmen mit geringerem Vertrauen
Öffentliche Verwaltung
Organisationen des öffentlichen Sektors erhöhen ihre Investitionen in vertrauenswürdige KI und weiten den Einsatz von KI in Dienstleistungen für Bürger sowie in der Entscheidungsunterstützung aus. 41 % der führenden Akteure im Bereich vertrauenswürdiger KI planen, ihre Investitionen in vertrauenswürdige KI im nächsten Jahr um mehr als 20 % zu steigern, was unter allen Schwerpunktbranchen den höchsten Anteil darstellt.
Schwerpunkt
Transparenz bleibt eine zentrale Hürde. 41 % der vertrauenswürdigen KI-Vorreiter nennen Erklärbarkeit und Transparenz als noch bestehende Lücke, verglichen mit 26 % der Nachzügler.
41 % der führenden Akteure im KI-Bereich planen eine deutliche Erhöhung der Ausgaben für vertrauenswürdige KI
Anstieg der Investitionen in vertrauenswürdige KI
Der höchste Wert aller untersuchten Branchen.
Angesichts kleiner werdender Vertrauenslücken in Branchen wie Life Sciences und Finanzdienstleistungen hebt die Studie die Praktiken hervor, die in regulierten Umgebungen echte Wirkung erzielen. Für Branchen, in denen Aufsicht von größter Bedeutung ist und die Stärkung von Vertrauen und Governance mit der zunehmenden Autonomie der KI entscheidend wird, ist dies eine unverzichtbare Perspektive. Mona Chadha Director of AI & Strategic Partnership Amazon Web Services
Mehr zum Thema Vertrauen in KI
Betrachten Sie die diesjährigen Ergebnisse im Zusammenhang mit den umfassenderen Entwicklungen, die gerade die Wirtschafts- und Technologiewelt verändern.
