Der Aufstieg der KI im Risikomanagement

Künstliche Intelligenz hält immer stärker Einzug in die Risikofunktionen von Banken und Finanzinstituten. Sie kann mehr Transaktionen prüfen, ungewöhnliche Muster erkennen und Bewertungen schneller aktualisieren als herkömmliche Systeme. Accenture berichtet, dass Finanzunternehmen, die KI einsetzen, Effizienzsteigerungen von 201 % erzielt haben. Eine schnellere Analyse bedeutet jedoch nicht zwangsläufig eine bessere Kontrolle. Die Qualität des Ergebnisses hängt nach wie vor von den Daten, den Annahmen und den Menschen hinter dem Modell ab.

Risikomanagement war schon immer mit unvollständigen Informationen verbunden. Banken müssen entscheiden, welche Kreditnehmer voraussichtlich ihre Kredite zurückzahlen werden, welche Transaktionen einer Prüfung bedürfen und wie sich Portfolios unter sich ändernden Marktbedingungen entwickeln könnten.

Traditionell stützten sich diese Entscheidungen auf statistische Modelle, festgelegte Regeln und das Urteilsvermögen erfahrener Mitarbeiter. Dieser Ansatz ist nach wie vor wichtig, lässt sich jedoch in dem Umfang und mit der Geschwindigkeit, die die moderne Finanzwelt erfordert, immer schwerer umsetzen.

Finanzinstitute wickeln mittlerweile riesige Mengen an Zahlungen, Marktpositionen und Kundendaten ab. Risiken können sich über verschiedene Systeme und Rechtsräume hinweg ergeben, oft noch bevor sie in herkömmlichen Berichten sichtbar werden.

KI bietet eine Möglichkeit, diese Signale gemeinsam zu untersuchen. Sie kann Anomalien erkennen, Verhaltensmuster in großen Datensätzen vergleichen und die Aufmerksamkeit der Menschen auf Fälle lenken, die einer genaueren Prüfung bedürfen.

Sein Hauptvorteil liegt nicht in der Vorausschau. Es ist vielmehr die Fähigkeit, umfassender zu suchen und schneller zu reagieren.

Von festen Regeln zu sich wandelnden Mustern

Herkömmliche Risikosysteme arbeiten häufig mit vordefinierten Schwellenwerten. Eine Transaktion, die einen bestimmten Wert überschreitet, kann eine Überprüfung auslösen. Ein Kreditnehmer mit bestimmten finanziellen Merkmalen erhält möglicherweise eine bestimmte Bonitätsbewertung.

Diese Regeln sind transparent und relativ leicht zu überprüfen. Sie können jedoch auch unflexibel sein.

Betrüger passen ihr Verhalten an, um bekannte Kontrollmechanismen zu umgehen. Die Marktverhältnisse ändern sich. Eine Transaktion, die für sich genommen harmlos erscheint, kann im Zusammenhang mit einem umfassenderen Aktivitätsmuster verdächtig werden.

Modelle des maschinellen Lernens können diese Zusammenhänge analysieren, ohne sich ausschließlich auf festgelegte Regeln zu stützen. Sie können subtile Veränderungen im Zahlungsverhalten, beim Kontozugriff oder in Transaktionsnetzwerken erkennen, die manuell nur schwer zu identifizieren wären.

Das gleiche Prinzip gilt für Kredit- und Marktrisiken. KI kann ein breiteres Spektrum an Variablen verarbeiten und Bewertungen aktualisieren, sobald neue Informationen vorliegen.

Dadurch wird das System reaktionsschneller. Gleichzeitig wird die Überwachung anspruchsvoller, insbesondere wenn das Modell seine Schlussfolgerungen nicht klar begründen kann.

JPMorgan verdeutlicht die Vorteile der Größe

JPMorgan Chase hat in den Bereichen Handel, Compliance, Betrugsaufdeckung und operationelle Risiken massiv in künstliche Intelligenz investiert.

Für eine Bank dieser Größe liegt der Vorteil auf der Hand. Selbst geringfügige Verbesserungen bei der Geschwindigkeit oder Genauigkeit der Risikoanalyse können erhebliche Einsparungen bewirken, wenn sie auf Millionen von Transaktionen und Kundenbeziehungen angewendet werden.

KI-gestützte Tools können Mitarbeitern dabei helfen, ungewöhnliche Aktivitäten zu erkennen, Dokumente zu prüfen und Warnmeldungen zu priorisieren. Außerdem können sie den Zeitaufwand für sich wiederholende Untersuchungen reduzieren, bei denen sich letztendlich kein Problem herausstellt.

Das bedeutet nicht, dass Risikobewertungen vollständig an Maschinen delegiert werden. Fälle mit höherem Risiko erfordern nach wie vor eine Interpretation, Belege und eine dokumentierte Beurteilung.

Die Erfahrungen von JPMorgan spiegeln einen allgemeinen Branchentrend wider. Große Institute nutzen KI, um bestehende Kontrollsysteme zu stärken, anstatt die Risikomanagementabteilungen durch autonome Modelle zu ersetzen.

Die Technologie ist dann am nützlichsten, wenn sie Fachleuten dabei hilft, zu entscheiden, wo sie suchen sollen.

Die Einführung breitet sich in der gesamten Branche aus

Eine Umfrage von Deloitte ergab, dass 76 % der Finanzinstitute in KI investierten, um ihre Risikomanagementfähigkeiten zu verbessern.

Die Einführung erstreckt sich auf Kredit-, Markt-, Liquiditäts-, operationelle und Compliance-Risiken. Der Reifegrad dieser Anwendungen variiert erheblich.

Die Betrugsaufdeckung gehört zu den etabliertesten Anwendungsfällen, da die Institutionen bereits über große Mengen an Transaktionsdaten verfügen und Modellwarnungen mit bekannten Ergebnissen abgleichen können.

Die Bonitätsprüfung ist komplexer. KI kann Cashflow-Daten, das Zahlungsverhalten und andere Variablen einbeziehen, die herkömmliche Bewertungssysteme außer Acht lassen. Dies kann zu einem detaillierteren Bild des Kreditnehmers führen.

Außerdem kann es dadurch schwieriger werden, Entscheidungen zu begründen.

Marktrisikomodelle stehen vor einer anderen Herausforderung. Sie können zwar Korrelationen zwischen Wertpapieren und Anlageklassen aufzeigen, doch schwächen sich historische Zusammenhänge in Stressphasen oft ab.

Anwendungen im Bereich des operationellen Risikos reichen von der Überwachung der Cybersicherheit bis hin zur Analyse interner Prozesse. Dabei kann KI ungewöhnliche Systemaktivitäten, das Verhalten von Mitarbeitern oder Häufungen fehlgeschlagener Transaktionen erkennen.

Es gibt kein einheitliches KI-Risikomanagementsystem. Der Begriff umfasst eine Reihe von Instrumenten, die sehr unterschiedliche Probleme angehen.

Kleinere Unternehmen erhalten über Anbieter Zugang

Der Einsatz von KI beschränkt sich nicht nur auf globale Banken.

Fintech-Unternehmen und kleinere Finanzdienstleister können über Cloud-Plattformen und spezialisierte Technologieanbieter auf Risikomanagement-Tools zugreifen. Dies senkt die Kosten für Betrugsüberprüfung, Identitätsprüfung und Datenanalyse.

Plaid nutzt beispielsweise automatisierte Systeme, um die Datensicherheit zu gewährleisten und potenziell betrügerische Aktivitäten im Finanzbereich aufzudecken.

Externe Plattformen ermöglichen kleineren Einrichtungen den Zugang zu Funktionen, deren Aufbau sie sich intern nicht leisten könnten. Sie bringen jedoch auch neue Abhängigkeiten mit sich.

Ein Unternehmen kann die Technologie auslagern, aber nicht die Verantwortung. Es muss wissen, welche Daten der Anbieter verwendet, wie das System getestet wird und was passiert, wenn der Dienst ausfällt.

Die Konzentration auf wenige Anbieter stellt an sich schon ein Risiko dar. Wenn sich viele Institute auf dieselben Modelle oder dieselbe Infrastruktur stützen, könnte eine technische Schwachstelle einen Großteil des Finanzsystems gleichzeitig beeinträchtigen.

Komfort muss daher gegen Kontrolle abgewogen werden.

Vorhersagen haben klare Grenzen

Prädiktive Analysen werden oft als zentraler Vorteil des KI-Risikomanagements dargestellt.

Modelle können die Wahrscheinlichkeit von Ausfällen, Betrugsfällen oder Marktverlusten durch die Analyse früherer Ergebnisse abschätzen. Sobald neue Daten vorliegen, können diese Schätzungen aktualisiert werden.

Das Verfahren ist nützlich, doch die Sprache der Vorhersagen kann zu falschem Selbstvertrauen führen.

Finanzielle Risiken entstehen selten unter stabilen Bedingungen. Das Verhalten der Kreditnehmer ändert sich in Rezessionsphasen. Die Marktliquidität kann rasch schwinden. Politische Entscheidungen, Cyberangriffe und Naturkatastrophen können Ereignisse auslösen, die in historischen Daten kaum berücksichtigt sind.

Ein Modell kann unter normalen Bedingungen gut funktionieren und genau dann versagen, wenn seine Ergebnisse am wichtigsten sind.

Aus diesem Grund sollte KI die Szenarioanalyse und Stresstests ergänzen, anstatt sie zu ersetzen. Die Institute müssen prüfen, was außerhalb des Bereichs der Ergebnisse passieren könnte, die das Modell als wahrscheinlich einstuft.

Beim Risikomanagement geht es nicht nur um die Wahrscheinlichkeit, sondern auch um die Folgen.

Automatisierung schafft Kapazitäten, kann aber Schwächen verschleiern

KI kann Teile der Datenerfassung, der Einstufung von Warnmeldungen, der Dokumentation und der Berichterstellung automatisieren.

Dadurch können Risikomanager mehr Zeit für komplexe Untersuchungen und strategische Fragen aufwenden. Außerdem lassen sich dadurch Unstimmigkeiten verringern, die bei der manuellen Durchführung von Routineprüfungen auftreten können.

Der Effizienzgewinn ist attraktiv. Accenture berichtet von Verbesserungen von 201 % bei Finanzunternehmen, die KI-Technologien einsetzen.

Automatisierung kann jedoch Schwachstellen in den Prozessen verschleiern.

Wenn ein Modell auf ungenauen Klassifizierungen trainiert wird, kann es diese möglicherweise noch effizienter reproduzieren. Wenn verschiedene Abteilungen inkonsistente Kunden- oder Transaktionsdaten verwenden, wird das zugrunde liegende Problem durch eine schnellere Verarbeitung nicht gelöst.

Es kann auch sein, dass Institutionen ohne automatisierte Systeme weniger handlungsfähig werden. Mitarbeiter, die eine Aufgabe nur selten manuell ausführen, haben möglicherweise Schwierigkeiten zu erkennen, wann die Technologie versagt hat.

Resilienz setzt die Fähigkeit voraus, das System in Frage zu stellen, und nicht nur, es zu nutzen.

Risikomodelle spiegeln menschliche Entscheidungen wider

Künstliche Intelligenz wird manchmal als objektiver als menschliches Urteilsvermögen beschrieben. In der Praxis basieren die Modelle jedoch auf menschlichen Entscheidungen.

Entwickler entscheiden, welche Daten einbezogen werden sollen, welche Ergebnisse optimiert werden sollen und wie frühere Entscheidungen klassifiziert werden sollen. Diese Entscheidungen beeinflussen die Schlussfolgerungen des Modells.

Im Kreditrisikobereich können historische Daten einen ungleichen Zugang zu Krediten oder eine unterschiedliche Behandlung von Kundengruppen widerspiegeln. Ein auf solchen Datensätzen trainiertes Modell kann diese Muster wiederholen, ohne geschützte Merkmale explizit zu verwenden.

Betrugsbekämpfungssysteme können bei Kunden, deren Transaktionen von der Mehrheit abweichen, unverhältnismäßig viele Warnmeldungen auslösen, selbst wenn ihre Aktivitäten legitim sind.

Das Problem lässt sich nicht dadurch lösen, dass man Namen oder demografische Angaben entfernt. Andere Variablen können als Ersatzindikatoren dienen.

Die Institutionen müssen daher die Modellergebnisse für verschiedene Kundengruppen überprüfen und ungeklärte Diskrepanzen untersuchen.

Ein statistisch korrektes System kann dennoch Entscheidungen hervorbringen, die ungerecht, ungeeignet oder rechtlich schwer zu verteidigen sind.

Erklärbarkeit wird zu einem regulatorischen Thema

Komplexe Modelle können zwar aussagekräftige Vorhersagen liefern, ohne jedoch eine einfache Erklärung dafür zu bieten, wie sie zu diesen Ergebnissen gelangt sind.

Dies ist besonders problematisch, wenn eine Entscheidung Auswirkungen auf einen Kunden hat. Ein abgelehnter Kreditantrag, eine gesperrte Transaktion oder eine höhere Risikoeinstufung erfordern unter Umständen eine nachvollziehbare Erklärung.

Auch Aufsichtsbehörden und interne Kontrollgremien müssen prüfen, ob die Modelle innerhalb der genehmigten Grenzen funktionieren.

Manche Institutionen ziehen daher bei Anwendungen mit hohem Risiko möglicherweise einfachere Modelle vor, selbst wenn komplexere Systeme eine geringfügig höhere Vorhersagegenauigkeit bieten.

Es geht um den Kompromiss zwischen Leistung und Erklärbarkeit.

Nicht jedes KI-Modell muss jedem Nutzer alle technischen Berechnungen offenlegen. Die Institutionen müssen jedoch in der Lage sein, die für eine Entscheidung maßgeblichen Faktoren zu beschreiben und nachzuweisen, dass das System getestet wurde.

Ein Ergebnis, das nicht angefochten werden kann, lässt sich nur schwer umsetzen.

Datensicherheit wird Teil des Risikomanagements

KI-Systeme benötigen umfassenden Zugriff auf Finanz-, Transaktions- und personenbezogene Daten.

Dies führt zu einem offensichtlichen Spannungsverhältnis. Die Technologie soll Risiken mindern, doch die Konzentration und Verarbeitung sensibler Daten kann neue Schwachstellen schaffen.

Institutionen müssen Informationen während der Erhebung, Speicherung und Auswertung schützen. Der Zugriff sollte beschränkt, protokolliert und regelmäßig überprüft werden.

Externe KI-Anbieter müssen besonders genau unter die Lupe genommen werden. Unternehmen müssen wissen, ob ihre Daten zum Trainieren anderer Modelle verwendet werden, wo die Informationen verarbeitet werden und wie schnell Vorfälle gemeldet werden müssen.

Cyberangreifer könnten auch versuchen, KI-Systeme zu manipulieren. Indem sie Eingabedaten verändern oder normales Verhalten imitieren, können sie versuchen, einer Entdeckung zu entgehen.

Das Modell selbst kann somit zur Zielscheibe werden.

Datensicherheit und Modellsicherheit dürfen nicht als getrennte Disziplinen betrachtet werden. Beide sind Teil des übergeordneten Risikorahmens der Institution.

Modelle müssen ständig überwacht werden

KI-Systeme werden oft als Systeme beschrieben, die im Laufe der Zeit lernen und sich verbessern. Dieser Prozess muss sorgfältig gesteuert werden.

Ein Modell, das sich ohne wirksame Kontrollen selbst aktualisiert, kann von seinem ursprünglichen Zweck abweichen. Änderungen an den Daten können die Art und Weise, wie es Risiken einstuft, nach und nach verändern, selbst wenn keine formelle Entscheidung zur Überarbeitung der Methodik getroffen wurde.

Institutionen müssen die Genauigkeit, Fehlalarme und unerwartete Verhaltensänderungen überwachen. Die Leistungsfähigkeit sollte unter verschiedenen Markt- und Wirtschaftsbedingungen getestet werden.

Änderungen am Materialmodell müssen dokumentiert und genehmigt werden. Die Mitarbeiter müssen wissen, welche Version verwendet wird und inwiefern sie sich von früheren Versionen unterscheidet.

Eine unabhängige Validierung ist nach wie vor unerlässlich. Das Team, das ein Modell entwickelt, sollte nicht allein darüber entscheiden, ob es funktioniert.

Kontinuierliches Lernen ist kein Ersatz für kontinuierliche Unternehmensführung.

Das menschliche Urteilsvermögen konzentriert sich auf die Ausnahmen

KI wird die Arbeitsteilung innerhalb der Risikomanagementabteilungen verändern.

Routinefälle können zunehmend automatisch bearbeitet werden. Die Mitarbeiter konzentrieren sich auf Ausnahmen, unklare Situationen und Risiken, die nicht den etablierten Mustern entsprechen.

Dadurch gewinnt das menschliche Urteilsvermögen an Bedeutung, statt an Bedeutung zu verlieren.

Die an Spezialisten weitergeleiteten Fälle sind oft die schwierigsten. Die Mitarbeiter müssen das Modell gut genug verstehen, um dessen Schlussfolgerungen hinterfragen zu können, und wissen, wann zusätzliche Nachweise erforderlich sind.

Außerdem benötigen sie die Befugnis, automatisierte Empfehlungen außer Kraft zu setzen.

Ein System, das menschliches Eingreifen nur theoretisch zulässt, bietet keine sinnvolle Kontrolle. Unternehmen sollten beobachten, wie oft Mitarbeiter den Modellen widersprechen und ob sie unter Druck gesetzt werden, automatisierte Ergebnisse zu befolgen.

Das Ziel besteht nicht darin, manuelle Arbeit um ihrer selbst willen beizubehalten. Vielmehr soll sichergestellt werden, dass wichtige Entscheidungen weiterhin nachvollziehbar bleiben.

KI kann auch systemische Risiken verursachen

Die Einführung ähnlicher Modelle im gesamten Finanzsektor könnte zu neuen Formen gemeinsamer Risiken führen.

Wenn Finanzinstitute vergleichbare Daten und Algorithmen verwenden, reagieren sie möglicherweise auf ähnliche Weise auf Marktsignale. In Stressphasen könnte dies zu verstärkten Verkäufen führen, die Liquidität verringern oder zu abrupten Veränderungen bei der Kreditverfügbarkeit führen.

Ein einzelnes Modell mag aus der Perspektive eines Unternehmens rational sein, trägt jedoch zur Instabilität des gesamten Systems bei.

Die Abhängigkeit von einer kleinen Anzahl von Cloud- und Technologieanbietern birgt ein weiteres Konzentrationsrisiko. Eine Störung bei einem großen Anbieter könnte die Risikokontrollen bei mehreren Instituten gleichzeitig beeinträchtigen.

Die Aufsichtsbehörden müssen daher über die Leistung einzelner Modelle hinausblicken. Sie müssen berücksichtigen, wie KI das Verhalten in den verschiedenen Institutionen und Märkten verändert.

Eine höhere Effizienz auf Unternehmensebene führt nicht automatisch zu einer höheren Widerstandsfähigkeit auf Systemebene.

Das Wertpotenzial ist beträchtlich

McKinsey schätzt, dass KI für den globalen Bankensektor einen jährlichen Mehrwert von bis zu 1,4 Billionen Euro generieren könnte.

Nur ein Teil dieses Wertes wird direkt aus dem Risikomanagement stammen. Eine bessere Betrugsaufdeckung, geringere Compliance-Kosten und präzisere Kreditentscheidungen könnten dennoch einen wesentlichen Beitrag leisten.

Die Vorteile ergeben sich nicht allein dadurch, dass Institutionen KI-Tools anschaffen.

Unternehmen benötigen zuverlässige Daten, klare Ziele und Mitarbeiter, die in der Lage sind, die Ergebnisse von Modellen zu nutzen. Sie müssen neben der Entwicklung auch in Tests, Sicherheit und Governance investieren.

Manche Anwendungen werden die versprochenen Ergebnisse nicht liefern. Andere erweisen sich möglicherweise als zu schwer zu erklären oder als zu anfällig für sich ändernde Bedingungen.

Risikomanager sollten daher eher mit konkret definierten Problemen als mit weit gefassten Zielen beginnen. Ein System, das darauf ausgelegt ist, Fehlalarme bei Betrugsfällen zu reduzieren, lässt sich anhand eines klaren Ergebnisses messen. Ein allgemeines Versprechen, das “Risikomanagement zu transformieren”, hingegen nicht.

Investitionen in KI sollten anhand ihrer Auswirkungen auf Entscheidungen beurteilt werden, nicht anhand der Komplexität der Technologie.

Schnellere Warnungen, nicht weniger Unsicherheiten

Künstliche Intelligenz dürfte zu einem festen Bestandteil des Finanzrisikomanagements werden.

Es kann Muster in großen Datensätzen erkennen, Routinekontrollen automatisieren und Institutionen dabei helfen, schneller zu reagieren. Diese Fähigkeiten sind in einem Finanzsystem von großem Wert, in dem sich Risiken rasch verändern und häufig über Organisationsgrenzen hinweg wirken.

Sie machen Institutionen nicht immun gegen Fehler.

KI-Modelle können ungewöhnliche Situationen falsch interpretieren, historische Verzerrungen reproduzieren und Abhängigkeiten schaffen, die schwer zu erkennen sind. Die Schnelligkeit ihrer Ergebnisse könnte Unternehmen dazu verleiten, den Vorhersagen mehr Vertrauen zu schenken, als es die zugrunde liegenden Fakten rechtfertigen.

Die besten Risikomanagement-Rahmenwerke verbinden maschinengestützte Analysen mit menschlicher Überprüfung, unabhängiger Validierung und klarer Verantwortlichkeit.

KI kann das Warnsystem verbessern. Sie kann jedoch nicht entscheiden, welche Risiken eine Institution eingehen sollte, wie viel Unsicherheit sie verkraften kann oder welche Maßnahmen bei unklaren Daten verantwortungsvoll sind.

Diese Entscheidungen liegen nach wie vor bei den Menschen.