Weltweiter Einsatz von KI im Risikomanagement

Künstliche Intelligenz kann ungewöhnliche Zahlungen erkennen, sich verschlechternde Kreditsignale analysieren und Tausende von Compliance-Warnmeldungen schneller prüfen als ein Team aus Menschen. Das macht sie zu einem potenziell wertvollen Instrument des Risikomanagements, jedoch nicht zu einem autonomen Wächter eines Finanzinstituts. Modelle können unbekannte Bedrohungen übersehen, Vorurteile reproduzieren und neue Abhängigkeiten von Daten- und Technologieanbietern schaffen. Die praktische Frage lautet daher nicht, ob eine Bank KI einsetzen sollte, sondern welche Risiken sie damit besser bewältigen kann und welche Kontrollmechanismen erforderlich sind, um zu verhindern, dass die Technologie zu einer weiteren Risikoquelle wird.

Die Einführung schreitet schneller voran als die Regulierung

KI ist im Bankensektor bereits weit verbreitet. Die Europäische Bankenaufsichtsbehörde berichtete im Jahr 2025, dass 92 Prozent der EU-Banken KI einsetzten, während die übrigen Institute Pilotprojekte durchführten oder mögliche Anwendungsfälle diskutierten. Die Bank of England und die Financial Conduct Authority stellten ebenfalls einen umfassenden Einsatz im britischen Finanzdienstleistungssektor fest.

Statistiken zur Einführung von KI können jedoch den Reifegrad der Umsetzung überbewerten. Eine Bank kann bereits als KI-Nutzer gelten, wenn sie maschinelles Lernen zur Betrugsaufdeckung einsetzt oder ihren Mitarbeitern die Nutzung eines internen generativen Assistenten ermöglicht. Das bedeutet jedoch nicht, dass künstliche Intelligenz ihre zentralen Entscheidungen in den Bereichen Kredit-, Liquiditäts- oder Marktrisiko trifft.

Viele Institutionen zeigen sich nach wie vor zurückhaltend, wenn es darum geht, KI direkt in Prozesse mit hoher Auswirkung zu integrieren. Sie nutzen sie möglicherweise dazu, Fälle zu identifizieren, die einer Untersuchung bedürfen, behalten dabei jedoch bewährte Modelle bei und lassen die endgültige Entscheidung weiterhin von Menschen treffen.

Diese Unterscheidung ist wichtig. KI kann eine Kontrollfunktion unterstützen, ohne die Verantwortung für das Ergebnis zu übernehmen. Das Finanzinstitut bleibt rechenschaftspflichtig, unabhängig davon, ob der Fehler von einem Mitarbeiter, einem intern entwickelten Modell oder einem externen Technologieanbieter verursacht wurde.

Die Betrugsaufdeckung ist einer der wichtigsten Anwendungsfälle

Betrugsbekämpfungssysteme müssen sehr große Transaktionsmengen auswerten und dabei entscheiden, bei welchen ein Eingreifen erforderlich ist. Herkömmliche Regeln kennzeichnen möglicherweise jede Zahlung, die einen bestimmten Betrag übersteigt, oder jeden ungewöhnlichen Ort. Systeme mit maschinellem Lernen können eine breitere Palette von Verhaltensmustern analysieren, darunter die Transaktionshistorie, Geräteinformationen, den Zeitpunkt der Transaktion und die Beziehungen zwischen Konten.

Dies kann dabei helfen, Muster zu erkennen, die eine feste Regel übersehen würde. Außerdem lassen sich dadurch unnötige Warnmeldungen reduzieren, indem zwischen tatsächlich ungewöhnlichem Verhalten und einer legitimen Änderung der Art und Weise, wie ein Kunde sein Konto nutzt, unterschieden wird.

Der Vorteil besteht nicht nur in einer höheren Erkennungsrate. Zu viele Fehlalarme können dazu führen, dass legitime Zahlungen blockiert werden, sodass Kunden keinen Zugriff auf ihr Geld haben, während die Ermittler Zeit damit verbringen, harmlose Aktivitäten zu überprüfen.

KI kann zwar dabei helfen, Warnmeldungen nach Priorität zu ordnen, doch Betrugsmethoden entwickeln sich weiter, um die zu ihrer Bekämpfung eingeführten Kontrollmaßnahmen zu umgehen. Kriminelle testen Systeme, manipulieren Identitäten und passen Transaktionsmuster an. Ein Modell, das auf den Betrugsfällen von gestern trainiert wurde, kann bei einer neuen Methode möglicherweise nur unzureichende Ergebnisse liefern.

Daher benötigen die Einrichtungen eine kontinuierliche Überwachung, schnelles Feedback von den Forschern und die Möglichkeit, die Kontrollen anzupassen, ohne davon auszugehen, dass ein zuvor erfolgreiches Modell auf unbestimmte Zeit wirksam bleibt.

Prüfungen zur Bekämpfung der Geldwäsche könnten gezielter werden

Banken wenden erhebliche Ressourcen für die Überwachung von Transaktionen und die Untersuchung möglicher Geldwäschefälle auf. Bestehende Systeme generieren oft eine große Anzahl von Warnmeldungen, von denen viele nicht zu einer Meldung verdächtiger Aktivitäten führen.

KI kann diesen Prozess verbessern, indem sie Kunden, Unternehmen, Konten und Transaktionen miteinander verknüpft, die bei separater Betrachtung scheinbar nichts miteinander zu tun haben. Mithilfe von Netzwerkanalysen lassen sich gemeinsame Adressen, Eigentumsverflechtungen oder Zahlungswege zwischen mehreren Einheiten aufdecken.

Tools zur Verarbeitung natürlicher Sprache können Ermittler zudem dabei unterstützen, Fallakten zu ordnen, bisherige Maßnahmen zusammenzufassen und relevante Richtlinien abzurufen. Dies kann den Verwaltungsaufwand verringern und es den Fachleuten ermöglichen, sich auf den Kern des Falles zu konzentrieren.

Die Technologie sollte nicht eigenständig feststellen, dass ein Kunde kriminelle Handlungen begeht. Bestimmte Verhaltensmuster können legitime Gründe haben, und automatisierte Schlussfolgerungen können schwerwiegende Folgen für den Zugriff auf das Konto und den Ruf haben.

Banken müssen zudem vermeiden, KI lediglich dazu einzusetzen, um Warnmeldungen schneller abzuarbeiten. Effizienz ist nur dann von Wert, wenn sie die Erkennung und Untersuchung echter Risiken verbessert, anstatt lediglich einen schnelleren Weg zur Erledigung von Fällen zu schaffen.

Die Bonitätsprüfung erfordert besondere Sorgfalt

Mithilfe von maschinellem Lernen lassen sich Jahresabschlüsse, Zahlungshistorien, Cashflow-Muster und andere Informationen auswerten, um einzuschätzen, ob ein Kreditnehmer seinen Kredit wahrscheinlich zurückzahlen wird. Dabei können Zusammenhänge erkannt werden, die mit herkömmlichen Scorecards nur schwer zu erfassen sind.

Dies kann die Geschwindigkeit und Konsistenz der Bonitätsprüfung verbessern, insbesondere bei kleinen Unternehmen oder Verbrauchern mit begrenzter traditioneller Bonitätshistorie. Alternative Daten können zudem dabei helfen, Antragsteller zu bewerten, deren Bonität sich andernfalls nur schwer einschätzen ließe.

Dieser Ansatz kann zu Diskriminierung führen. Variablen, die auf den ersten Blick neutral erscheinen, können als Indikatoren für geschützte Merkmale oder wirtschaftliche Benachteiligung dienen. Ein Modell kann je nach Wohnort, Beruf oder Gerätetyp unterschiedliche Ergebnisse liefern, selbst wenn diese Merkmale nicht ausdrücklich Angaben zu ethnischer Zugehörigkeit, Geschlecht oder anderen geschützten Merkmalen enthalten.

Historische Daten spiegeln auch frühere Kreditentscheidungen wider. Wenn bestimmte Gruppen in der Vergangenheit weniger Kredite oder ungünstigere Konditionen erhielten, kann ein Modell dieses Muster erlernen und es so reproduzieren, als handele es sich um einen objektiven Risikobeweis.

Kreditentscheidungen erfordern daher Tests in allen relevanten Kundengruppen, klare Begründungen für ablehnende Entscheidungen und sinnvolle Möglichkeiten zur Überprüfung. Nach dem EU-KI-Gesetz werden bestimmte KI-Systeme, die zur Bewertung der Kreditwürdigkeit eingesetzt werden, als risikoreich eingestuft und unterliegen zusätzlichen Anforderungen.

Erklärbarkeit ist in diesem Zusammenhang nicht nur eine technische Präferenz. Einem Kunden, dem ein wichtiges Finanzprodukt verweigert wurde, sollte nicht lediglich die Erklärung “Der Algorithmus hat so entschieden” gegeben werden.

Marktrisikomodelle können Muster erkennen, bieten jedoch keine Gewissheit über die Zukunft

Finanzinstitute nutzen Modelle, um abzuschätzen, wie sich Portfolios auf Veränderungen bei Zinssätzen, Wechselkursen, Kreditspreads und Vermögenspreisen reagieren könnten. KI kann mehr Variablen verarbeiten und komplexere Zusammenhänge modellieren als manche herkömmliche Ansätze.

Dies kann dazu beitragen, Konzentrationen über verschiedene Handelsportfolios hinweg zu identifizieren oder aufzudecken, dass mehrere scheinbar unterschiedliche Positionen vom selben zugrunde liegenden wirtschaftlichen Faktor abhängen. Außerdem kann es die Erkennung von Anomalien in Echtzeit in Zeiten von Marktstress unterstützen.

Der Nachteil besteht darin, dass sich die finanziellen Rahmenbedingungen ändern. Ein Modell, das in einer Phase stabiler Inflation oder reichlich vorhandener Liquidität trainiert wurde, kann sich anders verhalten, wenn sich die Lage aufgrund von Krieg, politischen Maßnahmen oder Veränderungen der Marktstruktur plötzlich ändert.

Historische Daten enthalten möglicherweise nur wenige Beispiele für das schwerwiegende Ereignis, das die Institution zu modellieren versucht. Ein System kann zwar gewöhnliche Zustände äußerst genau erklären, dabei jedoch genau das Ereignis unterschätzen, auf das es am meisten ankommt.

KI sollte Stresstests daher ergänzen, anstatt sie zu ersetzen. Die Institute benötigen nach wie vor hypothetische Szenarien, die über die historischen Daten hinausgehen und Annahmen hinsichtlich Liquidität, Korrelationen und Marktverhalten auf die Probe stellen.

Ein Risikomodell ist nicht glaubwürdig, nur weil es mehr Variablen enthält. Es ist glaubwürdig, wenn seine Grenzen bekannt sind und die Entscheidungen auch dann noch robust bleiben, wenn sich diese Variablen anders verhalten.

Beim operationellen Risiko geht es um mehr als nur Cybersicherheit

KI kann Institutionen dabei helfen, Systemabweichungen zu erkennen, Ausfälle von Geräten oder Software vorherzusagen und Vorfälle zu klassifizieren. Außerdem kann sie die interne Kommunikation analysieren oder Daten auswerten, um sich abzeichnende operative Schwachstellen aufzudecken.

Generative Tools können Mitarbeiter unterstützen, indem sie Anleitungen abrufen und ihnen helfen, auf Routineereignisse zu reagieren. Allerdings können sie auch genau in dem Moment, in dem die Mitarbeiter verlässliche Anleitung benötigen, falsche Anweisungen liefern.

Das operationelle Risiko steigt, wenn ein Institut von einem Modell oder Anbieter abhängig wird, ohne über eine praktikable Alternative zu verfügen. Sollte ein KI-Dienst ausfallen, sollten kritische Prozesse dennoch weiterlaufen können.

Die Bank muss wissen, welche Funktionen auf dem System basieren, was bei einem Ausfall geschieht und wie die Mitarbeiter auf manuelle oder herkömmliche Abläufe zurückgreifen werden. Pläne zur Aufrechterhaltung des Geschäftsbetriebs sollten getestet und nicht einfach als gegeben vorausgesetzt werden.

Automatisierung kann zwar eine Art von menschlichem Fehler reduzieren, führt aber gleichzeitig zu einer anderen: dem übermäßigen Vertrauen in ein System, dessen Ausfall weniger bekannt ist und potenziell weitreichendere Folgen haben kann.

KI ist sowohl eine Cyberabwehr als auch eine Cyberbedrohung

Sicherheitsteams können KI einsetzen, um ungewöhnliche Zugriffe zu erkennen, Netzwerkaktivitäten zu analysieren und eine große Anzahl von Warnmeldungen nach Priorität zu ordnen. Dabei lassen sich subtile Muster über verschiedene Geräte und Konten hinweg möglicherweise schneller identifizieren als durch manuelle Arbeit von Analysten.

Angreifer nutzen ähnliche Technologien. Generative KI kann überzeugende Phishing-Nachrichten erstellen, Kommunikationsstile imitieren und bei Social-Engineering-Angriffen helfen. Synthetische Stimmen und Bilder erleichtern es, sich als Führungskräfte oder Kunden auszugeben.

Finanzinstitute sollten daher die technische Überwachung mit strengen Zahlungs- und Identitätskontrollen kombinieren. Eine scheinbar authentische Sprachnachricht von einem leitenden Angestellten sollte nicht Vorrang vor einer doppelten Genehmigung oder einer unabhängigen Überprüfung haben.

KI-Systeme selbst können angegriffen werden. Eingaben können manipuliert werden, um die Ausgabe zu verändern, vertrauliche Informationen können extrahiert werden, und in Dokumenten, die von generativen Tools verarbeitet werden, können böswillige Anweisungen versteckt sein.

Ein Modell, das mit internen Datenbanken verbunden ist oder Aktionen auslösen kann, erfordert strengere Kontrollen als ein System, das lediglich Zusammenfassungen erstellt. Der Zugriff sollte sich nach dem potenziellen Schaden richten, den das Tool anrichten kann, und nicht lediglich nach der Sensibilität der Informationen, auf die es zugreifen kann.

Datenqualität ist die erste Kontrollmaßnahme

Die Bank für Internationalen Zahlungsausgleich berichtete im Jahr 2026, dass die Datenqualität nach wie vor eines der größten Hindernisse für die Einführung von KI-Systemen im Finanzsektor in den Produktivbetrieb darstellt. Die Institute haben mit Informationen zu kämpfen, die unvollständig, inkonsistent, veraltet oder für den vorgesehenen Zweck ungeeignet sind.

KI korrigiert fehlerhafte Daten nicht automatisch. Sie kann das Problem sogar noch verschärfen, indem sie aus unzuverlässigen Eingaben ein klares und überzeugendes Ergebnis generiert.

Finanzkonzerne speichern Kunden-, Transaktions- und Risikodaten häufig in verschiedenen Systemen, die zu unterschiedlichen Zeitpunkten eingerichtet wurden. Die Definitionen können je nach Geschäftsbereich variieren, und durch Unternehmensübernahmen können mehrere miteinander konkurrierende Versionen desselben Datensatzes entstehen.

Bevor ein fortgeschrittenes Modell eingeführt wird, muss die Institution festlegen, welche Daten maßgeblich sind, wem sie gehören und wie Fehler korrigiert werden. Der Trainingsdatensatz sollte repräsentativ für die Bedingungen sein, unter denen das System betrieben wird.

Ebenso wichtig ist die Datenherkunft. Risikoteams sollten in der Lage sein, ein wichtiges Ergebnis bis zu seinen Quellen zurückzuverfolgen und nachzuvollziehen, wie die Informationen verarbeitet wurden. Ohne diese Aufzeichnungen gestaltet sich die Untersuchung einer unerwarteten Entscheidung schwierig.

Die Erklärbarkeit muss den Konsequenzen entsprechen

Nicht jede KI-Anwendung erfordert denselben Erklärungsgrad. Ein Modell, das interne Dokumente sortiert, hat andere Auswirkungen als eines, das die Kreditvergabe beeinflusst oder eine Transaktion als potenziell kriminell identifiziert.

Die Aufsichtsbehörden bevorzugen zunehmend einen verhältnismäßigen Ansatz. Je größer die Auswirkungen auf Kunden, Kapital oder Finanzstabilität sind, desto besser sollte das Institut in der Lage sein, das Modell zu erläutern, zu prüfen und zu hinterfragen.

Einige hochentwickelte Systeme lassen sich nicht für jede interne Berechnung einfach beschreiben. Das macht sie zwar nicht unbrauchbar, doch benötigen die Institute andere Formen der Absicherung. Dazu können beispielsweise die Überprüfung gehören, wie sich die Ergebnisse bei veränderten Eingabewerten ändern, der Vergleich des Modells mit einem einfacheren Referenzmodell sowie die Untersuchung der Leistung über verschiedene Kundengruppen hinweg.

Ein Risikomanager sollte in der Lage sein, zu erklären, wozu das Modell dient, welche Informationen es verwendet, in welchen Bereichen es Schwächen aufweist und wann man sich nicht auf seine Ergebnisse verlassen darf.

Undurchsichtige Technologien sollten nicht weniger genau unter die Lupe genommen werden, nur weil ihre Komplexität eine Erläuterung erschwert.

Die Abhängigkeit von Drittanbietern entwickelt sich zu einem systemischen Problem

Viele Institutionen bauen ihre KI-Infrastruktur nicht vollständig intern auf. Sie greifen auf Cloud-Anbieter, Entwickler von Basis-Modellen, spezialisierte Datenunternehmen und externe Softwareanbieter zurück.

Dadurch kann Zugang zu Technologien geschaffen werden, deren eigenständige Entwicklung kostspielig wäre. Zudem konzentriert sich dadurch die Bereitstellung wichtiger Dienste auf eine relativ kleine Anzahl globaler Anbieter.

Wenn viele Banken auf dasselbe Modell oder dieselbe Cloud-Plattform angewiesen sind, könnte ein einziger Ausfall, eine Sicherheitslücke oder ein fehlerhaftes Update mehrere Institute gleichzeitig beeinträchtigen. Ähnliche Modelle reagieren möglicherweise auch auf ähnliche Weise auf Marktinformationen, was die Wahrscheinlichkeit eines korrelierten Verhaltens erhöht.

Eine Bank bleibt für ausgelagerte Systeme verantwortlich. In den Verträgen sollten der Zugriff auf Daten, die Meldung von Vorfällen, Prüfungsrechte, Modelländerungen, Unterauftragnehmer sowie das Verfahren zur Rückgabe von Informationen bei Beendigung der Geschäftsbeziehung geregelt sein.

Die Einrichtung sollte zudem wissen, ob sie auf einen anderen Anbieter ausweichen oder den Prozess intern fortsetzen kann. Ein rein theoretischer Ausstiegsplan reicht nicht aus, wenn die Datenmigration und der Wiederaufbau der Integrationen Jahre dauern würden.

In was lohnt es sich zu investieren?

Bestandsaufnahmen der Modelle sind unerlässlich. Eine Einrichtung sollte wissen, welche KI-Systeme sie betreibt, wo diese eingesetzt werden, auf welche Daten sie zugreifen und wem die einzelnen Systeme gehören. Nicht erfasste Tools, die von Mitarbeitern informell eingeführt werden, können Risiken außerhalb der formellen Aufsicht mit sich bringen.

Auch eine unabhängige Validierung ist eine Investition wert. Die Personen, die ein Modell testen, sollten über ausreichende Befugnisse und Fachkenntnisse verfügen, um das Team, das es entwickelt oder erworben hat, kritisch hinterfragen zu können.

Die Überwachung muss auch nach der Einführung fortgesetzt werden. Genauigkeit, Fehlalarme, Kundenergebnisse und Betriebsstörungen sollten im Laufe der Zeit überprüft werden. Ein Modell, das die ursprünglichen Tests bestanden hat, kann an Leistung verlieren, wenn sich das Verhalten und die Marktbedingungen ändern.

Die Schulung der Mitarbeiter sollte über die rein technische Handhabung des Tools hinausgehen. Die Mitarbeiter müssen sich mit den Themen Vertraulichkeit, Voreingenommenheit und Überprüfung auseinandersetzen und wissen, wann eine Eskalation erforderlich ist.

Investitionen in einfachere Kontrollmechanismen können unter Umständen einen größeren Nutzen bringen. Eine bessere Identitätsprüfung, Zugangsverwaltung oder Datenabgleichung kann Risiken zuverlässiger mindern als ein hochentwickeltes Modell, das auf schwachen Prozessen aufbaut.

Was Institutionen vermeiden sollten

KI sollte nicht allein deshalb angeschafft werden, weil Wettbewerber sie einsetzen. Die Einrichtung benötigt ein konkretes Risikoproblem, eine messbare Ausgangsbasis und eine Begründung dafür, warum KI gegenüber einer etablierten Methode eine Verbesserung darstellt.

Black-Box-Systeme sollten nicht ohne ausreichende Tests und Überprüfungen direkt in Entscheidungen mit weitreichenden Konsequenzen eingesetzt werden. Ebenso wenig sollten die Leistungsangaben eines Anbieters ohne Validierung anhand der eigenen Daten und Betriebsbedingungen der Institution akzeptiert werden.

Banken sollten vermeiden, dass Mitarbeiter vertrauliche Kunden- oder Risikodaten in öffentliche generative Dienste eingeben. Zugelassene Tools müssen über klare Regeln zum Umgang mit Daten und technische Einschränkungen verfügen, anstatt sich ausschließlich auf schriftliche Richtlinien zu stützen.

Behauptungen über geringere Fehlalarme oder gesenkte Betriebskosten sollten im Zusammenhang mit übersehenen Fällen, Kundenbeschwerden und zusätzlichem Überprüfungsaufwand bewertet werden. Ein System kann effizienter erscheinen, weil es Kosten auf eine andere Abteilung verlagert oder Fehler verursacht, die erst später zutage treten.

Vor allem sollte KI nicht als Ersatz für erfahrene Risikoexperten betrachtet werden. Die Technologie kann die Analyse erweitern, doch es sind Menschen, die Ausnahmefälle interpretieren, unrealistische Ergebnisse hinterfragen und die Verantwortung für die Entscheidung tragen müssen.

Ein praktisches Rahmenwerk für die Bereitstellung

Beginnen Sie mit einem klar definierten Anwendungsfall und vergleichen Sie das KI-System mit dem derzeitigen Prozess. Legen Sie vor Beginn des Pilotprojekts fest, welche Verbesserungen hinsichtlich Genauigkeit, Geschwindigkeit, Kosten oder Risikoerkennung erforderlich sind.

Ordnen Sie die Anwendung entsprechend ihrer potenziellen Auswirkungen ein. Ein interner Assistent mit geringem Risiko erfordert möglicherweise nur grundlegende Kontrollmaßnahmen, während ein Modell, das Entscheidungen in Bezug auf Kredite, Marktrisiken oder verdächtige Aktivitäten beeinflusst, einer formellen Validierung und der Aufsicht durch Führungskräfte bedarf.

Testen Sie das Modell anhand repräsentativer Daten, einschließlich schwieriger Fälle und Stressphasen. Untersuchen Sie die Leistung über relevante Kunden- und Transaktionsgruppen hinweg, anstatt sich auf eine durchschnittliche Genauigkeitsrate zu verlassen.

Führen Sie eine menschliche Überprüfung an der Stelle ein, an der sie das Ergebnis sinnvoll beeinflussen kann. Eine Person, von der lediglich erwartet wird, dass sie Hunderte automatisierter Empfehlungen genehmigt, kann keine wirksame Kontrolle ausüben.

Legen Sie Schwellenwerte fest, bei deren Erreichen das Modell ausgesetzt wird, wenn sich die Leistung verschlechtert, die Daten unzuverlässig werden oder sich die Marktbedingungen außerhalb des getesteten Bereichs bewegen. Halten Sie einen praktikablen Ausweichprozess bereit.

Schließlich sollten die Ergebnisse der Geschäftsleitung und dem Vorstand in einer Sprache berichtet werden, die sie hinterfragen können. Die Unternehmensführung versagt, wenn KI als technisches Thema dargestellt wird, das außerhalb des Zuständigkeitsbereichs der Entscheidungsträger liegt.

KI kann das Finanzrisikomanagement schneller und gezielter gestalten, insbesondere bei der Betrugsaufdeckung, der Transaktionsüberwachung, der Datenanalyse und den operativen Kontrollen. Sie kann jedoch auch Voreingenommenheit verschleiern, falsches Vertrauen schaffen und dazu führen, dass sich Institute auf dieselben Anbieter und Modelle konzentrieren. Die beste Umsetzung ist daher nicht die autonomste. Es ist jene, bei der die Daten zuverlässig sind, die Grenzen sichtbar sind und qualifizierte Mitarbeiter sowohl die Befugnis als auch die Verpflichtung behalten, einzugreifen.