Rozwój sztucznej inteligencji w zarządzaniu ryzykiem

Sztuczna inteligencja coraz głębiej wkracza w obszary związane z zarządzaniem ryzykiem w bankach i instytucjach finansowych. Potrafi ona analizować większą liczbę transakcji, wykrywać nietypowe wzorce oraz aktualizować oceny szybciej niż tradycyjne systemy. Firma Accenture podaje, że instytucje finansowe korzystające ze sztucznej inteligencji osiągnęły wzrost wydajności operacyjnej o 20%. Jednak szybsza analiza niekoniecznie oznacza lepszą kontrolę. Jakość wyniku nadal zależy od danych, założeń i osób stojących za modelem.

Zarządzanie ryzykiem zawsze wiązało się z niepełnymi informacjami. Banki muszą ocenić, którzy kredytobiorcy mają szanse na spłatę zadłużenia, które transakcje wymagają zbadania oraz jak portfele mogą zachowywać się w zmieniających się warunkach rynkowych.

Tradycyjnie decyzje te opierały się na modelach statystycznych, ustalonych zasadach oraz ocenie doświadczonych pracowników. Podejście to nadal ma duże znaczenie, jednak coraz trudniej jest je stosować na skalę i z szybkością wymaganą przez współczesną branżę finansową.

Instytucje przetwarzają obecnie ogromne ilości danych dotyczących płatności, pozycji rynkowych i dokumentacji klientów. Ryzyka mogą pojawiać się w różnych systemach i jurysdykcjach, często zanim zostaną one uwidocznione w standardowych raportach.

Sztuczna inteligencja pozwala na wspólną analizę tych sygnałów. Potrafi wykrywać anomalie, porównywać zachowania w dużych zbiorach danych oraz kierować uwagę ludzi na przypadki, które wymagają dokładniejszej analizy.

Jej główną zaletą nie jest zdolność przewidywania. Jest nią zdolność do szerszego poszukiwania informacji i szybszego reagowania.

Od sztywnych zasad do zmieniających się wzorców

Tradycyjne systemy oceny ryzyka często działają w oparciu o z góry określone progi. Transakcja o wartości przekraczającej określoną kwotę może spowodować wszczęcie postępowania weryfikacyjnego. Kredytobiorca o określonych cechach finansowych może otrzymać konkretną ocenę zdolności kredytowej.

Zasady te są przejrzyste i stosunkowo łatwe do zweryfikowania. Mogą być jednak również mało elastyczne.

Oszuści dostosowują swoje działania, aby ominąć znane mechanizmy kontroli. Zmieniają się relacje rynkowe. Transakcja, która w oderwaniu od kontekstu wydaje się nieszkodliwa, może wzbudzić podejrzenia w zestawieniu z szerszym obrazem działań.

Modele uczenia maszynowego potrafią analizować te zależności bez konieczności opierania się wyłącznie na sztywnych regułach. Potrafią one wykrywać subtelne zmiany w zachowaniach płatniczych, dostępie do kont lub sieciach transakcyjnych, które trudno byłoby zidentyfikować ręcznie.

Ta sama zasada dotyczy ryzyka kredytowego i rynkowego. Sztuczna inteligencja może analizować szerszy zakres zmiennych i na bieżąco aktualizować oceny w miarę pojawiania się nowych informacji.

Dzięki temu system działa sprawniej. Wymaga to jednak większego nakładu pracy przy nadzorowaniu, zwłaszcza gdy model nie potrafi jasno uzasadnić swoich wniosków.

JPMorgan pokazuje zalety działania na dużą skalę

JPMorgan Chase poczynił znaczne inwestycje w sztuczną inteligencję w obszarach handlu, zgodności z przepisami, wykrywania nadużyć oraz ryzyka operacyjnego.

W przypadku banku tej wielkości korzyści są oczywiste. Nawet niewielka poprawa szybkości lub dokładności analizy ryzyka może przynieść znaczne oszczędności, gdy zastosuje się ją w odniesieniu do milionów transakcji i relacji z klientami.

Narzędzia oparte na sztucznej inteligencji mogą pomóc pracownikom w wykrywaniu nietypowych działań, przeglądaniu dokumentów i ustalaniu priorytetów alertów. Mogą one również skrócić czas poświęcany na powtarzalne dochodzenia, które ostatecznie nie ujawniają żadnych nieprawidłowości.

Nie oznacza to jednak, że decyzje dotyczące ryzyka są w całości przekazywane maszynom. Przypadki obarczone wyższym ryzykiem nadal wymagają interpretacji, uzasadnienia oraz udokumentowanej oceny.

Doświadczenia JPMorgan odzwierciedlają ogólną tendencję w branży. Duże instytucje wykorzystują sztuczną inteligencję do wzmocnienia istniejących systemów kontroli, a nie do zastępowania działów ds. ryzyka autonomicznymi modelami.

Technologia ta okazuje się najbardziej przydatna, gdy pomaga specjalistom w podjęciu decyzji, gdzie należy szukać.

Ta tendencja zyskuje na popularności w całej branży

Badanie przeprowadzone przez firmę Deloitte wykazało, że 76% instytucji finansowych inwestowało w sztuczną inteligencję w celu poprawy swoich zdolności w zakresie zarządzania ryzykiem.

Wdrożenie obejmuje ryzyko kredytowe, rynkowe, płynności, operacyjne oraz ryzyko związane z przestrzeganiem przepisów. Stopień zaawansowania tych aplikacji jest bardzo zróżnicowany.

Wykrywanie oszustw należy do najbardziej rozpowszechnionych zastosowań, ponieważ instytucje dysponują już ogromnymi zbiorami danych transakcyjnych i mogą porównywać sygnały ostrzegawcze generowane przez modele z faktycznymi wynikami.

Ocena zdolności kredytowej jest bardziej złożona. Sztuczna inteligencja może uwzględniać dane dotyczące przepływów pieniężnych, historii spłat oraz inne czynniki, które tradycyjne systemy punktacji pomijają. Dzięki temu można uzyskać bardziej szczegółowy obraz sytuacji kredytobiorcy.

Może to również utrudniać wyjaśnianie podjętych decyzji.

Modele ryzyka rynkowego stoją przed innym wyzwaniem. Mogą one wykrywać korelacje między instrumentami finansowymi i klasami aktywów, jednak w okresach napięć relacje historyczne często ulegają osłabieniu.

Zastosowania związane z ryzykiem operacyjnym obejmują zarówno monitorowanie cyberbezpieczeństwa, jak i analizę procesów wewnętrznych. W tym zakresie sztuczna inteligencja może wykrywać nietypową aktywność systemu, zachowania pracowników lub skupiska nieudanych transakcji.

Nie istnieje jeden uniwersalny system zarządzania ryzykiem związanym ze sztuczną inteligencją. Termin ten obejmuje szereg narzędzi służących do rozwiązywania bardzo różnych problemów.

Mniejsze firmy uzyskują dostęp za pośrednictwem dostawców

Wykorzystanie sztucznej inteligencji nie ogranicza się wyłącznie do międzynarodowych banków.

Firmy z branży fintech oraz mniejsze instytucje finansowe mogą korzystać z narzędzi do oceny ryzyka za pośrednictwem platform chmurowych i wyspecjalizowanych dostawców technologii. Pozwala to obniżyć koszty wykrywania oszustw, weryfikacji tożsamości oraz analizy danych.

Na przykład firma Plaid wykorzystuje zautomatyzowane systemy do zapewnienia bezpieczeństwa danych oraz wykrywania potencjalnych nadużyć w ramach połączeń finansowych.

Platformy zewnętrzne zapewniają mniejszym instytucjom dostęp do funkcji, na których stworzenie we własnym zakresie nie mogłyby sobie pozwolić. Powodują one jednak również powstanie nowych zależności.

Firma może zlecić obsługę techniczną na zewnątrz, ale nie może zrzec się odpowiedzialności. Musi wiedzieć, z jakich danych korzysta dostawca, w jaki sposób testowany jest system oraz co się dzieje w przypadku awarii usługi.

Koncentracja dostawców sama w sobie stanowi zagrożenie. Jeśli wiele instytucji korzysta z tych samych modeli lub infrastruktury, jakakolwiek słabość techniczna może jednocześnie wpłynąć na znaczną część systemu finansowego.

Należy zatem znaleźć równowagę między wygodą a kontrolą.

Prognozowanie ma wyraźne ograniczenia

Analizy predykcyjne są często przedstawiane jako główna zaleta zarządzania ryzykiem opartego na sztucznej inteligencji.

Modele pozwalają oszacować prawdopodobieństwo niewypłacalności, oszustwa lub straty rynkowej poprzez analizę wcześniejszych wyników. W miarę napływania nowych danych szacunki te mogą być aktualizowane.

Proces ten jest przydatny, ale język prognozowania może budzić fałszywe poczucie pewności.

Ryzyko finansowe rzadko pojawia się w stabilnych warunkach. W czasie recesji zmienia się zachowanie kredytobiorców. Płynność rynku może gwałtownie spaść. Decyzje polityczne, cyberataki i klęski żywiołowe mogą powodować zdarzenia, które są słabo odzwierciedlone w danych historycznych.

Model może działać dobrze w normalnych warunkach, a zawieść właśnie wtedy, gdy jego wyniki mają największe znaczenie.

Z tego powodu sztuczna inteligencja powinna raczej uzupełniać analizę scenariuszy i testy warunków skrajnych, a nie je zastępować. Instytucje muszą zbadać, co może się wydarzyć poza zakresem wyników, które model uznaje za prawdopodobne.

Zarządzanie ryzykiem dotyczy nie tylko prawdopodobieństwa, ale także skutków.

Automatyzacja pozwala uwolnić zasoby, ale może też ukrywać słabe punkty

Sztuczna inteligencja może zautomatyzować niektóre etapy gromadzenia danych, klasyfikacji alertów, dokumentacji i sporządzania raportów.

Dzięki temu specjaliści ds. ryzyka mogą poświęcić więcej czasu na złożone dochodzenia i kwestie strategiczne. Może to również ograniczyć niespójności wynikające z ręcznego przeprowadzania rutynowych kontroli.

Wzrost wydajności jest bardzo atrakcyjny. Firma Accenture odnotowuje poprawę wydajności o 201% wśród firm z branży finansowej korzystających z technologii sztucznej inteligencji.

Jednak automatyzacja może maskować słabe procesy.

Jeśli model zostanie wytrenowany na podstawie błędnych klasyfikacji, może je jeszcze skuteczniej powielać. Jeśli różne działy korzystają z niespójnych danych dotyczących klientów lub transakcji, przyspieszenie przetwarzania nie rozwiąże podstawowego problemu.

Instytucje mogą również stracić zdolność do funkcjonowania bez zautomatyzowanych systemów. Pracownicy, którzy rzadko wykonują dane zadanie ręcznie, mogą mieć trudności z rozpoznaniem, kiedy technologia zawiodła.

Odporność wymaga umiejętności kwestionowania systemu, a nie tylko korzystania z niego.

Modele ryzyka odzwierciedlają decyzje podejmowane przez ludzi

Sztuczną inteligencję określa się czasem jako bardziej obiektywną niż ludzki osąd. W praktyce modele tworzy się jednak na podstawie ludzkich wyborów.

Programiści decydują, jakie dane uwzględnić, jakie wyniki zoptymalizować oraz jak sklasyfikować wcześniejsze decyzje. Wybory te mają wpływ na wnioski wyciągane przez model.

W przypadku ryzyka kredytowego dane historyczne mogą odzwierciedlać nierówny dostęp do kredytów lub odmienne traktowanie poszczególnych grup klientów. Model wyszkolony na podstawie takich danych może powielać te wzorce bez bezpośredniego uwzględniania cech chronionych.

Systemy wykrywania nadużyć mogą generować nieproporcjonalną liczbę alertów w przypadku klientów, których transakcje odbiegają od większości, nawet jeśli ich działania są zgodne z prawem.

Problem nie zostanie rozwiązany poprzez usunięcie nazwisk lub danych demograficznych. Inne zmienne mogą pełnić rolę wskaźników zastępczych.

Instytucje muszą zatem weryfikować wyniki modeli w odniesieniu do różnych grup klientów oraz badać niewyjaśnione rozbieżności.

Nawet system oparty na rzetelnych danych statystycznych może generować decyzje, które są niesprawiedliwe, nieodpowiednie lub trudne do obrony z prawnego punktu widzenia.

Wyjaśnialność staje się kwestią regulacyjną

Złożone modele mogą generować trafne prognozy, nie wyjaśniając jednak w prosty sposób, w jaki sposób do nich doszły.

Jest to szczególnie kłopotliwe, gdy dana decyzja ma wpływ na klienta. Odrzucony wniosek kredytowy, zablokowana transakcja lub podwyższenie klasyfikacji ryzyka mogą wymagać zrozumiałego wyjaśnienia.

Organy regulacyjne i wewnętrzne organy nadzorcze muszą również oceniać, czy modele działają w ramach zatwierdzonych limitów.

Niektóre instytucje mogą zatem preferować prostsze modele w przypadku zastosowań o wysokiej stawce, nawet jeśli bardziej złożone systemy zapewniają nieznacznie większą dokładność prognoz.

Chodzi o kompromis między wydajnością a wyjaśnialnością.

Nie każdy model sztucznej inteligencji musi ujawniać wszystkie obliczenia techniczne każdemu użytkownikowi. Instytucje muszą jednak być w stanie opisać istotne czynniki leżące u podstaw podjętej decyzji oraz wykazać, że system został przetestowany.

Wynik, którego nie da się podważyć, trudno jest kontrolować.

Bezpieczeństwo danych staje się częścią zarządzania ryzykiem

Systemy sztucznej inteligencji wymagają szerokiego dostępu do danych finansowych, transakcyjnych i osobowych.

Powoduje to oczywisty konflikt. Technologia ta ma na celu ograniczenie ryzyka, jednak gromadzenie i przetwarzanie danych wrażliwych może stwarzać nowe słabe punkty.

Instytucje muszą chronić informacje podczas ich gromadzenia, przechowywania i analizy. Dostęp powinien być ograniczony, rejestrowany i regularnie weryfikowany.

Zewnętrzni dostawcy usług w zakresie sztucznej inteligencji wymagają szczególnej uwagi. Firmy muszą wiedzieć, czy ich dane są wykorzystywane do szkolenia innych modeli, gdzie przetwarzane są informacje oraz w jakim terminie należy zgłaszać incydenty.

Hakerzy mogą również próbować manipulować systemami sztucznej inteligencji. Poprzez zmianę danych wejściowych lub naśladowanie normalnego zachowania mogą próbować uniknąć wykrycia.

Sam model może zatem stać się celem.

Bezpieczeństwa danych i bezpieczeństwa modeli nie można traktować jako odrębnych dziedzin. Obie te kwestie wpisują się w szersze ramy zarządzania ryzykiem w instytucji.

Modele wymagają stałego nadzoru

Systemy sztucznej inteligencji często opisuje się jako uczące się i doskonalące się z upływem czasu. Proces ten wymaga starannego zarządzania.

Model, który aktualizuje się samoczynnie bez skutecznych mechanizmów kontroli, może odejść od swojego pierwotnego przeznaczenia. Zmiany w danych mogą stopniowo wpływać na sposób klasyfikacji ryzyka, nawet jeśli nie podjęto żadnej formalnej decyzji o zmianie metodologii.

Instytucje muszą monitorować dokładność, liczbę wyników fałszywie dodatnich oraz nieoczekiwane zmiany w zachowaniu. Wydajność należy testować w różnych warunkach rynkowych i gospodarczych.

Zmiany w modelu materiałowym wymagają udokumentowania i zatwierdzenia. Pracownicy muszą wiedzieć, która wersja jest aktualnie stosowana i czym różni się ona od poprzednich wersji.

Niezależna weryfikacja pozostaje niezbędna. Zespół opracowujący model nie powinien być jedyną stroną odpowiedzialną za ocenę jego skuteczności.

Ciągłe doskonalenie się nie zastępuje ciągłego zarządzania.

Ludzka ocena skupia się na wyjątkach

Sztuczna inteligencja zmieni podział obowiązków w działach ds. ryzyka.

Rutynowe sprawy można w coraz większym stopniu rozpatrywać automatycznie. Pracownicy będą się skupiać na sytuacjach wyjątkowych, niejednoznacznych oraz na ryzykach, które nie wpisują się w ustalone schematy.

To sprawia, że ludzka ocena sytuacji zyskuje na znaczeniu, a nie traci je.

Sprawy kierowane do specjalistów to często te najtrudniejsze. Pracownicy muszą na tyle dobrze rozumieć ten model, by móc poddać w wątpliwość jego wnioski i wiedzieć, kiedy konieczne jest zgromadzenie dodatkowych dowodów.

Potrzebują również uprawnień do pomijania automatycznych rekomendacji.

System, który dopuszcza interwencję człowieka jedynie w teorii, nie zapewnia skutecznego nadzoru. Firmy powinny monitorować, jak często pracownicy nie zgadzają się z wynikami modeli oraz czy poddawani są presji, by stosować się do zautomatyzowanych wyników.

Celem nie jest zachowanie pracy ręcznej dla samej pracy. Chodzi o to, by zapewnić, że decyzje o istotnych konsekwencjach pozostawały podlegające rozliczeniu.

Sztuczna inteligencja może również stwarzać ryzyko systemowe

Wprowadzenie podobnych modeli w całym sektorze finansowym może spowodować powstanie nowych form wspólnego ryzyka.

Jeśli instytucje korzystają z porównywalnych danych i algorytmów, mogą reagować na sygnały rynkowe w podobny sposób. W okresach napięć może to nasilić wyprzedaż, ograniczyć płynność lub spowodować gwałtowne zmiany w dostępności kredytów.

Pewien model może być racjonalny z punktu widzenia jednej firmy, a jednocześnie przyczyniać się do niestabilności całego systemu.

Uzależnienie od niewielkiej liczby dostawców usług w chmurze i rozwiązań technologicznych stanowi dodatkowe ryzyko związane z koncentracją. Zakłócenie w działalności jednego z głównych dostawców mogłoby jednocześnie osłabić mechanizmy kontroli ryzyka w wielu instytucjach.

Organy regulacyjne będą zatem musiały wyjść poza ocenę wyników poszczególnych modeli. Muszą one wziąć pod uwagę, w jaki sposób sztuczna inteligencja wpływa na zachowania w różnych instytucjach i na rynkach.

Większa wydajność na poziomie przedsiębiorstwa nie przekłada się automatycznie na większą odporność na poziomie systemu.

Potencjalna wartość jest znaczna

Według szacunków firmy McKinsey sztuczna inteligencja mogłaby wygenerować nawet 1 bilion dolarów rocznej wartości dla światowego sektora bankowego.

Tylko część tej wartości będzie wynikać bezpośrednio z zarządzania ryzykiem. Lepsze wykrywanie nadużyć, niższe koszty związane z zapewnieniem zgodności z przepisami oraz trafniejsze decyzje kredytowe mogą jednak wnieść znaczący wkład.

Korzyści nie pojawią się tylko dlatego, że instytucje zaopatrzą się w narzędzia oparte na sztucznej inteligencji.

Firmy potrzebują wiarygodnych danych, jasno określonych celów oraz pracowników potrafiących wykorzystywać wyniki modeli. Muszą inwestować w testowanie, bezpieczeństwo i zarządzanie, równolegle z pracami rozwojowymi.

Niektóre rozwiązania nie przyniosą oczekiwanych rezultatów. Inne mogą okazać się zbyt trudne do wyjaśnienia lub zbyt wrażliwe na zmieniające się warunki.

Osoby odpowiedzialne za zarządzanie ryzykiem powinny zatem skupić się na konkretnych problemach, a nie na ogólnych ambicjach. System zaprojektowany w celu ograniczenia fałszywych alertów o oszustwach można ocenić pod kątem konkretnych rezultatów. Nie da się tego zrobić w przypadku ogólnej obietnicy “przekształcenia zarządzania ryzykiem”.

Inwestycje w sztuczną inteligencję należy oceniać na podstawie ich wpływu na podejmowane decyzje, a nie na podstawie stopnia zaawansowania technologii.

Szybsze ostrzeżenia, a nie mniej niepewności

Sztuczna inteligencja prawdopodobnie stanie się standardowym elementem zarządzania ryzykiem finansowym.

Rozpoznaje wzorce w rozległych zbiorach danych, automatyzuje rutynowe kontrole i pomaga instytucjom szybciej reagować. Te możliwości są nieocenione w systemie finansowym, gdzie ryzyko zmienia się błyskawicznie i często wykracza poza granice poszczególnych organizacji.

Nie sprawiają one, że instytucje stają się odporne na błędy.

Modele sztucznej inteligencji mogą błędnie interpretować nietypowe sytuacje, powielać historyczne uprzedzenia i tworzyć trudne do dostrzeżenia zależności. Szybkość generowania wyników może skłaniać firmy do przywiązywania większej wagi do prognoz, niż uzasadniają to fakty.

Najskuteczniejsze systemy zarządzania ryzykiem będą łączyć analizę opartą na algorytmach z weryfikacją przez ludzi, niezależną walidacją oraz jasnym podziałem odpowiedzialności.

Sztuczna inteligencja może usprawnić system ostrzegania. Nie jest jednak w stanie zdecydować, jakie ryzyko powinna podjąć dana instytucja, na jaki poziom niepewności może sobie pozwolić ani jakie działania są odpowiedzialne w sytuacji, gdy dane nie dają jednoznacznej odpowiedzi.

To decyzje, które nadal należą do ludzi.