XAI w systemie sankcyjnym

Sankcje stanowią integralne i ważne narzędzie wykorzystywane przez rządy i globalne instytucje, takie jak Organizacja Narodów Zjednoczonych, USA czy Unia Europejska, w walce z przestępczością finansową. Na podstawie globalnej sytuacji społecznej, politycznej, gospodarczej i bezpieczeństwa, te organizacje wprowadzają sankcje i ograniczenia skierowane do państw, jednostek, grup o wysokim ryzyku lub podmiotów prawnych podejrzewanych o udział w nielegalnej działalności.

Postępy w zakresie kontrolowania sankcji, zwłaszcza w ostatnich latach, zmuszają banki do przyspieszenia modernizacji swojego podejścia do egzekwowania sankcji, a coraz więcej banków szuka rozwiązania w sztucznej inteligencji (AI) jako przełomowej i innowacyjnej drogi w radzeniu sobie z tymi szybkimi zmianami i ryzykami.

Niniejsza publikacja koncentruje się na wysiłkach banków, jako szczególnych instytucji w systemie sankcyjnym, w zakresie modernizacji kontroli sankcji oraz na skutecznych zastosowaniach AI w tych działaniach modernizacyjnych, a także na zrozumieniu wynikających korzyści finansowych i biznesowych.

AMLRO

Znaczenie rosnącej kontroli sankcji w AML

W wyniku globalnych wysiłków w walce z przestępczością i zgodnie z wymogami swoich banków centralnych i rządów (w większości jurysdykcji niezastosowanie się do sankcji jest przestępstwem), głównym celem banków korzystających z kontroli sankcji jest zapobieganie transakcjom do i od podmiotów/osób/krajów znajdujących się na listach sankcyjnych.

Kontrola przestrzegania sankcji jest częścią programu zapobiegania przestępczości finansowej, która pomaga zidentyfikować osoby i organizacje objęte sankcjami oraz nielegalne działania. Pomaga w identyfikacji obszarów podlegających karom i formułowaniu polityk zarządzania ryzykiem zgodności. W wyniku ryzyka poniesienia znaczących kosztów finansowych i strat reputacyjnych oraz ich konsekwencji większość banków zintensyfikowała działania w celu poprawy kontroli sankcji i określiła je jako jedne z najważniejszych inicjatyw.

Innym aspektem, który jest rezultatem wojny w Ukrainie, a która spowodował dodanie dużej liczby podmiotów i osób do list sankcji, jest wzrost kontroli sankcji do niespotykanych wcześniej poziomów we większości banków na całym świecie.

 

Rosnąca lista sankcji, złożoność i koszt kontroli sankcji w banku

Bankowość doświadczyła niespotykanego wzrostu cyfryzacji, który został dodatkowo przyspieszony przez ostatnie lockdowny spowodowane pandemią. Spowodowało to zwiększenie aktywności i transakcji bankowych we wszystkich regionach, segmentach biznesowych i niestety, w niezliczonych nowych kanałach wykorzystywanych przez przestępców. Regulatorzy stają się coraz bardziej surowi i nakładają coraz większe kary na banki za uchybienia w zgodności, podczas gdy przestępcy stają się bardziej wyrafinowani w swoich taktykach atakowania i szkodzenia reputacji banków.

Dodatkowo, w obliczu obecnej sytuacji politycznej, tempo wzrostu list sankcji przyspieszyło, a niedawne sankcje wobec Rosji są tego przykładem.

Jeśli chodzi o koszty związane z przestrzeganiem sankcji, to na podstawie moich prywatnych danych zebranych w branży bankowej, pełnoetatowy AMLRO, który może wykonywać działania związane z kontrolą sankcji, może kosztować od 240 do 360 tys. PLN rocznie (mowa tu o samych wynagrodzeniach, bez uwzględnienia kosztu dostępu do baz, sprzętu, szkoleń). Jednak ten koszt stale rośnie i nasila się z powodu inflacji i ogólnego niedoboru wykwalifikowanych AMLRO na rynku. W połączeniu z oszacowaniem, że zespół ds. zgodności w banku obejmuje zazwyczaj od 60 do 100 pracowników, roczny koszt może wynosić od 14 do 36 milionów PLN. Szersze implikacje dla większych banków polegają na konieczności optymalizacji kosztów i rozwiązywania problemów kompromisowych, podczas gdy dla mniejszych banków, bez ekonomii skali, może to prowadzić do wyzwań związanych z opłacalnością działalności.

Ponieważ wszystkie transakcje płatnicze podlegają kontroli sankcji, która tradycyjnie była procesem manualnym opartym na statycznych regułach, z ograniczoną zdolnością wspomagania pracowników ds. zgodności w przetwarzaniu rosnącej liczby fałszywych alarmów oraz obciążonych kontrolami wewnętrznymi, takimi jak “druga para oczu”, banki pilnie poszukują rozwiązań, które zapewnią, że nie będą źle przygotowane, gdy w niedalekiej przyszłości koszty operacyjne związane z zgodnością co najmniej podwoją się.

Ostatnim istotnym aspektem jest to, że każdy system AI stosowany w kontroli sankcji AML powinien być wytłumaczalny, aby mógł być łatwo analizowany, zrozumiany i rozszerzany przez regulatorów i interesariuszy biznesowych. Inny ważny aspekt dotyczy satysfakcji klientów i szybkości realizacji płatności od klientów do beneficjentów, co może być utrudnione przez manualne sprawdzanie kontroli sankcji.

Te czynniki w kontroli sankcji stanowią kluczowe siły napędowe stojące za pilną potrzebą modernizacji kontroli sankcji przez banki przy użyciu innowacyjnych metod opartych na rozwiązaniach AI.

 

Trendy w przechodzeniu przez banki od statycznego algorytmu filtrującego do AI

Coraz więcej banków przyjmuje rozwiązania „inteligentnej kontroli”, które wykorzystuje połączenie tradycyjnych, statycznych podejść opartych na algorytmach postępowania z zaawansowanym uczeniem maszynowym i analizą AI. To podejście jest naturalnym procesem rozwoju, który większość banków podejmuje w kierunku AI. Pomimo że może to rozwiązać wcześniej wspomniane problemy, pomagając w ocenie i odróżnieniu prawdziwych dopasowań od fałszywych w przypadku nazw i transakcji (co umożliwi podział na różne etapy kontroli), to takie podejście nie nadąża za trendami w zakresie sankcji opisanymi wcześniej. Banki dopiero zaczynają zdawać sobie sprawę, że w przeciwieństwie do oceny zdolności kredytowej modele AI stosowane w kontroli sankcji mogą wymagać perfekcyjnej dokładności w wykrywaniu prawdziwych pozytywów, ponieważ tylko to przekłada się na wiarygodny busieness case. Zrezygnowanie z pracy manualnej daje bankom elastyczność w zaangażowaniu AMRO w inne obszary wykrywania przestępczości finansowej, które są zgodne z rozwojem rynkowym, prawnym i politycznym. Ponadto, liczba błędów ludzkich w procesie kontroli, spowodowanych zmęczeniem wynikającym z wysokiej intensywności manualnego przetwarzania, jest w takiej sytuacji znacznie zmniejszona. Pozwala to bankom na posiadanie rozwiązań, które łatwo się dopasowują do rosnącego poziomu kontroli sankcji. Dodatkowo, poprawi to satysfakcję klientów, ponieważ zgodne z prawem płatności są dzięki temu szybko realizowane.

Innym aspektem, na który banki zaczynają zwracać uwagę, jest konieczność kontekstowej „wyjaśnialności” modelu AI (XAI) na poziomie akceptowalnym przez regulatora. Globalnie istnieje wiele przypadków odrzucenia nieprzejrzystych modeli AI przez regulatorów, co wynika z obaw regulatorów związanych z powszechnym wykorzystaniem AI w instytucjach finansowych oraz w instytucjach niefinansowych, które pośrednio wpływają na system finansowy. Regulatorzy wymagają, aby sposób, w jaki dane są mapowane na wyniki i decyzje, był w 100% wyjaśnialny, a podstawowe modele AI mogły być łatwo zrozumiane, analizowane i rozbudowywane przez organy regulacyjne i interesariuszy biznesowych.

 

XAI skutecznie pokonuje wyzwania stojące przed istniejącymi rozwiązaniami AI

Podstawowym problemem decyzyjnym dla rozwiązania AI jest badanie alertów kontroli sankcji dotyczących płatności i klasyfikacja dopasowań zarówno nazw, jak i jednostek jako “prawdziwe” lub “fałszywe” na podstawie ich oceny. Wyniki dopasowania z obu potoków danych są następnie oceniane przez bank, aby zdecydować o zwolnieniu lub wstrzymaniu płatności. Ogólnie rzecz biorąc, dopasowanie nazwy, jak sama nazwa wskazuje, dotyczy tego, jak bardzo nazwa odbiorcy i płatnika pasuje do nazwy na listach sankcji, na przykład Jacek Malinowski czy Jarek Malanowski, podczas gdy dopasowanie jednostki ocenia inne informacje o odbiorcy lub płatniku, takie jak ich adresy i firmy.

Duża liczba płatności oznacza konieczność zatrudnienia coraz większej liczby pracowników do rozdzielania prawdziwych i fałszywych alarmów generowanych przez algorytmy dopasowujące wzorce. Ogromna liczba fałszywych alarmów stanowi główną przeszkodę dla udanego i zrównoważonego business case wykorzystania z AI do kontroli zgodności z sankcjami. Dlatego nowe rozwiązania XAI muszą przyjąć bardziej nowatorskie podejście do radzenia sobie z alertami kontroli sankcji.

W udanych rozwiązaniach XAI, które pokonują to wyzwanie, problem kontroli sankcji został podzielony na dwa problemy klasyfikacji: “dopasowanie nazwy” i “dopasowanie jednostki”. Pierwsze oblicza prawdopodobieństwo, że dany podmiot, który wywołał alert, ma takie samo imię jak podmiot faktycznie objęty sankcjami, podczas gdy drugie oblicza prawdopodobieństwo, że dany podmiot, który wywołał alert, ma ten sam rodzaj jednostki (osoba fizyczna, organizacja itp.) jak jak podmiot faktycznie objęty sankcjami. Dzięki zaawansowanym i wyjaśnialnym algorytmom AI te dwa wyniki klasyfikacji okazały się bardzo skuteczne w wyodrębnianiu fałszywych alarmów generowanych przez algorytmy dopasowujące wzorce. Kolejnym powodem sukcesu tych rozwiązań AI jest innowacja polegająca na ochronie danych identyfikujących osobę (PII) w całym przepływie pracy, co w wielu wcześniejszych próbach uniemożliwiało wdrożenie rozwiązań AI. Te udane rozwiązania XAI zostały zaprojektowane w taki sposób, żeby w gruncie rzeczy nie wymagały żadnych danych PII do pracy. Najpierw na miejscu w banku został opracowany silnik obliczający cechy, który konwertuje osobiste dane nieustrukturyzowane na anonimowe dane, które następnie były przesyłane do modeli AI obliczających wyniki. Bardzo ważne dla sukcesu jest również pełne wyjaśnianie modeli AI, ponieważ ich wdrożenie zależy od zrozumienia przez regulatora finansowego, jak modele te działają, i ich zatwierdzenia do użytku. Te udane modele AI są nie tylko w pełni wyjaśnialne, ale także generują wyjaśnialne wyniki na trzech poziomach: dla całej populacji (reguły modelu), dla grup podpopulacji wykazujących podobne zachowanie (reguły dotyczące poszczególnych koszyków ryzyka) oraz dla pojedynczych transakcji (czytelne reguły/wyniki oparte na treiberach dla każdej transakcji), co dodatkowo poprawia ich zgodność z przepisami oraz wartość dla użytkowników biznesowych.

Ostatecznie rozwiązania te zostały zaprojektowane w celu łatwej implementacji, zgodnie z pilną potrzebą banków w zakresie modernizacji kontroli sankcji, oraz z możliwościami monitorowania wydajności modeli w czasie rzeczywistym, zgodnie z wymogiem szybkiego reagowania na żądania płatności.

 

Korzyści i zwrot z inwestycji w XAI w kontroli sankcji

Jak większość inicjatyw opartych na AI, oczekiwania i szacunki zwrotu z inwestycji (ROI) mogą być skomplikowane. Szeroko można je przypisać niepewnościom związanym z szacowaniem ilościowych wartości biznesowych, takich jak zysk produktywności, oszczędności kosztów i zyski, a także jakościowych wartości, takich jak zatrzymanie pracowników o wysokich kwalifikacjach, poprawa elastyczności ich kompetencji i lepsze doświadczenia związane z przepływem pracy.

Strukturalne podejście, zgodne choćby z zasadą Pareto) polega na skoncentrowaniu się najpierw na pozycji, która ma największy wpływ, a następnie na jej dostosowaniu. W przypadku kontroli sankcji, główną podstawą analizy business case jest potrzeba przygotowania i uporządkowania najbardziej pracochłonnych działań w obecnym przepływie pracy. Pomaga to opracować oszacowanie zwrotu z inwestycji na podstawie tego, ilu pełnoetatowych AMLRO może być zastąpionych przez AI, aby mogli być przeniesieni do innych kluczowych obszarów działalności związanych z walką z przestępczością finansową.

Konieczność spełnienia przez modele AI kluczowych KPI narzuconych przez banki, takich jak wymaganie 100% prawdziwych pozytywów, pomogła w opracowaniu struktury kalibracji modeli AI, co pozwoliło na bardziej precyzyjne i wyjaśnialne oszacowanie liczby fałszywych alarmów, które można następnie przesłać do recenzji manualnej. Po rozwiązaniu tych problemów związanych z oszacowaniem liczby fałszywych alarmów, pozostała część procesu jest prosta i polega na alokacji danych liczbowych, takich jak koszt personelu, wielkość klienta, dzienna liczba alarmów i liczba obsługiwanych alarmów na pracownika dziennie, aby oszacować zakres oszczędności wynikających z zastosowania modeli XAI. Pozostałe wartości biznesowe (ilościowe oraz jakościowe) bank może rozważyć w dalszej kolejności, aby móc podjąć decyzję dotyczącą inwestycji w AI.

 

Odniesienie do sytuacji na polskim rynku finansowym i instytucji objętych sankcjami międzynarodowymi

Na polskim rynku finansowym i w instytucjach objętych sankcjami międzynarodowymi, takich jak banki, istnieje również pilna potrzeba modernizacji systemu kontroli sankcji. Wraz z rosnącymi wymaganiami regulacyjnymi oraz złożonością i kosztami związanymi z tradycyjnymi manualnymi metodami kontroli, wykorzystanie rozwiązań opartych na wyjaśnialnej sztucznej inteligencji (XAI) może przynieść wiele korzyści. Poprawa wydajności, redukcja liczby fałszywych alarmów, zmniejszenie błędów ludzkich i zwiększenie skuteczności w identyfikacji osoby lub jednostki objętej sankcjami to tylko niektóre z potencjalnych korzyści. Dodatkowo, wykorzystanie wyjaśnialnej AI może pomóc w spełnieniu wymogów regulacyjnych i umożliwić łatwiejszą analizę i zrozumienie działania modeli AI przez organy regulacyjne i interesariuszy biznesowych.

Ważne jest, aby polskie instytucje finansowe i inne podmioty objęte sankcjami międzynarodowymi zrozumiały korzyści i znaczenie wprowadzenia nowoczesnych technologii, takich jak wyjaśnialna AI, w kontroli sankcji. Wprowadzenie takiego rozwiązania może pomóc w skuteczniejszej i efektywniejszej ochronie przed przestępczością finansową oraz w spełnianiu wymagań regulacyjnych, co przyczyni się do wzrostu zaufania i reputacji instytucji finansowych na polskim rynku.