Роль искусственного интеллекта в управлении рисками

Искусственный интеллект всё глубже проникает в сферу управления рисками банков и финансовых учреждений. Он способен анализировать большее количество транзакций, выявлять необычные закономерности и обновлять оценки быстрее, чем традиционные системы. По данным Accenture, финансовые компании, использующие ИИ, добились повышения операционной эффективности на 20%. Однако более быстрый анализ не всегда означает более эффективный контроль. Качество результата по-прежнему зависит от данных, допущений и людей, стоящих за моделью.

Управление рисками всегда сопряжено с неполнотой информации. Банки должны определять, какие заемщики, скорее всего, погасят задолженность, какие сделки требуют дополнительного изучения и как могут вести себя портфели в условиях меняющейся рыночной конъюнктуры.

Традиционно при принятии таких решений опирались на статистические модели, установленные правила и профессиональное суждение опытных сотрудников. Этот подход по-прежнему играет важную роль, однако его становится всё сложнее применять в тех масштабах и с той скоростью, которые требуются в современной финансовой сфере.

В настоящее время финансовые учреждения обрабатывают огромные объемы платежей, рыночных позиций и данных о клиентах. Риски могут возникать в различных системах и юрисдикциях, зачастую ещё до того, как они становятся заметными в стандартных отчётах.

ИИ позволяет анализировать эти сигналы в совокупности. Он способен выявлять аномалии, сравнивать поведение на основе обширных наборов данных и направлять внимание человека на те случаи, которые заслуживают более тщательного изучения.

Его главная ценность заключается не в предвидении, а в способности проводить более широкий поиск и реагировать быстрее.

От жестких правил к изменяющимся моделям

Традиционные системы управления рисками часто работают на основе заранее установленных пороговых значений. Транзакция, превышающая определённую сумму, может стать поводом для проверки. Заемщик с определёнными финансовыми характеристиками может получить конкретный кредитный рейтинг.

Эти правила прозрачны и их относительно легко проверить. В то же время они могут быть негибкими.

Мошенники адаптируют свои действия, чтобы обойти известные меры контроля. Взаимоотношения на рынке меняются. Сделка, которая в отдельности кажется безобидной, может вызвать подозрения, если рассматривать её в контексте более широкой картины деятельности.

Модели машинного обучения способны анализировать эти взаимосвязи, не полагаясь исключительно на фиксированные правила. Они могут выявлять едва заметные изменения в платежном поведении, доступе к счетам или сетях транзакций, которые было бы сложно обнаружить вручную.

Тот же принцип применим к кредитному и рыночному рискам. ИИ способен обрабатывать более широкий спектр переменных и обновлять оценки по мере поступления новой информации.

Благодаря этому система становится более оперативной. В то же время это повышает требования к контролю, особенно в тех случаях, когда модель не может чётко обосновать свои выводы.

JPMorgan демонстрирует преимущества масштаба

JPMorgan Chase вложил значительные средства в развитие искусственного интеллекта в таких сферах, как торговля, обеспечение соблюдения нормативных требований, выявление мошенничества и управление операционными рисками.

Для банка такого масштаба преимущества очевидны. Даже незначительное повышение скорости или точности анализа рисков может привести к существенной экономии, если применять его к миллионам транзакций и клиентских отношений.

Инструменты на базе искусственного интеллекта могут помочь сотрудникам выявлять необычную активность, анализировать документы и расставлять приоритеты по оповещениям. Кроме того, они позволяют сократить время, затрачиваемое на рутинные проверки, в ходе которых, в конечном итоге, никаких проблем не обнаруживается.

Это не означает, что принятие решений, связанных с рисками, полностью передается машинам. В случаях с более высоким уровнем риска по-прежнему требуются интерпретация, подтверждающие доказательства и документально зафиксированное суждение.

Опыт JPMorgan отражает более общую тенденцию в отрасли. Крупные финансовые учреждения используют ИИ для укрепления существующих систем контроля, а не для замены подразделений по управлению рисками автономными моделями.

Эта технология оказывается наиболее полезной, когда помогает специалистам определить, на что следует обратить внимание.

Внедрение этой технологии набирает обороты во всей отрасли

Опрос, проведённый компанией Deloitte, показал, что 76% финансовых учреждений инвестируют в искусственный интеллект с целью повышения эффективности управления рисками.

Внедрение охватывает кредитный, рыночный, ликвидный, операционный риски, а также риск несоблюдения нормативных требований. Срок внедрения этих решений значительно варьируется.

Выявление мошенничества является одним из наиболее распространенных сценариев применения, поскольку финансовые учреждения уже располагают большими объемами данных о транзакциях и могут сопоставлять сигналы, генерируемые моделями, с известными результатами.

Оценка кредитоспособности — это более сложный процесс. ИИ может учитывать данные о денежных потоках, платежной дисциплине и другие переменные, которые традиционные системы оценки не принимают во внимание. Это позволяет составить более подробную картину о заемщике.

Кроме того, это может затруднить объяснение принятых решений.

Модели рыночного риска сталкиваются с иной проблемой. Они могут выявлять корреляции между ценными бумагами и классами активов, однако исторические взаимосвязи зачастую ослабевают в периоды стресса.

Сферы применения в области операционных рисков варьируются от мониторинга кибербезопасности до анализа внутренних процессов. В данном контексте искусственный интеллект способен выявлять необычную системную активность, подозрительное поведение сотрудников или скопления неудачных транзакций.

Единой системы управления рисками, связанными с ИИ, не существует. Этот термин охватывает целый ряд инструментов, предназначенных для решения самых разных задач.

Небольшие компании получают доступ через провайдеров

Использование искусственного интеллекта не ограничивается только глобальными банками.

Финтех-компании и небольшие финансовые организации могут получить доступ к инструментам управления рисками через облачные платформы и специализированных поставщиков технологий. Это позволяет снизить затраты на выявление мошенничества, проверку личности и анализ данных.

Например, компания Plaid использует автоматизированные системы для обеспечения безопасности данных и выявления потенциально мошеннической деятельности в рамках финансовых операций.

Внешние платформы предоставляют небольшим организациям доступ к возможностям, создание которых собственными силами было бы для них непосильным. В то же время они приводят к появлению новых зависимостей.

Компания может передать технологические функции на аутсорсинг, но она не может передать на аутсорсинг ответственность. Она должна понимать, какие данные использует поставщик, как тестируется система и что происходит в случае сбоя в работе сервиса.

Концентрация поставщиков сама по себе представляет собой риск. Если многие учреждения полагаются на одни и те же модели или инфраструктуру, техническая уязвимость может одновременно затронуть значительную часть финансовой системы.

Поэтому необходимо найти баланс между удобством и контролем.

Прогнозирование имеет четкие ограничения

Прогностическая аналитика часто представляется как главное преимущество управления рисками с помощью искусственного интеллекта.

Модели позволяют оценивать вероятность дефолта, мошенничества или рыночных убытков на основе анализа предыдущих результатов. По мере поступления новых данных эти оценки могут обновляться.

Этот процесс полезен, но формулировки прогнозов могут вызвать ложную уверенность.

Финансовый риск редко возникает в стабильных условиях. В период рецессии поведение заемщиков меняется. Рыночная ликвидность может быстро исчезнуть. Политические решения, кибератаки и стихийные бедствия могут привести к событиям, которые недостаточно отражены в исторических данных.

Модель может демонстрировать хорошие результаты в обычных условиях, но выходить из строя именно тогда, когда её результаты имеют наибольшее значение.

По этой причине искусственный интеллект должен дополнять, а не заменять сценарный анализ и стресс-тестирование. Финансовые учреждения должны проанализировать, что может произойти за пределами диапазона результатов, которые модель считает вероятными.

Управление рисками касается не только вероятности, но и последствий.

Автоматизация высвобождает производственные мощности, но может скрывать слабые места

ИИ позволяет автоматизировать отдельные этапы сбора данных, классификации предупреждений, ведения документации и подготовки отчетов.

Это позволяет специалистам по рискам уделять больше времени сложным расследованиям и стратегическим вопросам. Кроме того, это может снизить количество несоответствий, возникающих при ручном проведении рутинных проверок.

Повышение эффективности выглядит весьма привлекательно. По данным Accenture, финансовые компании, использующие технологии искусственного интеллекта, демонстрируют рост эффективности на 20%.

Однако автоматизация может скрывать недостатки процессов.

Если модель обучена на неточных классификациях, она может воспроизводить их с ещё большей эффективностью. Если различные отделы используют несогласованные данные о клиентах или транзакциях, ускорение обработки не решит основную проблему.

Кроме того, организации могут утратить способность функционировать без автоматизированных систем. Сотрудники, которые редко выполняют ту или иную задачу вручную, могут столкнуться с трудностями при выявлении сбоев в работе технологий.

Устойчивость предполагает способность бросать вызов системе, а не просто пользоваться ею.

Модели рисков отражают решения, принимаемые людьми

Искусственный интеллект иногда считается более объективным, чем человеческое суждение. На практике же модели строятся на основе решений, принимаемых людьми.

Разработчики определяют, какие данные включить, какие результаты оптимизировать и как классифицировать предыдущие решения. Эти выборы влияют на выводы модели.

В сфере кредитного риска исторические данные могут отражать неравный доступ к кредитованию или различное отношение к группам клиентов. Модель, обученная на таких данных, может воспроизводить эти закономерности, не используя явно защищаемые признаки.

Системы обнаружения мошенничества могут генерировать чрезмерное количество предупреждений в отношении клиентов, чьи транзакции отличаются от большинства, даже если их деятельность является законной.

Проблема не решается путем удаления имен или демографических данных. В качестве замещающих показателей могут выступать другие переменные.

Поэтому учреждениям необходимо проверять результаты моделирования на различных группах клиентов и анализировать необъяснимые различия.

Даже статистически точная система может принимать решения, которые являются несправедливыми, нецелесообразными или которые сложно обосновать с юридической точки зрения.

Вопрос объяснимости становится предметом регулирования

Сложные модели могут давать точные прогнозы, не давая при этом простого объяснения того, как они к ним пришли.

Это становится особенно проблематичным, когда какое-либо решение затрагивает интересы клиента. Отказ в выдаче кредита, блокировка транзакции или повышение категории риска могут потребовать понятного объяснения.

Регулирующие органы и внутренние органы управления также должны оценивать, работают ли модели в пределах утвержденных ограничений.

Поэтому некоторые учреждения могут отдавать предпочтение более простым моделям при решении задач, от которых зависит многое, даже если более сложные системы обеспечивают лишь незначительно более высокую точность прогнозирования.

Здесь речь идет о компромиссе между производительностью и объясняемостью.

Не каждая модель искусственного интеллекта должна раскрывать все технические расчёты каждому пользователю. Однако организации должны быть в состоянии описать важные факторы, лежащие в основе принятого решения, и продемонстрировать, что система прошла тестирование.

Результатом, который невозможно оспорить, трудно управлять.

Безопасность данных становится частью управления рисками

Системам искусственного интеллекта необходим широкий доступ к финансовой, транзакционной и личной информации.

Это приводит к очевидной противоречивой ситуации. Данная технология призвана снизить риски, однако хранение и обработка конфиденциальных данных могут создавать новые уязвимости.

Организации должны обеспечивать защиту информации на этапах сбора, хранения и анализа. Доступ к информации должен быть ограничен, регистрироваться в журнале и регулярно проверяться.

Внешние поставщики ИИ требуют особого внимания. Компаниям необходимо знать, используются ли их данные для обучения других моделей, где происходит обработка информации и в какие сроки должны сообщаться инциденты.

Киберпреступники также могут пытаться манипулировать системами искусственного интеллекта. Изменяя входные данные или имитируя нормальное поведение, они могут пытаться избежать обнаружения.

Таким образом, сама модель может стать мишенью.

Безопасность данных и безопасность моделей нельзя рассматривать как отдельные дисциплины. Обе эти области входят в более широкую систему управления рисками организации.

Модели требуют постоянного контроля

Системы искусственного интеллекта часто описывают как системы, которые со временем обучаются и совершенствуются. Этот процесс необходимо тщательно контролировать.

Модель, которая обновляется без эффективного контроля, может отклониться от своей первоначальной цели. Изменения в данных могут постепенно изменить подход к классификации рисков, даже если не было принято официального решения о пересмотре методологии.

Организациям необходимо отслеживать точность, количество ложных срабатываний и неожиданные изменения в поведении. Эффективность системы следует тестировать в различных рыночных и экономических условиях.

Изменения в модели материала подлежат документированию и утверждению. Сотрудники должны знать, какая версия используется и чем она отличается от предыдущих версий.

Независимая валидация по-прежнему имеет решающее значение. Команда, разрабатывающая модель, не должна быть единственной, кто оценивает её работоспособность.

Непрерывное обучение не заменяет непрерывное управление.

Человеческое суждение ориентируется на исключения

ИИ изменит распределение обязанностей внутри подразделений по управлению рисками.

Рутинные дела всё чаще можно обрабатывать в автоматическом режиме. Сотрудники будут уделять основное внимание исключительным случаям, неоднозначным ситуациям и рискам, которые не подпадают под установленные шаблоны.

Это делает человеческое суждение более важным, а не менее важным.

Дела, передаваемые специалистам, зачастую будут самыми сложными. Сотрудники должны достаточно хорошо понимать данную модель, чтобы уметь подвергать сомнению её выводы и понимать, когда требуются дополнительные доказательства.

Кроме того, им необходимы полномочия, позволяющие отклонять автоматические рекомендации.

Система, допускающая вмешательство человека лишь теоретически, не обеспечивает эффективного контроля. Компании должны отслеживать, как часто сотрудники не соглашаются с результатами моделей и испытывают ли они давление, вынуждающее их следовать автоматизированным выводам.

Цель заключается не в том, чтобы сохранить ручной труд ради самого ручного труда. Цель — обеспечить подотчетность при принятии важных решений.

ИИ также может создавать системный риск

Внедрение аналогичных моделей во всем финансовом секторе может привести к появлению новых форм общей подверженности риску.

Если финансовые учреждения используют сопоставимые данные и алгоритмы, они могут реагировать на рыночные сигналы одинаково. В периоды напряженности это может усилить волну продаж, снизить ликвидность или привести к резким изменениям в доступности кредитов.

Отдельная модель может быть рациональной с точки зрения одной компании, но при этом способствовать нестабильности во всей системе.

Зависимость от небольшого числа поставщиков облачных услуг и технологий создает дополнительный риск концентрации. Сбой в работе одного из крупных поставщиков может одновременно нарушить механизмы управления рисками в нескольких организациях.

Поэтому регулирующим органам необходимо будет выйти за рамки оценки эффективности отдельных моделей. Им следует учитывать, как ИИ влияет на поведение различных организаций и рынков.

Повышение эффективности на уровне отдельной компании не ведет автоматически к повышению устойчивости на системном уровне.

The potential value is substantial

McKinsey has estimated that AI could generate up to $1 trillion in annual value for the global banking sector.

Only part of this value will come directly from risk management. Better fraud detection, lower compliance costs and more accurate credit decisions could nevertheless make a significant contribution.

The gains will not arrive simply because institutions acquire AI tools.

Firms need reliable data, clear objectives and employees capable of using model outputs. They must invest in testing, security and governance alongside development.

Some applications will fail to produce the promised return. Others may prove too difficult to explain or too sensitive to changing conditions.

Risk leaders should therefore begin with defined problems rather than broad ambitions. A system designed to reduce false fraud alerts can be measured against a clear outcome. A general promise to “transform risk management” cannot.

AI investment should be judged by its effect on decisions, not by the sophistication of the technology.

Faster warnings, not fewer uncertainties

Artificial intelligence is likely to become a standard component of financial risk management.

It can detect patterns across large datasets, automate routine controls and help institutions react more quickly. These capabilities are valuable in a financial system where risks move rapidly and often cross organisational boundaries.

They do not make institutions immune to error.

AI models can misinterpret unusual conditions, reproduce historical biases and create dependencies that are difficult to see. The speed of their output may encourage firms to place more confidence in predictions than the underlying evidence justifies.

The strongest risk frameworks will combine machine-led analysis with human challenge, independent validation and clear accountability.

AI can improve the warning system. It cannot decide which risks an institution should accept, how much uncertainty it can withstand or what action remains responsible when the data are inconclusive.

Those choices still belong to people.