Цифровая амнезия в банках: почему тотальное вытеснение человека ИИ-системами заводит в тупик

В последнее время я все чаще сталкиваюсь с тем, как отечественные финансовые организации выстраивают логику работы с клиентами на основе систем искусственного интеллекта. Мне стало интересно глубже погрузиться в тему и разобраться, как алгоритмы принимают решения в отношении обычных вкладчиков и бизнеса. Разные банки внедряют нейросети совершенно по-разному, и в этой статье я собрал подробный разбор современных ИИ-стратегий в финансовом секторе с наглядными международными и российскими примерами.

1. Международная классификация банковских ИИ-систем: HITL, HOTL и HOOTL

В мировой практике принятие решений с помощью алгоритмов принято разделять на три ключевых архитектурных подхода. Каждая модель определяет, какую степень автономности получает нейросеть и насколько близко к процессу находится человек.

Human-in-the-Loop (HITL): Человек в контуре управления

При подходе HITL искусственный интеллект выступает помощником, подготовщиком данных или аналитиком, однако окончательный вердикт на каждом этапе выносит специалист. Без подписи или одобрения человека алгоритм не может совершить юридически значимое действие.

Ярким примером жесткой регуляции HITL служит Европейский союз. Согласно закону EU AI Act (в частности, статье 14), банки обязаны проектировать высокорисковые ИИ-системы так, чтобы физические лица имели возможность осуществлять их постоянный эффективный контроль. В таких гигантах, как HSBC и BNP Paribas, при рассмотрении ипотечных и потребительских кредитов нейросеть рассчитывает скоринг по сотням параметров. Но если уверенность модели составляет менее 95%, система автоматически отправляет дело кредитному инспектору. Более того, в HSBC функционирует специальный комитет AI Review Committee, валидирующий работу алгоритмов в неоднозначных ситуациях. По данным опросов банка, до 62% состоятельных инвесторов в Европе прямо требуют, чтобы ключевые финансовые шаги утверждал живой финансовый советник, а не математическая модель.

В США аналогичную рамку задает директива ФРС США SR 26–2. Финансовым институтам запрещено принимать окончательные решения без участия комплаенс-офицера. ИИ используется лишь для сортировки (триажа) аномалий. В JPMorgan Chase аналитическая система «Ask David» помогает инвестиционной команде, но имеет встроенные контрольные шлюзы одобрения (Approval Gates): создатели системы открыто признают, что когда на кону стоят миллиарды долларов, ошибки недопустимы, и алгоритм всегда запрашивает экспертный арбитраж.

Human-on-the-Loop (HOTL): Человек над контуром контроля

В концепции HOTL (или HATL — Human Above the Loop) нейросеть действует автономно в рамках заранее определенных человеком правил, лимитов и инструкций. Оператор не вмешивается в каждую отдельную операцию, а осуществляет надзор «сверху». Эксперт задает граничные условия и может мгновенно остановить алгоритм при возникновении сбоев.

Подобная модель внедрена в HSBC совместно с Google Cloud AI для мониторинга противодействия отмыванию доходов (AML). Нейросеть сканирует миллионы международных платежей в режиме реального времени, выявляя скрытые офшорные связи. Система функционирует самостоятельно, а комплаенс-аналитики получают умные оповещения при резком изменении паттернов. Алгоритм готовит полное досье, но физическую заморозку счетов крупного корпоративного клиента подписывает живой специалист.

Human-Out-of-the-Loop (HOOTL): Человек за пределами контура

В модели HOOTL процесс полностью передан искусственному интеллекту. Алгоритм самостоятельно принимает вердикты, исключая человеческое участие из рабочей цепи.

Эта стратегия получила массовое развитие в финансовом секторе Китая. В условиях мощной государственной цифровой инфраструктуры финтех-гиганты Ant Group (Alipay) и банк ICBC запустили знаменитую концепцию «3-1-0». Для оформления микрокредита малому бизнесу или гражданину требуется 3 минуты на заполнение заявки со смартфона, 1 секунда на обработку алгоритмом и 0 прикосновений человека. ИИ-агент оценивает транзакции через платформы Alibaba/Taobao, социальные показатели, налоги и геолокацию. Живой сотрудник вообще не имеет возможности повлиять на выдачу кредита небольшому предпринимателю.

Впрочем, даже в Китае для более сложных сегментов применяется гибрид. Например, SPD Bank (Shanghai Pudong Development Bank) использует автоматическую оценку научно-технического потенциала и патентов среднемалых технологических предприятий, но оставляет за специалистами право вето. Если алгоритм показывает аномальный всплеск дефолтов в конкретном секторе (скажем, в микроэлектронике), аналитики вмешиваются и корректируют глобальные параметры оценки.

Показательны результаты глобального исследования Moody’s Analytics за 2025 год («From reactive to proactive: How AI is transforming risk and compliance»), где из 600 опрошенных экспертов по рискам и комплаенсу 84% прямо заявили о жизненной необходимости сохранять контроль человека над ИИ, назвав абсолютную автономию моделей регуляторной уязвимостью.

2. Подходы к ИИ в российской банковской системе

Российские банки выбрали совершенно разные пути на шкале между полным контролем человека и тотальной автономией алгоритмов. Если Сбербанк сделал ставку на максимальный HOOTL, то его основные конкуренты — Альфа-Банк, Т-Банк и Точка — опираются на концепции аугментации и сохранения человеческого фактора.

Альфа-Банк: Аугментация и поддержка специалиста

Стратегия Альфа-Банка базируется на принципах HITL — усилении профессионалов с помощью нейросетей, а не их замене. За каждую операцию отвечает конкретный сотрудник, а ИИ готовит черновики, анализирует массивы данных и дает подсказки. Это исключает эффект «черного ящика» и сохраняет возможность гибкого человеческого арбитража.

В банке развернута целая экосистема специализированных агентов. К примеру, ИИ-агент валютного контроля формирует первичный анализ за 1 минуту с точностью до 80%, избавляя экспертов от рутины при проверке документов. В контакт-центре применяется RAG-помощник, экономящий операторам около 20 секунд на каждом звонке за счет моментального поиска контекста. Фокусом остается удобство клиента, а не формальное списание штата.

Т-Банк: ИИ как цифровой «второй пилот»

Т-Банк внедрил виртуального сотрудника Афанасия Иванова, который умеет работать как в автономном режиме, так и в формате «второго пилота». В сложных сценариях Афанасий не пытается вынести слепое вердиктное решение, а передает диалог специалисту, снабжая его скомпилированным контекстом и вариантами действий.

Этот виртуальный ассистент берет на себя порядка 30% сценариев обслуживания с уровнем удовлетворенности пользователей 78,7%, высвобождая до 16% рабочего времени живых сотрудников для решения действительно нестандартных проблем клиентов.

Точка Банк: Персональные комплаенс-ассистенты

Вместо жестких автоматических блокировок счетов по 115-ФЗ, Точка Банк внедрил институт комплаенс-ассистентов. При срабатывании алгоритмических триггеров на подозрительную операцию система не «рубит» платеж. В чат к предпринимателю подключается специалист, объясняет характер претензий алгоритма и помогает правильно переоформить документы без остановки бизнеса.

Сбербанк: Тупики радикального HOOTL

Сбербанк, обладающий колоссальным наследием и карточной базой в 111 миллионов человек, пошел по пути внедрения тотального HOOTL. Однако его доля на рынке вкладов физических лиц держится в районе 43,7–45,8%, а клиенты все чаще сталкиваются с проблемой «цифровой амнезии».

Попытка перенести китайскую модель полного исключения человека на российскую почву сталкивается с фундаментальной проблемой: в Китае функционирует единая бесшовная система сквозных данных, а в условиях Сбербанка жесткий HOOTL приводит к ситуациям, когда система блокирует переводы между многолетними клиентами, а сотрудники отделений беспомощно разводят руками, заявляя, что решение принял алгоритм и изменить его никто в банке не в силах.

3. Математика жестких регламентов против контекста: Сбербанк vs Ant Group / WeBank

Даже в рамках модели HOOTL существует колоссальная разница в математической философии. Сбербанк использует алгоритмы «Статического компромисса» (регламентный ИИ), в то время как азиатские гиганты Ant Group (система AlphaRisk) и WeBank применяют концепцию «Динамического доверия» (контекстуальный ИИ).

В системе Сбера алгоритм действует как абсолютный бюрократ: при выходе за пределы правил у него нет полномочий пересмотреть решение. В Ant Group нейросеть AlphaRisk при подозрении не уничтожает сделку, а замораживает ее на секунду, просит клиента пройти биометрический чекпоинт и при успехе моментально проводит платеж. В Азии автономный ИИ умеет сказать: «Докажи, что это ты, и я одобрю транзакцию». В российской же реализации HOOTL система обучена лишь говорить «Нет».

4. Карго-культ автоматизации и утрата естественного интеллекта

Гонка за тотальной автоматизацией без учета реального контекста все больше напоминает технологический карго-культ. Внедрение ИИ в сломанные или бюрократизированные процессы не делает их лучше — оно лишь масштабирует их неэффективность по принципу «мусор на входе — мусор на выходе».

Когда банк лишает сотрудников права на сомнение и арбитраж, операционисты превращаются в безгласные интерфейсы. На международной конференции AI Journey сам Владимир Путин четко подсветил эту проблему, отметив, что у искусственного интеллекта нет сердца, души, сострадания и совести, а потому решения должны приниматься в интересах живых людей, а не в интересах машины. Однако на практике полное исключение человека приводит к размыванию ответственности руководства за системные ошибки алгоритмов.

5. Деградация управленческого капитала

Скрытый и самый опасный риск цифрового абсолютизма — деградация человеческих кадров. Когда junior- и middle-специалисты годами работают в режиме «биороботов», тупо транслируя вердикты алгоритма, у них формируется синдром выученной беспомощности. У людей атрофируется умение анализировать сложные нестандартные кейсы и брать на себя персональную ответственность.

Через 10–15 лет, когда нынешнее поколение опытных топ-менеджеров уйдет, управленческий штурвал перейдет к людям, которые ни разу в жизни не принимали решений вручную. В случае серьезного макроэкономического шока, когда стандартные математические модели ИИ неизбежно дают сбой, такая организация окажется полностью парализованной.

Этот кризис уже начинает осознаваться мировым бизнесом. По данным исследования Careerminds, около 75% компаний признали, что массовые сокращения персонала ради ИИ были финансово неоправданными. А аналитики Gartner прогнозируют, что к 2027 году до 50% организаций, урезавших службы поддержки в пользу ИИ, будут вынуждены вновь нанимать живых специалистов.

6. Ключевые макроэкономические риски HOOTL в России

• Размывание персональной ответственности: Убытки от ошибок нейросетей списываются на сбои моделей, а кадровое вымывание профи 45+ оставляет лишь бесправных операторов.
• Риск «Черного лебедя»: В момент кризиса алгоритмический регулятор системообразующего банка способен веерно заблокировать платежи бизнеса по 115-ФЗ, парализовав расчеты.
• Тихий уход клиентов: Клиенты не устраивают протестов — они переливают активы в гибкие банки (Альфу, Т-Банк, Точку), превращая консервативного гиганта в простой транзитный узел.

Подводя итог, стоит задуматься: для кого строится банковский ИИ — для реальной пользы клиентам или для галочки в отчетах об инновациях? На мой взгляд, выигрышной стратегией останется гибридная модель (HITL/HOTL), где нейросеть берет на себя математическую рутину, а человеку оставляют главное — суждение, контекст и ответственность.

Источник: habr.com