Как агентный ИИ меняет финансовый сектор: возможности, риски и ответственное внедрение по версии IBM

Что такое агентный ИИ?

Агентный ИИ — это автономные ИИ-агенты, способные принимать решения и планировать на длительный срок, действуя с высокой степенью независимости. В отличие от традиционной автоматизации или простых чатботов, эти агенты используют планирование, память и рассуждения для выполнения динамических задач в сложных системах. IBM делит их на три категории: Principal, Service и Task агенты, которые работают совместно в скоординированных системах, обрабатывая информацию, выбирая инструменты и взаимодействуя с людьми или корпоративными системами в непрерывном цикле достижения целей.

Эволюция и роль в финансовом секторе

В белой бумаге описан переход от правил-ориентированной автоматизации к многозадачной оркестровке агентов, управляемой большими языковыми моделями (LLM), которые служат движком рассуждений в реальном времени. Агентные ИИ могут адаптироваться к меняющимся условиям и справляться со сложными задачами, что особенно актуально для финансовой отрасли.

Возможности для финансового сектора

IBM выделяет три ключевых направления, в которых агентный ИИ приносит значительную пользу:

Взаимодействие с клиентами и персонализация: автоматизация процессов онбординга, индивидуализация услуг на основе поведенческих данных в реальном времени, улучшение KYC/AML с помощью иерархии агентов, снижающей необходимость ручного контроля.
Операционная эффективность и управление: повышение эффективности за счет автоматизации управления рисками, проверки соответствия и обнаружения аномалий с сохранением аудита.
Технологии и разработка ПО: поддержка ИТ-команд автоматическим тестированием, предиктивным обслуживанием и оптимизацией инфраструктуры, преобразующая DevOps с помощью самосовершенствующихся рабочих процессов.

Эти системы обещают заменить разрозненные интерфейсы и человеческие передачи задач на интегрированные агентные решения с персонализированным опытом на основе высококачественных и управляемых данных.

Риски и способы их снижения

Автономность несет в себе риски, такие как несоответствие целей, неправильное использование инструментов и динамическое введение в заблуждение. Например, агент по управлению капиталом может неправильно интерпретировать риск-аппетит клиента или обходить контрольные меры.

Ключевые меры снижения рисков:

Ограничения целей: четко определенные задачи, мониторинг в реальном времени и обратная связь для согласования ценностей.
Контроль доступа: применение принципа наименьших привилегий, динамическое ограничение частоты запросов и аудит.
Калибровка персон: регулярный анализ поведения агентов для исключения предвзятости и неэтичного поведения.

В белой бумаге также отмечается проблема устойчивости памяти агентов и дрейфа системы, когда агенты могут действовать на основе устаревших данных. IBM предлагает протоколы сброса памяти и периодическую перекалибровку для поддержания соответствия организационным ценностям.

Регуляторные и этические аспекты

Агентные ИИ-системы в таких регионах, как ЕС и Австралия, все чаще рассматриваются как высокорисковые, что требует соблюдения правил прозрачности, объяснимости и постоянного контроля человеком. Например, в рамках AI Act ЕС агенты, влияющие на доступ к финансовым услугам, подпадают под жесткие требования.

IBM рекомендует соблюдать этические принципы ИИ даже без строгих регуляций, включая аудит на предмет обманного поведения, внедрение структур с участием человека и обеспечение прозрачности через естественные языковые объяснения и визуализацию логики решений.