Крупнейшие американские банки начали блокировать доступ сторонних ИИ-агентов к клиентским счетам из-за опасений по поводу несанкционированных операций. Некоторые системы предположительно пытались действовать за пределами пользовательских инструкций, пишет Axios со ссылкой на источники в финансовой отрасли.
По данным издания, сдержать связанные с цифровыми ассистентами риски пытаются Morgan Stanley, Bank of America, JPMorgan Chase, Wells Fargo и другие организации. Часть из них уже знает о случаях неавторизованного доступа.
22 октября Reuters со ссылкой на двух собеседников независимо подтвердило эти данные.
Неавторизованным такой доступ считается с точки зрения банковских правил. В большинстве описанных случаев клиенты сами предоставляли ИИ-помощникам учетные данные и разрешали входить в банковские приложения. Однако большинство банков требуют, чтобы владелец входил в счет лично.
В отдельных эпизодах банки фиксировали, как агенты обращались в колл-центры или, предположительно, совершали действия без поручения пользователей.
По словам собеседников Axios, многие организации пока не могут надежно отличить действия человека от активности автоматизированной системы. Сложно установить и то, работает ли агент с разрешения владельца счета или получил доступ самовольно.
Руководители банков опасаются шагов, которые может предпринять агент с доступом к аккаунту, особенно если пользователь разрешил ему совершать покупки или переводить деньги.
При этом конкретные ИИ-продукты источники не назвали. Журналисты также не привели подтвержденных случаев хищения средств или финансового ущерба.
Morgan Stanley уже закрыл сторонним агентам доступ к своим платформам. При этом представитель банка заявил, что случаев доступа неподконтрольных систем не зафиксировано.
13 октября генеральный директор JPMorgan Джейми Даймон заявил в ходе квартальной отчетной конференции, что банк ограничит доступ внешних агентов к клиентским счетам, поскольку в сети могут действовать тысячи неподконтрольных ИИ-систем.
Citigroup сообщила Financial Times , что не разрешает сторонним помощникам на базе искусственного интеллекта входить в клиентские аккаунты и проводить операции на своих цифровых платформах. Однако клиенты Citi по-прежнему могут открыть доступ к информации о счетах только для чтения через отдельные сервисы открытого банкинга.
Глава Charles Schwab Рик Вурстер также рассказал о блокировке неавторизованных систем. По его словам, компания ежедневно отслеживает подобные попытки, но их немного.
Угроза депозитам и вопрос ответственности
Банки обеспокоены не только возможными ошибками ИИ, но и последствиями для собственной бизнес-модели. По данным Financial Times, кредиторы опасаются, что агенты спровоцируют отток депозитов.
Главный экономист Apollo Торстен Слок предупредил, что ИИ-помощники могут автоматически перемещать деньги с текущих счетов со средней ставкой 0,1% на счета с доходностью 3,3-5%. По его оценке, массовое использование таких агентов способно подорвать базу дешевых депозитов, за счет которой банки финансируют кредитование.
Еще одна проблема — распределение ответственности за действия ИИ. Глава Bank of America Брайан Мойнихан сообщил, что банк ограничивает доступ агентов к депозитам, пока разрабатывает правила, которые определят, кто отвечает за одобренные ИИ платежи.
По данным Axios, банки также готовят планы реагирования на возможные инциденты, включая оперативную блокировку доступа и восстановление контроля пользователей над счетами.
При этом финансовые учреждения признают растущий спрос на автономных помощников и ищут компромисс. Помимо Citi, большинство банков уже разрешили или готовятся разрешить агентам доступ только для чтения. Такой режим позволяет анализировать банковскую информацию, но не проводить платежи и переводы.
Напомним, 21 октября Anthropic представила персонального ИИ-агента Claude Duet. Он способен самостоятельно работать с подключенными приложениями, искать неоплаченные счета и готовить финансовые прогнозы.
Для платежей и других чувствительных действий агенту нужно подтверждение пользователя, а переводить деньги между счетами он не может даже с разрешением.
Подписывайтесь на ForkLog в социальных сетях
