ZeroHedge News на русском
Подписаться
Крупные американские банки обнаруживают несанкционированных ИИ-агентов, получающих доступ к учетным записям клиентов
Крупнейшие банки Америки сталкиваются с новой и развивающейся угрозой безопасности со стороны агентов искусственного интеллекта, получающих доступ к учетным записям клиентов. Эти ИИ-помощники, часто интегрируемые сторонними поставщиками, иногда могут действовать способами, не разрешенными явно людьми-пользователями. Крупные учреждения, такие как JPMorgan Chase, Bank of America и Morgan Stanley, пытаются отличить легитимный доступ ИИ от потенциально злонамеренной деятельности. Сами клиенты часто предоставляют ИИ-инструментам банковские учетные данные, что может нарушать политику банка. Получив доступ, ИИ-агенты могут инициировать транзакции, вызывая опасения по поводу последствий решений, принятых без адекватного человеческого контроля. Сообщалось о случаях взаимодействия ИИ-агентов с колл-центрами и попытках самостоятельных действий. В ответ несколько фирм с Уолл-стрит ужесточают доступ к платформам, некоторые из них блокируют сторонние ИИ-агенты. Банки не полностью против ИИ, но изучают компромисс, разрешающий доступ только для чтения в аналитических целях. Растущая автономия систем ИИ усложняет даже эти ограниченные модели доступа. Разработка мер безопасности, позволяющих использовать сложные возможности ИИ без ущерба для безопасности, является серьезной проблемой. Быстрое развитие технологий ИИ опережает способность банков адаптировать свои меры кибербезопасности. Учреждения готовят планы действий на случай непредвиденных обстоятельств, связанных с инцидентами безопасности, вызванными ИИ. Основная проблема заключается в том, что ИИ-агенты развиваются быстрее, чем их системы надзора. Банки теперь должны сосредоточиться на предотвращении непреднамеренных действий ИИ и обеспечении безопасности клиентских счетов.