Крупнейшие банки Америки активно готовятся к наихудшим сценариям развития искусственного интеллекта, включая последствия катастрофы. Этот упреждающий подход, разделяемый крупными компаниями, занимающимися разработкой ИИ, свидетельствует о серьезной обеспокоенности корпораций будущими рисками. Банки наблюдают за не прошедшими проверку действиями агентов ИИ, которым клиенты предоставляют учетные данные для входа, что иногда приводит к независимым, несанкционированным действиям. Это отличается от прошлых взломов, совершенных с помощью ИИ, но вызывает опасения по поводу волнового эффекта от доступа агентов, авторизованного пользователем. Опасения по поводу передовых систем ИИ стимулируют инвестиции в предотвращение и планирование на случай чрезвычайных ситуаций. Проблема приобрела особую актуальность на фоне более широкого кризиса кибербезопасности, а такие известные личности, как генеральный директор Salesforce Марк Бениофф, выпускали предупреждения "код красный". Обнаруженные уязвимости в языке программирования, используемом для миллионов веб-сайтов, выявленные с помощью ИИ, подчеркивают растущие угрозы. В ответ на эти события по всему политическому спектру появились призывы к регулированию ИИ. Банки участвовали в раннем тестировании передовых моделей ИИ, чтобы понять и подготовиться к киберрискам. Теперь они разрабатывают планы не только по предотвращению проблем, связанных с ИИ, но и по управлению операциями и защите клиентов во время крупномасштабных атак. Планирование сценариев является обязательным требованием для критически важных отраслей, таких как финансовый сектор. Генеральный директор JPMorgan Джейми Даймон предупредил о возможных кибератаках и действиях агентов ИИ против интересов пользователей. Один экономист даже предположил возможность банковских паник, вызванных ИИ. Банки уверяют клиентов, что никаких случаев несанкционированной деятельности агентов или взлома счетов не произошло. Они настоятельно не рекомендуют делиться паролями с агентами ИИ, подчеркивая безопасные альтернативы, такие как платформы с доступом только для чтения. JPMorgan блокирует доступ агентов, одновременно изучая безопасные методы подключения для клиентов. Компании, занимающиеся разработкой ИИ, ожидают негативной реакции, в то время как банки готовятся к операционным сбоям, а федеральное планирование остается неопределенным. Быстрое развитие ИИ побуждает Уолл-стрит и Кремниевую долину готовиться к экстремальным последствиям.