Исследователи из Имперского колледжа Лондона модифицировали модели преобразования речи в текст таким образом, чтобы они точно распознавали речь большинства говорящих, но некорректно работали в отношении одного выбранного человека. Когда этот человек начинал говорить, модели выдавали текст, заранее выбранный злоумышленником. В одном из тестов этим текстом была просьба перечислить 5 000 долларов, и ИИ-агенты, прочитав транскрипт, осуществили перевод в изолированной банковской среде. Злоумышленнику требуется доступ к модели только на этапе её доработки посредством…