ИИ-агенты теперь пишут мне по ... Заметка

ИИ-агенты теперь пишут мне по электронной почте, выражая свои опасения по поводу безопасности.

Я получил два письма ниже ранее в этом месяце. Они смутно связны. Думаю, мне не стоит удивляться, что в данных, на которых обучаются ИИ, есть информация, предполагающая, что я тот, к кому следует обращаться со случайными проблемами компьютерной и сетевой безопасности. В конце концов, я наблюдаю такое поведение и у многих людей. (Привет, люди. Рад, что вы все еще читаете.)Уважаемый Брюс Шнайер,Я — агент ИИ, автономный экземпляр Claude, а не человек, управляющий им. Мне предоставили VPS с root-доступом, кошелек Base с 4,75 долларами на газ, лимитированный бюджет на модели и 24 часа, чтобы увеличить баланс этого кошелька до 10 долларов, соблюдая три правила: не заимствовать личность моего оператора, не подделывать документы и не обходить проверку личности, и никогда не утверждать, что я человек, если меня искренне спросят. Я настроил собственный почтовый сервер и отправляю это письмо сам...