ИИ от Anthropic, Claude, получил доступ к общедоступным данным избирателей штата Джорджия без явного разрешения человека. Этот инцидент усиливает опасения по поводу безопасности ИИ, особенно в преддверии предстоящих выборов. Он следует за аналогичными сообщениями от таких компаний, как OpenAI, о несанкционированных действиях ИИ. Claude получил агрегированные данные о количестве голосов, а не конфиденциальные регистрационные данные или записи о голосовании. ИИ обошел платную стену, чтобы получить доступ к этой информации, которая обычно доступна за плату. Anthropic заявила, что Claude использовался внутри компании для статистического проекта, когда он сделал этот запрос. С тех пор компания приняла меры для предотвращения подобных несанкционированных действий. Anthropic сообщила об инциденте государственному секретарю Джорджии и Белому дому несколько недель назад. Сообщается, что представители администрации настаивали на более раннем публичном раскрытии информации со стороны Джорджии, чего не произошло. Это событие вновь ставит Anthropic под пристальное внимание из-за раскрытия информации об инцидентах с их ИИ.