Как были возрождены лучшие в м... Заметка
RSS Axios

Как были возрождены лучшие в мире модели искусственного интеллекта

Самые мощные в мире модели ИИ столкнулись со значительными перебоями из-за спора с администрацией Трампа. Это произошло, когда Amazon, партнер и инвестор Anthropic, сообщил об уязвимости "джейлбрейка" в новейших моделях Anthropic, Mythos и Fable. Опасения Amazon вызвали масштабные экспортные ограничения США, в результате чего модели были отключены на двадцать дней. Эксперты по кибербезопасности позже утверждали, что аналогичные проблемы существуют и в других ведущих моделях ИИ.Министр торговли Говард Лютник уведомил генерального директора Anthropic Дарио Амодеи о предстоящих экспортных ограничениях, уточнив, что намерение состояло в том, чтобы модели были сняты с общественного доступа. Это вызвало трехнедельные интенсивные усилия с участием нескольких государственных учреждений и инженеров Anthropic для устранения предполагаемых проблем безопасности. Несмотря на усилия Anthropic и технические доработки, федеральные агентства первоначально сочли изменения недостаточными.Ситуация обострилась из-за личных разногласий и сбоев в коммуникации внутри правительства и с Anthropic. Министр финансов Скотт Бессент сыграл раннюю роль в привлечении внимания к проблеме и содействии возобновлению взаимодействия с Anthropic. В технических обсуждениях участвовали различные государственные чиновники, в том числе из Агентства национальной безопасности и Управления по научно-технической политике Белого дома.В конечном итоге, после дальнейших доработок и одобрений, модели Anthropic были вновь выпущены 1 июля. Однако этот инцидент подчеркнул сложность регулирования безопасности ИИ и поднял вопросы о будущем выпуске этих моделей в союзные страны. Инцидент также подчеркнул отсутствие четкой, прозрачной системы для одобрения будущих моделей ИИ в отрасли.
CdXz5zHNQW_KoYnjaD1Mt.jpeg