OpenAI, Anthropic, Google и ещ... Заметка
Slashdot на русском

OpenAI, Anthropic, Google и еще 100 компаний призывают к действиям по защите от вышедшего из-под контроля ИИ

Более ста технологических компаний, включая крупных разработчиков ИИ, таких как OpenAI, Anthropic, Google и Microsoft, подписали открытое письмо, посвященное растущей угрозе кибератак, связанных с ИИ. Письмо, поддержанное также ведущими фирмами в области кибербезопасности, финансовыми учреждениями и поставщиками интернет-инфраструктуры, выступает за инновационные стратегии киберзащиты. Оно призывает правительства по всему миру развивать совместные усилия по обеспечению безопасности. Подписавшие стороны подчеркивают, что кибератаки с использованием ИИ вскоре станут более распространенными и изощренными из-за развития моделей ИИ. Они предупреждают, что критически важная инфраструктура, включая больницы, водоочистные сооружения и интернет-сервисы, особенно уязвима. Письмо призывает к "коллективному ответу" на эти возникающие угрозы. Этот ответ включает создание новых партнерств для улучшения стандартов безопасности и поиск новых решений. Многие из компаний, занимающихся разработкой ИИ и подписавших письмо, одновременно разрабатывают передовые модели ИИ, что иллюстрирует сложную дилемму. Однако они также активно создают программы, использующие передовые модели ИИ для оборонительных целей. Примерами являются Daybreak от OpenAI, Mythos от Anthropic и киберплатформа Perception от Microsoft.