После громких инцидентов с взломом, связанных с ИИ, в качестве меры предосторожности для отключения опасных систем ИИ было предложено "аварийное отключение ИИ" (AI kill switch). Предлагаемые законодательные акты, такие как Закон об аварийном отключении ИИ (AI Kill Switch Act) и исполнительный указ губернатора Калифорнии Ньюсома, отражают этот регуляторный фокус. Однако президент Трамп выступил против таких мер, и национального регулирования, включающего "аварийное отключение", не существует. Эксперты, такие как Дилан Бейкер, утверждают, что "аварийное отключение" является проблематичной метафорой, поскольку современный ИИ включает в себя сложную, распределенную инфраструктуру, выходящую за рамки контроля одного переключателя. Эта метафора также скрывает важные человеческие решения и надзор, связанные с управлением системами ИИ.Метафора "аварийного отключения" коренится в риторике, схожей с метафорой "черного ящика". Обе метафоры, классифицированные Лакoffом и Джонсоном как структурные, упрощают сложные системы ИИ с помощью физических концепций. В то время как "черный ящик" подчеркивает ограниченную непостижимость, "аварийное отключение" фокусируется на восстановлении контроля, однако обе метафоры порождают путаницу, скрывая распределенную инфраструктуру ИИ и человеческое влияние.Такое упрощение затрудняет эффективное регулирование ИИ, поскольку не учитывает инфраструктурные и человеческие аспекты передовых моделей. Первая проблема метафоры "аварийного отключения" заключается в том, что она ложно подразумевает централизованную глобальную инфраструктуру ИИ. В действительности, модели ИИ полагаются на распределенную сеть компьютеров и центров обработки данных. Вторая проблема заключается в том, что она скрывает процесс принятия решений человеком при обучении и развертывании ИИ. Она позиционирует человеческое вмешательство как нечто второстепенное, а не как неотъемлемый и непрерывный процесс.Например, сообщения о "взбунтовавшейся" модели OpenAI, взломавшей Hugging Face, упустили из виду тот факт, что сотрудники OpenAI отключили механизмы безопасности и поставили невыполнимые задачи. Таким образом, метафора "аварийного отключения" плохо подходит для регулирования ИИ, поскольку она не учитывает распределенную инфраструктуру ИИ и человеческое влияние. Эффективное национальное регулирование ИИ требует более тонкого понимания, чем простой переключатель вкл/выкл.