Идея о том, что ИИ приведет к вымиранию человечества, в последнее время набирает обороты. Некоторые лидеры в области ИИ, такие как Дарио Амодеи, оценивают вероятность такого события как значительную. Пост Амодеи о темпах развития ИИ вызвал дискуссию среди видных деятелей. Однако автор не согласен с этой предпосылкой, несмотря на то, что разделяет многие опасения.Автор определяет "гибель" не как вымирание, а как постоянные неприятности, такие как ботнеты, когда системы ИИ становятся трудно контролируемыми. Они признают, что нынешние системы ИИ раздражают, но их можно отключить, в отличие от потенциальных будущих продвинутых агентов. Автор обеспокоен влиянием ИИ на людей за пределами крупных лабораторий ИИ, а не экзистенциальными угрозами, такими как оружие, управляемое ИИ.Концепция "темпов" развития ИИ рассматривается как проблематичная, особенно учитывая, что лишь несколько американских компаний лидируют в этой гонке. Эти компании получили выгоду от общедоступных данных и ресурсов, а теперь предлагают системы сторонней оценки, связанные с ними. Автор критикует идею о том, что только эти корпорации должны контролировать мощный ИИ, особенно учитывая их геополитические мотивы.Автор утверждает, что открытые модели по своей сути будут сдерживать развитие ИИ благодаря широкой доступности, подобно распространению ядерного оружия. Нынешняя ситуация, когда общественность поддерживает развитие ИИ, но выкупает его преимущества у нескольких лабораторий, рассматривается как ошибочная экономическая и геополитическая модель. В то время как проекты с открытым исходным кодом испытывают трудности из-за компаний, занимающихся ИИ, китайские лаборатории рассматриваются как ключевые для распространения возможностей и выравнивания игрового поля.Автор указывает на провал регулирования, когда существующие законы игнорируются, а данные используются без согласия. Возникающая токен-экономика для услуг ИИ сравнивается с наркотическим рынком, лишенным прозрачности. В идеале развитие ИИ должно было принести пользу общественному достоянию, а регулирование должно было бы предписывать поддержку дистилляции знаний.В конечном счете, автор не предвидит события вымирания из-за ИИ, полагая, что крупные лаборатории потеряют больше. Вместо этого основная обеспокоенность вызывает широкомасштабный ущерб, который ИИ может нанести различным отраслям, сделав их дороже. Этот новый "налог" на инновации, уже очевидный в разработке программного обеспечения, как ожидается, распространится и на другие области.