Крупные ИИ-компании активно инвестируют в трансформерные модели, полагая, что они приведут к созданию общего искусственного интеллекта человеческого уровня. Однако некоторые эксперты, такие как Бен Герцель, ставят под сомнение этот подход, утверждая, что современные большие языковые модели слишком похожи друг на друга, и одного лишь масштабирования может быть недостаточно. Трансформерные модели требуют огромных вычислительных ресурсов для обучения и эксплуатации, и растущие затраты могут вскоре перевесить преимущества.Герцель также отмечает, что этим моделям не хватает способности к непрерывному обучению в реальном времени, как у людей, и они возвращаются к базовым параметрам при каждом новом взаимодействии. Хотя некоторые исследователи изучают альтернативные архитектуры нейронных сетей для непрерывного обучения, отрасль в основном сосредоточена на совершенствовании существующих методов. Несмотря на это, Герцель оптимистично настроен относительно скорого появления общего искусственного интеллекта, но считает, что для этого потребуются достижения, выходящие за рамки простого масштабирования текущих моделей.В других новостях ИИ стартап Sakana AI запустил Sakana Fugu — систему, которая координирует работу нескольких передовых ИИ-моделей для совместного решения сложных задач. Эта мультиагентная система предназначена для автономного распределения подзадач между наиболее подходящими моделями и включает механизм циклического повторения для преодоления тупиковых ситуаций. Sakana AI утверждает, что Fugu превосходит аналогичные системы по показателям в области разработки программного обеспечения и научного мышления.Тем временем Питер Тиль поддерживает стартап Objection AI, который предлагает расследования с помощью ИИ для проверки фактов в СМИ. За плату компания анализирует информацию и выносит решение, которое, хотя и не имеет юридической силы, может быть использовано в качестве инструмента репутационной защиты. Критики, однако, опасаются, что Objection AI может подавить журналистские расследования, оказывая давление на журналистов и отпугивая информаторов, потенциально служа инструментом для дискредитации репортеров и запугивания источников.