Фрагменты: 10 ноября Заметка
Martin Fowler на русском

Фрагменты: 10 ноября

В ноябрьском Технологическом радаре Thoughtworks подчеркивается доминирование ИИ, но управление агентным ИИ в масштабе представляет новые проблемы. Ключевые корпоративные проблемы включают обмен контекстом, контроль затрат на токены, управление когнитивной нагрузкой, обеспечение безопасности и создание надежных платформ. Эти проблемы взаимосвязаны и требуют комплексных стратегий, всегда помня о том, что ИИ должен служить на благо человека.В рассылке Бена Томпсона Stratechery отмечается недавняя двухпартийная оппозиция новым центрам обработки данных, связанная с восприятием ИИ. Эта оппозиция, сместившаяся с интернета на ИИ, выгодна существующим владельцам центров обработки данных за счет сокращения предложения и увеличения затрат на токены. Неамериканские компании и компании, продвигающие ИИ на периферийные устройства, такие как Apple, также могут выиграть. Устоявшиеся предприятия могут тихо поддерживать регулирование, препятствующее строительству новых центров обработки данных, выступая в качестве барьеров для конкуренции.Хэдли Уикхэм исследует, субсидируются ли затраты на токены ИИ, приходя к выводу, что цены API за токен в основном не субсидируются, но подписные планы показывают некоторую субсидию. Исследования "Weight-Space Programming" изучают способность моделей понимать и манипулировать весами других моделей. Это открывает захватывающую возможность прямой загрузки возможностей в модели.Джессика Керр предлагает перейти от обучения ИИ к тому, чтобы ИИ обучал людей. Хаук и др. разработали фреймворк CAFE(S) — Clarity, Actionability, Fidelity, Efficiency, Security (Ясность, Действенность, Точность, Эффективность, Безопасность) — для оценки качества контекста, предоставляемого агентам ИИ. Наконец, отраслевой опыт показывает, что значительная часть расходов на токены ИИ идет на проверку выходных данных модели и внедрение защитных механизмов, а не на первоначальную генерацию, что указывает на важность надежных процессов проверки.