InfoQ на русском
Подписаться
Презентация: От OTEL к SLM: Извлечение поведения передовых моделей из производственной телеметрии
Бен О'Махони рассказывает о создании пользовательских языковых серверных протоколов (LSP) на базе искусственного интеллекта, которые выходят за рамки стандартных проверщиков на основе правил. Он объясняет, как нативно инструментировать ИИ-агентов с помощью OpenTelemetry для отслеживания конкретных действий пользователя (принятие, отклонение или регенерация исправлений кода) в качестве неявных меток, создавая непрерывный поток данных для преобразования передовых возможностей в более дешевые локальные SLM. Автор: Бен О'Махони.