Презентация: Открывая черный я... Заметка
InfoQ на русском

Презентация: Открывая черный ящик: Критическая объяснимость для выбора инструментов ИИ-агента с помощью Kiji Inspector

Ханнес Хапке рассказывает, как Kiji Inspector от Dataiku с открытым исходным кодом применяет разреженные автокодировщики (SAE) непосредственно к токенам решений, чтобы выявить причины выбора агентами конкретных инструментов. Выходя за рамки поверхностных повествований "цепочки рассуждений", он обсуждает причинное исключение, извлечение активации слоев с помощью пропатченных движков vLLM и рабочие процессы мониторинга производства для архитекторов программного обеспечения и старших инженеров. Ханнес Хапке
CdXz5zHNQW_l5d8ShL7Ln.jpeg