Автор разработал Vicquant, офлайн-приложение финансового консультанта, после того как конкурс вдохновил на уникальный подход к финансовым рассуждениям. В намеченной конструкции Vicquant предусмотрена двойная локальная модель: Llama-3.1-8B-Instruct для глубокого анализа и Phi-3.5-mini в качестве более быстрой резервной модели, все работает локально на устройстве пользователя через llama.cpp. Такое разделение было необходимо, поскольку оптимизация как качества рассуждений, так и скорости ответа с помощью одной модели затруднительна. Архитектура и логика этой офлайн-функциональности были созданы и протестированы на оборудовании с 8 ГБ ОЗУ. Однако текущий план хостинга недостаточен для запуска этих локальных моделей в производственной среде. Чтобы сделать приложение функциональным, автор подключил Vicquant к OpenRouter, что позволило ему предоставлять ответы ИИ через Интернет для развернутой демонстрации. Это означает, что для текущей демонстрации требуется подключение к Интернету, а офлайн-режим отключен. Автор открыто сообщает об этом изменении, чтобы сохранить доверие и подчеркнуть распространенную проблему разрыва между спроектированной и развертываемой архитектурой из-за стоимости. Основной финансовый анализ приложения, включая расчет индикаторов, генерацию сигналов и бэктестинг, остается неизменным, поскольку он использует детерминированный Python, а не вычисления ИИ. Ворота бэктестинга, которые требуют, чтобы сигналы доказали свою состоятельность на исторических данных, также остаются в силе независимо от используемой модели ИИ для объяснений. Локальный вывод будет восстановлен, как только будет решена проблема с затратами на хостинг, и в это время будет опубликовано обновление.