Прекратите вручную создавать ч... Заметка
DZone.com Feed на русском

Прекратите вручную создавать чат-интерфейсы: потоковая передача токенов LLM в React Native без задержек

Экран чата выглядит как проект выходного дня: список пузырьков и текстовое поле, закрепленное внизу. В React Native это одна из самых сложных вещей, которую нужно реализовать хорошо, потому что она находится поверх двух самых враждебных поверхностей в мобильной разработке: программной клавиатуры и прокручиваемого списка, размер которого меняется, пока вы на него смотрите.Сейчас мы встраиваем LLM во все, а хорошего готового компонента чата для React Native по-прежнему нет. Вы склеиваете устаревшую библиотеку со своими жесткими правилами или делаете это вручную. Я сделал это вручную. Затем я заставил LLM выдавать ответы токен за токеном, и все это развалилось так, что потребовалась неделя, чтобы разобраться.