停止手动滚动聊天 UI:将流式 LLM 令牌无缝集成到 React Native,避免卡顿
聊天界面看起来像是一个周末项目:一串气泡列表和一个固定在底部的文本输入框。在 React Native 中,这是最难完美交付的功能之一,因为它叠加在移动开发中最具挑战性的两个层面之上:软件键盘和在你注视时尺寸不断变化的滚动列表。如今,我们正将大语言模型(LLM)集成到各种应用中,但针对 React Native 仍缺乏一个优质的即插即用式聊天视图。你要么拼凑一个观点鲜明却日渐陈旧的库,要么从头手写。我选择了手写。随后,我让 LLM 逐 token 流式输出回复,结果整个系统彻底崩溃,而理解这一崩溃竟耗费了一周时间。