Грядущий переход от больших моделей ИИ к меньшим и более быстрым.

Больше не всегда лучше, особенно когда речь идет о моделях ИИ. Они больше, более способные и более ресурсоемкие, используя более крупные модели для обеспечения улучшенных возможностей рассуждения, обобщения и даже генерации кода. Размер и масштабируемость моделей генеративного ИИ имеют свои пределы. Более крупные модели лучше всего работают с открытыми задачами, которые по своей природе часто встречаются в чатах. Однако, когда продукт на основе ИИ, такой как CRM-система, использует модели ИИ, проблема, которую решает продукт, на самом деле очень фиксирована и хорошо структурирована. Она существенно отклонилась от исходного формата чата, который требовал бы от моделей ИИ самостоятельно определять проблему и предлагать шаги для ее решения.