RSS Martin Fowler
Suivre
Appel de fonction utilisant des MLM
Alors que les LLM (Large Language Models) excellent dans la génération de texte cohérent basé sur leurs données d'entraînement, ils peuvent également avoir besoin d'interagir avec des systèmes externes. Kiran Prakash décrit comment nous les faisons construire des appels de fonction externes pour cela. Le LLM n'exécute pas directement ces appels, mais au lieu de cela, il crée une structure de données qui décrit l'appel, en passant cela à un programme séparé pour exécution et traitement supplémentaire. La prompt du LLM inclut des détails sur les appels de fonction possibles et lorsqu'ils devraient être utilisés.