RSS DEV-Gemeinschaft

Graph + LLM oder einfach LLM für Zusammenfassung?

Der Autor erkundet Möglichkeiten, um ein Resümee von mehreren Dokumenten basierend auf bestimmten Kriterien zu erstellen. Er betrachtet zwei Ansätze: Erstens, ein Graph zu erstellen und ein großes Sprachmodell (LLM) zu verwenden, um ein Resümee zu generieren oder Anfragen zu beantworten, oder zweitens, Zusammenfassungen einzelner Dokumente zu erstellen und dann zu kombinieren. Der Autor hat Code geschrieben, um Nachrichtenartikel zu einem Thema zu holen, ein Graph zu erstellen und Informationen zusammenzufassen. Der Code verwendet die DuckDuckGo-Such-API, um Nachrichtenartikel zu holen, und die Generative AI-API, um Entitäten und Beziehungen aus den Artikeln zu extrahieren. Die Entitäten und Beziehungen werden verwendet, um ein Graph zu erstellen, der dann verwendet wird, um ein Resümee des Themas zu generieren. Der Autor ist unsicher, ob das Erstellen eines Graphs der beste Ansatz ist und sucht nach Meinungen. Der Code verwendet die NetworkX-Bibliothek, um den Graph zu erstellen, und die Matplotlib-Bibliothek, um ihn zu visualisieren. Der Autor verwendet das Gemini 1.5 Flash 002-Modell, um Inhalte zu generieren, einschließlich des Resümees. Das generierte Resümee ist eine 500-800 Wörter lange Geschichte, die die Beziehungen zwischen verschiedenen Nachrichtenartikeln nutzt. Der Autor möchte seinen Ansatz verbessern und ist für Vorschläge offen.
favicon
dev.to
Graph + LLM or simply LLM for summarization?