LLMs, vektorer og grafdatabaser: Et eksperiment i litteraturtolkning
Retrieval-Augmented Generation (RAG) er en metode til at kombinere store sprogmodeller med søgbare tekstdatabaser og dermed udvide modellernes kapacitet for præcis og kontekstbaseret informationssøgning. I dette oplæg fortæller Jesper om et praktisk eksperiment, hvor han med udgangspunkt i LLM’er, Neo4j, vektorsøgning, Python, Jupyter Notebook og et korpus af science fiction-litteratur fra Gutenberg.org forsøgte at besvare et spørgsmål, der har naget ham længe: Findes der science fiction-romaner, der er positive over for bureaukrati?
Projektet blev gennemført på Jespers hjemmenetværk, baseret på Raspberry Pi-enheder, og fungerede som et eksperiment i anvendelsen af RAG-teknikker til teksthåndtering.
Jesper Rugård Jensen, Konsulent
Jesper har arbejdet som IT-arkitekt/udvikler i mere end 25 år og har udviklet store og små systemer både til det private og til det offentlige. Alt fra Outlook plug-ins, høreapparater, sags-behandlingssystemer og en enkelt ML-platform. Han er evigt nysgerrig og har svært ved at lade være med at forsøge at lære nyt.