QuackIR: Retrieval in DuckDB and Other Relational Database Management Systems

Zusammenfassung

Unternehmen sehen sich heute zunehmend genötigt, dedizierte Vektordatenbanken für Retrieval-Augmented Generation (RAG) in Anwendungen auf Basis großer Sprachmodelle (LLMs) einzusetzen. Als mögliche Alternative zu diesen Vektordatenbanken schlagen wir vor, bestehende relationale Datenbanken für das Retrieval zu nutzen, die viele Organisationen bereits in ihren Enterprise Data Lakes betreiben, und so zusätzliche Komplexität im Software-Stack zu vermeiden. Um Einfachheit und Machbarkeit dieses Ansatzes zu zeigen, stellen wir QuackIR vor, ein Information-Retrieval-Toolkit (IR) auf Basis relationaler Datenbankmanagementsysteme (RDBMSe) mit Integrationen in DuckDB, SQLite und PostgreSQL. Mit QuackIR bewerten wir die Fähigkeiten dieser verbreiteten RDBMSe für Sparse und Dense Retrieval und zeigen, dass ihre Wirksamkeit mit Baselines etablierter IR-Toolkits vergleichbar ist. Unsere Ergebnisse unterstreichen das Potenzial relationaler Datenbanken als einfache Option für RAG-Szenarien – aufgrund ihrer etablierten Verbreitung und der leichten Integration von Retrieval-Fähigkeiten. Unsere Implementierung ist unter quackir.io verfügbar.