Retrieval-Augmented Generation (RAG): Faktenbasiertes Wissen für Large Language Models

In der modernen KI-Welt sind Large Language Models (LLMs) zu einem unverzichtbaren Werkzeug geworden. Doch trotz ihrer beeindruckenden Fähigkeiten stoßen sie an Grenzen, wenn es um die Verarbeitung von Faktenwissen und spezifischen Daten geht. Hier kommt Retrieval-Augmented Generation (RAG) ins Spiel. RAG kombiniert die Stärken von Retrieval-Systemen und generativen Modellen, um präzisere, faktenbasierte und kontextbezogene Antworten zu liefern. Der Vortrag führt in die Grundlagen von RAG ein und zeigt, wie diese Technologie in der Praxis eingesetzt werden kann.

Neben einfachen RAG-Methoden werden auch komplexere Ansätze und mögliche Fehlerquellen beleuchtet sowie unterschiedliche Anwendungen auf Basis von RAG-Infrastruktur vorgestellt. Ein weiterer Schwerpunkt liegt in der Darstellung von infrastrukturellen Rahmenbedingungen für den institutionellen Einsatz von RAG-Diensten.

Hintergrund

Was ist RAG? RAG ist eine Methode, die LLMs durch die Integration externer Datenquellen erweitert. Während herkömmliche LLMs auf ihrem trainierten Wissen basieren, das bis zum Zeitpunkt des Trainings reicht, ermöglicht RAG den Zugriff auf aktuelle und spezifische Informationen. Dies geschieht durch die Kombination von zwei Hauptkomponenten:

• Retrieval-System: Dieses System durchsucht eine Datenbank oder eine Sammlung von Dokumenten, um relevante Informationen zu finden.
• Generatives Modell: Das generative Modell nutzt die abgerufenen Informationen, um eine natürliche und präzise Antwort zu generieren.

Durch diese Kombination können LLMs Antworten liefern, die nicht nur grammatikalisch korrekt, sondern auch faktenbasiert und überprüfbar sind – sowohl im Rahmen eines Chatbots als auch für erweiterte Suche.

Referent

Malte Dreyer ist Direktor des Zentrums Computer‑ und Medienservice (CMS) der Humboldt‑Universität zu Berlin. Er verantwortet dort die strategische Steuerung der digitalen Infrastruktur, der IT-Services sowie der Medientechnik. Seine Schwerpunkte liegen im Bereich Forschungsdatenmanagement, Service- und Cloudinfrastrukturen sowie digitaler Souveränität von Hochschulen.

https://www.cms.hu-berlin.de/de/dreyer

Tool / Technik

Benötigt wird ein internetfähiges Endgerät (PC oder Laptop). In der Regel finden unsere Veranstaltungen über Zoom statt. Für Zoom benötigen Sie eine Webcam sowie ein Headset oder ein anderes Audiosystem.

Kosten

für Teilnehmende kostenfrei