Rückblick: Unser Workshop zu Retrieval-Augmented Generation (RAG)

Mit rund 30 Teilnehmenden war unser kostenloser Online-Workshop zum Thema Retrieval-Augmented Generation (RAG), organisiert vom Civic Data Lab, sehr gut besucht. Wir freuen uns über das große Interesse und die tolle Beteiligung!

💬 Wie gut der Workshop ankam, zeigt auch die Rückmeldung des Civic Data Lab:

„Der RAG-Workshop mit den scieneers hat uns wirklich überzeugt. Besonders gut fanden wir, wie verständlich und praxisnah auch komplexere technische Zusammenhänge vermittelt wurden und wie viel Raum gleichzeitig für Fragen und Anwendungsfälle blieb. Für unsere Teilnehmenden war das ein sehr zugänglicher Einstieg in das Thema mit vielen Impulsen, die sich direkt auf die eigenen Arbeitskontexte übertragen lassen.„

Nicolas DankelReferent beim Civic Data Lab

🧭 Der zweistündige Workshop führte Schritt für Schritt in RAG ein:

Grundlagen: Warum stoßen Sprachmodelle (LLMs) an ihre Grenzen und wie helfen Chunking, Embeddings und Vektordatenbanken dabei, eigene Daten- und Wissensbestände nutzbar zu machen?

Die drei RAG-Schritte: Suchen, Anreichern, Antworten – veranschaulicht anhand einer Demo aus einem unserer Kundenprojekte.

Zurück Weiter

1 2 3

Flussdiagramm mit drei Schritten zur Antwort: 1. Suchen, 2. Anreichern, 3. Antworten, ergänzt durch Wissensbasis und Hinweis auf LLM im dritten Schritt.

Infografik mit dem Titel 'Der Weg von einer Frage zur Antwort' zeigt drei Schritte zur Vorbereitung der Wissensbasis mit den Überschriften 'Chunking', 'Embedding' und 'Vektordatenbank' sowie eine Erklärung zur laufenden Aktualisierung und eine Analogie zu GPS-Koordinaten.

Infografik zeigt den Weg von einer Frage zur Antwort in drei Schritten mit Nutzerfrage, Kontextualisieren und Retrieval über Vektordatenbank sowie eine vereinfachte Darstellung des Embedding-Raums mit markierten Begriffen und Legende.

Grenzen und Verlässlichkeit: Wo RAG an seine Grenzen stößt und worauf man achten sollte.

Hands-on-Session: Die Teilnehmenden konnten selbst mit einem Mistral-Account und einer Beispielstudie experimentieren und die Möglichkeiten und Grenzen von Sprachmodellen unmittelbar erleben.

Entscheidungsbaum: Anhand von elf Leitfragen bewerteten die Teilnehmenden fünf vorgegebene Use Cases – immer mit der zentralen Frage: Ist RAG hier das passende Werkzeug?

Infografik mit drei Spalten zu automatisierter Außenkommunikation, jeweils mit Überschriften 'Spendquittung', 'Projekt-Update' und 'Adressänderung', darunter kurze erklärende Texte und farbige Markierungen 'NEIN' und 'JA'

Offene Fragenrunde: Zum Abschluss hatten die Teilnehmenden Gelegenheit, eigene Fragen einzubringen – darunter auch ganz konkrete Fragen zu ihren individuellen Use Cases.

Flussdiagramm mit drei Schritten zur Antwort: 1. Suchen mit Retrieval, 2. Anreichern mit Augmentation, 3. Antworten mit Generation, dazu Wissensbasis mit DSEE-Lernmaterialien und Hinweis, dass Schritt 3 das LLM ist

Was wir aus dem Workshop mitnehmen

Am Ende des Workshops hatten die Teilnehmenden nicht nur die technischen Grundlagen von RAG verinnerlicht, sondern hatten auch wertvolle Impulse für ihre eigenen Use Cases erhalten. Die vielfältige Zusammensetzung der Gruppe und die regen Diskussionen haben gezeigt, dass das Thema RAG einen Nerv trifft – gerade in gemeinnützigen und zivilgesellschaftlichen Organisationen, die ihre eigenen Wissensbestände sinnvoll mit generativer KI verknüpfen wollen. Das Thema RAG trifft einen Nerv – insbesondere in gemeinnützigen und zivilgesellschaftlichen Organisationen, die ihre eigenen Wissensbestände sinnvoll mit generativer KI verknüpfen möchten. Wir bedanken uns bei allen Teilnehmenden für die aktive Mitarbeit!