Von KI-Plattformen, RAG-Chatbots und LLM-Agenten
- Sven Wilms
- 13. März
- 2 Min. Lesezeit
Es gibt viele Themen, die aktuell in Unternehmen intensiv diskutiert werden: Energiekosten, wie kommen wir aus der Umsatzflaute, wie können wir effizienter werden u.v.a.m. Ein Thema wird ebenfalls intensiv diskutiert: wie können wir Künstliche Intelligenz (KI) sinnvoll in unserem Unternehmen einsetzen?
"Von KI-Plattformen, RAG-Chatbots und LLM-Agenten": so lautete unser gestriges Webinar. KI deckt sehr viele Bereiche ab, unser Webinar deckte KI in der automatisierten Kommunikation ab, sowohl für die externe als auch interne automatisierte Kommunikation. KI kann auch in diesem Bereich einen Beitrag zur Effizienzsteigerung und gleichzeitig Qualitätsoptimierung des Unternehmens, gerade vor dem Hintergrund einer zunehmenden Personalknappheit, leisten.
Die Themen RAG-Chatbots, LLM-Agenten und KI-Plattformen sind deshalb in aller Munde. Aber was verbirgt sich dahinter, wie funktioniert es und wie kann ich es möglicherweise nutzen? Diesen Fragestellungen widmete sich das Webinar. In diese Blogartikel wollen wir diese Punkte noch einmal kurz ausführen:
RAG-Chatbots (RAG: Retrieval Augmented Generation) sind Bots, die mit generativer KI arbeiten, also mit Sprachmodellen (LLM: Large Language Model). Dabei beziehen sie die Basisinformationen zur Beantwortung der von Nutzenden gestellten Frage allerdings nicht aus ihrem antrainierten (Internet)-Wissen, sondern nur aus dem im Prompt (Anweisung) mitgelieferten Chunks. Diese Chunks enthalten in der Regel Unternehmens-spezifische Informationen/Texte, entweder von Ihrer Webseite oder aus internen Dokumenten. Dadurch wird sichergestellt, dass die generierte Antwort Unternehmens-spezifisch ist und das sogenannte Halluzinieren kann sehr deutlich minimiert werden. RAG-Bots eignen sich sehr gut als allgemeine Informations-/FAQ-Bots für den externen oder internen Einsatz. Sie sind "Generalisten".
LLM-Agenten sind hingegen "Spezialisten". Sie nutzen ebenfalls LLMs, ihre Anweisungen (Prompts) sind aber auf Spezial-Themen optimiert, häufig Szenarien, in denen Prozesse durchlaufen werden, zum Beispiel IT-Ticket-Erfassungsprozess, Schadensfallaufnahme, Führerscheinbeantragung, Produktberatung u.v.a.m. Dabei agieren diese LLM-Agenten sehr selbständig und flexibel auf Nutzereingaben und wirken dadurch sehr menschen-ähnlich. Im Zusammenspiel mit den Generalisten (RAG-Ansatz) ergeben sich in einem Bot-System so starke "Teams".
KI-Plattformen (in diesem Kontext) sind IT-Plattformen, die die Erstellung und kontinuierliche Weiterentwicklung von oben genannten Bots ermöglichen. Dabei sollten Sie darauf achten, dass diese Plattformen LLM-unabhängig sind (die technologische Weiterentwicklung in diesem Thema ist immens hoch) und dass die Plattformen Ihnen die Möglichkeiten bieten, neue Szenarien zu entwickeln, zu implementieren. Sie werden schnell lernen, wie generative KI funktioniert und werden es ausbauen wollen. Wir haben in unserem Webinar die KI-Plattform von Kauz.ai aus Düsseldorf vorgestellt, die alle Voraussetzungen für eine erfolgreiche Implementierung und Weiterentwicklung mitbringt.
Die hohe Teilnehmerzahl aus Unternehmen aus 13 verschiedenen Branchen zeigt, wie breit KI aktuell diskutiert wird. Wir unterstützen Sie sehr gerne. Sie können die gezeigte Präsentation herunterladen:
Comments