Vertrauenswürdige GenAI für Chatbots und LLM-Agenten

Generative KI wie zum Beispiel ChatGPT kann die Produktivität und Effizienz in vielen Unternehmensbereichen, wie zum Beispiel im Marketing/Vertrieb, im Kundenservice und im Wissensmanagement enorm steigern.

Dennoch setzen nicht alle Unternehmen diese Technologie ein. Zum einen weil sie möglicherweise befürchten, die Algorithmen beziehen die Informationen für die Beantwortung der Anfragen aus dem offenen Internet und zum anderen weil sie "halluzinierte" Antworten befürchten.

Diese Befüchtungen müssen aber nicht eintreten. Es gibt Möglichkeiten, dies zu verhindern. Der RAG-Ansatz (Retrieval Augmented Generation) stellt sicher, dass Antworten nur auf Basis der dem Bot zur Verfügung gestellten Unternehmensinformationen ausgibt, zum Beispiel aus den eigenen Webseiten oder aus Produktinformationen.

Zusätzlich kann der Generierungsmechanismus der generativen KI bei wichtigen Fragestellungen ausgeschaltet werden, damit der Bot genau die Antwort ausgibt, die er ausgeben soll.

Die Fa. Kauz, ein führendes KI-Unternehmen aus Düsseldorf, erreicht dies durch ihren "hybriden" Ansatz, in dem sie generative KI mit Kontrollierbarkeit und dadurch mit…