In einer Folge von 5 Blogbeiträgen alle vier Wochen wollen wir insgesamt 5 verschiedene Mythen in der KI (Künstlichen Intelligenz) von Chatbots aufgreifen und sie der entsprechenden Realität gegenüberstellen.
In der heutigen zweiten Folge betrachten wir den Mythos "ML (Machine Learning)-basierte Chatbots sind "intelligent""".
Wie wir in unserem ersten Blogbeitrag in dieser Serien gesehen haben, sind Machine Learning Algorithmen ein Teilgebiet der statistischen Verfahren, um künstliche Intelligenz zu erzeugen. Häufig wird daraus die Schlussfolgerung gezogen: ML- basierte Chatbots sind intelligent.
Steigen wir doch etwas ins Detail ein und erzeugen einen ML-basierten Chatbot, hier mit DialogFlow, was öffentlich zugänglich ist. Dieser Chatbot soll nur einen einzigen "Intent" (Anliegen des Bot-Nutzenden) enthalten: Kreditkarte verloren
Der Beispielsatz, mit dem dieser Bot getriggert wird, lautet "Ich habe meine Kreditkarte verloren"
Die entsprechende Antwort des Bots lautet "Das tut mir leid. Ich helfe Ihnen, eine neue Kreditkarte zu bekommen".
Probieren wir diesen Bot doch gleich einmal aus und geben die Beispielfrage ein. Wir erhalten (das muss ja auch so sein) die passende Antwort.
Auch bei anderen Formulierengen des Intents erhalte ich die richtige Antwort, hier zum Beispiel "Meine Kreditkarte ist weg"
Dies erweckt den Anschein einer Intelligenz. Aber ist dies nun tatsächlich "intelligent"?
Was ist das?
Bei Eingabe von "Meine Kreditkarte ist grün" erhalte ich ebenfalls die vorher gegebene Antwort, diesmal unpassend. Dies passiert bei vielen weiteren Eingaben: "Kreditkarte gefunden", "Kreditkarte nicht verloren", "Mein Auto verloren" etc.
Was ist passiert? ML-basierte Chatbots führen ein statistisches Mapping durch, das in der Regel auf Schlagwort-Erkennung beruht. In diesen Fall auf die Schlagworte "Kreditkarte" und "verloren". Sobald diese Schlagworte in der Anfrage erwähnt werden, wird die vorgesehene Antwort aus der Antwortliste ausgespielt.
Dieses "Spiel" können wir weiterführen, in dem wir zum Beispiel einen zweiten Intent hinzufügen "Ich habe meine Eintrittskarte verloren" mit der entsprechenden Antwort "Das tut mir leid. Leider sind zusätzliche Eintrittskarten ausverkauft" Geben Sie die korrekt formulierte Anfrage ein, erhalten Sie auch die korrekte Antwort. Geben Sie aber zum Beispiel ein "Ich habe meine Karte verloren" wird entweder die Antwort für die Kreditkarte oder die für die Eintrittskarte ausgespielt. Ist das Konfidenzniveau sehr hoch eingestellt, wird auch ausgespielt "Ich habe ihre Frage nicht verstanden".
Realität: "ML (Machine Learning)-basierte Chatbots sind nicht intelligent". Ihre "Intelligenz" ist sehr vordergründig. Sie basiert auf Korrelationen von Schlagworten. Natürlich müssen die ML-basierten Chatbots nicht so dumm wie dieser Testbot sein, man kann einige zusätzliche Parameter einstellen (Synonymlisten, Konfidenzniveaus,...), aber das grundlegende Prinzip bleibt bestehen: sie basieren auf statistischen Korrelationen von Wörtern und haben kein tatsächliches Sprachverständnis.
In der dritten Folge von "Mythen und Realität in der KI" am 29. März beschäftigen wir uns mit dem Mythos "ML-basierte Chatbots sind "selbstlernend“"".
Comments