Technikfolgenabschätzung KI Teil 6: Wenn der Chatbot voreingenommen ist

Wie Sprachmodelle zu ihren Antworten kommen, ist selbst für ihre Entwickler in den "Tiefen" der neuronalen Netze häufig kaum nachzuvollziehen. Aber Chatbots sind (noch?) von Menschen gemacht und übernehmen damit zwangsläufig menschliche Weltanschauungen. Es gibt zahlreiche Möglichkeiten, Chatbots weltanschaulich zu prägen (bewusst oder unbewusst):

Die erste Möglichkeit, einen Bot gezielt auszurichten, ergibt sich aus den Unmengen an Trainingsdaten. Die Modelle lernen hierdurch nicht nur das Nachahmen der natürlichen Sprache sondern nehmen Informationen und Meinungen aus den Trainingsdaten auf. Dadurch ergibt sich zwangsläufig eine gewisse Weltsicht. Diese lässt sich beeinflussen, in dem man entweder gezielt Daten mit einer gewissen Weltsicht verstärkt einspielt oder deren Gewichtung erhöht. Zum Teil wird dies auch absichtlich durchgeführt, in dem man zum Beispiel Inhalte aus dem Globalen Süden, der eher unterrepräsentiert in den Daten ist, höher bewertet ("Oversampling"). Aufgrund der Menge der Daten ist eine explizite "Ein-Impfung" mit einer gewissen Weltanschauung in dieser Phase des Trainings eher schwierig. Effizienter ist es im Fine-Tuning.

Im Fine-Tuning werden die Sprachmodelle durch das Reinforcement Learning auf bestimmte Aufgaben abgestimmt. Dies erfolgt in der Regel durch Menschen. Die Sprachmodelle erhalten zum Beispiel die Fähigkeit, sich mit den Nutzenden höflich zu unterhalten oder eine gewisse These nicht abrupt abzulehnen. In sogenannten System-Prompts werden den Sprachmodellen zusätzlich zu den Prompts der Nutzenden (und ohne deren Wissen) gewisse Anweisungen zur Antwortgenerierung mitgegeben. Über diese System-Prompts ist es sehr leicht, Antworten in eine gewisse Ausrichtung zu beeinflussen.

Um weltanschauliche Ausrichtungen von Sprachmodellen im Auge zu behalten, werden bereits psychologische Methoden angewandt. So liefert zum Beispiel die Psychometrie konkrete Zahlenwerte und ermöglicht so quantitative Aussagen über Sprachmodelle. Hierbei werden den Chatbots Fragebögen zum Ausfüllen vorgelegt, die in der Psychologie seit Jahrzehnten erforscht und gut etabliert sind. Aber wie auch aus der Psychologie mit Menschen ist auch bei der "Befragung" der Chatbots sehr auf die Details der Fragestellungen zu achten. Details der Methoden können die Ergebnisse beeinflussen.

Um sich vor bewussten oder unbewussten Manipulationen durch Chatbots zu schützen, reicht es nicht aus, sie zu erkennen und zu dokumentieren. Angesichts zunehmender internationaler Konflikte wäre es wünschenswert, in Europa verstärkt eine digitale Souveränität und eigene Sprachmodelle zu entwickeln. Erste Ansätze gibt es, zum Beispiel in Frankreich das Sprachmodell Mistral, wobei abzuwarten bleibt, wie weit hier eine digitale Souveränität nach dem kürzlich abgeschlossen Vertrag mit Microsoft erhalten bleibt. Das an der Julius-Maximilians-Universität Würzburg entwickelte Sprachmodell LLäMmlein ist ein weiteres Beispiel. Dies wurde ausschließlich mit deutschen Texten trainiert. Allerdings war LLäMmlein ein Projekt mit geringem Budget. Entsprechend klein fällt es mit seinen ca. 7 Milliarden Parametern zum Beispiel im Vergleich zu den 400 Milliarden Parametern von Llama 4 aus. Gleiches gilt für das im Rahmen des Projekts OpenGPT-X entwickelte Open-Source-Sprachmodell Teuken 7B, das ebenfalls 7 Milliarden Paramener hat. Teuken 7B wurde mit Inhalten in 24 Amtssprachen der EU trainiert.

Wegen der geringen Anzahl an Parametern können weder LLäMmlein noch Teuken bei anspruchsvollen Aufgaben mit den weltweit führenden Modellen mithalten. Einfache Rechercheaufgaben sind aber mit dieser Größenordnung möglich. Eventuell ist dies ein Weg für Europa: Nischenprodukte, die auf spezielle Aufgaben optimiert sind und auf europäischen Werten basieren.