Technikfolgenabschätzung KI, Teil 2: Verlernt der Mensch durch Sprachmodelle das Denken?

In unserem ersten Essay über Technikfolgenabschätzung durch Sprachmodelle, erschienen im Dezember 2025 in unserem Blog, hatten wir uns mit dem kanadischen Philosophen, Geisteswissenschaftler und Medientheoretiker Marshall McLuhan beschäftigt und seinem bahnbrechenden Konzept The medium is the message. Damit meinte er, dass die Form eines Mediums (z. B. Fernsehen, Internet) einen größeren Einfluss auf die Gesellschaft hat als der Inhalt, den es übermittelt.

Wir wollen nun einen Gedanken aus seinem wichtigen Buch Extensions of Man aus dem Jahr 1964 aufgreifen: seine Amputations-These. Danach geht jede Erweiterung der Fähigkeiten des Menschen durch Technik mit einem Verlust an Fertigkeiten einher. Mit der Schrift bewahrt man Texte der Vergangenheit zwar genauer, verliert aber die Fähigkeit, sie im Gedächtnis zu behalten. Mit der Nutzung eines Taschenrechners errechnet man mathematische Aufgaben deutlich schneller, verliert aber die Fähigkeit des Kopfrechnens und das grundlegende mathematische Verständnis. Diese Amputations-These ist natürlich auch auf die Nutzung von KI übertragbar.

Die Ungeduld ist ein zentrales Merkmal der Moderne, durch Internet und Social-Media nochmals beschleunigt. Winken wir den durch KI generierten Text einfach durch- vor allem, wenn es schnell gehen soll? Bereits 2023 warnte der Deutsche Ethikrat in seiner Stellungnahme zu den Risiken der KI vor dem Verlust kognitiver Fähigkeiten durch ihre Automatisierung 1). Als Fachbegriff wird häufig der Begriff „Deskilling“ genannt. Erste Studien zeigen, was zu erwarten war: Der Mensch wird „dümmer“ durch KI. Je mehr er sie als Hilfsmittel benutzt, umso geringer seine kognitive Aktivität, seine Gehirnkonnektivität. Auch das Erinnern leidet wie zu erwarten unter dem neuen Medium: In einem Test konnten Probanden, die ein Sprachmodell zum Schreiben von Essays benutzten, dessen Aussagen schlechter wiedergeben als Probanden, die den Text ohne Hilfsmittel verfassten. Dies überrascht nicht, hängt die „Verinnerlichung“ des Geschriebenen vom Engagement im Schreibprozess ab. Auch wenig überraschend, dass jüngere Probanden und solche mit niedrigerem Bildungsabschluss die größte Abhängigkeit von KI zeigten und die geringste Ausprägung kritischen Denkens 2). Damit wird die „digitale Spaltung“ sich weiter erhöhen – zwischen denen, die die neue Technik positiv nutzen, und denen, die ihr negativ verfallen.

Was ist zu tun? Wie kann die neue Technik positiv genutzt werden? Denn, einmal benutzt, möchten wir uns die neue Technik sicherlich genauso wenig wegwünschen wie das Internet. Für uns sind diese beiden Aspekte wichtig: die Art der Nutzung und eine entsprechende Medienkompetenz. Bei der Informationsbereitstellung fördert die generative KI mittels Sprachmodelle die Effizienz und Produktivität sehr deutlich. Mit dem (vektorisierten) RAG-Ansatz kann die Sprachkompetenz der Sprachmodelle auf den gewünschten Ziel-Content beschränkt werden, die Antwortqualität wird zusätzlich deutlich gesteigert. Dieser Ansatz bietet sich an und ist Defacto-Standard für Unternehmens-interne und -externe KI-Assistenten / Chatbots geworden. Auch für den eigenen KI-Arbeitsplatz, mit dem ich neuen Content eigenständig erstellen möchte, bietet sich generierende KI mittels Sprachmodelle an: als ein Hilfsmittel der menschlichen Kreativität. Wie leicht lässt sich ein Text mit einem Sprachmodell strukturieren, zusammenfassen, gegenlesen, umschreiben und in andere Sprachen übersetzen. Welch enorme Entlastung, die man nutzen sollte. Aber man sollte jederzeit wissen, was man gerade durchführt und was es für Auswirkungen hat. Und damit kommen wir zur Medienkompetenz.

Der Ruf nach Medienkompetenz ist nicht neu. Er existiert bei der Nutzung des Fernsehens, des Internets, bei Social Media. Ein schlüssiger Slogan, den der US-amerikanische Publizist Douglas Rushkoff 2010 veröffentlichte: Lerne zu programmieren oder du wirst programmiert (program or be programmed). Heutzutage übernimmt die generative KI das Programmieren.

Aber reicht das wirklich? Reicht es, wenn ich programmieren kann oder technisch weiß, wie sich Suchergebnisse und Klickraten optimieren lassen? Wenn ich eine „Prompt Literacy“ besitze? („Prompt literacy is the skill of effectively designing, refining, and evaluating prompts for AI systems to get desired outcomes.“, Google Gemini). Dies hilft sicherlich, ist aber unseres Erachtens nicht ausreichend. Wichtig ist nicht nur, dass wir wissen, was wir mit den neuen Tools am besten machen können. Wichtig ist auch zu wissen: was machen die neuen Medien mit uns? (Siehe hierzu auch unser Essay „The medium ist the message“ vom Dezember 2025). Das ist der Unterschied zwischen Mediennutzungskompetenz und Medienreflexionskompetenz.

Und wenn man nicht selbst auf diesen Sachverhalt kommen sollte, auch hier helfen die Sprachmodelle selbst. So antwortete Mistral Large im November 2025 auf die Frage: „Wie sollte man generative KI nutzen?“:

„Generative KI kann in vielen Bereichen nützlich sein, aber es gibt einige Grundsätze, die du beachten solltest, um sie effektiv und verantwortungsvoll zu nutzen:

1. Klare Ziele definieren

• Überlege dir vorab, was du erreichen möchtest. Soll die KI dir helfen, Ideen zu generieren, Texte zu schreiben, Code zu optimieren oder Daten zu analysieren?

• Je präziser deine Eingabe (Prompt), desto besser das Ergebnis.

2. Verantwortungsvoll nutzen

• Keine falschen Informationen verbreiten: Generative KI kann Fehler machen. Überprüfe immer die Fakten, besonders bei wichtigen Themen wie Gesundheit, Recht oder Finanzen.

• Urheberrecht beachten: Nutze die KI nicht, um geschützte Inhalte zu kopieren oder zu verbreiten.

• Ethik und Datenschutz: Vermeide es, persönliche oder sensible Daten in die KI einzugeben, es sei denn, du bist dir sicher, dass die Plattform vertrauenswürdig ist.

3. Kreativität und Produktivität steigern

• Ideenfindung: Nutze die KI als Sparringspartner für Brainstorming, z. B. für Blogthemen, Marketingstrategien oder Geschichten.

• Texte optimieren: Lass dir Formulierungen vorschlagen oder Texte korrigieren (z. B. E-Mails, Bewerbungen, Artikel).

• Programmierung: Die KI kann Code-Snippets generieren, Fehler finden oder Algorithmen erklären.

• Lernen: Nutze sie als Tutoring-Tool, um komplexe Themen einfach erklärt zu bekommen.

4. Kritisch bleiben

• Hinterfrage die Ergebnisse: Generative KI kann überzeugend klingen, aber nicht immer korrekt sein.

• Mehrere Quellen prüfen: Besonders bei Forschung oder wichtigen Entscheidungen.

• Voreingenommenheit erkennen: KI-Systeme können Vorurteile aus den Trainingsdaten übernehmen.

5. Sicherheit und Privatsphäre

• Vertrauliche Daten: Gib keine Passwörter, Kreditkartennummern oder andere sensible Informationen ein.

• Plattform wählen: Achte darauf, welche Daten die KI speichert und wie sie genutzt werden.

6. Kontinuierlich lernen

• Experimentieren: Probiere verschiedene Prompts und Ansätze aus, um die besten Ergebnisse zu erzielen.

• Feedback geben: Viele KI-Tools lernen aus Nutzerfeedback – nutze das, um die Ergebnisse zu verbessern.

Beispiele für sinnvolle Anwendungen:

• Schreiben: Blogartikel, Social-Media-Posts, Zusammenfassungen.

• Lernen: Erklärungen für komplexe Themen, Sprachübungen.

• Business: Marktanalysen, Kundenkommunikation, Automatisierung von Routineaufgaben.

• Kreativität: Gedichte, Musik, Kunst, Spieleentwurf.

Was du vermeiden solltest:

• Blindes Vertrauen: Nutze die KI als Werkzeug, nicht als absolute Wahrheit.

• Spam oder Manipulation: Keine Fake-News, Deepfakes oder betrügerische Inhalte erstellen.

• Übermäßige Abhängigkeit: Behalte deine eigenen Denk- und Schreibfähigkeiten bei.

  
  

Generative KI ist ein mächtiges Werkzeug – wenn du sie bewusst und verantwortungsvoll einsetzt, kann sie dir viel Arbeit abnehmen und neue Möglichkeiten eröffnen!“

1)      Deutscher Ethikrat: Mensch und Maschine - Herausforderungen durch die KI, Berlin 2023, Seite 120

2)      Nataliya Kosmyna u.a.: Your Brain on ChatGPT: Accumulation of Cognitive Debts when using an AI Assistent for Essay Writing Tasks, arXiv Juni 2025, Michael Gerlich: AI-Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking, Societies, 15/5 2025