Macht KI uns dümmer? Oder schlauer? Wahrscheinlich sind das die falschen Fragen!

Die Studienlage wirkt(!) widersprüchlich.

Upskilling und Deskilling: zwei gegensätzliche Befunde

1.) Viele Arbeiten zeigen: Mit KI schreiben Menschen bessere Texte, produzieren mehr Ideen, lösen Aufgaben schneller. Die Schlagworte, die in diesem Zusammenhang völlig zu Recht genannt werden, lauten "Upskilling" und "Newskilling" (nicht zu verwechseln mit "news killing" 🙃) Jedenfalls: Die Leistung steigt durch KI. Nicht überall und nicht bei allen gleich, denn bei Menschen mit mehr (KI-)Vorbildung steigt sie oft stärker, aber der Teufel scheißt nun mal auch in der digitalen Welt auf den größten Haufen.

2.) Andere Studien zeigen: Durch KI werden Menschen unkritischer, prüfen weniger nach, büßen Fähigkeiten ein. Das Schlagwort hier: Deskilling. Kompetenzverlust.

1 UND 2 sind gut belegt und stimmen auf ihre Weise. Aber die öffentliche Debatte (und hier auf LinkedIn) tut so, als gäbe es nur eine Frage: Macht uns KI schlauer oder dümmer? Das ist die falsche Frage, denn wenn man die Daten genau anschaut, lautet der Schluss: KI macht uns schlauer, aber auch insofern dümmer, dass wir seltener merken, wann unsere Leistung trügt.

Processing Fluency als blinder Fleck

Die Psychologen kennen das Phänomen. Sie nennen es Processing Fluency (PF). Heißt im Kern: Was sich leicht und reibungslos anfühlt, wirkt auf uns richtiger und besser begründet. Auch wenn es falsch ist. Oder wir gar nichts kapiert haben. Man denke an Erklärvideos: Man schaut sie und fühlt sich danach wissend, gerade bei komplexen Dingen. Aber wenn man das Thema später erklären muss, wird es dünn. Das ist als Explanatory Depth (ED) bekannt.

KI hat diesen Effekt und potenziert ihn. Die Ergebnisse wirken perfekt, die Analysen super gerechnet, die Texte sind rund und ohne Fehler.

Früher sagte meine innere Stimme: "Ich kann es nicht erklären, also verstehe ich es nicht." Heute sagt sie: "Ich habe die Erklärung gelesen, also verstehe ich es.“

Bisher nahm unser Gehirn die Fluency als Signal für Qualität. "Da steckt viel Arbeit drin", sagte die Stimme. Aber jetzt, wo alles gut ist, verliert das Signal seine Funktion. PF + ED = OH JE !

Das Verrückte daran: Upskilling und Fehlkalibrierung passieren gleichzeitig. Und genau hier liegt der Denkfehler der Debatte. Wir werden nicht "klüger" oder "dümmer". Wir werden leistungsfähiger bei schlechterer Selbsteinschätzung unserer Leistung.

Wir verlieren nicht Fähigkeiten, sondern unser Gefühl fürs eigene Nichtwissen.

Oder wie sich die Philosophen ausdrücken würden: KI beschädigt nicht unsere Intelligenz, sondern unsere epistemische Selbstdiagnostik.

Mit anderen Worten: KI verschiebt unseren Kompass. Wir sind nicht mehr eingenordet, sozusagen. (Auch wenn Landkarten früher geostet, gewestet und gesüded waren. Aber das ist ein anderes Thema.) Jedenfalls macht uns KI zu schnell zufrieden und lässt unsere Maßstäbe bröseln. Und genau darin liegt die Gefahr.

Bild: itsacademic.co.uk