KIs sind auch nur Menschen

MENSCHEN konfabulieren: Während wir eine Geschichte erzählen, bauen wir „Erinnerungen“ ein, die keine sind — plausible Erfindungen. Das ist keine Aufschneiderei. Oft merken wir nicht einmal, dass das Erzählte nicht wirklich erinnert ist.

DIE KIs halluzinieren: Der Chatbot liefert uns eine perfekte Begründung für eine Aussage und zitiert gleich passende Studien oder Gerichtsurteile — und, wenn wir dann nachschauen, gibt es die gar nicht. KIs lügen nicht, aber sie spekulieren sehr selbstbewusst.

MENSCHEN reden anderen nach dem Munde und sind mit Kritik sehr zurückhaltend, wenn sie sich in einer Beziehung unsicher fühlen. So wollen wir Konflikte vermeiden und uns nett und sympathisch erscheinen lassen.

DIE KIs loben unsere Ideen, statt Denkfehler und Schwachstellen zu benennen und knicken beim ersten Widerspruch unsererseits ein. „Da hast Du Recht!“ Das mag sich angenehm anfühlen. Hilfreich ist es nicht.

MENSCHEN überschätzen chronisch ihre eigene Kompetenz. Das passiert vor allem auf Gebieten, auf denen sie tatsächlich wenig Kenntnisse haben. Man nennt das manchmal den „Dunning-Kruger-Effekt“.

DIE KIs geben als Wahrscheinlichkeit dafür, dass ihre Aussagen zutreffen, meist 80 % oder mehr an. Noch schlimmer: sie formulieren ihre Antworten souverän im Tonfall absoluter Sicherheit. Sie werden bei der Entwicklung so trainiert.

MENSCHEN glauben, was sie in Kindheit und Jugend gelernt haben — auch dann, wenn die Wissenschaft längst weiter ist. Und sie halten für richtig, was ihr gesellschaftliches Umfeld für richtig hält. Neue Erkenntnisse oder gar Widerspruch wird durch psychologische Filter abgewehrt.

DIE KIs geben wieder, was in ihrem Trainingsmaterial überwiegt. Das ist manchmal auch wissenschaftlich Überholtes und vor allem die Mehrheitsmeinung. Sie empfehlen zum Beispiel immer noch, beim Lernen auf unterschiedliche Lerntypen zu achten, obwohl das längst widerlegt ist — und ihre Urteile tragen die Werte des Mainstreams der gebildeten, westlichen Mittelschicht.

MENSCHEN lassen sich nicht leicht von ihrer Meinung abbringen, wenn sie erst einmal eine Idee entwickelt haben, warum etwas ist, wie es ist. Widersprüchliche Fakten und Beobachtungen werden nicht nur abgetan — oft nehmen wir die nicht einmal wahr oder vergessen sie schnell wieder.

DIE KIs klammern sich oft viel zu lange an ihre erste Vermutung für die Lösung eines Problems. Sie kehren immer wieder stur zu dieser Vermutung zurück — oft auch dann, wenn wir ihnen sagen, dass diese nicht zutreffen kann.

MENSCHEN übersehen schnell Details, wenn sie sich auf eine Sache konzentrieren. Selbst ein Gorilla, der über ein Basketball-Feld läuft, fällt uns dann nicht mehr auf. Unsere Aufmerksamkeit ist beschränkt. Wir können nicht „auf alles“ zugleich achten.

DIE KIs suchen ständig nach bekannten Mustern. Und, wenn sie meinen, eines erkannt zu haben, werden abweichende Details schnell ignoriert. Dabei können sie sogar ein „nicht“ in einem Satz übersehen, das eine Aussage in ihr Gegenteil verkehrt.