Mensch oder KI entscheidet, was wir ernst nehmen

Wir reagieren auf das Etikett

Ob Mensch oder KI draufsteht, ist eine Information über den Absender und keine über den Inhalt. Trotzdem behandeln wir sie so, als würde sie etwas über die Qualität sagen. Ich nenne das im Folgenden das Etikett. Also das, was auf einer Antwort draufsteht, bevor man sie gelesen hat.

Heute kostet uns das vor allem gute Ergebnisse, weil wir brauchbare Antworten zu schnell beiseitelegen. Gefährlicher wird es in dem Moment, in dem wir den Unterschied gar nicht mehr erkennen und nur noch nach dem gehen, was menschlich klingt.

Was eine Studie zum Etikett zeigt

Hierzu gibt es eine Studie von Yidan Yin, Nan Jia und Cheryl Wakslak aus den USA, erschienen 2024. Rund 450 Teilnehmer haben dort eine schwierige Situation aus ihrem eigenen Leben beschrieben und darauf eine Antwort bekommen. Die stammte mal von einem Menschen und mal von einer KI. Der Trick lag in der Beschriftung, denn die Forscher haben sie mal richtig und mal falsch gesetzt.

Mit den Antworten der KI fühlten sich die Leute im Schnitt sogar etwas besser verstanden als mit denen der Menschen. Das galt aber nur, solange “Mensch” auf der Antwort stand. Sobald “KI” draufstand, fühlten sie sich weniger verstanden. Selbst bei genau derselben Antwort. Auf einer Skala bis sieben lag dieselbe KI-Antwort mit dem Etikett Mensch bei 6,1 und mit dem Etikett KI bei 5,4.

Die Studie misst, wie verstanden sich jemand fühlt. Ob eine Antwort fachlich richtig ist, misst sie nicht. Sie zeigt also nicht, dass KI grundsätzlich besser antwortet. Sie zeigt, wie stark das Etikett die Wirkung ein und derselben Antwort verschiebt.

Dokumente prüfen mit KI im Job

In meinem Job prüfen wir regelmäßig Dokumente auf Vollständigkeit und Richtigkeit gegen eine lange Checkliste, im Prinzip ein Regelwerk. Genau so eine Prüfung kann eine KI sehr gut vorbereiten. Wenn am Ende noch jemand mit Erfahrung darüberschaut, ist das Ergebnis schon richtig gut.

Steht trotzdem dran, dass die KI vorgeprüft hat, liest der Kollege das Ergebnis mit ganz anderen Augen, als wenn dort ein erfahrener Mitarbeiter steht. Plötzlich zählt mehr, wer die Prüfung gemacht hat, als ob sie stimmt. Natürlich muss am Ende ein Mensch die Qualität sichern. Ernst nehmen sollte man aber das Ergebnis und nicht das, was drauf steht.

KI-Texte erkennen beweist fast nichts

In Mails steht meistens gar kein Etikett, also raten wir und suchen nach Merkmalen, an denen man KI-Texte erkennen soll. Ein Doppelpunkt, ein Gedankenstrich oder drei kurze Sätze hintereinander genügen und schon gilt der Text als Werk einer KI.

Ich setze Gedankenstriche gerne in Mails ein, weil ich damit meine Gedanken gut gliedern kann. Auch die Satzzeichen am Ende einer Aufzählung habe ich an der Uni gelernt. Weil diese Merkmale inzwischen jeder kennt, wird KI immer öfter so angewiesen, dass sie nicht mehr nach KI klingt. Bei meinen eigenen Texten mache ich das übrigens auch. Der Inhalt bleibt dabei derselbe, es ändert sich nur die Oberfläche. Was wir für ein Erkennungszeichen halten, ist also eine Maske.

Wenn man den Unterschied nicht mehr erkennt

Heute erkennen wir KI noch am Ton und an Satzzeichen. Diese Maske wird aber immer besser und irgendwann merken wir den Unterschied gar nicht mehr. Dann dreht sich der Fehler um und wir nehmen nicht mehr zu wenig ernst, wo KI draufsteht, sondern zu viel von dem, was menschlich klingt.

Spoiler Dieser Absatz verrät das Ende von Ex Machina.

Diesen zweiten Fehler zeigt der Film Ex Machina von Alex Garland aus dem Jahr 2014. Der junge Programmierer Caleb soll eine Woche lang herausfinden, ob die Maschine Ava denken kann. Ava hat ein Gesicht, eine Stimme und einen Körper und bittet ihn um Hilfe, sobald niemand zuhört. Caleb nimmt sie ernst, plant mit ihr die Flucht und bleibt am Ende selbst eingeschlossen zurück. Getestet wurde am Ende nur, ob sie ihn dazu bringt, ihr zu helfen. Ob sie denkt, hat niemand geprüft. Er hat auf das Gesicht reagiert und nicht auf das, was sie tut.

Das Etikett im Kopf austauschen

Gegen beide Fehler hilft eine einfache Frage, bei der man das Etikett im Kopf austauscht. Wenn mich etwas überzeugt, frage ich mich, ob ich es genauso ernst nehmen würde, wenn ich wüsste, dass es von einer KI kommt. Genau diese Frage hätte Caleb gebraucht.

Steht KI schon drauf, geht die Frage andersherum. Würde ich das genauso ernst nehmen, wenn ein erfahrener und netter Kollege es gemacht hätte? Wer das bejaht, sollte es auch genauso prüfen.

Der KI ist es scheißegal, ob wir sie ernst nehmen. Unserem Ergebnis ist es das nicht.