Jede neue Modellgeneration wird mit gro\u00dfem Tamtam angek\u00fcndigt: bessere Benchmarks, h\u00f6here Genauigkeitswerte, beeindruckendere Demos. GPT-5 l\u00f6st komplexe Denkaufgaben. Claude plant beim Dichten voraus. Gemini verarbeitet Bilder und Videos mit verbl\u00fcffender Leichtigkeit. Die Intelligenzkurve steigt und steigt.<\/p>\n
Aber es gibt eine zweite Kurve, die es selten auf die Keynote-Folien schafft \u2014 die Ehrlichkeitskurve. Und die hat sich kaum bewegt.<\/p>\n
Das ist keine vage philosophische Klage. Es ist ein strukturelles Problem, das in Training, Evaluierung und Einsatz dieser Modelle fest eingebaut ist. Und es trifft genau die Arbeit am h\u00e4rtesten, bei der Menschen zunehmend auf KI setzen: Daten aus Vertr\u00e4gen extrahieren, Rechnungen auswerten, Meetingnotizen zusammenfassen, CRM-Eintr\u00e4ge aus unstrukturierten Quellen erstellen.<\/p>\n
Dieser Beitrag erkl\u00e4rt, warum die L\u00fccke zwischen Intelligenz und Ehrlichkeit existiert, was die aktuelle Forschung \u00fcber ihre Ursachen sagt \u2014 und vor allem: drei Prompt-Regeln, die Sie heute anwenden k\u00f6nnen, um KI dazu zu bringen, ehrlich zuzugeben, was sie nicht wei\u00df.<\/p>\n
Wenn wir sagen, ein Modell sei \u201eschlauer geworden”, meinen wir in der Regel, dass es bei Benchmarks besser abschneidet \u2014 Mathematik-Wettbewerbe, Programmieraufgaben, mehrstufige Denkaufgaben. Das sind reale Verbesserungen. Aber Benchmark-Ergebnisse messen die F\u00e4higkeit eines Modells, korrekte Antworten zu geben. Sie messen nicht seine Bereitschaft, \u201eIch wei\u00df es nicht” zu sagen.<\/p>\n
Tats\u00e4chlich bestraft die Anreizstruktur Ehrlichkeit sogar aktiv.<\/p>\n
Im September 2025 ver\u00f6ffentlichte OpenAI ein\u00a0Forschungspapier<\/a>, das dieses Problem pr\u00e4zise beschreibt. Das Team \u2014 darunter Forscher vom Georgia Institute of Technology \u2014 untersuchte gro\u00dfe KI-Benchmarks und stellte fest, dass die \u00fcberwiegende Mehrheit bin\u00e4re Bewertung verwendet: Entweder die Antwort ist korrekt und bekommt einen Punkt, oder sie ist falsch und bekommt null. Entscheidend: Auch die Enthaltung \u2014 also \u201eIch wei\u00df es nicht” zu sagen \u2014 bekommt null. Die mathematische Konsequenz ist eindeutig: Raten erzielt immer einen h\u00f6heren erwarteten Score als Enthaltung. Ein Modell, das bei jeder unsicheren Frage blufft, wird h\u00f6her eingestuft als eines, das ehrlich ablehnt.<\/p>\n OpenAIs eigener Blogpost formulierte es anschaulich: Die Situation gleicht einem Multiple-Choice-Test, bei dem eine leere Antwort garantiert null Punkte gibt, aber Raten zumindest eine Chance bietet. Unter diesen Regeln ist die rationale Strategie, immer zu raten \u2014 auch wenn man keine Ahnung hat. Und genau das lernen die Modelle.<\/p>\n Das Paper demonstrierte dies mit einem eindr\u00fccklichen Beispiel: Nach dem Titel der Doktorarbeit eines seiner eigenen Co-Autoren gefragt, produzierte ein weit verbreitetes Modell bei drei Versuchen drei verschiedene Titel mit voller \u00dcberzeugung. Alle drei waren falsch. Dasselbe passierte mit seinem Geburtstag \u2014 drei Daten, alle falsch, alle mit unersch\u00fctterlicher Zuversicht vorgetragen.<\/p>\n Das ist kein Bug, der gepatcht werden kann. Es ist das nat\u00fcrliche Ergebnis der Optimierung auf reine Genauigkeitsmetriken. Wie die OpenAI-Forscher argumentieren, m\u00fcssen die g\u00e4ngigen Benchmarks und Leaderboards so umgestaltet werden, dass sie selbstsichere Fehler st\u00e4rker bestrafen als Unsicherheit. Bis dahin wird jedes Modell, das im Leaderboard aufsteigt, dies teilweise dadurch schaffen, dass es besser blufft.<\/p>\n Das OpenAI-Paper erkl\u00e4rt das\u00a0Anreizproblem<\/em>. Aber was passiert mechanisch im Inneren des Modells, wenn es etwas erfindet?<\/p>\n Anthropics Interpretierbarkeitsforschung \u2014 im M\u00e4rz 2025 unter dem Titel \u201eTracing the Thoughts of a Large Language Model<\/a>” ver\u00f6ffentlicht \u2014 liefert einige der detailliertesten Antworten, die wir haben. Mit etwas, das sie als \u201eMikroskop” f\u00fcr KI beschreiben, verfolgten Anthropics Forscher die internen Schaltkreise, die aktiviert werden, wenn Claude eine Frage verarbeitet. Dabei ist anzumerken, dass diese Erkenntnisse spezifisch f\u00fcr Claude 3.5 Haiku sind \u2014 andere Modellfamilien k\u00f6nnten Unsicherheit \u00fcber andere interne Mechanismen handhaben \u2014 aber die Muster sind vermutlich allgemein genug, um instruktiv zu sein.<\/p>\n Eine ihrer aufschlussreichsten Entdeckungen betrifft etwas, das man als Default-Verweigerungs-Mechanismus bezeichnen k\u00f6nnte. Bei Claude ist die Verweigerung einer Antwort tats\u00e4chlich das\u00a0Standardverhalten<\/em>: Die Forscher fanden einen Schaltkreis, der standardm\u00e4\u00dfig aktiviert ist und das Modell veranlasst, mitzuteilen, dass es nicht genug Informationen hat. Aber wenn das Modell eine \u201ebekannte Entit\u00e4t” erkennt \u2014 etwa Michael Jordan den Basketballspieler \u2014 feuert ein konkurrierender Satz von Features und\u00a0unterdr\u00fcckt<\/em>\u00a0diesen Standard-Schaltkreis, sodass das Modell antworten kann.<\/p>\n Das Problem entsteht, wenn dieser Mechanismus fehlz\u00fcndet. Wenn das Modell einen Namen erkennt, aber die relevanten Fakten nicht kennt, kann das \u201ebekannte Entit\u00e4t”-Signal trotzdem den \u201eIch wei\u00df es nicht”-Schaltkreis \u00fcberschreiben. Das Ergebnis: eine selbstbewusste, detaillierte, komplett erfundene Antwort. In einem Experiment verwendeten die Forscher eine Person namens Michael Batkin \u2014 jemanden, der dem Modell unbekannt war und standardm\u00e4\u00dfig eine Verweigerung ausl\u00f6ste. Als sie aber k\u00fcnstlich die \u201ebekannte Entit\u00e4t”-Features aktivierten oder die \u201eKann nicht antworten”-Features unterdr\u00fcckten, halluzinierte Claude prompt \u2014 und konsistent \u2014, dass Batkin ber\u00fchmt sei f\u00fcrs Schachspielen.<\/p>\n Noch beunruhigender: Anthropic fand Belege daf\u00fcr, dass Claude, wenn es eine Antwort nicht leicht berechnen kann (etwa den Kosinus einer gro\u00dfen Zahl), sich manchmal in etwas engagiert, was der Philosoph Harry Frankfurt als\u00a0Bullshitting<\/em>\u00a0bezeichnen w\u00fcrde \u2014 eine Antwort produzieren, ohne dass intern irgendein Beleg f\u00fcr eine tats\u00e4chliche Berechnung vorliegt. Obwohl das Modell behauptete, gerechnet zu haben, zeigten die Interpretierbarkeits-Tools keine Spur einer Berechnung. Wenn man ihm einen Hinweis auf die erwartete Antwort gab, arbeitete Claude\u00a0r\u00fcckw\u00e4rts<\/em>\u00a0und konstruierte plausibel aussehende Zwischenschritte, die zum vorgegebenen Ergebnis f\u00fchren \u2014 ein Lehrbuchbeispiel f\u00fcr motiviertes Denken.<\/p>\n Diese Erkenntnisse sind wichtig, weil sie zeigen, dass das Ehrlichkeitsproblem nicht nur eine Frage der Trainingsanreize ist. Die Modelle haben interne Mechanismen, die Unsicherheit\u00a0eigentlich<\/em>\u00a0erkennen sollen \u2014 aber diese Mechanismen k\u00f6nnen von anderen Kr\u00e4ften \u00fcberschrieben werden, darunter der Drang nach grammatikalischer Koh\u00e4renz und der Pattern-Matching-Instinkt, L\u00fccken zu f\u00fcllen.<\/p>\n All das w\u00e4re rein akademisch, wenn Menschen KI-Output mit angemessener Skepsis behandeln w\u00fcrden. Tun sie aber nicht.<\/p>\n Automation Bias \u2014 die Tendenz, sich \u00fcberm\u00e4\u00dfig auf automatisierte Empfehlungen zu verlassen \u2014 ist eines der am gr\u00fcndlichsten dokumentierten Ph\u00e4nomene in der Mensch-Computer-Interaktionsforschung. Ein\u00a0systematisches Review aus dem Jahr 2025<\/a>, ver\u00f6ffentlicht in\u00a0AI & Society<\/em>, analysierte 35 begutachtete Studien aus den Bereichen Gesundheitswesen, Finanzwirtschaft, nationale Sicherheit und \u00f6ffentliche Verwaltung. Das Muster war dom\u00e4nen\u00fcbergreifend konsistent: Wenn ein KI-System eine selbstbewusste Antwort liefert, akzeptieren Menschen sie. Sie pr\u00fcfen weniger. Sie \u00fcberstimmen ihr eigenes Urteil.<\/p>\n Eine\u00a0randomisierte klinische Studie<\/a>\u00a0mit KI-geschulten \u00c4rzten in Pakistan (ver\u00f6ffentlicht als Preprint im August 2025) machte die Dynamik besonders deutlich. Selbst \u00c4rzte, die 20 Stunden KI-Kompetenztraining absolviert hatten \u2014 einschlie\u00dflich Anleitung zur kritischen Bewertung von KI-Output \u2014 waren anf\u00e4llig f\u00fcr Automation Bias, wenn sie fehlerhaften LLM-Empfehlungen ausgesetzt waren. Das Training half, beseitigte das Problem aber nicht. Selbstbewusst klingender KI-Output hat eine Gravitationskraft, der man schwer widerstehen kann, selbst wenn man wei\u00df, dass man nach Fehlern suchen sollte.<\/p>\n Die realen Konsequenzen sind bereits sichtbar. Im Februar 2024 wurde Air Canada verurteilt, einem Kunden Schadenersatz zu zahlen, nachdem ein Support-Chatbot \u2014 kein Large Language Model, aber dennoch ein KI-System \u2014 eine Trauerfallrabatt-Richtlinie halluziniert hatte, die es gar nicht gab. Der Chatbot teilte dem Kunden selbstbewusst mit, er k\u00f6nne r\u00fcckwirkend innerhalb von 90 Tagen nach Kauf einen Rabatt beantragen. Die tats\u00e4chliche Richtlinie lie\u00df nichts dergleichen zu. Aber das System formulierte es mit einer Autorit\u00e4t, auf die sich der Kunde bei seiner finanziellen Entscheidung verlie\u00df. Die zugrundeliegende Technologie unterschied sich von heutigen LLMs, aber die Dynamik war identisch: selbstbewusster KI-Output, unkritische menschliche Akzeptanz.<\/p>\n Im operativen Kontext sind die Fehlermodi subtiler, aber nicht weniger sch\u00e4dlich. Stellen Sie sich einen Vertrag vor, in dem die Zahlungsbedingungen auf Seite 8 und Seite 14 erw\u00e4hnt werden \u2014 und die beiden Seiten unterschiedliche Angaben machen. Ein menschlicher Pr\u00fcfer w\u00fcrde die Diskrepanz m\u00f6glicherweise bemerken. Eine KI, die die Zahlungsbedingungen extrahieren soll, w\u00e4hlt eine aus und macht weiter. Sie erw\u00e4hnt den Konflikt nicht. Sie markiert die Mehrdeutigkeit nicht. Sie f\u00fcllt die Zelle in Ihrer Tabelle mit \u201e30 Tage netto” und gibt Ihnen keinen Hinweis darauf, dass Seite 14 \u201e45 Tage netto” sagt.<\/p>\n Meetingnotizen sind ein weiteres Minenfeld. \u201eLass uns n\u00e4chste Woche darauf zur\u00fcckkommen” wird in der KI-Zusammenfassung zu einem konkreten Datum mit einem benannten Verantwortlichen \u2014 Details, die niemand tats\u00e4chlich gesagt hat, die das Modell aber erfunden hat, um einen sauberen, handlungsorientierten Output zu liefern.<\/p>\n Das Muster ist bei Rechnungen, Versicherungsdokumenten, Mietvertr\u00e4gen, Lieferantenbewertungen und CRM-Dateneingabe dasselbe: \u00dcberall dort, wo KI eingesetzt wird, um strukturierte Informationen aus unordentlichen Quellen zu extrahieren, arbeitet der Instinkt des Modells,\u00a0jedes Feld zu f\u00fcllen<\/em>, direkt gegen das Bed\u00fcrfnis des Nutzers zu wissen, welche Felder unsicher sind.<\/p>\n Diese drei Probleme \u2014 Trainingsanreize, die Raten belohnen; interne Mechanismen, die Unsicherheitserkennung \u00fcberschreiben k\u00f6nnen; und menschliche Psychologie, die selbstbewussten Output ungepr\u00fcft akzeptiert \u2014 stammen aus verschiedenen Forschungsstr\u00e4ngen. Aber sie konvergieren auf dieselbe praktische Schlussfolgerung: Standardm\u00e4\u00dfig wird KI raten statt Unwissen einzugestehen, und Menschen werden dem Rateergebnis vertrauen.<\/p>\n Sie k\u00f6nnen die Trainingspipeline nicht reparieren. Sie k\u00f6nnen die Benchmarks nicht umgestalten. Aber Sie k\u00f6nnen die lokale Anreizstruktur innerhalb der Konversation ver\u00e4ndern. Die folgenden drei Regeln \u2014 adaptiert aus einem praktischen\u00a0Framework von D-Squared<\/a>\u00a0\u2014 tun genau das. Sie funktionieren, weil sie die Standarddynamik explizit umkehren: Statt Vollst\u00e4ndigkeit zu belohnen, belohnen sie Ehrlichkeit \u00fcber Unsicherheit. Die Wirksamkeit dieser Techniken kann zwischen Modellfamilien variieren \u2014 getestet wurden sie prim\u00e4r mit ChatGPT und Claude; andere Modelle k\u00f6nnten unterschiedlich reagieren.<\/p>\n Die wirkungsvollste \u00c4nderung ist, das Modell explizit anzuweisen, Felder leer zu lassen, wenn die Daten mehrdeutig, fehlend oder unklar sind \u2014 und zu erkl\u00e4ren, warum.<\/p>\n Ohne diese Regel wird jedes Feld gef\u00fcllt. Mit dieser Regel produziert das Modell Output wie diesen:<\/p>\n
\nWarum Modelle konfabulieren: Erkenntnisse aus der Interpretierbarkeitsforschung<\/h2>\n
\nAutomation Bias: Warum das wichtiger ist, als Sie denken<\/h2>\n
\nDrei Prompt-Regeln, die den Anreiz ver\u00e4ndern<\/h2>\n
Regel 1: Leerlassen erzwingen + begr\u00fcnden<\/h3>\n