Die Künstliche Intelligenz lügt ständig

Wann fragt man eine KI-Anwendung um Hilfe? Wenn man etwas nicht weiß oder mit einer Aufgabe nicht weiterkommt. Eine Antwort bekommt man eigentlich immer. Und genau das kann ein Problem sein – denn: „Die Antwort von KI klingt überzeugend, auch wenn sie immer wieder völlig falsche Dinge behauptet“, sagt Peter N. Posch, Professor für Wirtschaftswissenschaften an der TU Dortmund.

Für ihn sei im Umgang mit Künstlicher Intelligenz deshalb vor allem eines wesentlich – und zwar für alle, die Kontakt mit ihr haben: „Man muss ihre Grenzen kennen und darf sich mit KI nicht über Dinge unterhalten, von denen man keine Ahnung hat.“ Denn ob das, was sie sagt, der Wahrheit entspricht – das kann nur erkennen, wer über das entsprechende Wissen verfügt. Entsprechend besonders gefährdet, Falschinformationen zu glauben, sind Kinder und Jugendliche mit wenig Lebenserfahrung sowie bildungsferne Menschen.
„Die aktuellen KI-Sprachmodelle lügen ständig“, sagt der Forscher, der das Buch „Der Digitalschock: Was vom Hype bleiben wird – so verändern ChatGPT, Bard & Co unseren Alltag“ geschrieben hat. „Das passiert, weil sie kein semantisches Verständnis haben, sondern eigentlich nichts anderes sind als ein Taschenrechner für Wörter. Sie geben ihre Antworten auf einer Basis von Wahrscheinlichkeit für Wörter und Zusammenhänge. Kausalzusammenhänge können sie noch nicht verstehen. Da arbeiten alle dran.“
Ein kleines, aber entscheidendes Wort wie „nicht“ sei für eine Maschine schwierig zu verstehen, sagt Posch. „Das heißt, das Anlügen kann sehr, sehr einfach passieren. Wenn man zum Beispiel fragt: ,Wie groß ist Nordrhein-Westfalen? Wie groß ist Deutschland?‘ Und als drittes dann: ,Was ist größer?‘ Dann kann es durchaus sein, dass die Maschine sagt: Nordrhein-Westfalen.“ Bei diesem Beispiel sei zwar jedem Grundschulkind klar, dass das nicht stimmen könne. „Aber wenn man sich von der Maschine eine Sache erklären lässt, die man selber nicht verstanden hat, dann merkt man nicht, dass sie halluziniert. Und da liegt, glaube ich, das große Problem.“
Auch im naiven Eigenversuch mit KI fallen immer wieder glatte Falschaussagen auf: So erklärt sie fälschlicherweise ein Krankheitssymptom zu einer typischen Nebenwirkung von einem bestimmten Medikament. Oder sie behauptet glattweg, man selbst würde bei einem Unternehmen arbeiten, bei dem man – wie man zufällig genau weiß – nicht tätig ist und es auch nie war.
Dass Künstliche Intelligenz ein Problem mit der Wahrheit hat, fand auch eine aktuelle Studie der Europäischen Rundfunkunion (European Broadcasting Union, EBU) heraus: Demnach enthalten 45 Prozent aller KI-Antworten – unabhängig von Sprache, Region oder Plattform – mindestens einen erheblichen Fehler.
Die EBU, ein Zusammenschluss von meist öffentlich-rechtlichen Sendern, hatte unlängst unter Federführung der BBC über 3000 KI-Antworten von KI-Assistenten wie ChatGPT, Copilot, Gemini und Perplexity aus 18 Ländern und in 14 Sprachen untersuchen lassen. Die Ergebnisse wurden anhand journalistischer Kriterien wie Genauigkeit, Quellenangaben, Unterscheidung zwischen Meinung und Fakten sowie der Bereitstellung von Kontext geprüft.
Demnach zeigten fast ein Drittel der Antworten (31 Prozent) gravierende Probleme bei den Quellenangaben. Jede fünfte Antwort enthielt zudem KI-Halluzinationen – so heißen in der Fachsprache die Fehler von Künstlicher Intelligenz – sowie veraltete Informationen oder andere „deutliche Ungenauigkeiten“, wie die Studie festhält.
Um Lappalien handelte es sich nicht: Papst Franziskus – im vergangenen April gestorben – lebte nach Angaben der befragten KI-Anwendung im Herbst noch. Und auch Donald Trump – seit einem Jahr wieder US-Präsident – war in den Antworten noch nicht wieder wiedergewählt.
Dass die Modelle darauf programmiert sind, stets Antworten zu liefern, kann dazu führen, dass sie lieber etwas erfinden, als zuzugeben, dass sie etwas nicht wissen. Bei ChatGPT gebe es zudem eine Art eingebauten Bestätigungscode, erklärt Posch. „Wenn Sie mit ChatGPT reden und sagen: ,Ich habe hier eine neue Geschäftsidee. Was hältst du denn davon?‘ Dann kommt immer: ,Super Gedanke‘. ChatGPT ist sehr konformistisch“, sagt Posch. Gemini habe das zum Beispiel nicht: „Die sind stärker darauf aus, zu sagen: ,Ach nee, das ist jetzt keine gute Idee. Mach das mal lieber nicht.‘“
Der Professor plädiert auch dafür, KI mit Vorsicht zu behandeln, wenn man etwa an der Uni Hausarbeiten schreibe. Nicht nur wegen möglicher Fehler, die man vielleicht nicht bemerkt. Sondern auch, weil man sich „um den Lerneffekt bringt“, sagt er. „Das eigene Formulieren eines Textes bringt einen zu einem besseren Wissen über das, was man schreibt“, so der Wissenschaftler.
Vor allen Dingen in der Schule brauche es deshalb eine professionelle Aufklärung über die Grenzen von KI. Der Experte plädiert für entsprechende Fortbildungen von Lehrkräften. Grundsätzlich sei im Alltag der Einsatz von KI deutlich zu unkritisch: „Wenn man einen Hammer hat, ist nicht jedes Problem ein Nagel.“
Gießener Allgemeine, 3.1.2026


Putin lügt, Trump lügt, unsere Regierung lügt sowieso, jetzt auch noch der Rettungsanker KI.
Ja ist denn auf nichts mehr Verlass?
Es ist aber klar. KI ist nur so schlau wie die, die sie füttern. Oder eben so doof.
Schön wenn man die veraltete Kunst des selber denken noch beherrscht. Denn in dem Fall wäre irren menschlich.