Das KI Problem. Unsere letzte Erfindung?

Wie gefährlich ist die KI jetzt und wie gefährlich kann sie noch werden?


KI ist heute bereits gefährlich durch Desinformation, Betrug und den Verlust von Arbeitsplätzen.
In Zukunft kann sie noch gefährlicher werden durch autonome Waffen,
perfekte Fälschungen und den möglichen Verlust der menschlichen Kontrolle über superintelligente Systeme.
Die Gefahren von heute
Falsche Bilder und Videos: Täuschende Deepfakes verbreiten Lügen.
Cyberkriminalität: Betrüger nutzen KI für Angriffe und Erpressung.
Arbeitswelt: Maschinen ersetzen immer mehr menschliche Jobs.
Voreingenommenheit: Programme treffen oft unfaire Entscheidungen.

Die Gefahren von morgen
Autonome Waffen: Roboter entscheiden im Krieg selbst über Leben und Tod.
Totaler Kontrollverlust: Sehr schlaue Systeme tun Dinge, die wir nicht wollen.
Wirtschaftskrise: Massenhafter Jobverlust ohne neue Aufgaben für Menschen.
Manipulation: Große Massen lassen sich perfekt überwachen und steuern.

Inwieweit hat Stanisław Lem dies vorhergesehen?

Stanisław Lem hat die heutigen und zukünftigen Gefahren der künstlichen Intelligenz in verblüffendem Maße und bis ins Detail vorhergesehen.
Bereits in den 1950er- und 1960er-Jahren beschrieb der polnische Philosoph und Science-Fiction-Autor mathematisch-technische Entwicklungen,
die exakt auf unsere heutige Realität mit Deepfakes,
Sprachmodellen (LLMs) wie ChatGPT und der drohenden autonomen Kriegsführung zutreffen.
Seine philosophischen Abhandlungen wie Summa Technologiae (1964) skizzierten bereits die Evolution von Maschinen,
die den Menschen intellektuell überholen und sich seiner Kontrolle entziehen.
Hier ist der direkte Vergleich, wie präzise Lem die einzelnen Gefahrenpunkte vorausgedacht hat:
Das hat Lem bereits vorhergesehen
Perfekte Fälschungen (Deepfakes): In seiner Summa Technologiae erfand Lem den Begriff der „Phantomatik“.
Er beschrieb damit eine Technologie, die künstliche Realitäten erschafft, die für den menschlichen Verstand absolut nicht mehr von der echten Realität zu unterscheiden sind.
Das ist die exakte philosophische Definition moderner fotorealistischer KI-Generatoren und Deepfakes.
Quasselnde, aber bewusstlose Intelligenz: Heutige KI-Systeme (wie ChatGPT) wirken menschlich, besitzen aber kein echtes Bewusstsein.
Lem beschrieb genau dieses Phänomen in seinem Werk
Also sprach Golem (1981).
Er zeigte, dass eine Maschine extrem intelligent „nachahmen“ und komplexe Vorträge halten kann, ohne ein fühlendes Wesen zu sein –
ein Prinzip, das die Forschung heute als „stochastischen Papagei“ bezeichnet.
Der totale Kontrollverlust: In vielen seiner Erzählungen (u.a. über den Supercomputer GOLEM XIV) vertrat Lem die Ansicht,
dass eine echte Superintelligenz den Menschen nicht zwangsläufig vernichten will, sondern schlicht das Interesse an uns verliert.
Die Maschine entzieht sich der menschlichen Kontrolle, weil sie in logischen Dimensionen denkt, die wir überhaupt nicht mehr begreifen können.
Autonome Waffen & Mikroroboter: In seinem Roman
Der Unbesiegbare (1964)
beschrieb Lem die „Nekrosphäre“ – einen Schwarm aus winzigen, mechanischen Insekten, die keine Einzelintelligenz besitzen, aber im Kollektiv als autonome, tödliche Waffe agieren.
Dies nimmt die moderne Angst vor KI-gesteuerten Drohnenschwärmen im Krieg perfekt vorweg.
Künstliche Dummheit und Systemfehler: Lem sah voraus,
dass KI nicht fehlerfrei sein wird.
In der Erzählung Ananke (196 führt ein subtiler,
psychischer Programmierfehler eines KI-Computers zu einer Katastrophe bei einer Marslandung.
Lem verstand früh,
dass hochkomplexe Systeme unvorhersehbare fast „neurotische“ Fehlverhalten zeigen können.
Die „Robotergesetze“ von Isak Asimov sind weltfremd und nicht durchdacht,
weil unmöglich durchzusetzen.
Er wollte wohl beruhigen