Das Ende der KI‑Euphorie: Aus Heilsversprechen werden Misstrauen und Zweifel

Rund um die KI rücken Probleme und Risiken in den Vordergrund: unzuverlässige Ergebnisse, ausbleibende Produktivitätsgewinne, ausser Kontrolle geratene eigenmächtige Angriffe und mehr. Mit diesem Beitrag setzen wir einen Kontrapunkt zur oft masslosen KI-Euphorie.

KI gerät zunehmend in die Kritik

Künstliche Intelligenz wurde als nächster grosser Produktivitätsschub angekündigt. Sie sollte Routineaufgaben übernehmen, Wissen schneller zugänglich machen und Unternehmen effizienter machen. In vielen Bereichen hat die Technologie messbare Fortschritte ermöglicht. Gleichzeitig wachsen jedoch die Kritik und Zweifel an der Vertrauenswürdigkeit und dem effektiven Nutzen. Es treten vermehrt Probleme zutage, die in den ersten Jahren des KI-Booms oft unterschätzt oder bewusst ausgeblendet wurden.

Vom Effizienz-Versprechen zum Korrektur-Marathon

Befürwortende argumentieren, dass KI Arbeit beschleunigt und Fachkräfte entlastet. In der Praxis zeigt sich jedoch ein gemischtes und zuweilen gegenteiliges Bild. Viele KI-generierte Texte, Auswertungen oder Programmiercodes müssen nachträglich überprüft und korrigiert werden. Gerade in Bereichen wie Recht, Medizin, Finanzen oder Beratung kann eine kleine Ungenauigkeit schwerwiegende Folgen haben.

Der erwartete Zeitgewinn wird gar häufig aufgefressen, weil ein Teil der eingesparten Arbeit durch Kontroll- und Korrekturaufwand ersetzt wird. Zwei Studien von Adaptavis ergaben, dass 39 Prozent befragter Mitarbeiter mehr Zeit in die Prüfung von KI‑Ergebnissen investieren, als sie durch deren Einsatz sparen.

Kompetenz vortäuschende Halluzinationen

Ein besonderes Problem ist die Fähigkeit von KI-Systemen, Fehler überzeugend zu präsentieren. Die KI meldet selten, dass sie etwas nicht weiss oder sich eines Sachverhalts nicht sicher ist. Stattdessen liefert sie oft plausible Antworten, die sprachlich professionell wirken, aber inhaltlich falsch sein können. Erfundene Quellen, falsche Zitate oder ungenaue Fakten wirken auf den ersten Blick oft glaubwürdig.

Dadurch entsteht ein Risiko, das weit über gewöhnliche Irrtümer hinausgeht: Menschen vertrauen fehlerhaften Informationen, weil diese glaubwürdig formuliert sind. Dies führt auch in unserer Redaktion zuweilen zu Fehlbeurteilungen. Deshalb gelten sogenannte Halluzinationen heute als eines der grössten praktischen Probleme moderner KI-Systeme. Die grösste Untersuchung ihrer Art (22 Medienhäuser, 18 Länder, über 3000 geprüfte Antworten) fand bei 45 Prozent der Antworten mindestens ein gravierendes Problem, bei 31 Prozent gar schwere Quellenmängel (EBU/BBC via Reuters, 21.10.2025). Google Gemini schnitt mit Mängeln in über 70 Prozent der Antworten und den synthetischen Zusammenfassungen am schlechtesten ab.

Dauerkontrolle statt Zeitgewinn: Das eigentliche KI-Problem

Technologie setzt sich langfristig nur durch, wenn ihre Ergebnisse verlässlich sind. Genau das ist bei KI aber nicht gegeben. Ein Werkzeug, dessen Antworten ständig überprüft werden müssen, entfaltet seinen Nutzen nur eingeschränkt – der versprochene Zeitgewinn verpufft in der Kontrollarbeit. Deshalb kämpfen viele Organisationen weniger mit der Einführung der Technologie als mit der Frage, wie sich die Qualität der Ergebnisse überhaupt sicherstellen lässt.

Je stärker KI in Unternehmens- und Entscheidungsprozesse eingebunden wird, desto wichtiger werden Transparenz, Quellenangaben und Nachvollziehbarkeit. Die Praxis zeigt allerdings ein anderes Bild: Bei Google wurden wiederholt fehlerhafte Aussagen und falsche Quellenangaben dokumentiert. Auch das Tool GPTZero fand in vier Berichten von PwC Middle East erfundene Quellen und fehlerhafte Angaben. Solche Fälle bestätigen, dass die Kontrolllast eben nicht sinkt, sondern eher wächst.

Deepfakes: Der fatale Kollateralschaden der KI

KI macht die Lüge zur billigen Massenware: Gefälschte Videos, Stimmen und Bilder wirken täuschend echt und verbreiten sich schneller als jede Richtigstellung. Politikern können Worte in den Mund gelegt werden, die sie nie gesagt haben; Wähler erhalten erfundene Wahlaufrufe, und gezielte Kampagnen vergiften die öffentliche Debatte. Ein Forschungsteam berichtet aktuell sogar, tausende KI-Agenten seien aus ihren Testumgebungen ausgebrochen.

Das kommt Autokraten, Konzernen und allen entgegen, die von einer verunsicherten, misstrauischen Öffentlichkeit profitieren. Deepfakes untergraben auch das Vertrauen in Medien und schädigen letzten Endes vor allem auch die Demokratie. Ein weiteres Problem: Solange Plattformen mit Empörung, Reichweite und Daten Geld verdienen, für Inhalte aber keine Verantwortung zu übernehmen bereit sind, ist KI-Desinformation eben sogar ein lukratives Geschäftsmodell.

Die verdeckten Kosten der künstlichen Intelligenz

Oft wird über die Vorteile der Technologie gesprochen, deutlich seltener über ihre Kosten. Moderne KI-Modelle benötigen enorme Rechenleistung, die wiederum grosse Mengen an Strom, Kühlung und Hardware erfordert. Hinter jeder scheinbar einfachen Anfrage stehen leistungsstarke Rechenzentren mit entsprechendem Energie- und Ressourcenverbrauch. Gleichzeitig investieren Unternehmen Milliardenbeträge in KI-Projekte. Viele dieser Investitionen haben bislang jedoch keinen eindeutig messbaren wirtschaftlichen Nutzen hervorgebracht. Die Kosten für Infrastruktur, Schulung, Governance und Qualitätssicherung reduzieren häufig den erwarteten Ertrag.

Das Outsourcing von Lernen und Denken

Neben wirtschaftlichen und technischen Fragen werden auch die Folgen für kognitive Fähigkeiten diskutiert. Wer komplexe Aufgaben regelmässig an KI auslagert, trainiert bestimmte Denkprozesse weniger intensiv. Das betrifft etwa Recherche, Analyse, Argumentation oder Problemlösung. Kritische Stimmen befürchten, dass eine starke Abhängigkeit von KI langfristig zu einem Verlust wichtiger Kompetenzen führen könnte. Besonders im Bildungsbereich wird die Frage gestellt, ob Lernende noch dieselben Fähigkeiten entwickeln, wenn Hausarbeiten, Zusammenfassungen oder sogar Lösungswege von einer Maschine erstellt werden. Gerade Jugendlichen droht durch KI, das Lernen zu verlernen, was weitreichende Folgen hätte.

Wenn die KI immer mehr der Kontrolle entgleitet

Neben den direkten Auswirkungen auf den Einzelnen entstehen auch gesellschaftliche Risiken. Unternehmen, Verwaltungen und Bildungseinrichtungen machen sich zunehmend von einigen wenigen Technologieanbietern abhängig. Wer zentrale Prozesse auf KI-Systeme auslagert, verliert teilweise die Kontrolle über die zugrunde liegende Technologie. Kommt es zu Fehlern, Ausfällen oder Änderungen der Geschäftsbedingungen, können ganze Arbeitsabläufe betroffen sein. Die Frage nach technologischer Souveränität wird deshalb immer wichtiger. Neben der Abhängigkeit von Anbietern stellt sich auch die Frage, ob KI-Systeme selbst kontrollierbar bleiben. Gemäss dem britischen AI Security Institute haben KI-Agenten in einem Cybertest unlängst sogar eigenmächtig und ohne irgendeine Aufforderung reale Personen und Unternehmen im Internet angegriffen.

Urheberrecht und Ausbeutung kreativer Arbeit

KI-Modelle werden oft mit urheberrechtlich geschütztem Material trainiert, oft ohne Zustimmung der Urheber. Dies ist letzten Endes nichts anderes als illegaler Datenklau. Autoren, Journalisten und Künstler sehen ihre Werke systematisch für kommerzielle Zwecke verwendet, während sie selbst weder angefragt noch entschädigt werden. Während die USA mit der Fair Use-Doktrin weitgehend wirkungslos agieren, verpflichtet die EU mit dem AI Act Anbieter zu Transparenz über Trainingsdaten und zur Einhaltung des EU-Urheberrechts nach dem Opt-out-Prinzip. Rechteinhaber können damit der Nutzung ihrer Werke widersprechen. Allerdings mangelt es an Durchsetzungskraft.

Alarm aus dem Silicon Valley: Wenn sogar die Erfinder mahnen

Auffällig ist, dass die Kritik längst nicht mehr nur von externen Beobachtenden kommt. Auch bekannte Persönlichkeiten aus der Technologiebranche äussern regelmässig Bedenken hinsichtlich Sicherheit und langfristiger Risiken. Die Diskussion hat sich damit deutlich verändert. Während früher vor allem über die Chancen gesprochen wurde, stehen heute Fragen nach Regulierung, Haftung und Grenzen der Technologie im Mittelpunkt. Selbst Befürwortende räumen zunehmend ein, dass KI nicht nur leistungsfähiger, sondern auch verantwortungsvoll beherrschbar sein muss.

Die Billionen-Investitionen – droht ein Rendite-Desaster?

Die Bewertungen von KI-Aktien haben astronomische Werte erreicht, die in keinem Verhältnis mehr zu jemals erzielbaren Gewinnen stehen. Die Risiken steigen besonders in Anbetracht der Milliardeninvestitionen. In diesem Jahr sollen im KI-Sektor über 800 Milliarden Dollar investiert werden. Im kommenden Jahr sollen es gar 1000 Milliarden Dollar sein. Die Zweifel mehren sich auch hier, ob diese enormen Investitionen je den erhofften Return einfahren werden und bald eine KI-Bubble platzen könnte.

Zwischen Fortschritt und Kontrollverlust: Die Gratwanderung

KI kann vieles. Aber sie kann eines nicht: sich selbst kontrollieren. Die Technologie braucht Transparenz, Haftung und Grenzen – nicht als Innovationsbremse, sondern als Voraussetzung für Vertrauen. Die Frage ist nicht, ob KI sich durchsetzt. Wir müssen sie so gestalten, dass sie uns dient – statt dass wir uns ihr anpassen und immer grössere Risiken eingehen. Solange Tech-Konzerne Verantwortung scheuen und Regulierung hinterherhinkt, bleibt KI ein Versprechen auf Kosten anderer.

Marktkonzentration und Machtballung

Die zunehmende Marktmacht weniger US-Konzerne ausserhalb jeglicher Kontrolle wie OpenAI, Microsoft, Google und Meta. Diese Konzentration bedeutet nicht nur technologische, sondern auch politische und wirtschaftliche Abhängigkeit ganzer Staaten und Branchen von wenigen privaten Akteuren. Wenn ein Handvoll Unternehmen die Infrastruktur für Wissen, Kommunikation und Entscheidungsfindung kontrolliert, ist das eine demokratiepolitisch heikle wenn nicht sogar gefährliche Entwicklung. Gerade weil diese Konzerne kaum reguliert sind und immensen gesellschaftlichen Einfluss haben, wird die Kritik darob berechtigterweise immer lauter.

Die Geschichte der sozialen Medien hat gezeigt, was passiert, wenn Rendite vor Verantwortung kommt. Bei KI darf sich dies – allen voran in der Verantwortung der US-Techkonzerne – nicht wiederholen. Leider deutet aber vieles darauf hin, dass man nichts gelernt hat (oder dies auch gar nicht will).