DFKI-Chef Dengel: "KI simuliert Menschlichkeit und das ist eine Gefahr"

Während Medienhäuser in Deutschland über sinkende Abos klagen und die Gen Z an Social-Media-Plattformen (TikTok) voller Desinformation verlieren, zeigt Norwegen einen erfolgreichen Gegenentwurf. Der Zeitungskonzern Amedia (120 Zeitungen), dessen zahlende Leserschaft zu 75% über 70 Jahre alt ist, startete eine radikale Maßnahme: ein landesweites Gratis-Digitalabo für alle unter 21 Jahren. Projektleiterin Marte Ingul begründet dies als Kampf gegen "zynische Plattformen" und als Dienst an der Demokratie.

Der Erfolg nach sechs Monaten ist groß: 66.000 neue junge Nutzer:innen (15-20 J.), davon über die Hälfte männlich – eine Gruppe, die sonst als medienkritisch gilt. Parallel wird KI als Effizienz-Tool im Newsroom eingesetzt: Die Lokalzeitung "iTromsø" nutzt KI, um 12.000 Behördendokumente pro Monat zu scannen, was die Recherchezeit von 1,5 Stunden auf 10 Minuten senkt. Dies führte zu 15% mehr Digitalabos und Journalismuspreisen. Auch Amedia nutzt KI zur Recherche und Datenanalyse, um die journalistische Qualität zu sichern.

Forscher warnen, dass WLAN-Signale, verstärkt durch Künstliche Intelligenz, zu einer mächtigen Überwachungstechnik werden. Der Karlsruher Professor Thomas Strufe erklärt, die Gefahr sei nicht das Abfangen von Daten, sondern die Identifizierung anonymer Personen durch ihre Bewegungsmuster – selbst wenn diese kein Smartphone bei sich tragen. Ein "digitaler Fingerabdruck", z.B. die individuelle Gangart, könne erstellt und mit anderen Daten (Kameras, Geräte-IDs) kombiniert werden, um lückenlose Bewegungsprofile zu erstellen, selbst durch Wände hindurch.

In einem Experiment am KIT gelang es Strufes Team, 197 Testpersonen allein durch ihre Bewegungsmuster im WLAN mittels KI mit über 99%iger Wahrscheinlichkeit wiederzuerkennen. Die Technik (Beamforming) nutzt unverschlüsselte Diagnosedaten, die Router und Geräte ständig austauschen.

Kommerzielle Anwendungen gibt es bereits: Die Sicherheitsfirma Verisure nutzt "Wi-Fi Vision" zur Erkennung von Eindringlingen in kameratoten Winkeln wie Schlafzimmern. Die Telekom plant "Wi-Fi Sensing" in Routern zu integrieren. Die Technologie ist so präzise, dass sie Puls und Atmung messen kann. Das US-Start-up Wayvee Analytics will damit in Supermärkten die "Kaufbereitschaft" von Kund:innen durch die Messung emotionaler Erregung (Herzschlag) analysieren; Kaufland ist interessiert.

Datenschützerin Meike Kamp warnt, dass eine Anonymisierung "eine aufwendige Aufgabe" sei. Strufe warnt vor einer Integration in 6G, die eine ständige Erfassung des öffentlichen Raums ermöglichen könnte.

Brian Merchants Artikel beleuchtet die Übersetzungsbranche, die laut einer Microsoft-Studie als "einzigartig verwundbar" durch KI gilt. Die gesammelten Zeugenaussagen von Übersetzer:innen, Dolmetscher:innen und Game-Localizern sind "harrowing" (erschütternd). Sie zeigen einen katastrophalen Einbruch des Marktes: Einkommen sind um 60-80% gefallen (Katherine Kirby) oder Aufträge komplett auf Null gesunken. Die Raten sind kollabiert (z.B. von 0,04€ auf 0,02€ pro Wort).

Ein zentrales Ergebnis der Berichte (u.a. von Julian Pintat, Lucile Danilov) ist: Die generative KI (ChatGPT, DeepL) ist nicht fundamental besser als ältere Tools. Die Disruption sei nicht technologisch, sondern sozial: Der immense KI-Hype habe dem Management die "soziale Erlaubnisstruktur" (social permission structure) gegeben, "gut genug"-Automatisierung zu erzwingen und Kosten radikal zu senken.

Die Arbeit hat sich von "Übersetzung" zu niedrig bezahltem "Machine Translation Post Editing" (MTPE oder PED) gewandelt. Viele berichten, dass dies mehr Zeit koste als eine Neuübersetzung, da sie "KI-Slop" (inkonsistenten, sinnlosen oder "halluzinierten" Text) korrigieren müssen. Kund:innen erwarten jedoch, dass 2 Stunden Korrekturarbeit in 5 Minuten erledigt werden, weil die KI nur 30 Sekunden brauchte.

Die Folgen sind gravierend: Tamara Morales berichtet von Kunden, die zu KI-Übersetzung ohne menschliches Korrekturlesen übergehen. Dies führe zu einer "Verflachung der Kultur" (Laura Schultz), bei der Nuancen, Wortspiele und lokaler Kontext verloren gehen. Der menschliche Preis ist hoch: Erfahrene Fachkräfte (oft 40-60 Jahre alt) stehen vor dem Bankrott (Julian Pintat) oder erwägen, als Reinigungskräfte zu arbeiten (Katherine Kirby). Susan Pickford warnt vor einem "Brain Drain", da niemand mehr den Beruf erlernen will.

Die Einführung von Künstlicher Intelligenz (KI) im öffentlichen Sektor verspricht Effizienz und Hilfe gegen Fachkräftemangel. Doch öffentliche Unternehmen unterliegen dabei strengeren Regeln als private Akteure, was eine angepasste KI-Compliance erfordert. Neben der EU-KI-Verordnung (in Kraft seit 01.08.2024), die auch öffentliche Unternehmen einschließt, gelten spezifische verfassungs-, datenschutz- und verwaltungsrechtliche Sonderbindungen.

Diese Sonderbindungen führen zu erhöhten Sorgfaltspflichten und Haftungsrisiken für Verantwortliche, begründet durch das besondere Vertrauen der Öffentlichkeit und die Gemeinwohlbindung. Ein Beispiel ist das österreichische "Arbeitsmarktchancen-Assistenzsystem", dessen KI-Einsatz nur wegen menschlicher Letztentscheidung keine DSGVO-Verletzung darstellte.

Die relevantesten Sonderbindungen sind:

• Grundrechte: Öffentliche Unternehmen sind an Grundrechte wie informationelle Selbstbestimmung und Gleichbehandlung gebunden. KI muss Diskriminierungen (Machine Biases) vermeiden.
• Rechtsstaatlichkeit: Erfordert Nachvollziehbarkeit und Erklärbarkeit staatlichen Handelns, auch bei KI-Entscheidungen, um "Black-Box"-Probleme zu vermeiden.
• Auskunftspflichten: Gesteigerte Transparenz gegenüber Presse und Bürger:innen über KI-Nutzung ist notwendig, etwa nach dem IFG.
• Datenverarbeitung & Datenschutz (Art. 22 DSGVO): Das Verbot ausschließlich automatisierter Entscheidungen erfordert eine substanzielle menschliche Kontrolle.

Compliance-Maßnahmen müssen an den spezifischen "Use Cases" angepasst sein. Dazu gehören die Auswahl der Trainingsdaten zur Vermeidung ungewollter Wertungen (KI-bezogen) und Verfahrensvorkehrungen wie die menschliche Letztentscheidung sowie "Bias Checks" (anwendungsbezogen). Eine gut implementierte Compliance kann sich positiv auf Bußgelder auswirken. Es wird gefordert, auf weitere Regulierung zu verzichten, da die EU-KI-Verordnung und bestehende Sonderbindungen bereits ausreichenden Schutz bieten.

Während Führungskräfte wie Amazons Beth Galetti (die 14.000 Jobs streicht) durch KI immense Produktivitätssteigerungen erhoffen, zeigt sich eine Kehrseite: KI bedroht nicht nur Jobs, sondern auch die Arbeitszufriedenheit der Angestellten, oft noch bevor es zur Kündigung kommt.

Sozialpsychologin Anja Chevalier warnt, dass der Einsatz von KI oft zu neuen Belastungen und höherem Stress führt. Eine Upwork-Studie (2.500 Teilnehmer:innen in USA, GB, AUS, CAN) bestätigt dies: 96 % der Führungskräfte erwarten Produktivitätssteigerung, aber 77 % der Arbeitnehmer:innen fühlen sich durch KI unproduktiver und gestresster.

Gründe dafür sind:

1. Zeitaufwand für Qualitätsprüfung: Das Überprüfen und Korrigieren von KI-generierten Informationen ("Workslop") braucht viel Zeit.

2. Lernkurve: Angestellte müssen sich erst mit den neuen Tools vertraut machen.

3. Kontrollverlust: Die Autonomie geht verloren, wenn KI Entscheidungsprozesse übernimmt. Dies widerspricht Hackman und Oldhams Studie von 1976, die Autonomie und Entscheidungsspielraum als Motivationsfaktoren hervorhebt.

4. Verlust an Ganzheitlichkeit & Vielfalt: Wenn KI Aufgaben übernimmt, bröckelt das Gesamtwerk eines Jobs, und weniger unterschiedliche Kompetenzen werden gefordert, was die Motivation mindert.

Die optimale Produktivität sei die, die lange anhält, so Chevalier. Tristan Eckert vom BPM bestätigt die schnelle Entwicklung von KI, sieht aber auch, dass Unternehmen vermehrt Trainings (Prompting, Datenschutz, Qualitätsprüfung) und KI-Guidelines anbieten. Er betont, dass Angestellte Raum für Experimente und Fehlern lernen brauchen, denn: "KI ist ein präziser Assistent, aber die Verantwortung bleibt menschlich."

Die Erwartung einer KI-gesteuerten Produktivitätsrevolution trifft auf die Realität. Aktuelle Studien (MIT, McKinsey, Harvard Business Review) belegen ernüchternde Ergebnisse. Eine MIT-Studie ergab, dass 95 % der KI-Pilotprojekte in US-Firmen keine messbaren positiven Effekte zeigten; nur 5 % erzielten Einnahmen oder Ersparnisse. Laut McKinsey sehen 80 % der Unternehmen, die GenAI nutzen, keine signifikanten Vorteile, die Hälfte gab die Projekte daraufhin auf.

Ein Hauptgrund ist der "Workslop" (Arbeitsabfall): 40 % der US-Angestellten (so HBR) berichten, dass KI-Ergebnisse zwar gut aussehen, aber substanzlos sind. Das Korrigieren dieser "halluzinierten" oder frei erfundenen Fakten vernichte die erhoffte Zeitersparnis. Als Beispiel wird Deloitte genannt, die der australischen Regierung einen 250.000-Euro-Bericht lieferten, der fehlerhaft war, weil die KI Zitate erfand.

Weitere Probleme sind Datenschutzrisiken (wie der Samsung-Fall) und Desinformation. Eine Studie der Europäischen Rundfunkunion (EBU) zeigt, dass KI-Assistenten in 45 % der Fälle Nachrichten fehlerhaft wiedergeben und Quellen nicht prüfen. Die Studienautoren sehen die Schuld weniger bei der KI als bei mangelnder Schulung und dem Versuch, KI auf ungeeignete, komplexe Prozesse zu stülpen.

Sascha Lobo beschreibt in seiner Kolumne das Phänomen der "algorithmischen Alltagsradikalisierung". Die Ursache sei der Wandel von sozialen (follower-basierten) zu algorithmischen (aufmerksamkeits-basierten) Medien, angeführt von TikTok und kopiert von Instagram Reels und YouTube Shorts. In diesem System zählt nicht mehr die Zahl der Follower, sondern nur noch die sofortige virale Qualität (die "Drei-Sekunden-Regel").

Dies habe zwei zentrale Folgen:

1. Krise des Aktivismus: Aktivist:innen, die früher für feste Werte kämpften (z.B. Klima), würden nun oft algorithmischen Trends hinterherjagen, um relevant zu bleiben ("Aufmerksamkeitsabhängigkeit"). Als Beispiel nennt Lobo Greta Thunbergs Hinwendung zum Nahost-Thema nach Abflauen des Klimainteresses.

2. Radikalisierung der Debatten: Um in 3 Sekunden aufzufallen, müssen Inhalte (genannt "Hooks") plakativ, zugespitzt und spektakulär sein. Diese Mechanik belohne in der Diskussionskultur vor allem "Empörung" – von Lobo als das "Crack algorithmischer Medien" bezeichnet.

Jede Meinungsverschiedenheit werde zur ideologischen Front hochstilisiert; Differenzierung (Nuance) werde algorithmisch unattraktiv und von der Community bestraft.

Lobo warnt, dass dies die Demokratie gefährde. Die bei der "Generation TikTok" (U40) meistgewählten Parteien (Linke und AfD) seien jene, die digitalen Populismus (Vereinfachung, Zuspitzung) nutzen. Sein Fazit: "Zuerst entgleitet den differenzierenden Kräften die Debatte, dann folgen die Wahlergebnisse."

1. LLMs in Klinik und Ausbildung (Dr. Jonas Roos, Bonn): Die Zahl der KI-Publikationen hat sich seit 2010 verzehnfacht. In O & U werden LLMs wie ChatGPT für die Ausbildung (z.B. Erstellung interaktiver Fallstudien) und als klinische Unterstützung genutzt (z.B. Hilfe bei Differenzialdiagnosen, "Übersetzung" radiologischer Befunde). Auch ChatGPT-Vision (Bildanalyse) wird erforscht. Dr. Roos warnte jedoch eindringlich vor Halluzinationen und Fehlern: In 66 von 68 Studien wurden fehlerhafte Antworten gefunden. Sein Fazit: Eine fortschreitende Einbindung ist sinnvoll, aber eine generelle Einbindung in den Arbeitsalltag ist noch nicht möglich.

2. KI in der Sprechstundendokumentation (Dr. Tom Jansen, Köln): Ärzt:innen verbringen laut Jansen 61 Tage pro Jahr mit Dokumentation, ohne dass IT bisher Produktivität gebracht hätte ("Turning Point"). Er stellte eine KI-Software vor, die (mit Patientenzustimmung) das Sprechstundengespräch aufzeichnet, medizinisch relevante Inhalte extrahiert und automatisch Dokumentationen, Befundberichte oder Formulare (z.B. Rezepte, Überweisungen) erstellt. Eine Studie belegte eine Zeitersparnis von rund 30 %.

3. Der Patienten-Chatbot "OrthoChat" (Dr. Baur & Dr. Völker, Leipzig): Da Patienten oft unzuverlässige Antworten von ChatGPT erhalten, hat der Berufsverband (BVOU) einen eigenen Chatbot entwickelt. Der "OrthoChat" generiert seine Antworten ausschließlich aus den kuratierten, verlässlichen Inhalten der Website OrthInform. Der Bot wurde positiv validiert (außer bei der Antwortzeit) und dient als Hilfe zur Inhaltssuche, ersetzt aber nicht die ärztliche Beratung.

Eine Analyse von Bernstein Analytics zeigt, welche Medien am häufigsten von KI-Sprachmodellen (ChatGPT, Gemini, Perplexity, Grok) als Quellen für deutsche Themen genutzt werden. Die Top 3 der Nachrichtenmedien sind tagesschau.de, spiegel.de und fr.de.

Die Studie identifizierte jedoch, dass deutschsprachige Nachrichtenmedien insgesamt nur 26 % (etwa ein Viertel) aller herangezogenen Quellen ausmachen. Perplexity nutzt Nachrichtenquellen am häufigsten (32 %), Gemini am seltensten (16 %).

Die Untersuchung (basierend auf 3.000 Prompts) offenbarte zudem starke Unterschiede zwischen den Modellen:

• tagesschau.de: Wird von Grok (in 98 % der Prompts) und Perplexity stark bevorzugt.
• Gemini (Google): Nutzt tagesschau.de gar nicht, zitiert stattdessen ZDF und Deutschlandfunk.
• Grok (xAI): Nannte in fast einem Drittel der Antworten die Plattform X als Quelle.
• Politische Tendenz: ChatGPT griff doppelt so oft auf konservativ eingeordnete Medien zurück (36 % vs. 18 % linksliberal). Gemini und Perplexity zeigten eine linksliberale Tendenz. Grok war am ausgeglichensten.

Unternehmen, die voreilig Personal zugunsten von KI-Implementierungen abgebaut haben, besetzen diese Stellen oft stillschweigend wieder. Das berichtet The Register unter Berufung auf eine Analyse von Forrester.

Dies betrifft etwa die Hälfte der zuvor eingesparten Stellen. Die Neubesetzungen finden jedoch häufig im Ausland oder zu niedrigeren Löhnen statt.

Der Grund für die Kehrtwende:

• Viele KI-Einsätze führen zu "spektakulären Fehlern" und scheitern.
• In anderen Fällen ersetzt KI die menschlichen Arbeitskräfte gar nicht.
• Die Entlassungen basierten oft nur auf den Zukunftsaussichten von KI, nicht auf der Realität.

Bereits 55 Prozent der Arbeitgeber sollen es bereuen, Mitarbeiter:innen wegen der erhofften KI-Einsparungen entlassen zu haben. Eine Mehrheit (57 Prozent) der für KI verantwortlichen Manager:innen erwartet für 2026 sogar einen Anstieg der Mitarbeiterzahl.

Eine Ausnahme wird im Personalwesen (HR) gesehen, wo KI-Systeme (z.B. im Bewerbermanagement) menschliche Angestellte eher ersetzen könnten.

Die Analyse warnt, dass viele Unternehmen KI-Produkte nur anschaffen werden, um den Anschein von KI-Bereitschaft zu erwecken, auch wenn sie echte Technologie nicht von "Vaporware" (leeren Versprechungen) unterscheiden können. Ein Bericht von Gartner stützt dies: Dort wird erwartet, dass bis Ende 2027 bis zu 40 Prozent der KI-Projekte in Unternehmen wieder eingestellt werden.