EBU-Studie: Jede dritte KI-Antwort auf Nachrichtenfragen ist fehlerhaft oder erfindet Quellen

Die Einführung von Künstlicher Intelligenz (KI) im öffentlichen Sektor verspricht Effizienz und Hilfe gegen Fachkräftemangel. Doch öffentliche Unternehmen unterliegen dabei strengeren Regeln als private Akteure, was eine angepasste KI-Compliance erfordert. Neben der EU-KI-Verordnung (in Kraft seit 01.08.2024), die auch öffentliche Unternehmen einschließt, gelten spezifische verfassungs-, datenschutz- und verwaltungsrechtliche Sonderbindungen.

Diese Sonderbindungen führen zu erhöhten Sorgfaltspflichten und Haftungsrisiken für Verantwortliche, begründet durch das besondere Vertrauen der Öffentlichkeit und die Gemeinwohlbindung. Ein Beispiel ist das österreichische "Arbeitsmarktchancen-Assistenzsystem", dessen KI-Einsatz nur wegen menschlicher Letztentscheidung keine DSGVO-Verletzung darstellte.

Die relevantesten Sonderbindungen sind:

• Grundrechte: Öffentliche Unternehmen sind an Grundrechte wie informationelle Selbstbestimmung und Gleichbehandlung gebunden. KI muss Diskriminierungen (Machine Biases) vermeiden.
• Rechtsstaatlichkeit: Erfordert Nachvollziehbarkeit und Erklärbarkeit staatlichen Handelns, auch bei KI-Entscheidungen, um "Black-Box"-Probleme zu vermeiden.
• Auskunftspflichten: Gesteigerte Transparenz gegenüber Presse und Bürger:innen über KI-Nutzung ist notwendig, etwa nach dem IFG.
• Datenverarbeitung & Datenschutz (Art. 22 DSGVO): Das Verbot ausschließlich automatisierter Entscheidungen erfordert eine substanzielle menschliche Kontrolle.

Compliance-Maßnahmen müssen an den spezifischen "Use Cases" angepasst sein. Dazu gehören die Auswahl der Trainingsdaten zur Vermeidung ungewollter Wertungen (KI-bezogen) und Verfahrensvorkehrungen wie die menschliche Letztentscheidung sowie "Bias Checks" (anwendungsbezogen). Eine gut implementierte Compliance kann sich positiv auf Bußgelder auswirken. Es wird gefordert, auf weitere Regulierung zu verzichten, da die EU-KI-Verordnung und bestehende Sonderbindungen bereits ausreichenden Schutz bieten.

Während Führungskräfte wie Amazons Beth Galetti (die 14.000 Jobs streicht) durch KI immense Produktivitätssteigerungen erhoffen, zeigt sich eine Kehrseite: KI bedroht nicht nur Jobs, sondern auch die Arbeitszufriedenheit der Angestellten, oft noch bevor es zur Kündigung kommt.

Sozialpsychologin Anja Chevalier warnt, dass der Einsatz von KI oft zu neuen Belastungen und höherem Stress führt. Eine Upwork-Studie (2.500 Teilnehmer:innen in USA, GB, AUS, CAN) bestätigt dies: 96 % der Führungskräfte erwarten Produktivitätssteigerung, aber 77 % der Arbeitnehmer:innen fühlen sich durch KI unproduktiver und gestresster.

Gründe dafür sind:

1. Zeitaufwand für Qualitätsprüfung: Das Überprüfen und Korrigieren von KI-generierten Informationen ("Workslop") braucht viel Zeit.

2. Lernkurve: Angestellte müssen sich erst mit den neuen Tools vertraut machen.

3. Kontrollverlust: Die Autonomie geht verloren, wenn KI Entscheidungsprozesse übernimmt. Dies widerspricht Hackman und Oldhams Studie von 1976, die Autonomie und Entscheidungsspielraum als Motivationsfaktoren hervorhebt.

4. Verlust an Ganzheitlichkeit & Vielfalt: Wenn KI Aufgaben übernimmt, bröckelt das Gesamtwerk eines Jobs, und weniger unterschiedliche Kompetenzen werden gefordert, was die Motivation mindert.

Die optimale Produktivität sei die, die lange anhält, so Chevalier. Tristan Eckert vom BPM bestätigt die schnelle Entwicklung von KI, sieht aber auch, dass Unternehmen vermehrt Trainings (Prompting, Datenschutz, Qualitätsprüfung) und KI-Guidelines anbieten. Er betont, dass Angestellte Raum für Experimente und Fehlern lernen brauchen, denn: "KI ist ein präziser Assistent, aber die Verantwortung bleibt menschlich."

Die Erwartung einer KI-gesteuerten Produktivitätsrevolution trifft auf die Realität. Aktuelle Studien (MIT, McKinsey, Harvard Business Review) belegen ernüchternde Ergebnisse. Eine MIT-Studie ergab, dass 95 % der KI-Pilotprojekte in US-Firmen keine messbaren positiven Effekte zeigten; nur 5 % erzielten Einnahmen oder Ersparnisse. Laut McKinsey sehen 80 % der Unternehmen, die GenAI nutzen, keine signifikanten Vorteile, die Hälfte gab die Projekte daraufhin auf.

Ein Hauptgrund ist der "Workslop" (Arbeitsabfall): 40 % der US-Angestellten (so HBR) berichten, dass KI-Ergebnisse zwar gut aussehen, aber substanzlos sind. Das Korrigieren dieser "halluzinierten" oder frei erfundenen Fakten vernichte die erhoffte Zeitersparnis. Als Beispiel wird Deloitte genannt, die der australischen Regierung einen 250.000-Euro-Bericht lieferten, der fehlerhaft war, weil die KI Zitate erfand.

Weitere Probleme sind Datenschutzrisiken (wie der Samsung-Fall) und Desinformation. Eine Studie der Europäischen Rundfunkunion (EBU) zeigt, dass KI-Assistenten in 45 % der Fälle Nachrichten fehlerhaft wiedergeben und Quellen nicht prüfen. Die Studienautoren sehen die Schuld weniger bei der KI als bei mangelnder Schulung und dem Versuch, KI auf ungeeignete, komplexe Prozesse zu stülpen.

Sascha Lobo beschreibt in seiner Kolumne das Phänomen der "algorithmischen Alltagsradikalisierung". Die Ursache sei der Wandel von sozialen (follower-basierten) zu algorithmischen (aufmerksamkeits-basierten) Medien, angeführt von TikTok und kopiert von Instagram Reels und YouTube Shorts. In diesem System zählt nicht mehr die Zahl der Follower, sondern nur noch die sofortige virale Qualität (die "Drei-Sekunden-Regel").

Dies habe zwei zentrale Folgen:

1. Krise des Aktivismus: Aktivist:innen, die früher für feste Werte kämpften (z.B. Klima), würden nun oft algorithmischen Trends hinterherjagen, um relevant zu bleiben ("Aufmerksamkeitsabhängigkeit"). Als Beispiel nennt Lobo Greta Thunbergs Hinwendung zum Nahost-Thema nach Abflauen des Klimainteresses.

2. Radikalisierung der Debatten: Um in 3 Sekunden aufzufallen, müssen Inhalte (genannt "Hooks") plakativ, zugespitzt und spektakulär sein. Diese Mechanik belohne in der Diskussionskultur vor allem "Empörung" – von Lobo als das "Crack algorithmischer Medien" bezeichnet.

Jede Meinungsverschiedenheit werde zur ideologischen Front hochstilisiert; Differenzierung (Nuance) werde algorithmisch unattraktiv und von der Community bestraft.

Lobo warnt, dass dies die Demokratie gefährde. Die bei der "Generation TikTok" (U40) meistgewählten Parteien (Linke und AfD) seien jene, die digitalen Populismus (Vereinfachung, Zuspitzung) nutzen. Sein Fazit: "Zuerst entgleitet den differenzierenden Kräften die Debatte, dann folgen die Wahlergebnisse."

1. LLMs in Klinik und Ausbildung (Dr. Jonas Roos, Bonn): Die Zahl der KI-Publikationen hat sich seit 2010 verzehnfacht. In O & U werden LLMs wie ChatGPT für die Ausbildung (z.B. Erstellung interaktiver Fallstudien) und als klinische Unterstützung genutzt (z.B. Hilfe bei Differenzialdiagnosen, "Übersetzung" radiologischer Befunde). Auch ChatGPT-Vision (Bildanalyse) wird erforscht. Dr. Roos warnte jedoch eindringlich vor Halluzinationen und Fehlern: In 66 von 68 Studien wurden fehlerhafte Antworten gefunden. Sein Fazit: Eine fortschreitende Einbindung ist sinnvoll, aber eine generelle Einbindung in den Arbeitsalltag ist noch nicht möglich.

2. KI in der Sprechstundendokumentation (Dr. Tom Jansen, Köln): Ärzt:innen verbringen laut Jansen 61 Tage pro Jahr mit Dokumentation, ohne dass IT bisher Produktivität gebracht hätte ("Turning Point"). Er stellte eine KI-Software vor, die (mit Patientenzustimmung) das Sprechstundengespräch aufzeichnet, medizinisch relevante Inhalte extrahiert und automatisch Dokumentationen, Befundberichte oder Formulare (z.B. Rezepte, Überweisungen) erstellt. Eine Studie belegte eine Zeitersparnis von rund 30 %.

3. Der Patienten-Chatbot "OrthoChat" (Dr. Baur & Dr. Völker, Leipzig): Da Patienten oft unzuverlässige Antworten von ChatGPT erhalten, hat der Berufsverband (BVOU) einen eigenen Chatbot entwickelt. Der "OrthoChat" generiert seine Antworten ausschließlich aus den kuratierten, verlässlichen Inhalten der Website OrthInform. Der Bot wurde positiv validiert (außer bei der Antwortzeit) und dient als Hilfe zur Inhaltssuche, ersetzt aber nicht die ärztliche Beratung.

Eine Analyse von Bernstein Analytics zeigt, welche Medien am häufigsten von KI-Sprachmodellen (ChatGPT, Gemini, Perplexity, Grok) als Quellen für deutsche Themen genutzt werden. Die Top 3 der Nachrichtenmedien sind tagesschau.de, spiegel.de und fr.de.

Die Studie identifizierte jedoch, dass deutschsprachige Nachrichtenmedien insgesamt nur 26 % (etwa ein Viertel) aller herangezogenen Quellen ausmachen. Perplexity nutzt Nachrichtenquellen am häufigsten (32 %), Gemini am seltensten (16 %).

Die Untersuchung (basierend auf 3.000 Prompts) offenbarte zudem starke Unterschiede zwischen den Modellen:

• tagesschau.de: Wird von Grok (in 98 % der Prompts) und Perplexity stark bevorzugt.
• Gemini (Google): Nutzt tagesschau.de gar nicht, zitiert stattdessen ZDF und Deutschlandfunk.
• Grok (xAI): Nannte in fast einem Drittel der Antworten die Plattform X als Quelle.
• Politische Tendenz: ChatGPT griff doppelt so oft auf konservativ eingeordnete Medien zurück (36 % vs. 18 % linksliberal). Gemini und Perplexity zeigten eine linksliberale Tendenz. Grok war am ausgeglichensten.

Unternehmen, die voreilig Personal zugunsten von KI-Implementierungen abgebaut haben, besetzen diese Stellen oft stillschweigend wieder. Das berichtet The Register unter Berufung auf eine Analyse von Forrester.

Dies betrifft etwa die Hälfte der zuvor eingesparten Stellen. Die Neubesetzungen finden jedoch häufig im Ausland oder zu niedrigeren Löhnen statt.

Der Grund für die Kehrtwende:

• Viele KI-Einsätze führen zu "spektakulären Fehlern" und scheitern.
• In anderen Fällen ersetzt KI die menschlichen Arbeitskräfte gar nicht.
• Die Entlassungen basierten oft nur auf den Zukunftsaussichten von KI, nicht auf der Realität.

Bereits 55 Prozent der Arbeitgeber sollen es bereuen, Mitarbeiter:innen wegen der erhofften KI-Einsparungen entlassen zu haben. Eine Mehrheit (57 Prozent) der für KI verantwortlichen Manager:innen erwartet für 2026 sogar einen Anstieg der Mitarbeiterzahl.

Eine Ausnahme wird im Personalwesen (HR) gesehen, wo KI-Systeme (z.B. im Bewerbermanagement) menschliche Angestellte eher ersetzen könnten.

Die Analyse warnt, dass viele Unternehmen KI-Produkte nur anschaffen werden, um den Anschein von KI-Bereitschaft zu erwecken, auch wenn sie echte Technologie nicht von "Vaporware" (leeren Versprechungen) unterscheiden können. Ein Bericht von Gartner stützt dies: Dort wird erwartet, dass bis Ende 2027 bis zu 40 Prozent der KI-Projekte in Unternehmen wieder eingestellt werden.

Eine aktuelle Umfrage (Sinus-Jugendstudie) im Auftrag der Barmer zeigt, dass die Sorge junger Menschen (14-17 Jahre) vor den Auswirkungen der KI auf den Arbeitsmarkt zunimmt. Die Befragung fand im Herbst 2024 statt.

Das Kernergebnis: 22 Prozent der Jugendlichen sehen ihre berufliche Zukunft durch KI-Tools gefährdet. Das ist ein deutlicher Anstieg im Vergleich zum Vorjahr (17 Prozent).

Diese Sorge ist in technischen Branchen teils höher:

• Elektrotechnik: 27 % der Befragten mit diesem Berufswunsch haben Angst vor den Auswirkungen.
• Produktion: 24 %
• IT: 23 %

Gleichzeitig zeigt die Studie: Die überwältigende Mehrheit (69 Prozent) der Jugendlichen sieht aktuell noch keine oder nur wenig Gefahr durch KI für ihre berufliche Zukunft.

Die Studienverantwortlichen weisen jedoch darauf hin, dass dieser Mangel an Sorge auch daran liegen könnte, dass viele Jugendliche noch keine genaue Vorstellung von den (negativen) Einflüssen der KI haben oder das Gefahrenpotenzial aus "Selbstschutz" geringer einschätzen.

Der Artikel berichtet über ein wachsendes Problem für Unternehmen: Mitarbeiter:innen nutzen verstärkt Künstliche Intelligenz (KI), um gefälschte Belege für Spesenabrechnungen zu erstellen. Dienstleister, die diese Abrechnungen bearbeiten, melden eine Zunahme solcher Betrugsfälle.

Ausmaß des Problems:

• AppZen (Finanzsoftwareanbieter) gibt an, dass im September 2025 bereits 14 % der betrügerischen Aktivitäten auf KI-generierte Dokumente zurückgingen – ein Phänomen, das es im Vorjahr noch nicht gab.
• Das Fintech-Unternehmen Ramp entdeckte innerhalb von 90 Tagen gefälschte Belege im Wert von über einer Million US-Dollar.
• Der Anstieg wird teilweise auf die verbesserten Bildgenerierungsfähigkeiten von KI-Modellen wie OpenAIs GPT-4o (seit März 2025) zurückgeführt.

Warum es einfacher wird:

• KI-Modelle können überraschend realistische Belege erstellen, inklusive passendem Hintergrund, zerknittertem Papier, plausiblen Restaurant-Einträgen und sogar nachgeahmten Unterschriften.
• Mitarbeiter:innen benötigen dafür keine Kenntnisse in Bildbearbeitungsprogrammen wie Photoshop mehr, sondern nur Zugang zu den KI-Tools.
• Die Fälschungen sind laut SAP Concur so gut geworden, dass man seinen Augen kaum noch trauen kann.

Die Lösung: KI gegen KI:

• Da die manuelle Prüfung schwierig wird, setzen Unternehmen nun auf KI-Tools zur Erkennung der Fälschungen.
• Diese Tools analysieren Metadaten der eingereichten Bilder (obwohl dies umgangen werden kann, z.B. durch Abfotografieren).
• Fortgeschrittenere KI-Systeme analysieren Inhalte auf Muster (z.B. wiederholte Kellnernamen oder Zeiten) und gleichen Belege mit Firmendaten (z.B. Reisedaten) ab.
• Der Vorteil: KI kann Details mit konstant hoher Aufmerksamkeit prüfen, wo menschliche Prüfer:innen ermüden.

Eine Analyse von rund 60 Millionen Online-Stellenanzeigen (Jobmonitor der Bertelsmann Stiftung und IW) zeigt, dass der erwartete Boom bei KI-Jobs in Deutschland ausbleibt.

Wichtigste Ergebnisse:

• Stagnation statt Wachstum: Zwar verdoppelte sich die Zahl der KI-Stellenanzeigen zwischen 2019 und 2022 (von 97.000 auf 180.000), ihr Anteil am Gesamtmarkt betrug aber nur 1,5 %. Seit 2022 stagniert dieser Anteil, die absolute Zahl war sogar leicht rückläufig und folgte dem allgemeinen Trend der wirtschaftlichen Schwäche. Zum Vergleich: Stellen im Bereich Energiewende stiegen auf 3,8 %.
• Wettbewerbsfähigkeit gefährdet: Hannes Ametsreiter (Vorstandsvorsitzender der Bertelsmann Stiftung) warnt, dass die wirtschaftlichen Chancen von KI nicht genutzt werden und Deutschland an internationaler Wettbewerbsfähigkeit verliert.
• Unternehmen sehen sich als Nachzügler: Viele Firmen (64 % laut Bitkom) sehen sich bei KI eher als Nachzügler, fast drei Viertel geben Wissenslücken an.
• Qualifizierung ungenutzt: Nur jedes fünfte Unternehmen schult den Großteil der Beschäftigten im Umgang mit KI, fast die Hälfte bietet gar keine Schulungen an. Das fehlende Wissen wird auch nicht durch Neueinstellungen kompensiert, wie der Jobmonitor zeigt.
• Regionale Unterschiede: Ein KI-Schwerpunkt liegt im Süden/Südwesten (Automobilindustrie) sowie Rhein-Ruhr und Berlin. München ist KI-Hauptstadt (4,5 % KI-Stellen). Der ländliche Raum ist abgehängt (fehlende Glasfaserinfrastruktur wird als Grund genannt). In der Hälfte aller Kreise findet KI am Jobmarkt kaum statt.
• Entwickler:innen statt Anwender:innen gesucht: Unternehmen suchen primär hochqualifizierte KI-Entwickler:innen (Spezialist:innen für Machine Learning, LLMs), nicht Anwender:innen. Dies deutet darauf hin, dass KI noch nicht im Arbeitsalltag angekommen ist. Top-Berufe sind Informatiker:innen und Software-Entwickler:innen.