Studie über die Qualität KI-generierter Nachrichten
Offenbar sind KI-generierte Antworten fehleranfällig. Am 22. Oktober 2025 veröffentlichte die Europäische Rundfunkunion (EBU) die Studie „News Integrity in AI-Assistants“, die unter der Federführung der BBC erstellt wurde und an der 22 öffentlich-rechtliche Sender aus 18 Ländern beteiligt waren.
Die Studie weist aus, dass 45 % der KI-Nachrichteninhalte fehlerhaft sind. Sie weisen mindestens einen erheblichen Fehler auf. Die Sender sind an einer hohen Qualität auch der über KI erstellten Nachrichten interessiert.
Warum macht KI eigentlich Fehler?
- KI-Sprachmodelle verfügen über kein eigenes Wissen. „Wahr“ und „unwahr“ sind für KI-Modelle keine validen Kriterien; vielmehr lernen sie aus riesigen Textmengen, speichern aber lediglich Wahrscheinlichkeiten, die zu falschen Aussagen führen können.
- KI-Sprachmodelle greifen auf unvollständige, teilweise veraltete Trainingsdaten zu, die zu überholten Aussagen führen können.
- KI-Modelle können nicht zugeben, wenn sie etwas nicht wissen. Halluzinieren wird sogar honoriert. So erfindet die KI mitunter nicht nur Aussagen, sondern auch Quellenangaben. Unsicherheit wird leider nicht sichtbar gemacht.
Wie schützt sich consultingcheck gegen Fehler?
consultingcheck nutzt KI. Statt sich allein nur auf Training zu verlassen, setzt consultingcheck darauf, ausschließlich in vertrauenswürdigen Quellen nach Informationen zu suchen. Das bei consultingcheck eingesetzte KI-Modell nutzt allein die bei consultingcheck hinterlegten Informationen, die einem Faktencheck unterliegen. Externe Daten werden nicht einbezogen.
Bleiben Sie kritisch!
Übrigens wurden in der Studie über 3.000 KI-Antworten der KI-Assistenten ChatGPT, Copilot, Gemini und Perplexity von Journalistinnen und Journalisten anhand von Kriterien wie Genauigkeit, Quellenangaben, Unterscheidung zwischen Meinung und Fakten sowie Bereitstellung von Kontext, geprüft. Die Untersuchung baut auf einer BBC-Studie vom Februar 2025 auf.