ChatGPT-Quellen prüfen: 7 Schritte gegen erfundene Literaturangaben

Warum ChatGPT Quellen erfinden kann

Eine erfundene Literaturangabe fällt oft gerade deshalb nicht sofort auf, weil sie plausibel aussieht. Autorinnen oder Autoren wirken realistisch, der Titel passt perfekt zum Thema, der Journalname klingt wissenschaftlich und sogar DOI oder Seitenzahlen können überzeugend formatiert sein.

Ein Sprachmodell erzeugt Text auf Grundlage statistischer Muster. Wenn du nach wissenschaftlicher Literatur fragst, kann es deshalb eine Literaturangabe produzieren, die dem typischen Aufbau einer echten Referenz sehr ähnlich sieht, ohne dass genau diese Kombination aus Titel, Autor:innen, Jahr, Journal und DOI tatsächlich existiert.

OpenAI beschreibt Halluzinationen als plausibel klingende, aber falsche Aussagen und nennt ausdrücklich erfundene Studien, Zitate und Quellenangaben als mögliches Fehlerbild. Die Universität Wien warnt ebenfalls davor, generative Chatbots wie ChatGPT als normale Literaturrecherchetools zu verwenden, weil solche Systeme Quellen erfinden können und die kritische Auseinandersetzung mit der Originalquelle nicht ersetzen.

Das bedeutet nicht, dass KI für Recherche völlig nutzlos ist. Sie kann dir zum Beispiel helfen, Suchbegriffe, Synonyme oder mögliche Perspektiven zu entwickeln. Aber sobald eine konkrete Publikation in deiner wissenschaftlichen Arbeit landen soll, beginnt die eigentliche Quellenprüfung.

Wenn du generell unsicher bist, wie weit du KI in einer Bachelor- oder Masterarbeit einsetzen darfst, lies zusätzlich unseren Beitrag „KI in der Bachelorarbeit: Was ist erlaubt – und was musst du deklarieren?“. Dieser Artikel hier konzentriert sich ausschließlich auf die Frage: Kann ich dieser konkreten Quelle vertrauen?

Vier Arten von Quellenfehlern, die du unterscheiden musst

Nicht jede falsche KI-Quelle ist auf dieselbe Weise falsch. Für eine gründliche Prüfung hilft es, vier typische Fehlerarten zu unterscheiden.

ChatGPT-Quellen prüfen: der 7-Schritte-Check

Mit diesen sieben Schritten kannst du jede Literaturangabe prüfen, die dir ChatGPT, Claude, Gemini oder ein anderes KI-Tool genannt hat.

1. 01

   Zerlege die Literaturangabe in ihre Bestandteile

   Notiere – soweit vorhanden – Autor:innen, Titel, Erscheinungsjahr, Journal oder Verlag, Band, Heft, Seiten, DOI, ISBN und URL.

   Warum das wichtig ist: Eine Literaturangabe kann teilweise korrekt und teilweise erfunden sein. Wenn du nur nach dem Titel suchst, übersiehst du vielleicht, dass der DOI oder das Erscheinungsjahr falsch ist.

2. 02

   Suche den exakten Titel unabhängig

   Suche den vollständigen Titel außerhalb des Chatbots. Geeignete Orte sind je nach Fach zum Beispiel:

   • der Katalog deiner Universitätsbibliothek,
   • wissenschaftliche Fachdatenbanken,
   • Crossref,
   • der Verlag bzw. die Journal-Webseite,
   • wissenschaftliche Suchmaschinen.

   Crossref bietet eine offene Metadatensuche, in der du nach Titel, Autor:in, DOI oder sogar einer vollständigen Zitation suchen kannst.

   Crossref Metadata Search: https://search.crossref.org/

   Crossref – Metadata Retrieval: https://www.crossref.org/services/metadata-retrieval/

   Findest du überhaupt keinen belastbaren Treffer, darf die Quelle nicht einfach in dein Literaturverzeichnis wandern. „Ich finde nichts“ beweist zwar nicht in jedem Fall, dass eine Publikation nie existiert hat – ältere Bücher, graue Literatur oder schlecht indexierte Materialien können schwieriger auffindbar sein –, aber es ist ein klares Signal für weitere Prüfung.

3. 03

   Prüfe DOI, ISBN oder andere Identifier

   Wenn die KI einen DOI nennt, prüfe ihn separat. Ein DOI kann über doi.org aufgelöst oder über Crossref recherchiert werden. Bei Büchern ist häufig die ISBN hilfreicher als ein DOI.

   Wichtig: Ein funktionierender DOI beweist nur, dass dieser Identifier existiert – nicht, dass er zu genau der von der KI genannten Publikation gehört.

4. 04

   Gleiche alle Metadaten gegeneinander ab

   Öffne den Crossref-Eintrag, die Publisher-Seite oder einen verlässlichen Bibliotheksdatensatz und vergleiche die Angaben einzeln:

   • Titel,
   • Autor:innen,
   • Erscheinungsjahr,
   • Journal oder Verlag,
   • Band und Heft,
   • Seiten oder Artikelnummer,
   • DOI bzw. ISBN.

   Schon eine Abweichung kann harmlos sein – etwa Online-first-Datum versus Printjahr. Mehrere unplausible Abweichungen sind dagegen ein deutliches Warnsignal.

   Besonders kritisch ist folgende Konstellation: Der DOI funktioniert, aber Titel oder Autor:innen auf der Zielseite entsprechen nicht der von der KI genannten Quelle. Dann hat die KI höchstwahrscheinlich unterschiedliche bibliografische Informationen miteinander vermischt.

5. 05

   Öffne die Originalquelle und prüfe die Belegstelle

   Bis hierhin hast du nur geprüft, ob die Publikation bibliografisch stimmt. Jetzt beginnt die wissenschaftlich entscheidende Frage:

   Belegt die Quelle tatsächlich das, was du mit ihr behaupten möchtest?

   Lies mindestens Abstract, relevante Abschnitte und Ergebnisse. Bei einer zentralen Aussage solltest du die relevante Passage im Original kennen.

   Prüfe beispielsweise:

   • untersucht die Studie wirklich die genannte Population?
   • wurde tatsächlich der behauptete Zusammenhang gefunden?
   • handelt es sich um Korrelation oder Kausalität?
   • nennt die Quelle die Zahl, die du übernehmen möchtest?
   • bezieht sich das Ergebnis auf denselben Zeitraum oder Kontext?

   Eine aktuelle Studie von Linardon und Kolleg:innen aus dem Jahr 2026 untersuchte genau diese Verbindung zwischen Zitat und Behauptung. ChatGPT-5 erzeugte zwölf Literaturreviews im Bereich Mental Health. Von 333 geprüften Citation-Claims waren 43,5 % vollständig korrekt; 18,3 % enthielten kleinere Fehler, 18,3 % größere Fehler und 19,8 % wurden als Fabrications eingestuft. Wichtig ist der Kontext: Das ist keine allgemeine Fehlerquote für ChatGPT, sondern das Ergebnis dieses konkreten Untersuchungsdesigns. Es zeigt aber sehr deutlich, warum „Quelle existiert“ und „Quelle belegt die Aussage“ zwei verschiedene Prüfungen sind.

   Linardon, J. et al. (2026). Fluency Without Fidelity: Errors in Citation-Attributed Claims in Large Language Model-Generated Literature Reviews in Mental Health. Journal of Technology in Behavioral Science. https://doi.org/10.1007/s41347-026-00630-6

6. 06

   Prüfe wissenschaftliche Eignung und aktuellen Status

   Frage dich anschließend, ob die Quelle überhaupt für deinen Zweck geeignet ist:

   • Handelt es sich um einen peer-reviewten Fachartikel, einen Preprint, einen Kommentar oder eine populärwissenschaftliche Darstellung?
   • Ist die Quelle aktuell genug für deine Fragestellung?
   • Gibt es eine neuere Version?
   • Wurde sie korrigiert oder zurückgezogen?
   • Passt die Methode zu der Aussage, die du daraus ableiten möchtest?

   Ein realer Artikel kann wissenschaftlich interessant sein und trotzdem nicht der richtige Kernbeleg für deine konkrete Aussage.

7. 07

   Übernimm nur den verifizierten Datensatz

   Wenn die Quelle alle Prüfungen bestanden hat, übernimm nicht einfach die ursprüngliche KI-Referenz. Nutze stattdessen den bibliografischen Datensatz aus einer verlässlichen Quelle – etwa Publisher, Bibliothekskatalog, Fachdatenbank oder Crossref.

   Prüfe danach noch einmal, ob In-Text-Zitat und Literaturverzeichnis konsistent sind.

Warum ein funktionierender DOI noch kein Beweis ist

Ein häufiger Irrtum lautet: „Der DOI funktioniert – also ist die Quelle echt.“ Das ist nur halb richtig.

Ein DOI, der auf doi.org aufgelöst wird, zeigt zunächst, dass dieser Identifier registriert ist. Entscheidend ist aber, wohin er führt. Vergleiche deshalb immer die Metadaten der Zielpublikation mit der Literaturangabe, die dir die KI genannt hat.

Dass echte DOI mit falschen Literaturangaben kombiniert werden können, zeigt auch eine GPT-4o-Studie aus dem Jahr 2025. Von 176 erzeugten Literaturangaben waren 35 vollständig fabriziert. Besonders relevant für die DOI-Prüfung: Bei 33 fabrizierten Referenzen, für die GPT-4o einen DOI angab, waren 21 DOI (64 %) formal gültig, führten aber zu irrelevanten, nicht passenden Artikeln. Auch unter den real existierenden Quellen traten zahlreiche bibliografische Fehler auf.

Studie:

Linardon, J., Jarman, H. K., McClure, Z., Anderson, C., Liu, C., & Messer, M. (2025). Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study. JMIR Mental Health, 12, e80371. https://doi.org/10.2196/80371

Existiert die Quelle – und belegt sie deine Aussage?

Für wissenschaftliche Arbeiten solltest du dir bei jeder zentralen Quelle zwei getrennte Fragen stellen:

Frage 1: Existiert diese Publikation wirklich?

Frage 2: Belegt sie wirklich die Aussage, für die ich sie verwende?

Viele Quellenchecks beantworten nur die erste Frage. Dabei entsteht ein zweites Risiko: Eine KI kann reale Literatur korrekt benennen und den Inhalt trotzdem falsch zusammenfassen. Sie kann etwa aus einer vorsichtigen Korrelation eine eindeutige Ursache machen oder eine Studie auf eine Zielgruppe übertragen, die dort gar nicht untersucht wurde.

Deshalb solltest du keine KI-generierte Zusammenfassung als Ersatz für das Lesen der Originalquelle verwenden, wenn die Quelle eine wichtige Aussage deiner Arbeit tragen soll.

Die ETH Zürich nimmt diesen Punkt inzwischen ausdrücklich in ihre Checkliste für korrektes Zitieren auf: Dort sollen Studierende prüfen, ob Referenzen aus generativer KI auf Halluzinationen kontrolliert wurden. Die Universität Wien betont ebenfalls, dass gefundene Quellen eigenständig geprüft und wissenschaftlich eingeordnet werden müssen.

Was sagt die Forschung zu erfundenen KI-Quellen?

Dass generative Sprachmodelle Literaturangaben erfinden oder verfälschen können, ist inzwischen gut dokumentiert.

Walters und Wilder untersuchten 2023 insgesamt 636 von ChatGPT erzeugte bibliografische Referenzen aus 84 kurzen Literaturreviews zu 42 Themen. Im damaligen Versuchsdesign waren 55 % der GPT-3.5-Zitate und 18 % der GPT-4-Zitate vollständig fabriziert. Auch bei real existierenden Quellen traten bibliografische Fehler auf.

Studie:

Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5

Diese Zahlen dürfen nicht als heutige allgemeine „ChatGPT-Fehlerquote“ verstanden werden. Modelle, Recherchefunktionen, Prompts und Anwendungsfälle haben sich verändert.

Neuere Forschung zeigt jedoch, dass das Grundproblem nicht verschwunden ist. In einer 2025 veröffentlichten GPT-4o-Studie wurden 176 Literaturangaben aus sechs Mental-Health-Reviews geprüft. 19,9 % der Angaben waren fabriziert. Von den 141 realen Referenzen waren 77 (54,6 %) vollständig korrekt; 64 (45,4 %) enthielten mindestens einen bibliografischen Fehler. Die Fehlerquote variierte deutlich nach Thema und Spezifität der Anfrage.

Studie:

Linardon, J. et al. (2025). Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study. JMIR Mental Health, 12, e80371. https://doi.org/10.2196/80371

2026 untersuchten Davis und Mahmoud Referenzhalluzinationen unter unterschiedlichen Promptbedingungen und über mehrere Systeme hinweg, darunter ChatGPT 5.1, ChatGPT 4o, Gemini 3 und Microsoft 365 Copilot. Die Arbeit zeigt, dass strengere Anforderungen an die Anzahl bzw. Form von Zitaten nicht automatisch zu zuverlässigeren Quellen führen. Unter bestimmten Bedingungen stiegen ungültige oder inkonsistente Referenzen sogar an. Für Studierende ist das wichtig: Ein Prompt wie „Gib mir mindestens 20 peer-reviewte Quellen mit DOI“ ist keine Qualitätsgarantie.

Studie:

Davis, K., & Mahmoud, Q. (2026). Citation Constraints and Reference Hallucinations in Large Language Models. Proceedings of Machine Learning Research, 318, 464–475. https://proceedings.mlr.press/v318/davis26a.html

Und die bereits erwähnte Studie „Fluency Without Fidelity“ aus 2026 geht noch einen Schritt weiter: Sie prüft nicht nur, ob Referenzen existieren, sondern ob die zugeordneten wissenschaftlichen Aussagen inhaltlich wirklich von den Quellen getragen werden. Genau deshalb ist der wichtigste Grundsatz dieses Artikels:

Die Prüfung endet nicht bei Titel und DOI. Du musst den Beleg selbst lesen.

Welche Recherchetools sind besser geeignet als ein normaler Chatbot?

Ein normaler Chatbot ist keine wissenschaftliche Literaturdatenbank. Wenn du systematisch Literatur suchst, solltest du deshalb zunächst auf Quellen zurückgreifen, deren Aufgabe tatsächlich die Erschließung wissenschaftlicher Literatur ist.

Dazu gehören je nach Fach:

• Universitätsbibliotheken,
• Bibliothekskataloge,
• wissenschaftliche Fachdatenbanken,
• Crossref für bibliografische Metadaten und DOI-Prüfung,
• Publisher- und Journal-Webseiten,
• etablierte wissenschaftliche Suchsysteme.

Daneben gibt es spezialisierte KI-Recherchetools, die mit wissenschaftlichen Datenbeständen arbeiten oder Quellenlinks anzeigen. Das kann deutlich hilfreicher sein als eine reine Chatbot-Anfrage wie „Nenne mir zehn wissenschaftliche Quellen zu meinem Thema“.

Trotzdem bleibt dieselbe Grundregel bestehen: Ein Tool kann dir beim Finden helfen. Die wissenschaftliche Bewertung und Verifikation übernimmt es nicht für dich.

Was tun, wenn du bereits falsche Quellen in deiner Arbeit findest?

Wenn du eine erfundene oder falsch zugeordnete Quelle entdeckst, solltest du nicht nur den Eintrag im Literaturverzeichnis löschen.

Gehe rückwärts vor:

1. Welche Aussage sollte die Quelle belegen?
2. Ist diese Aussage überhaupt korrekt?
3. Gibt es eine echte wissenschaftliche Quelle, die sie tatsächlich stützt?
4. Muss der Text angepasst oder gestrichen werden?
5. Gibt es weitere KI-genannte Quellen aus demselben Rechercheprozess?

Wenn eine Quelle falsch ist, solltest du davon ausgehen, dass andere Literaturangaben aus derselben KI-Sitzung ebenfalls geprüft werden müssen.

Besonders wichtig: Ersetze eine erfundene Quelle nicht einfach durch irgendeine reale Publikation mit ähnlichem Titel. Die neue Quelle muss die Aussage wirklich belegen.

Checkliste vor der Abgabe

Bevor du eine wissenschaftliche Arbeit einreichst, solltest du für jede wichtige Quelle folgende Fragen mit Ja beantworten können:

• ✓Kann ich die Publikation unabhängig von der KI finden?
• ✓Stimmen Titel und Autor:innen?
• ✓Stimmen Erscheinungsjahr, Journal oder Verlag?
• ✓Gehört der DOI wirklich zu genau dieser Publikation?
• ✓Stimmen Band, Heft und Seiten bzw. Artikelnummer?
• ✓Habe ich die Originalquelle selbst geöffnet und gelesen?
• ✓Belegt sie tatsächlich die Aussage, für die ich sie zitiere?
• ✓Ist die Quelle für meinen wissenschaftlichen Zweck geeignet?
• ✓Habe ich mögliche Korrekturen, neuere Versionen oder Rücknahmen berücksichtigt?
• ✓Stammt der endgültige Literaturverzeichniseintrag aus einem verifizierten Datensatz und nicht aus dem KI-Chat?
• ✓Stimmen In-Text-Zitation und Literaturverzeichnis überein?

Wenn du bei einer Quelle mehrere dieser Fragen nicht beantworten kannst, ist sie noch nicht abgabefertig geprüft.

Häufige Fragen

Fazit: Eine Quelle ist erst geprüft, wenn sie existiert, stimmt und wirklich belegt

Die größte Gefahr bei KI-generierten Literaturangaben ist nicht, dass jede Quelle erfunden wäre. Gefährlich ist, dass falsche Quellen oft genauso überzeugend aussehen wie echte.

Deshalb reicht kein einzelner Schnelltest. Prüfe jede KI-genannte Quelle auf drei Ebenen:

1. Existiert die Publikation wirklich?
2. Stimmen alle bibliografischen Angaben miteinander überein?
3. Belegt die Originalquelle tatsächlich deine Aussage?

Mit dem 7-Schritte-Check kannst du aus einer plausibel klingenden KI-Empfehlung eine wissenschaftlich überprüfte Quelle machen – oder sie rechtzeitig aussortieren.