Wie man KI-Halluzinationen automatisch erkennt. Drei Tools, die wirklich funktionieren.
Was haben der Sommer und KI-halluzinierte Quellen gemeinsam?
Richtig, sie erreichen aktuell Rekordwerte!
Der Sommer mag in ein paar Wochen vorbei sein, aber die KI-Halluzinationen werden die Wissenschaft weiter ins Schwitzen bringen. Nichts und niemand scheint mehr vor Halluzinationen sicher zu sein: studentische Arbeiten, Konferenzbeiträge, Aufsätze in Peer-Review-Journalen, Handbücher - überall gibt's erfundene Quellen.
Es ist unmöglich, von KI halluzinierte Quellen mit bloßem Auge zu erkennen. Deshalb braucht es spezielle Programme, die das übernehmen.
Als wären die oben genannten Probleme nicht schon schlimm genug, werden sie oft gar nicht entdeckt und stattdessen munter zitiert, wodurch sie sich in den Zitationsnetzwerken festsetzen und noch mehr Glaubwürdigkeit bekommen.
Aber wie erkennt man halluzinierte Quellen?
Mit bloßem Auge? Forget it!
Ich lasse in meinen Workshops regelmäßig Professoren Literaturlisten aus ihrem eigenen Fachgebiet nach der einen halluzinierten Quelle suchen, die die KI da reingebastelt hat - und so gut wie nie wird sie gefunden.
Was also tun, wenn man pro Semester Dutzende Fach-, Haus- und Abschlussarbeiten auf dem (digitalen) Tisch hat? Da hat selbst das feinste Spürnäschen keine Chance. Da müssen technische Systeme ran, die automatisiert erkennen, wenn eine Quelle den Geruch des Halluzinierten verströmt.
Drei Tools, die halluzinierte Quellen erkennen
Da viele Hochschulangehörige diese Tools nicht kennen, liste ich unten mal drei auf, die ich getestet habe und empfehlen kann. Die Links findet ihr im 1. Kommentar.
Natürlich gilt auch bei diesen Tools: Vertrauen ist gut, human-in-the-loop ist besser. Deshalb: Prüfen, Auffälligkeiten checken und daran denken, dass jede KI Biases und Einschränkungen hat. Soll heißen: am besten die Literaturlisten durch zwei oder alle drei Tools jagen und dann schauen, ob sich die Hinweise zu Beweisen verdichten.
- BibFox: ein Projekt samt Webplattform ( Link)
- Literaturverzeichnisprüfung: ein Skill, der eher deutschsprachig und sozialwissenschaftlich orientiert ist ( Link)
- Citation Integrity Auditor: ein Skill für Claude und andere LLMs, mehr international-englischsprachig ausgerichtet. ( Link)
Alle drei arbeiten auf leicht verschiedene Weise, haben unterschiedliche Schwerpunkte, nutzen KI für die Analyse und zapfen eine Reihe von Datenbanken an, um zu schauen, ob die Quellen wirklich existieren.
Grenzen der Tools: wo sie schwächeln
Dabei gibt's - wie immer - ein paar Verzerrungen: Gedruckte Bücher, am "besten" noch in einer obskuren Sprache geschrieben und von kleinen Verlagen veröffentlicht, die es seit 100 Jahren nicht mehr gibt - könnte (muss aber nicht!) schwierig werden.
Recht / Jura: Gerichtsentscheidungen, Gesetze, Drucksachen folgen anderen Zitierlogiken und sind in den Datenbanken deutlich unterrepräsentiert.
Das gleiche gilt für "graue Literatur" von Organisationen, Ämtern, Behörden...
Aber das soll niemanden davon abhalten, die Tools und Skills auszuprobieren. Im Gegenteil: nur mit ihnen hat man eine Chance, Halluzinationen überhaupt zu erkennen.
Wer was anderes sagt - halluziniert ;-))
