Auf den ersten Blick wirkt ihr Einsatz verlockend: Schnell ein paar Begriffe eingegeben, einige Wünsche hinsichtlich Stil und Argumentation hinzugefügt, auf Eingabe gedrückt – und nach wenigen Augenblicken erscheint ein fertiger Text, wahlweise mit Grafiken oder Quellenverzeichnis ausgestattet.

Immer häufiger finden KI-Systeme inzwischen Anwendung im privaten und beruflichen Bereich, vor allem auch, wie im genannten Beispiel, im Redaktionsalltag. Mit ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, Grok und anderen dringen große Sprachmodelle der Künstlichen Intelligenz (KI) in viele Alltagsbereiche und Branchen vor. Insbesondere dort, wo es um die schnelle Bereitstellung von Informationen oder das Verfassen von Texten geht.

Mit dem Einsatz von KI lassen sich Zeitaufwand und wesentliche Kosten im Herstellungsprozess von Inhalten deutlich verringern – zumindest auf den ersten Blick. Der Einsatz dieser Technologie wird also grundsätzlich für jeden interessant, der seine Kosten im Blick haben muss.

Daneben steht die Frage nach der Qualität der Antworten im Raum. Während beim Einsatz im Alltagsleben eine gewisse Toleranz hinsichtlich Genauigkeit und Korrektheit einer Antwort vertretbar sein mag, gilt dies nicht für den Einsatz von KI in der journalistischen und wissenschaftlichen Arbeit. Erst recht dann nicht, wenn es um die Darstellung von medizinischen Inhalten geht, wie dies bei den Ärztinnen und Ärzte für individuelle Impfentscheidung (ÄFI) der Fall ist.

So hat der Verein das Thema KI auf die Agenda seiner diesjährigen Klausurtagung Ende Juni in Jüterbog nahe Berlin gebracht und intensiv erörtert.
 

Nicht Denk-, sondern Wahrscheinlichkeitssysteme

Um die Vor- und Nachteile von KI gegeneinander abwiegen zu können, muss man sich zunächst klarmachen, wie KI funktioniert. Vereinfacht gesagt, wandeln KI-Systeme sprachliche Begriffe in Werte um und prüfen diese auf Zusammenhänge. Mithilfe von milliardenfachen Vorhersagen lernt KI, statistische sprachliche Muster zu erkennen und zu reproduzieren.

Demgemäß handelt es sich bei KI bzw. LLM (Large Language Models) nicht um Denk-Systeme, sondern um „hochentwickelte Wahrscheinlichkeitsmaschinen“. Dies bringt für ihren Einsatz in der wissenschaftlichen Arbeit erhebliche Probleme mit sich. Da sie auf Wahrscheinlichkeit getrimmt werden, kommt es immer wieder zu sogenannten Halluzinationen. Das bedeutet, LLMs erzeugen plausibel und überzeugend wirkende, aber unzutreffende Behauptungen und stellen diese als Tatsachen dar. Dabei erfinden sie mitunter nicht existierende Quellen wie Zitate, Links, Titel, Autoren und sogar ganze Studien. Dieses Problem ist nach wie vor ungelöst und zeigt sich auch bei den neuesten KI-Modellen.

Außerdem geht ihnen das wissenschaftliche Durchdringen eines Themas ab: Sie haben kein kausales Verständnis und erkennen schlecht neue Probleme. Sie ahmen den wissenschaftlichen Prozess mehr schlecht als recht nach, die Generierung von Hypothesen ist meist fehlerhaft.

Hinzu tritt ein quantitatives Defizit: KI liest Datensätze meist unvollständig und nur so weit, wie sie es für notwendig hält. Dadurch entstehen wesentliche Lücken in ihrer Analyse.
 

Kurzfristig produktiv, langfristig unproduktiver

So verheißungsvoll der Einsatz gerade von LLMs kurzfristig erscheinen mag, so sehr ergeben sich langfristige Probleme. Studien zeigen inzwischen, dass die routinemäßige Nutzung von KI den Verlust von Fähigkeiten beim Verfassen von Texten und beim kritischen Denken nach sich zieht.

Ein weiterer Nachteil: Gerade wer häufig auf KI zurückgreift, vertraut ihr zunehmend und prüft immer seltener das Ergebnis auf Korrektheit.

Zudem trägt die massenhafte Verwendung von KI-Systemen zu einer Homogenisierung bei: KI-Inhalte zeichnen sich weniger durch Originalität aus. Vielmehr sind sie auf die Reproduktion und somit Bestätigung bestimmter Narrative und Normen ausgelegt. Wird die KI dann auch noch mit ihren eigenen Antworten trainiert – gerade auch, weil Menschen sich bei ihrer Arbeit immer weiter auf ChatGPT & Co. verlassen – entsteht ein langsam zunehmender Qualitätsverlust (ein sogenannter „Model Collapse“).

Klar ist, dass das Problem nicht allein an KI liegt. Immer wieder wird argumentiert, dass KI nur ein Instrument bzw. Werkzeug ist und es darauf ankommt, wie es vom Menschen genutzt wird. Teilweise stimmt das auch. Beispielsweise nutzen Menschen KI häufig, um das eigene Weltbild zu bestätigen. Das klappt deshalb so gut, weil die KI darauf trainiert wird, sich dem Nutzer anzubiedern. Das Missbrauchspotential hängt also auch mit den Bedürfnissen des Menschen zusammen.

Eine verantwortungsvolle Nutzung von KI ist aber auch deshalb so schwer, weil es den Menschen nicht direkt zu etwas befähigt. Frühere Werkzeuge erweiterten das, was Menschen bereits konnten. LLMs übernehmen zunehmend genau die Prozesse, durch deren Ausführung Menschen ihre Fähigkeiten überhaupt erst entwickeln (z. B. das wissenschaftliches Schreiben und Denken, was zur Ausbildung kognitiver Fähigkeiten führt). Insgesamt führt all dies zu einem Paradox: KI macht kurzfristig durchaus produktiver, langfristig durch die Schwächung eigener Fähigkeiten jedoch unproduktiver.

Hinzu kommen Urheberrechts und Wertschöpfungsprobleme, auf die es noch keine (rechtlich) verbindlichen Antworten gibt. So wird KI auf Basis menschlicher Werke trainiert – ohne zu fragen, ob diese Werke hierfür freigegeben sind und verwendet werden dürfen.

Angesichts der zahlreichen Fehlerquellen, die KI-Systeme mit sich bringen, erstaunt es wenig, dass in der öffentlichen Wahrnehmung das Vertrauen in KI-generierte Nachrichten in jüngster Zeit deutlich abgenommen hat. Studien zeigen, dass menschliche Werke zunehmend als wertvoller betrachtet werden.
 

Rückläufiger Trend weg von KI-Inhalten

Inzwischen führen immer mehr Medien, Verlage und Unternehmen „Frei von KI“-Labels ein, um die Qualität der eigenen Produkte herauszustellen. Ab August 2026 greift zudem die KI-Verordnung der EU mit besonderen Transparenz- und Kennzeichnungspflichten: Dann müssen auch in Deutschland Texte, die „maßgeblich“ mit KI erstellt wurden, als solche gekennzeichnet werden. Es dürfte damit klar sein, dass Änderungen in Grammatik und Rechtschreibung durch KI nicht gemeint sind. Weniger klar ist hingegen, wo die genaue Grenze verläuft, also wie viel von KI geschrieben oder umgestaltet sein darf, ohne unter die Kennzeichnungspflicht zu fallen. Dies werden letztlich Gerichte entscheiden müssen.

Angesichts der zahlreichen Risiken und Unwägbarkeiten, die der Einsatz von KI für die wissenschaftliche Arbeit und Wissensvermittlung mit sich bringt, hat ÄFI sich entschlossen, weiterhin auf KI-Inhalte zu verzichten. Darauf wird in Kürze mit einem eigenen Label auf der Webseite und den etablierten Kommunikationskanälen des Vereins hingewiesen werden.

ÄFI-Mitglieder und alle Leserinnen und Leser können also auch in Zukunft darauf vertrauen, dass die Inhalte zu Impfthemen KI-frei erstellt werden.
 

Ihre Unterstützung unserer Arbeit im KI-Zeitalter ist wichtiger denn je

Auf KI zu verzichten bedeutet für ÄFI, deutlich mehr Ressourcen für Zeit und Personal aufwenden zu müssen. Nur so können wir Themen recherchieren, wirklich valide Ergebnisse erzielen und veröffentlichen. Die Beschleunigung der Debatte durch – dank KI – immer schneller produzierbare Stellungnahmen und Texte verstärkt diesen Druck noch zusätzlich. Daher sind wir umso mehr auf Ihre Unterstützung angewiesen, um die inhaltliche Tiefe und Sorgfalt unserer Arbeit aufrechtzuerhalten.

Für Ihre Unterstützung sind wir Ihnen sehr dankbar!