DER NEUE EINSTEIN: DIE KI

Am Anfang war es nur ein Gefühl. Menschliche Intuition. Da war diese inhaltsleere Sprache im Gutachten. Dieses spürbare Desinteresse an der wissenschaftlichen Fragestellung. »Da wurden wir misstrauisch«, sagt Juni Schindler. So wie viele andere Wissenschaftler, die ihre Arbeiten bei der International Conference on Learning Representations eingereicht hatten. Die ICLR, eine der wichtigsten KI-Konferenzen der Welt, wächst so rasant wie ihr Feld. Immer mehr Wissenschaftler wollen dort ihre Forschung vorstellen, die Zahl der eingereichten Arbeiten stieg
zuletzt exponentiell: 2013: 67 – 2018: 1.013 – 2026: 19.525. Zu viel für die Gutachter, die entscheiden sollten, welche davon wissenschaftlich so interessant und wichtig sind, dass sie auf der ICLR besprochen werden. Sie lagerten ihr Urteil in Teilen heimlich an eine künstliche Intelligenz aus. »Es stellte sich heraus, dass 21 Prozent der Gutachten komplett von KI geschrieben
waren«, erzählt Juni Schindler. Und plötzlich war Schindler, Postdoc an der Universität Zürich, mittendrin in einer Krise, die das gesamte Wissenschaftssystem infrage stellt – und die Rolle, die der Mensch darin künftig spielt. Bisher verkörpert die Wissenschaft jene Eigenschaft, die den Menschen seinem Wesen nach ausmacht: seine Neugier. Die treibt ihn an, die Welt zu verstehen. Mit der KI könnte das enden. Das zeigt sich nirgends so deutlich wie am Drama um das Begutachtungswesen. Bislang funktioniert das Wissenschaftssystem in etwa so: Um Professorin oder Spitzenwissenschaftler zu werden, muss man erfolgreich forschen. Messbar wird dieser Erfolg anhand der Veröffentlichungen der eigenen Ergebnisse in Fachzeitschriften oder auf Konferenzen. Je mehr Artikel und je renommierter Journals und Konferenzen, desto besser. Vor jeder Veröffentlichung prüfen meist anonyme Gutachter aus dem eigenen Forschungsfeld
die Qualität der Studie, stellen Nachfragen, fordern Überarbeitungen – in der Wissenschaft spricht man vom sogenannten Peer-Review. Er ist das Herz des Systems. Der Peer-Review-Prozess entscheidet darüber, welche Forscher Einlass erhalten – in die Top-Journals Nature oder Science, auf die Bühne des ICLR –, was es wiederum wahrscheinlicher macht, dass ihre Projekte auch
künftig gefördert werden. Und vor allem sichert er die Qualität durch wissenschaftlichen Rigorismus. Denn vieles, was sich »Studie« nennt, ist methodisch oder inhaltlich Murks. Um im Bild zu bleiben: Lange arbeitete das Herz zuverlässig. Nun droht es überlastet und vergiftet zu werden. Überlastet wird es, weil KI-generierte, in kürzester Zeit erschaffene Studien seit ChatGPT den Markt der Journals und Konferenzen überschwemmen: Bei der digitalen Wissenschaftsplattform Arxiv stieg die Zahl der eingereichten Paper seitdem um 50 Prozent, darunter viele wertlose.
Die Konkurrenzplattform OSF stoppte im August 2025 sogar die Annahme neuer Studien, weil die Mehrheit der Arbeiten wissenschaftlichen Ansprüchen nicht genügte. Eine Studie stellte fest, dass Wissenschaftler, die KI nutzen, dreimal mehr veröffentlichen als ihre Kolleginnen und Kollegen. Ein anderes Forscherteam untersuchte 2,5 Millionen wissenschaftliche Arbeiten aus dem
Jahr 2025 und fand dort 150.000 Referenzen, die es gar nicht gab. Die eingesetzten KI-Modelle hatten sie zusammenhalluziniert. Im Januar veröffentlichte OpenAI ein Werkzeug für
wissenschaftliches Schreiben. Mit Prism dauert es keine Minute, ein Paper zu einem Experiment zu verfassen. Und vergiftet wird das Herz, weil die Gutachter das Begutachten
eben teilweise selbst an die KI auslagern – und somit das Urteil über wissenschaftliche Qualität an Modelle delegieren, deren Einschätzung auf Wahrscheinlichkeiten, nicht auf Verständnis beruht und die von einigen wenigen Tech-Konzernen kontrolliert werden. Für Juni Schindler ist aus dem Problem ein Projekt geworden: »Wie unterscheiden sich KI-generierte von menschengemachten Reviews? Diese Analyse machen wir jetzt.« Schindler arbeitet am Institut für Mathematische Modellierung und Machine Learning der Universität Zürich und
möchte nicht mit geschlechtsspezifischen Pronomen angesprochen werden. Hinter dem Forschungsprojekt steht die Frage nach der »automatisierten Wissenschaft«, wie Schindler es nennt. »Wenn KI die Forschungsergebnisse produziert, die nächste KI daraus ein Paper macht, welches wiederum von KI begutachtet wird: Was bleibt dann für den Menschen?«
Es sind existenzielle Fragen, die sich daran anschließen: Welchen Problemen widmet sich solch eine Wissenschaft? Welche ignoriert sie? Sich ihnen zu stellen, wird zunehmend dringlich, denn der Fall der ICLR ist Teil eines größeren Trends: Ein Forscherteam, das die Peer-Reviews verschiedener KIKonferenzen untersuchte, stellte fest, dass bei etwa jedem sechsten Gutachten nachhaltig KI zum Einsatz gekommen sein könnte. Die Wissenschaftsverlage versuchen derweil, Standards zu etablieren. Die großen Häuser wie Elsevier, Wiley und Springer Nature
erlauben KI für Reviews nur sehr begrenzt. Doch ob KI benutzt wurde, ist schwer zu entdecken. Bei Peer-Reviews kommt hinzu, dass sie oft vertraulich sind. Ein Wissenschaftsverlag aus Bristol hat den ersten KI-gestützten Detektor speziell für Peer-Reviews entwickelt – er soll sündige Gutachter enttarnen. Tsunami, Wettrüsten, Vertrauenskrise. Die Wissenschaft sucht Worte für das, was ihr da widerfährt. Doris Weßels, die lange an der FH Kiel Wirtschaftsinformatik lehrte und nun Wissenschaftliche Leiterin des Zukunftslabors Generative KI in Schleswig-Holstein ist, fasst es so zusammen: »Dank KI gibt es eine nahezu unerträgliche Leichtigkeit, in kürzester Zeit Arbeiten zu produzieren. Journals werden geflutet und müssen wiederum KI zur Bewertung der Einreichungen einsetzen. Die Frage ist, ob das Wissenschaftssystem dadurch zusammenbricht oder ob es gelingt, unter diesen veränderten Bedingungen etwas Neues zu schaffen.«
Schon jetzt treibt künstliche Intelligenz in Kooperation mit dem Menschen die Forschung in vielen Sparten an. In der Chemie half sie, das Rätsel der Proteinfaltung zu lösen, wofür die
Forscher, die sie einsetzten, den Nobelpreis bekamen. In der Quantenphysik entwirft sie Experimente. In der Pharmakologie werden mit ihr Substanzen akkurat klassifiziert. Und vergangene
Woche wurde im Journal Science bekannt gegeben, dass zum ersten Mal mithilfe von KI funktionsfähige neuartige Viren geschaffen wurden, die in der Behandlung von Infektionskrankheiten
eingesetzt werden könnten. Da wirkt die Wissenschaft ohne Menschen wie der logische nächste Schritt. Jakub Pachocki, Chief Scientist von OpenAI, erklärte 2025: »Die große Sache, die wir erreichen wollen, ist der automatisierte Wissenschaftler.« Ausprobiert wird das schon. Etwa 2024 in einer chinesischen Studie, die auf der Simulation eines Problems der Polymerphysik beruhte. Die KI programmierte die Software für die komplexen Berechnungen, generierte damit Daten, wertete sie aus und schrieb einen Bericht. Forscher betreuten sie so, als sei sie ein Doktorand: ein paar Tipps am Anfang, zum Schluss einmal auf die Ergebnisse schauen. Oder von einem Forscherteam aus den USA und Japan. Im März erschien im Fachmagazin Nature
zu deren Projekt ein Paper: »Wir präsentieren den KI-Wissenschaftler, der Forschungsideen entwickelt, Codes schreibt, Experimente durchführt, Daten auswertet, ein komplettes  wissenschaftliches Paper schreibt und seinen eigenen Peer-Review durchführt.« Um ihre Technik zu testen, hatten die Forscher bei einer Konferenz eingereichte Paper zunächst von ihrem KI-Wissenschaftler begutachten lassen. Dann verglichen sie dessen Urteile mit den menschlichen Peer-Reviews: Der automatisierte Gutachter zeigte demnach »eine Performance, die
mit der von menschlichen Gutachtern vergleichbar ist«. Als Nächstes ließen sie den KI-Wissenschaftler drei Paper zum Thema eines Workshops schreiben und dort einreichen. Immerhin eines
wurde von den nichts ahnenden menschlichen Gutachtern als gut genug bewertet, um auf der Konferenz vorgestellt zu werden. Auf einer Konferenz diskutierten Forscher nur über KI-generierte Studien Die Urheber des KI-Wissenschaftlers triumphierten. Die Ergebnisse seien »der Beginn einer neuen Ära, in der wissenschaftliche Entdeckungen nicht mehr allein dem menschlichen Streben überlassen sind«. Daran änderten auch die Probleme ihrer Schöpfung nichts: unausgereifte Forschungsfragen und methodische Unsauberkeiten.Die sind bislang typisch für KI-generierte Forschung. Auf der »Agents4Science«-Konferenz etwa, immerhin von Menschen organisiert, wurden nur Paper diskutiert, die von der Fragestellung bis zur Auswertung von KI generiert worden waren. Die Einreichungen beschäftigten sich zum Beispiel mit Astronomie oder Bildung. Die Ergebnisse waren ernüchternd. Eine Astrophysikerin der Stanford University fasste es so zusammen: Die technischen Fähigkeiten von KI könnten »das fehlende wissenschaftliche Urteilsvermögen kaschieren«. Die Paper, die sie begutachtet habe, seien technisch korrekt gewesen. »Aber sie waren weder interessant noch wichtig.« Sorgt der massenhafte Einsatz von KI am Ende also eher dafür, dass wissenschaftliche Innovation verkümmert, statt für bahnbrechende neue Erkenntnisse? »Die KI erkennt nur Mittelwerte und Abweichungen. Aber nicht, ob es sich bei der Abweichung um eine innovative Idee oder kalten Kaffee handelt«, sagt
Anne Krüger. Die Soziologin untersucht am Weizenbaum Institut als Forschungsgruppenleiterin die Veränderung der Wissenschaft in der KI-Ära. »Das größte Problem wäre, wenn man versucht, das durch KI verursachteProblem mit KI zu lösen.« Insbesondere das Peer-Review-Verfahren sei zentral. »Da geht es nicht um Daumen hoch oder runter, sondern um einen Austausch
von Leuten, die wegen ihrer Expertise ausgewählt worden sind, wegen ihres subjektiven Blicks auf das Thema.« Wenn das wegfiele, würde die Begutachtung verflachen. Wie bleibt der Mensch der Boss, wenn KI-Agenten immer autonomer arbeiten? »Ich höre oft von den Technik- oder Naturwissenschaften: Das, was unsere Doktorandinnen gemacht haben, das kann jetzt die KI.« Genau dabei aber, sagt Krüger, lerne man das akademische Handwerk. »Und das braucht man, wenn man irgendwann innovative Forschung machen will.« Oder um einschätzen zu können,
ob die KI ein gutes Ergebnis produziert habe. »De-Skilling« lautet das Schlagwort. Der Mensch verliert Fähigkeiten. Und KI kann sie womöglich nicht ersetzen, weil ihr als Statistikmaschine
der Sinn für das Ungewöhnliche, Abweichende fehlt: Es könnten wissenschaftliche Monokulturen entstehen, wenn bevorzugt das erforscht wird, was KI gut bewerkstelligen kann. Die Vielfalt der Forschungsgebiete könnte abnehmen, wenn bevorzugt Bekanntes vertieft wird, statt Neues zu erschließen. Dramatisch. Oder nicht? Doris Weßels, die schon seit Jahren über wissenschaftliches Arbeiten im Zeitalter künstlicher Intelligenz schreibt, hält wenig von der Abwehrhaltung in der Debatte: »De-Skilling, No-Skilling, Skip-Skilling – es wird immer die Verlustseite
bedient, das ist mir zu einseitig und undifferenziert. Wenn wir Menschen ein Werkzeug erfinden, verschieben sich zwangsläufig Kompetenzen.« Weßels redet bei der KI lieber über »New Skilling
«. »Man reitet ja auch nicht mehr, sondern nimmt ein Auto. Reiten musst du nicht mehr können, aber du brauchst einen Führerschein.« Ihr Gegenbegriff für die neue Fähigkeit sei »AILeadership
«. Weßels erklärt: »Das bezeichnet die Kompetenz, den Einsatz von KISystemen zu steuern, ohne die Entscheidungshoheit an die Technologie abzugeben.« Doch was bedeutet diese  Entscheidungshoheit, wenn die KI-Systeme als sogenannte KI-Agenten immer autonomer agieren? »Dass wir als Menschen der Boss der KI-Agenten sind und nicht umgekehrt«, sagt
Weßels. In ihren Augen könnte diese Mensch-Maschine-Kooperation so das Beste aus der KI für die Wissenschaft herausholen. Unterdessen hat das Forschungsprojekt über die ICLR erste Ergebnisse hervorgebracht. Juni Schindler hat dafür mit Mitstreitern die rund 19.500 bei der ICLR eingereichten Paper und die 76.000 Gutachten analysiert. Drei vorläufige Ergebnisse
gebe es, sagt Schindler. Das erste scheint die Befürchtungen vieler Wissenschaftler zu bestätigen: »KI-Reviews berufen sich signifikant öfter auf andere KIs als Quelle.« Wenn das auf
Kosten menschengemachter Studien geht, könnte es die Diversität von Forschung einschränken.Beim zweiten Ergebnis geht es um die numerische Bewertung der Arbeit, vergleichbar mit
Punkten in einer Klausur. »Dieser Score beeinflusst maßgeblich, ob ein Paper auf einer Konferenz angenommen wird oder nicht«, sagt Schindler. Die KI bewertet im Schnitt weniger kritisch.
Die dritte Erkenntnis bezieht sich auf die Frage, wie sicher sich die KI in ihrem Urteil ist. Einen solchen Confidence-Score muss jeder Gutachter in seinem Review angeben. Auch da habe
es einen kleinen, aber signifikanten Unterschied gegeben, sagt Schindler: »Die KI hat sich selbst als unsicherer bewertet als die Menschen.«Immerhin das macht Hoffnung: Denn Zweifel
an der eigenen Erkenntnis sind neben der Neugier der zweite wichtige Antrieb von Wissenschaft.