Claude in der Wissenschaft: Ein kritischer Blick auf den tatsächlichen Nutzen in der Biotech-F&E

Im vergangenen Jahr habe ich beobachtet, wie Forschungsteams in Biotech-KMUs schneller von „sollen wir das mal ausprobieren" zu „wir nutzen das täglich" übergegangen sind als bei fast jeder anderen Toolkategorie, die ich in ein Labor oder eine F&E-Gruppe eingeführt habe. Claude und vergleichbare Sprachmodelle sind mittlerweile fester Bestandteil des Arbeitsalltags von Laborwissenschaftlern, Regulatory-Autoren und F&E-Leitungen — sie fassen Paper zusammen, entwerfen Protokolle, strukturieren unordentliche Assay-Daten und werden zunehmend auch um Einschätzungen zur wissenschaftlichen Interpretation selbst gebeten.

Ein Teil dieser Begeisterung ist berechtigt. Ein Teil ist es nicht. Diese Unterscheidung ist in der Life Science relevanter als fast überall sonst, weil die Kosten einer unkritischen Antwort nicht eine schlecht formulierte E-Mail sind — sondern ein fehlerhaftes Studiendesign, eine falsch interpretierte Datenlage oder eine Compliance-Lücke, die erst im Audit sichtbar wird.

Wo die Leistungsfähigkeit wirklich überzeugt

Literaturauswertung im großen Maßstab ist der klarste Nutzen. Vierzig Paper zu einer Target-Klasse durcharbeiten zu lassen, Methodikdetails zu extrahieren und Widersprüche zwischen Studien zu markieren, war früher eine Wochenaufgabe für einen Postdoc. Heute dauert es einen Nachmittag — das Modell erledigt den ersten Durchgang, ein Fachexperte übernimmt die Verifikation. Der Nutzen ist real, weil die Aufgabe begrenzt ist: Das Quellmaterial existiert, die Aussagen lassen sich dagegen prüfen, und das Ergebnis ist ein Ausgangspunkt, keine Endantwort.

Strukturierung und Normalisierung unordentlicher Daten funktioniert ähnlich gut. Inkonsistente Plattenlayouts, halb dokumentierte Excel-Tabellen von ausgeschiedenen Kollegen, Freitextfelder, die eigentlich kategorial sein sollten — genau diese Art von Mustererkennung und Umformatierung beherrschen Sprachmodelle gut, vorausgesetzt, ein Mensch definiert die Zielstruktur und prüft das Ergebnis gegen die Quelle.

Entwürfe erstellen, nicht entscheiden — das ist der Bereich, in dem sich das Tool durchgängig bewährt. Erste Entwürfe von SOPs, Protokollabschnitten oder Antragstexten sparen echte Zeit. Das entscheidende Wort ist Entwurf. Niemand in einer funktionierenden Organisation würde diesen Text ungeprüft einreichen — dieselbe Disziplin muss auch hier gelten.

Wo das Vertrauen fehl am Platz ist

Benchmark-Performance ist keine Domänen-Zuverlässigkeit. Claude und vergleichbare Modelle schneiden bei standardisierten wissenschaftlichen und biomedizinischen Wissenstests gut ab. Das sagt etwas über allgemeines Fachwissen aus. Es sagt sehr wenig darüber, ob die Interpretation des Modells zu Ihrem spezifischen, engen, proprietären Datensatz korrekt ist. Ihr Assay ist nicht Teil der Trainingsdaten. Ihr Grenzfall war nicht im Benchmark. Die Lücke zwischen „beantwortet Prüfungsfragen auf Promotionsniveau gut" und „interpretiert Ihre Western-Blot-Densitometriedaten korrekt" ist größer, als das Marketing suggeriert — und genau diese Lücke wird am seltensten getestet, bevor einem Ergebnis vertraut wird.

Erfundene Präzision ist der gefährlichste Fehlermodus, weil er nicht wie ein Fehler aussieht. Ein Modell, das ein plausibel klingendes Zitat, einen falschen, aber selbstbewusst formulierten Assay-Parameter oder ein Methodikdetail erfindet, das korrekt klingt, aber nie in der Quelle stand, ist weitaus gefährlicher als eines, das „ich weiß es nicht" antwortet. Ich habe Protokollentwürfe mit erfundenen Referenzkonzentrationen gesehen, die intern konsistent, sauber formatiert und falsch waren. Die formale Qualität eines Outputs korreliert nicht mit seiner Richtigkeit — wenn überhaupt, verhält es sich umgekehrt, weil gut formatierter, selbstbewusster Text am schnellsten durch die Prüfung rutscht.

Neuartigkeit ist der Bereich, in dem das Tool am schwächsten ist — und die Versuchung am größten. Die wirklich interessanten wissenschaftlichen Fragen, also jene, bei denen sich eine Anfrage an ein Modell überhaupt lohnt, liegen per Definition am Rand oder außerhalb der Trainingsverteilung. Genau dort ist das Halluzinationsrisiko am höchsten — und genau dort ist die Versuchung am größten, eine flüssige, überzeugend klingende Antwort als Bestätigung einer Hypothese zu nehmen statt als Ausgangspunkt für eine.

Das Datenintegritätsproblem, das niemand dokumentiert

Das ist der Teil, der in der allgemeinen Begeisterung untergeht — und der für ein reguliertes Umfeld am wichtigsten ist. Die ALCOA+-Prinzipien — zuordenbar, lesbar, zeitnah, original, korrekt, sowie die erweiterten Kriterien vollständig, konsistent, dauerhaft und verfügbar — wurden nicht mit generativer KI im Hinterkopf formuliert, gelten aber trotzdem dafür. Wenn eine KI-erstellte Interpretation explorativer Daten stillschweigend Teil einer Studienbegründung wird, ohne dass ein dokumentierter menschlicher Verifikationsschritt stattfindet, ist das eine undokumentierte Datenintegritätslücke. Sie wird nicht sichtbar, bis ein Auditor fragt: „Wer hat das geprüft und auf welcher Grundlage?" — und „das Modell wirkte überzeugend" ist keine Antwort, die dieser Frage standhält.

Die praktische Lösung ist nicht kompliziert, erfordert aber eine Disziplin, die die meisten Teams noch nicht etabliert haben: Jeden KI-gestützten Output genauso behandeln wie den ersten Entwurf eines neuen Teammitglieds. Jemand mit der nötigen Fachkompetenz prüft ihn, die Prüfung wird dokumentiert, und die Rolle der KI bei der Entwurfserstellung wird festgehalten statt in der Endfassung stillschweigend getilgt. Das ist keine Bürokratie um ihrer selbst willen — es ist derselbe Standard, der in einem funktionierenden QMS bereits für menschlich verfasste Arbeit gilt, angewendet auf eine neue Art von Autor.

Das richtige Maß an Begeisterung

Nichts davon ist ein Argument gegen den Einsatz von Claude oder vergleichbaren Tools in der Biotech-F&E. Es ist ein Argument gegen den spezifischen Fehlermodus, den ich am häufigsten beobachte: Flüssigkeit mit Evidenz zu verwechseln. Ein Modell, das einen gut strukturierten, selbstbewussten Absatz über Ihre Daten schreibt, hat Ihnen nichts darüber gesagt, ob dieser Absatz korrekt ist. Die Teams, die echten, nachhaltigen Nutzen aus diesen Tools ziehen, sind jene, die diesen Unterschied verinnerlicht haben — die das Modell nutzen, um die Zeit zwischen leerem Blatt und prüfbarem Entwurf zu verkürzen, während der Verifikationsschritt genau dort bleibt, wo er immer hingehört: bei einer qualifizierten Person, dokumentiert und wiederholbar.

Das ist eine weniger aufregende Geschichte als die, die derzeit auf den meisten Konferenzvorträgen erzählt wird. Es ist auch die einzige, die im Audit standhält.

---

Wenn Ihr F&E- oder Regulatory-Team KI-Tools schneller adaptiert, als Ihre Prüfprozesse mitgewachsen sind, lohnt es sich, diese Lücke zu schließen, bevor sie als Finding auftaucht. Ich helfe Life-Science-Organisationen dabei, eine KI-Governance aufzubauen, die mit der tatsächlichen Nutzung Schritt hält — sprechen Sie mich gerne an, wenn Ihnen das bekannt vorkommt.