KI in der Medizin: Warum Ärzte der KI misstrauen

Alle 73 Tage verdoppelt sich das medizinische Wissen – kein Arzt der Welt kann da noch mithalten. Das ist die Überzeugung von Sivert Weiß, Mitgründer der Medizinplattform Amboss, die nach eigenen Angaben rund eine Million Studierende, Ärzte und Pflegekräfte nutzen. Für Weiß ist klar: KI in der Medizin ist kein optionales Hilfsmittel mehr, sondern eine Notwendigkeit. Das größte Hindernis auf dem Weg dahin ist jedoch kein technisches – es sind die Ärztinnen und Ärzte selbst.

Das Wissensproblem: Wenn Mediziner nicht mehr mithalten können

Die Zahl der jährlich erscheinenden medizinischen Publikationen wächst rasant. Weiß verweist auf Schätzungen, wonach sich das publizierte medizinische Wissen alle 73 Tage verdoppelt. Nicht jede Studie ist klinisch relevant – doch die schiere Masse an neuen Erkenntnissen macht es selbst für die fleißigsten Mediziner unmöglich, dauerhaft auf dem aktuellen Stand zu bleiben.

Genau hier setzt Amboss an: Die Plattform begleitet Mediziner von der Prüfungsvorbereitung über den Klinikalltag bis zur Facharztweiterbildung. Über 95 Prozent aller Medizinstudierenden in Deutschland nutzen Amboss nach Unternehmensangaben zur Examensvorbereitung, mehr als ein Drittel der deutschen Ärzteschaft greift im Alltag auf die Plattform zurück.

Das Bild vom Halbgott in Weiß, der auf jede Frage eine Antwort hat, hält Weiß für überholt. Stattdessen beschreibt er eine neue Realität: aufgeklärte Patienten, die sich vorab selbst informieren, treffen auf Ärzte, die nicht mehr alles wissen können. Dieses Verhältnis müsse neu ausgehandelt werden.

KI-Empfehlungen: Besser als Ärzte – aber werden sie gehört?

Eine der zentralen Erkenntnisse aus der sogenannten NoHarm-Studie, die an Stanford und Harvard durchgeführt wurde, ist ernüchternd: KI-Systeme schneiden bei der medizinischen Entscheidungsunterstützung besser ab als Ärzte allein – doch wenn Ärzte mit KI zusammenarbeiten, verwerfen sie einen erheblichen Teil der KI-Empfehlungen, selbst wenn diese korrekt sind.

Die Studie testete verschiedene KI-Modelle anhand von über 1.000 realen Patientenfällen aus der Region Stanford, bei denen Hausärzte Fachärzte um Rat gebeten hatten. Das Ergebnis:

• Alle getesteten KI-Modelle schnitten besser ab als das vollständige Unterlassen einer Empfehlung (das allein hätte in rund 40 Prozent der Fälle zu schweren Fehlern geführt).
• Die Fehlerquote der getesteten Modelle lag zwischen 2,9 und 24 Prozent.
• Das Amboss-Modell Lisa erzielte mit 2,9 Prozent die niedrigste Fehlerrate aller getesteten Systeme.
• Rund 80 Prozent der schwerwiegenden Fehler waren Unterlassungen – die KI gab richtige, aber unvollständige Empfehlungen.
• Ärzte, die zuerst eine eigene Hypothese entwickelten und diese dann mit KI abglichen, erzielten deutlich bessere Ergebnisse als jene, die zuerst die KI-Empfehlung sahen.

Wie Amboss das Vertrauen in KI-Empfehlungen stärken will

Das Amboss-Modell Lisa basiert auf einer sogenannten RAG-Architektur (Retrieval Augmented Generation): Das System durchsucht eine über 15 Jahre händisch aufgebaute, kuratierte medizinische Wissensdatenbank, extrahiert die relevanten Informationen zur Nutzerfrage und gibt diese in verständlicher Sprache aus – ohne auf unkontrolliertes Internetwissen zurückzugreifen.

Weiß betont, dass der Aufbau von Vertrauen zwischen Arzt und KI eine Frage des Interaktionsdesigns sei. Es komme darauf an, an welcher Stelle im Denkprozess die KI eingreife, wie transparent sie ihre Quellen offenlege und ob sie dem Arzt ermögliche, das sogenannte Clinical Reasoning – das klinische Schlussfolgern – selbst mitzuvollziehen statt eine fertige Antwort vorzusetzen.

Dabei zieht Weiß eine historische Parallele: Auch die Einführung des Fieberthermometers stieß bei Ärzten zunächst auf Widerstand – mit dem Argument, es erfasse nicht alle Qualitäten des Fiebers. Heute ist das Thermometer unverzichtbar. KI werde einen vergleichbaren Weg gehen.

Die Zukunft des Arztberufs: Mehr Zeit für den Menschen

Langfristig sieht Weiß im KI-Einsatz eine Chance, den Arztberuf grundlegend zu verändern – und zwar zum Besseren. Wenn medizinisches Faktenwissen zunehmend von Systemen bereitgestellt wird, könnten Ärzte mehr Zeit für das gewinnen, was Maschinen nicht leisten können: echte Gespräche, Verhaltensberatung und Prävention.

Als Beispiel nennt er die Behandlung von Diabetes-Vorstufen: Ein Arzt, der im Zehn-Minuten-Takt Patienten sieht, kann keine nachhaltige Verhaltensänderung anstoßen. KI könnte administrativen und diagnostischen Aufwand reduzieren – und damit den Raum schaffen, Medizin wieder menschlicher zu gestalten. Ob und wie stark KI-Systeme die Versorgungsqualität tatsächlich verbessern, soll künftige Outcome-Forschung zeigen. Diese steht laut Weiß noch weitgehend aus.