FDA startet Debatte über neue Sicherheitsstandards für generative KI in der Medizin

Im Zentrum stehen Risikobewertung, Vorabprüfung, klinische Bestätigung und die Überwachung nach dem Markteintritt. Für Patienten, Kliniken und Apotheken ist das relevant, weil bei solchen Systemen nicht nur die Zulassung zählt, sondern auch die Frage, wie verlässlich sie im Versorgungsalltag kontrolliert werden.

Zwischen Scheininnovation und klinischem Nachweis

Generative KI klingt nach Disruption. In der Medizin reicht Klang allerdings nicht. Ein System kann Texte erzeugen, Muster erkennen oder Entscheidungen vorbereiten – daraus folgt noch lange kein belastbarer klinischer Nutzen. Genau deshalb setzt die FDA bei den Punkten an, an denen der Markt gern Tempo macht: bei der Risikoeinstufung, der Prüfung vor dem Einsatz und dem Nachweis in der klinischen Praxis.

Das ist der entscheidende Unterschied zu gewöhnlicher Software. Ein Fehler in einer Büroanwendung kostet Zeit. Ein Fehler in einem medizinischen Produkt kann die Versorgung beeinflussen. Wie schwer dieser Fehler wiegt, hängt vom konkreten Einsatz ab. Die FDA nennt im Diskussionspapier deshalb ausdrücklich die Risikobewertung als zentralen Bestandteil der Regulierung.

Für Hersteller bedeutet das potenziell mehr Nachweispflichten. Für Einrichtungen im Gesundheitswesen bedeutet es vor allem: Der Hinweis auf künstliche Intelligenz ist kein Qualitätssiegel. Und „generativ“ ist schon gar keine klinische Evidenz.

Was Vorabprüfung und Überwachung leisten sollen

Die FDA stellt vier Prüfbereiche in den Vordergrund. Erstens soll das Risiko eines generativen KI-Medizinprodukts bewertet werden. Zweitens geht es um die Vorabprüfung, also um die Kontrolle, bevor ein Produkt in den Markt gelangt. Drittens nennt die Behörde die klinische Bestätigung. Viertens soll die Überwachung nach dem Markteintritt eine Rolle spielen.

Gerade der letzte Punkt ist für die Praxis wichtig. Ein Produkt ist nicht automatisch zuverlässig, nur weil es eine Vorabprüfung durchlaufen hat. Generative Systeme können sich im Einsatz anders verhalten als in einer kontrollierten Prüfung. Die FDA macht mit dem Diskussionspapier deutlich, dass Regulierung deshalb nicht am Markteintritt enden soll.

Für uns in der Versorgung ist das eine vernünftige Reihenfolge: erst das Risiko klären, dann die Leistung prüfen, anschließend den klinischen Nutzen bestätigen und schließlich beobachten, was im Alltag tatsächlich passiert. Der Markt würde es naturgemäß lieber umdrehen – erst verkaufen, später evaluieren. Bei Medizinprodukten ist das ein schlechter Geschäftsplan und ein noch schlechterer Versorgungsstandard.

Was Patienten und Kliniken jetzt prüfen sollten

Aus dem veröffentlichten Diskussionspapier folgt noch keine konkrete Aussage darüber, welches einzelne Produkt zugelassen ist, welche Anwendung als sicher gilt oder welche Anforderungen künftig verbindlich werden. Genau diese Zurückhaltung ist wichtig. Eine Konsultation beziehungsweise ein Diskussionspapier ist kein Ersatz für einen abgeschlossenen regulatorischen Prozess.

Bei der Auswahl oder Bewertung eines generativen KI-Medizinprodukts sollten Kliniken daher mindestens auf drei Fragen achten:

• Welches Risiko soll das Produkt bewerten oder kontrollieren?
• Welche Vorabprüfung und welche klinische Bestätigung liegen vor?
• Wie ist die Überwachung nach dem Markteintritt organisiert?

Mehr lässt sich aus den bestätigten Angaben derzeit nicht seriös ableiten. Sicher ist aber die Richtung: Die FDA behandelt generative KI im Medizinbereich nicht als harmlose Scheininnovation, sondern als Technologie, deren Risiko, klinischer Nutzen und Verhalten im Markt systematisch betrachtet werden müssen.

Das ist für Patienten die bessere Nachricht als ein weiterer KI-Werbeslogan. Denn medizinischer Fortschritt beginnt – wie auch interpharma.ch betont – mit klinischer Forschung. Der entscheidende Punkt bleibt derselbe: Nicht die Neuheit eines Systems bezahlt am Ende die Rechnung, sondern seine nachgewiesene Sicherheit und Wirksamkeit.