Drei hochrangige Beamte der US-Arzneimittelbehörde (FDA) haben im Journal of theAmerican Medical Association (JAMA ) einen Artikel veröffentlicht, in dem sie die Ansichten der Behörde zur Regulierung der künstlichen Intelligenz (KI) im Gesundheitswesen und in der Biomedizin darlegen. Der Artikel wurde von FDA-Kommissar Robert Califf, Haider Warraich, Senior Clinical Advisor for Chronic Disease, und Troy Tazbaz, Director of the Digital Health Center of Excellence im Center for Devices and Radiological Health, verfasst.
Der Artikel skizziert 10 Konzepte, die bei der Anpassung des Regulierungssystems an die sich rasch entwickelnde KI-Technologie zu berücksichtigen sind. Den Autoren zufolge wird die FDA weiterhin "eine zentrale Rolle bei der Gewährleistung sicherer, wirksamer und vertrauenswürdiger KI-Tools spielen", aber auch die Interessenvertreter der Industrie müssen sich für die Identifizierung und Bekämpfung unverantwortlicher Akteure einsetzen. Darüber hinaus müssen sich die Interessengruppen an der Entwicklung und Optimierung der Instrumente beteiligen, die zur "Bewertung der fortlaufenden Sicherheit und Wirksamkeit von KI" erforderlich sind.
Top-Konzepte zur Regulierung von AI
Die FDA hat das erste teilweise KI-gestützte Medizinprodukt 1995 zugelassen. Seitdem hat die Behörde etwa 1.000 Medizinprodukte zugelassen, die KI-Technologie einsetzen. Angesichts des rasanten technologischen Fortschritts und des zunehmenden Einsatzes von KI in Medizinprodukten und in der Arzneimittelentwicklung haben die FDA-Beamten zehn Konzepte für die Regulierung von KI vorgestellt:
- KI-Regulierung im größeren Rahmen der US-Regierung und im globalen Kontext - Die Vorschriften für KI müssen mit dem allgemeinen US-Gesetzgebungssystem in Einklang stehen und gleichzeitig die Kompatibilität mit globalen Standards gewährleisten.
- Mit dem Tempo des Wandels in der KI Schritt halten - Die Entwicklung, der Einsatz und die Nutzung von KI-gestützten Produkten erfordern ein "anpassungsfähiges, wissenschaftlich fundiertes Regulierungssystem, um Schaden zu verhindern und gleichzeitig Innovationen zu fördern, die ihre benefits optimieren."
- Flexible Ansätze für das gesamte Spektrum der KI-Modelle - Die KI-Vorschriften müssen flexibel und risikobasiert sein und müssen je nach beabsichtigter Verwendung der KI-Systeme "sorgfältig geprüft und angepasst werden".
- Die zentrale Bedeutung des KI-Lebenszyklusmanagements - die KI-Leistung sollte in der Umgebung, in der sie eingesetzt wird, überwacht werden. Dies erfordert mehr Ansätze und Werkzeuge, um die KI-Bewertung weiter zu verfeinern, denn "ein nicht überwachtes KI-System, das in der Praxis eingesetzt wird, könnte erheblichen Schaden anrichten".
- Die Verantwortung der regulierten Industrien - Die Entwicklung der KI verdeutlicht ein großes Qualitäts- und Regulierungsdilemma, da der Aufwand, der für die Durchführung wiederkehrender Bewertungen zur Beurteilung der Sicherheit und Wirksamkeit vieler KI-Modelle erforderlich ist, jedes derzeitige Regulierungssystem der FDA übersteigen könnte.
Die Beamten boten auch Konzepte für den Einsatz von KI in der medizinischen Produktentwicklung, die Vorbereitung auf die Unbekannten von großen Sprachmodellen (LLMs) und generativer KI, die Aufrechterhaltung robuster Lieferketten, die Suche nach einem Gleichgewicht zwischen Big Tech, Start-ups und der Wissenschaft sowie das Spannungsfeld zwischen dem Einsatz von KI zur Optimierung finanzieller Erträge und der Verbesserung von Gesundheitsergebnissen.
Blick nach vorn
Der JAMA-Artikel hat keine rechtlichen oder regulatorischen Auswirkungen, aber er kann wertvolle Einblicke für Medizinprodukte- und Pharmaunternehmen bieten, um den wahrscheinlichen Ansatz der FDA zur Regulierung von KI besser zu verstehen. Unternehmen im gesamten Ökosystem des Gesundheitswesens sollten die Veröffentlichung lesen und besonders darauf achten, dass die FDA die Rolle der Industrie bei der Unterstützung der verantwortungsvollen Entwicklung von KI-Systemen betont. Während sich die KI-Regulierung weiter entwickelt, dient diese Publikation als nützliche Ressource, um die Richtung zu verstehen, die sie einschlagen könnte.
Die weltweit führenden Marken vertrauen auf den Markenschutz von Sedgwick. In über 30 Jahren haben wir mehr als 7.000 der zeitkritischsten und sensibelsten Produktrückrufe in mehr als 100 Ländern und mehr als 50 Sprachen durchgeführt. Um mehr über unsere Lösungen für Produktrückrufe und -sanierungen zu erfahren, besuchen Sie unsere Website hier.
Stichworte: KI, KI-Technologie, Künstliche Intelligenz, Markenschutz, FDA, Gesundheit, Gesundheit und Sicherheit, Rückruf von Medizinprodukten, Medizinprodukte, Rückruf, Regulierung, Regulierung, Technologischer Fortschritt, Technologie