Tiga pejabat senior dari Badan Pengawas Obat dan Makanan AS (FDA) menerbitkan sebuah artikel di TheJournal of the American Medical Association (JAMA) yang membagikan perspektif badan tersebut dalam mengatur kecerdasan buatan (AI) di bidang perawatan kesehatan dan biomedis. Artikel ini ditulis oleh Komisaris FDA Robert Califf, Penasihat Klinis Senior untuk Penyakit Kronis Haider Warraich, dan Direktur Pusat Keunggulan Kesehatan Digital di Pusat Perangkat dan Kesehatan Radiologi Troy Tazbaz.
Artikel tersebut menguraikan 10 konsep yang perlu dipertimbangkan "seiring dengan adaptasi sistem regulasi untuk mengatasi" teknologi AI yang berkembang pesat. Menurut penulis, FDA akan terus "memainkan peran sentral dalam memastikan perangkat AI yang aman, efektif, dan dapat dipercaya," tetapi para pemangku kepentingan industri juga perlu menaruh perhatian dalam mengidentifikasi dan menangani pelaku yang tidak bertanggung jawab. Selain itu, para pemangku kepentingan perlu berpartisipasi dalam mengembangkan dan mengoptimalkan alat yang diperlukan untuk "menilai keamanan dan efektivitas AI yang sedang berlangsung."
Konsep-konsep utama untuk mengatur AI
FDA menyetujui perangkat medis pertama yang mendukung sebagian AI pada tahun 1995. Sejak saat itu, badan tersebut telah mengesahkan sekitar 1.000 perangkat medis yang menggunakan teknologi AI. Dengan pesatnya laju kemajuan teknologi dan meningkatnya penggunaan AI dalam perangkat medis dan pengembangan obat, para pejabat FDA menguraikan 10 konsep untuk memandu regulasi AI:
- Peraturan AI dalam pemerintah AS yang lebih luas dan konteks global - Peraturan yang mengatur AI perlu diselaraskan dengan sistem legislatif AS yang lebih luas sekaligus memastikan kompatibilitas dengan standar global.
- Mengikuti laju perubahan dalam AI - Pengembangan, penyebaran, dan penggunaan produk yang mendukung AI akan membutuhkan "skema regulasi berbasis sains yang adaptif untuk mencegah bahaya sekaligus mendukung inovasi yang mengoptimalkan manfaatnya."
- Pendekatan yang fleksibel di seluruh spektrum model AI - Aturan AI harus fleksibel dan berbasis risiko dan akan membutuhkan "pertimbangan dan adaptasi yang cermat" tergantung pada tujuan penggunaan sistem AI.
- Pentingnya manajemen siklus hidup AI - kinerja AI harus dipantau di lingkungan tempat AI digunakan. Hal ini akan membutuhkan lebih banyak pendekatan dan alat untuk menyempurnakan evaluasi AI lebih lanjut karena "sistem AI yang tidak dipantau yang digunakan dalam praktiknya dapat menimbulkan bahaya yang signifikan."
- Tanggung jawab industri yang diatur - Evolusi AI menggambarkan dilema kualitas dan peraturan yang besar, karena skala upaya yang diperlukan untuk melakukan evaluasi berulang untuk menilai keamanan dan efektivitas banyak model AI dapat melampaui skema peraturan FDA saat ini.
Para pejabat tersebut juga menawarkan konsep-konsep tentang penggunaan AI dalam pengembangan produk medis; mempersiapkan diri untuk hal-hal yang belum diketahui tentang model bahasa besar (LLM) dan AI generatif; mempertahankan rantai pasokan yang kuat; menemukan keseimbangan antara Big Tech, perusahaan rintisan, dan akademisi; serta ketegangan antara menggunakan AI untuk mengoptimalkan keuntungan finansial versus meningkatkan hasil kesehatan.
Melihat ke depan
Artikel JAMA tidak memiliki implikasi hukum atau peraturan apa pun, tetapi dapat memberikan wawasan yang berharga bagi bisnis perangkat medis dan farmasi untuk lebih memahami kemungkinan pendekatan FDA dalam mengatur AI. Bisnis di seluruh ekosistem perawatan kesehatan harus meninjau publikasi tersebut dan memberikan perhatian khusus pada penekanan FDA pada peran industri dalam mendukung pengembangan sistem AI yang bertanggung jawab. Sementara regulasi AI terus berkembang, publikasi ini berfungsi sebagai sumber daya yang berguna untuk memahami arah yang mungkin diambil.
Dipercaya oleh merek-merek terkemuka di dunia, perlindungan merek Sedgwick telah menangani lebih dari 7.000 penarikan produk yang paling penting dan sensitif di lebih dari 100 negara dan 50 bahasa, selama lebih dari 30 tahun. Untuk mengetahui lebih lanjut tentang penarikan produk dan solusi remediasi kami, kunjungi situs web kami di sini.
Tags: AI, AI teknologi, Kecerdasan Buatan, Perlindungan merek, FDA, kesehatan, kesehatan dan keselamatan, penarikan kembali perangkat medis, Perangkat medis, penarikan kembali, regulasi, Regulasi, Regulasi, Kemajuan teknologi, Teknologi