Regulator Eropa dan Amerika Utara semakin menunjukkan kesediaan untuk berkolaborasi dalam pedoman keselamatan, terutama dalam industri perangkat medis. Pada tahun 2021, Badan Pengawas Obat dan Makanan AS (FDA), Badan Pengawas Obat dan Produk Kesehatan Inggris (MHRA), dan Health Canada bersama-sama merilis Praktik Pembelajaran Mesin yang Baik untuk Pengembangan Perangkat Medis: Guiding Principles, yang menguraikan sepuluh prinsip panduan yang dimaksudkan untuk meletakkan dasar bagi pengembangan Praktik Pembelajaran Mesin yang Baik (Good Machine Learning Practice/GMLP) dalam perangkat medis.
Pembaruan terbaru
Pada bulan Juni 2024, ketiga regulator tersebut merilis prinsip-prinsip panduan tambahan yang terkait dengan transparansi untuk perangkat medis berkemampuan pembelajaran mesin (MLMD), yang dibangun di atas dua prinsip GMLP yang sudah ada: Prinsip 7, yang menyatakan bahwa "fokus ditempatkan pada kinerja tim manusia-AI," dan prinsip 9, yang menyatakan bahwa "pengguna diberikan informasi yang jelas dan penting." Untuk tujuan prinsip-prinsip ini, transparansi menggambarkan "sejauh mana informasi yang tepat tentang MLMD dikomunikasikan dengan jelas kepada audiens yang relevan."
Menurut FDA, transparansi yang efektif memastikan bahwa informasi yang dapat memengaruhi risiko dan hasil akhir pasien dikomunikasikan; mempertimbangkan konteks informasi; menyampaikan informasi menggunakan format, waktu, dan strategi yang optimal; serta menggunakan "pemahaman menyeluruh" terhadap faktor-faktor seperti pengguna, lingkungan, dan alur kerja.
Prinsip-prinsip panduan terbaru untuk transparansi MLMD menganjurkan pendekatan yang mempertimbangkan siapa (khalayak yang relevan), mengapa (motivasi), apa (informasi yang relevan), di mana (penempatan informasi), kapan (waktu komunikasi), dan bagaimana (metode yang digunakan untuk mendukung transparansi). Mereka juga sangat fokus pada desain yang berpusat pada manusia.
Mengingat sifat kritis perangkat medis terhadap kesehatan pengguna dan semakin kompleksnya perangkat yang dilengkapi dengan pembelajaran mesin atau AI, semakin penting bagi pengguna dan penyedia layanan kesehatan untuk memahami tujuan penggunaan, pengembangan, dan kinerja MLMD serta risiko terkait.
Gambaran besar
Prinsip-prinsip panduan dari FDA, MHRA, dan Health Canada bukanlah peraturan yang mengikat; namun, prinsip-prinsip tersebut dimaksudkan untuk meletakkan dasar bagi prinsip-prinsip GMLP dari Forum Regulator Alat Kesehatan Internasional (International Medical Device Regulators Forum/IMDRF) dan organisasi standar internasional lainnya. IMDRF membentuk Kelompok Kerja Kecerdasan Buatan/Pembelajaran Mesin yang Diaktifkan (AI/ML) pada musim panas 2023. Kelompok ini ditugaskan untuk mengembangkan dokumen baru tentang prinsip-prinsip GMLP "yang bertujuan untuk menghasilkan perangkat medis berkemampuan AI/ML yang lebih aman dan keselarasan global di seluruh siklus hidup produk." Kelompok kerja ini diketuai bersama oleh perwakilan dari FDA dan MHRA, dan telah menetapkan salah satu tujuannya untuk "mengembangkan dokumen bersama FDA AS/Kanada Kesehatan/Kementerian Kesehatan Inggris tentang Prinsip-prinsip Panduan GMLP."
Dengan mengingat hal ini, produsen perangkat medis yang perangkatnya mendukung AI/ML harus meninjau dengan cermat Prinsip-prinsip Panduan kolaboratif 2021 dan membiasakan diri dengan materi tambahan apa pun, termasuk prinsip-prinsip transparansi yang baru. Meskipun IMDRF belum menetapkan jadwal untuk standar internasionalnya, produsen harus mengambil langkah sekarang untuk melakukan persiapan. Hal ini harus mencakup memperbarui rencana penarikan dan krisis untuk perangkat berkemampuan AI/ML serta meninjau praktik transparansi yang ada untuk mengkomunikasikan tentang MLMD dan potensi risiko dengan pihak-pihak terkait.
Dipercaya oleh merek-merek terkemuka di dunia, perlindungan merek Sedgwick telah menangani lebih dari 7.000 penarikan produk yang paling penting dan sensitif di lebih dari 100 negara dan 50 bahasa, selama lebih dari 30 tahun. Untuk mengetahui lebih lanjut tentang penarikan produk dan solusi remediasi kami, kunjungi situs web kami di sini.
Tags: AI, teknologi AI, Kecerdasan Buatan, Perlindungan merek, Operator, Pembelajaran mesin, produsen, Perawatan medis, Penarikan kembali perangkat medis, Perangkat medis, ML, Mempertahankan merek, Penarikan kembali, peraturan, Inggris, Amerika Serikat