美国食品和药物管理局（FDA）的三位高级官员在《美国医学会杂志》 （JAMA） 上发表了一篇文章，分享了该机构对医疗保健和生物医学领域人工智能（AI）监管的看法。这篇文章由 FDA 局长罗伯特-卡利夫（Robert Califf）、慢性病高级临床顾问海德尔-瓦雷奇（Haider Warraich）和设备与放射健康中心数字健康卓越中心主任特洛伊-塔兹巴兹（Troy Tazbaz）共同撰写。
这篇文章概述了 "在监管系统适应快速发展的人工智能技术时 "需要考虑的 10 个概念。作者认为，美国食品和药物管理局将继续 "在确保安全、有效和可信的人工智能工具方面发挥核心作用"，但行业利益相关者也需要关注识别和处理不负责任的行为者。此外，利益相关者还需要参与开发和优化 "评估人工智能持续安全性和有效性 "所需的工具。
监管人工智能的顶级理念
美国食品和药物管理局于 1995 年批准了首个部分采用人工智能的医疗设备。从那时起，该机构已批准了约 1000 种采用人工智能技术的医疗设备。随着技术的飞速发展，人工智能在医疗器械和药物开发中的应用日益广泛，FDA 官员概述了 10 个概念，以指导人工智能的监管工作：
- 在更广泛的美国政府和全球背景下进行人工智能监管 --管理人工智能的规则需要与更广泛的美国立法体系保持一致，同时还要确保与全球标准兼容。
- 跟上人工智能变革的步伐--人工智能产品的开发、部署和使用将需要一个 "适应性强、以科学为基础的监管方案，以防止伤害，同时支持创新，优化其效益"。
- 对各种人工智能模式采取灵活的方法--人工智能规则必须灵活并以风险为基础，需要根据人工智能系统的预期用途进行 "仔细考虑和调整"。
- 人工智能生命周期管理的核心重要性--人工智能的性能应在其使用环境中进行监控。这就需要更多的方法和工具来进一步完善人工智能评估，因为 "一个未经监控的人工智能系统在实际部署中可能会造成重大伤害"。
- 受监管行业的责任--人工智能的发展说明了一个重大的质量和监管难题，因为为评估许多人工智能模型的安全性和有效性而进行经常性评估所需的工作规模可能超出了美国食品及药物管理局目前的任何监管计划。
官员们还就以下方面提出了概念：人工智能在医疗产品开发中的应用；为大型语言模型（LLM）和生成式人工智能的未知性做好准备；保持稳健的供应链；在大科技公司、初创企业和学术界之间找到平衡；以及利用人工智能优化财务回报与改善医疗效果之间的矛盾。
展望未来
美国医学会杂志》的这篇文章并不涉及任何法律或监管问题，但它可以为医疗设备和制药企业提供宝贵的见解，使其更好地了解 FDA 可能采取的人工智能监管方法。整个医疗生态系统中的企业都应阅读该刊物，并特别关注 FDA 对行业在支持负责任的人工智能系统开发中的作用的强调。虽然人工智能监管仍在不断发展，但该出版物是了解其可能发展方向的有用资源。
Sedgwick 品牌保护深受世界领先品牌的信赖，30 多年来，我们已在 100 多个国家和地区使用 50 多种语言管理了 7,000 多次时间最紧迫、最敏感的产品召回。要进一步了解我们的产品召回和补救解决方案，请访问我们的网站。
标签 人工智能, 人工智能 技术, 人工智能,品牌保护,FDA,健康,健康与安全,医疗器械召回,医疗器械,召回,监管,技术进步, 技术