1、我国医疗人工智能的准入管理政策研究及国际比较 我国医疗人工智能的准入管理政策研究及国际比较 一 研究背景和意义（一）研究背景2017年7月，国务院发布国务院关于印发新一代人工智能发展规划的通知，提出人工智能技术三步走计划1，预计在2020年、2025年和2030年与国际医疗人工智能技术同步发展，同时制定了先局部发展再整体发展的横向目标。医疗人工智能技术的发展对人类社会的健康发展有着极其重要的作用，但由于医疗行业特殊性2和人工智能技术的不确定性，亟须相关部门研究并制定医疗人工智能技术准入管理政策。3当前，人口老龄化、慢性病患者增多、优质医疗资源短缺以及公共医疗费用的上升是中国社会必须面对的几大难
2、题，这就为医疗人工智能技术的发展提供了方向。4美国某咨询公司早前研究表明，医疗人工智能技术可将医疗技术水平提高30%40%，并将医疗成本降低50%左右。另外，我国医疗人工智能的发展在人口上有极大优势，我国人口众多，医疗数据资源丰富，可为医疗人工智能技术的发展提供相关基础。医疗人工智能技术进入市场的关键在于监管和准入环节。医疗人工智能技术和相关产品属于新型技术，相关准入策略和政策尚未明确，不似药品和医疗器械5在国家监管层有非常详细的规定。目前，行业内相关公司均在极力促进医疗人工智能产品的应用与发展，但是相关产品目前均未获得医疗设备许可证。根据美国食品药品监督管理局（FDA）的相关规定，作为辅助诊
3、断的医疗人工智能产品需要获得三级医疗器械许可证，作为辅助功能的医疗人工智能产品需要获得二级医疗器械许可证。6然而许可证申请需要12年时间，整个行业对此都极为关注。我国现有9种医疗人工智能产品已向国家药品监督管理局提交了相关许可证审批，但均仍未通过。具体的审批标准和规范仍在讨论和修改中。（二）研究意义1.理论意义鉴于人工智能有弥补人力资源不足、提高医疗准确性等优点，因此我国在法治、监管、技术、标准等方面做好医疗人工智能的准入管理规范十分必要。了解各国医疗人工智能准入政策的发布趋势，可以为我国医疗人工智能的准入管理体系的建立提供理论参考。2.实践意义本研究梳理人工智能的历史沿革以探寻人工智能的本质
4、，综述当前医疗人工智能在产品、企业、技术及人才等方面的准入管理政策，将医疗人工智能限制在利好人类的方向发展，推动我国人工智能在医疗领域持续健康发展。二 国内外研究状况（一）国外研究状况随着世界各国开始关注医疗与人工智能的结合应用，加强医疗人工智能的学术研究，医疗人工智能已进入一个全新的战略时代。71998年FDA建立计算机辅助识别系统。82012年FDA构建以审查与算法集成的软件系统，定义了一套相对清晰的审查指标，指标包括算法设计、功能、模型等，这一审查指标可用于训练和测试算法的数据集以及用于测试“健康”数据。2016年底，美国先后发布为人工智能的未来做准备、国家人工智能研究和发展战略计划和人
5、工智能、自动化与经济学报告3份白皮书，分析人工智能在美国的发展现状、应用情况、引发的社会问题、相关公共政策等内容，提出美国人工智能研究与开发七大战略9，其中，“确保人工智能系统的安全性与可控性”“建立人工智能标准和测评基准”为人工智能准入标准提出了要求。在医疗人工智能的准入方面，美国从政府、法律、技术及投资层面形成全方位组织推进模式。10欧盟着重关注的是机器人技术在医疗保健领域的应用和发展，其研究主要侧重于法律、伦理、责任等方面的问题。112018年4月，欧盟伦理委员会在发布的欧盟的人工智能中表示，将建立人工智能的道德标准和相应的法律及伦理框架。12在医疗人工智能领域，欧盟提倡高层次的数据保护
6、、数据标准和道德标准以及可信赖的医疗人工智能技术。13并且避免因使用医疗人工智能产品产生的不公平等问题。长期以来，英国十分重视医疗人工智能的发展潜力，并制定了一系列相关的发展政策，英国也是医疗人工智能学术研究重地。14日本在医疗人工智能领域研究的重点方向是临床机器人、医疗辅助系统和医疗卫生数据监督，相关法律法规和市场准入政策不健全是阻碍其发展的主要因素。15日本政府将医疗人工智能相关准入标准和政策的制定视为发展的重要突破点，然而相关的审批程序和安全认证标准均处于空白，行业内公司也十分担心无法通过审批或审批时间太长。医疗保健是医疗人工智能的重要组成部分，日本将基于医疗人工智能和医疗护理的大数据系
7、统，建立世界一流的医疗保健技术体系，以应对迅速老龄化的社会。2018年6月，日本政府在人工智能技术战略会议上制定一系列措施，极大地推动了医疗人工智能发展，促进了人工智能与人类的对话，提出了建立医疗人工智能医院的计划，致力于在2022年前建立10家人工智能医院，利用人工智能技术进行识片、阅片、诊断，最后给出治疗建议。完成构建世界一流先进医疗护理保健系统的目标。（二）国内研究状况1.人工智能标准化工作人工智能技术与医疗健康领域的融合不断加深，医疗人工智能这一前沿技术也随之转变成为影响人们生活的现实应用，需要制定标准来规范管理医疗人工智能技术和应用的发展，我国对于医疗人工智能的标准化极其重视。国务院
8、在新一代人工智能发展规划中提出要加强医疗人工智能标准框架的研究，坚持互操作性、可追溯性、安全性和可用性的原则。16工信部在促进新一代人工智能产业发展三年行动计划（20182020年）中指出必须建立完善的医疗人工智能产业应用标准规范，同时构建完善的医疗人工智能产品评估系统。172018年1月，经国家标准化管理委员会批准，我国建立了国家人工智能标准化管理组和专家咨询组。18两个小组承担我国医疗人工智能发展标准化工作，起整体协调、规划、布局的作用，负责国际和国内医疗人工智能标准化工作的比对，并根据我国国情制定我国医疗人工智能发展规划和标准；协调我国与国际相关医疗人工智能技术标准的一致性，协调有关组织
9、、企业、机构构建通用的医疗人工智能产品，建立良好的行业基本通用应用标准和传播机制；进行试点示范、宣传培训等工作，开展国际标准化交流与合作。人工智能标准化白皮书（2018版）提出以“A基础”“B平台/支持”“C关键技术”“D产品和服务”“E应用程序”“F安全性/道德”六个部分作为人工智能标准化的架构，梳理了我国目前已有和亟须建立的人工智能标准，在人工智能产品应用及服务的准入领域也开展了相关研究。2.医疗人工智能准入管理研究2017年2月，国家卫计委修订了15项指导临床应用的管理规范，其中包括指导医疗人工智能辅助诊断技术管理规范和质量控制指标。2017年10月，中共中央办公厅、国务院办公厅发布了关
10、于深化审评审批制度改革鼓励药品医疗器械创新的实施意见，指出必须完善试验数据保护制度并建立数据保护期，有必要完善和实施药品试验数据保护制度，并给予一定的数据保护期。192015年，国家食品药品监督管理总局（CFDA）发布了医疗器械软件注册技术审查指导原则，要求针对软件进行描述的文档应包括技术的基本信息、实现过程和核心算法。2017年8月，CFDA发布药品数据管理标准（征求意见稿），指导产品生命周期数据的管理规范，要求最高级管理人员对数据的可靠性承担最终责任。2017年9月，CFDA规定各类器械产品申请人应通过CFDA医疗器械标准分类信息系统的申请定义。从监管层面看，人工智能技术应用于医疗领域处于
11、起步发展阶段，相关政策与监管标准尚未明确，迫切需要制定行业发展指导标准。我国在医疗人工智能的准入方面已做出了部分政策响应，但目前尚未有一个专门致力于数字化医疗和人工智能技术准入评审的新部门。关于人工智能辅助诊断的准入，我国目前整个行业标准还没有形成，医疗器械、人工智能产品还没有正式的注册审批20，这对人工智能技术在医疗领域的应用是一个很大的挑战。三 研究目标和研究内容（一）研究目标本研究了解各国医疗人工智能准入政策及发布趋势，为我国医疗人工智能的发展提供参考，探讨医疗人工智能准入管理政策的发展方向及对医疗健康产业发展的未来前景的影响。（二）研究内容本研究对美国、欧盟、英国、日本等主要国家和地区
12、关于医疗人工智能的准入管理政策进行梳理，对比其人工智能研发重点和应用领域的差异；对我国发布的医疗人工智能准入政策进行比较和分析研究，了解政策发布趋势和政策主题变化；对比分析我国医疗人工智能政策及标准在产品、应用技术、人员及企业等方面的准入要求；通过横向与纵向的比较，对我国医疗人工智能准入政策概况进行初步梳理。四 研究方法和技术路线（一）研究方法1.文献研究法本研究利用CNKI、万方、维普、Pubmed、Web of Science、OVID和Google、XX等数据库和搜索引擎查询国内外相关文献和资料，查阅有关医疗人工智能准入管理相关政策、标准等方面的文献资料，进行文献评阅和整理分析，为项目研
13、究提供理论支撑和参考依据。2.比较分析法本研究选择相关数据分析模型，并结合SPSS及Excel等统计分析软件，对文献检索获得的数据进行整理、分析，总结各地区医疗人工智能准入管理政策的战略重点和发展方向，为项目研究提供数据支撑。3.专家咨询法本研究根据文献研究法和比较分析法对医疗人工智能相关准入管理政策的研究情况，邀请卫生健康信息化、人工智能、卫生政策、医学法律方面专家1015人，对项目研究成果（研究报告）进行论证，提出修改建议和意见。（二）技术路线（见图1）图1 技术路线五 国内外医疗人工智能准入政策由于算法的增强、算力的提升以及广泛的大数据资源，人工智能的发展取得了切实的成果并呈现良好的发展
14、态势，同时在数据隐私、数据标准、责任风险等方面还存在许多问题21，需要相应的准入管理政策来做好规范。22国内外主要国家和地区近年来积极制定人工智能战略规划，医疗人工智能是主要研究和应用领域之一。23医疗人工智能的准入管理既包括产品和技术本身的准入管理，如算法的可解释性、软件与系统功能、产品或服务的准入等，也包括与之相关的企业、人员的准入管理工作。我国近几年高度重视人工智能在医学中的应用，在不同等级的政策文件中都提出了医疗人工智能研究的重点方向。24这些政策文件中也有提及医疗人工智能准入管理相关的内容及举措。国家级医疗人工智能准入相关文件如表1所示，省市级医疗人工智能准入管理政策相关内容如表2所
15、示。（一）国内外人工智能产品准入管理检验医疗人工智能产品的标准一般可以分为3个方面鲁棒性、易用性、安全性。国内外在医疗人工智能产品，特别是在医疗器械的准入管理和审批环节陆续出台了相关政策。1.医疗软件与系统（1）国外美国FDA器械和放射健康中心（CDRH）于2017年7月发布了“数字健康创新行动计划”（Digital Health Innovation Action Plan）25，对医疗软件提出监管方法的新举措，明确了受监管的医疗软件范围、创设软件预认证试点项目、成立评估专家组，并公布一系列即将出台的规范性指南清单，使新的准入政策适用于医疗工作的新发展模式。（2）国内2015年国家食品药品监
16、督管理总局发布了医疗器械软件注册技术审查指导原则，要求针对软件技术的软件描述文件包括技术基本信息、实施过程以及核心算法。2019年7月，继国家药品监督管理局医疗器械技术评审中心发布深度学习辅助决策医疗器械软件审批要点后，中央各部委纷纷出台相关政策，大力鼓励支持医疗人工智能技术的发展。指出算法训练需要基于训练集、调优集进行训练和调优，应当明确评估指标、训练方法、训练目标、调优方法、“训练数据量评估指标曲线”等要求。申报的软件名称需符合独立软件通用名称命名规范要求，体现处理对象（CT图像、眼底照片）、目标疾病（含病变、疾病属性）、临床用途（辅助筛查、辅助识别）等特征词。辅助决策独立软件适用范围应当
17、明确预期用途、使用场景和核心功能。此外，各省市也发布了相关准入管理文件：贵州省发布了智能贵州发展规划（20172020年）（黔数201769号）；上海市发布了关于本市推动新一代人工智能发展的实施意见（沪府办发201766号），天津市发布了天津市新一代人工智能产业发展三年行动计划（20182020年）（津政办发201840号）等文件均提出应建立人工智能产品测试认证体系，推广人工智能系统和产品的测试，并加强对产品安全性和可控性的监督。2.医疗器械与设备（1）国外2016年美国正式通过了21世纪治愈法案，该法案拨款支持FDA改革药物批准流程。26法案要求改革并加快某些抗生素和药物的批准程序，要求加快
18、医疗器械的批准渠道，为药物开发提供了新的指导文件。2015年日本政府发布了机器人新战略：愿景、战略、行动计划，指出了未来医疗人工智能的发展战略，加强手术机器人的人文功能，加强医疗器械的审批和排查。2018年1月，日本发布人工智能技术战略中提到了人工智能技术和医疗器械审查等方面的准入要求。27随着美国越来越多的人工智能产品和有机器学习功能的医疗设备、器械或医用软件等涌入FDA大门，2017年，FDA正式授权Bakul Patel博士组建一个专门致力于数字化医疗和人工智能技术评审的新部门，旨在为FDA准备好规范和标准来重新规划智能医疗机器人、有机器学习特质医疗设备的监管和审批途径及准入标准等。28
19、（2）国内2014年2月，国家食品药品监督管理总局（CFDA）针对医疗人工智能产品的审批与注册问题开辟快速通道，发布了创新医疗器械特别审批程序（试行）（食药监械管201413号），对符合相关规定的医疗器械设置快速审批通道。292014年7月，国家食品药品监督管理总局批准医疗器械注册管理办法，该办法指出凡在中华人民共和国境内销售和使用医疗器械的企业或个人，都应按照本办法完成登记或备案手续。因此为加强医疗人工智能产品的备案和审查，国家食品药品监督管理总局制定了相应医疗人工智能产品的注册指导原则。2018年1月，国家食品药品监督管理总局出台了药品数据管理规范（征求意见稿），该规范指导了产品生命周期中
20、所有活动的数据管理，并要求高级管理人员对药品数据的可靠性负责。302017年10月，中共中央办公厅、国务院办公厅联合发布了关于深化审评审批制度改革鼓励药品医疗器械创新的意见，该意见指出必须建立药品实验数据保护制度并提供数据保护期，完善技术审查制度，并成立药品审查监管小组，对创新医疗器械进行审查。312018年8月，国家食品药品监督管理总局颁布了医疗器械分类目录新增了与人工智能辅助诊断相对应的类别。依据新版本分类规定，如果诊断软件仅提供诊断建议，没有给出诊断结论，则根据第二类医疗器械设备进行管理；如果诊断软件给出诊断建议并给出明确诊断提示，则根据第三类医疗器械进行管理。2019年1月，科技部等发
21、布了关于加强中医医疗器械科技创新的指导意见，指出必须加快制定中医医疗器械分类标准，规范中医医疗器械的管理，加快制定中医医疗器械运行标准，规范中医医疗器械的应用，同时加强中医医疗器械质量安全、注册、准入和技术操作等方面的标准，建立完善的中医医疗器械标准管理体系。此外，为了进一步加强对医疗服务器械产品的监督和管理，从而更好地开展医疗服务器械技术评审以及注册申报工作，我国国家食品药品监督管理总局出台了一系列指导文件。这些指导文件包括医用内窥镜冷光源注册技术审查指导原则C反应蛋白测定试剂盒注册技术审查指导原则医学图像存储传输软件（PACS）注册技术审查指导原则白蛋白测定试剂（盒）注册技术审查指导碱性磷
22、酸酶测定试剂盒注册技术审查指导原则等，在医疗领域起到了良好的规制作用。各省市也出台了相关准入管理文件，例如，浙江省新一代人工智能发展规划（浙政发201747号）中提出要加快推动制定相关人工智能产品安全管理法规。（二）人工智能企业准入管理1.医疗人工智能企业必须和医疗机构进行合作医疗人工智能企业在与医疗机构合作、确定商业运营模式方面仍处于探索阶段。医疗人工智能企业必须和医疗机构进行合作，一方面因为人工智能技术研发所需的数据及标准来源于医疗机构；另一方面因为企业训练出来的模型需要在医疗机构进行临床检验。医疗问题从医院来，解决问题也必须回到医院去。2.企业与医疗机构的合作形式当前，企业与医疗机构的合
23、作形式可以分为4种：与多家医疗机构合作、与单一医疗机构多个科室合作、与单一医疗机构单一科室合作、与个别医生的项目合作。32医疗人工智能企业商业模式有：产品/模型归属企业，医疗机构免费试用；产品/模型归属企业，医疗机构支付一定费用；产品/模型归属医疗机构，医疗机构一次性向企业采购软硬件；产品/模型归属卫健委，政府向企业采购，医疗机构免费使用等。3.各省市发布的相关准入管理文件关于推进人工智能和智能制造若干发展的重要措施（赣府发20163号），对符合条件的人工智能和智能制造企业，优先认定为高新技术企业，大力引进国内外知名人工智能和智能制造企业。北京市加快科技创新培育人工智能产业的指导意见（京发20
24、1727号），加强人工智能相关标准研究，支持人工智能企业开展国家标准制定，参与或主导国际标准制定。关于加快推进人工智能和智能制造发展的若干措施（赣府厅发201783号），对符合条件的人工智能和智能制造企业，优先认定为高新技术企业。关于本市推动新一代人工智能发展的实施意见（沪府办发201766号），加强标准制定及测试认证，支持企业参与人工智能综合标准、基础共性技术标准制定，建立公共领域人工智能应用安全测试与认证制度。浙江省新一代人工智能发展规划的通知（浙政发201747号），加强人工智能行业和企业的自律。加快完善人工智能融合标准规范，建立科学有效的市场监管体系，积极营造健康的创新创业生态，加强试
25、点示范，推进人工智能产业健康有序发展。天津市新一代人工智能产业发展三年行动计划（20182020年）（津政办发201840号），建立并完善天津市人工智能企业统计监测目录，加强人工智能产业经济运行及专利相关数据分析和监测。（三）国内外人工智能技术准入管理1.国外2016年美国发布的国家人工智能研究和发展战略规划指出在医疗领域美国积极将人工智能应用于可穿戴设备、记忆辅助系统和医疗诊断等领域。33该规划建立了相关的标准和参照，并创建了医疗人工智能技术数据测试集，用于人工智能技术的测试和评估。此外，美国已在数据隐私保护、缩短审批流程等方面做出应对，并组建了专门致力于数字化医疗和人工智能技术评审的新部门
26、。欧盟发布了20142020欧洲机器人技术战略研究计划重新定义了人工智能应用中的技术问题，并且加深了大众对医疗人工智能机器人的理解。如对康复辅助机器人、手术机器人等产品应用时技术途径的了解。2018年5月欧盟颁布生效的通用数据保护条例对健康医疗数据做出严格的规定说明，即处理后的数据不得识别个人并复原。其中强调处理个人数据要遵循透明性原则、最少数据原则等。342019年4月，欧盟在可信赖人工智能道德准则中提出实现“可信赖人工智能”七个要素的原则。其中指出人工智能有能力为个人和社会带来巨大的利益35，但也会带来某些需要妥善应对的风险，需要在人工智能所要应对的伦理和技术等方面制定相应的准入政策。20
27、17年，日本发布了下一代人工智能促进战略，在人工智能与信息通信技术结合的准入方面做出了相应的规定，使名医的知识与技术发挥最大作用。2.国内2012年，卫生部办公厅发布的机器人手术系统辅助实施心脏手术技术规范（2012年版）和机器人手术系统辅助实施心脏手术技术培训与管理规范（2012年版）指出，为促进医疗人工智能技术的发展，规范人工智能临床应用，我国应加强手术机器人系统的建设，确保满足医疗人工智能临床应用需求，保障医疗质量和安全。两个规范均对手术机器人提出规范要求，通过技术方法为人工智能设定人类的道德标准。国家卫生和计划生育委员会于2017年2月发布了人工智能辅助诊断技术管理规范（2017年版）
28、和人工智能辅助治疗技术管理体系规范（2017年版）36，对医疗机构及其医务人员应用人工智能辅助诊断和治疗提出了极具操作性的要求，具体包括医疗机构的硬件设施、医务人员的资质要求以及技术管理和培训管理制度等。2017年12月，工信部发布促进新一代人工智能产业发展三年行动计划（20182020年）指出要加快智能辅助诊断系统的建设，推动医学影像数据采集标准化与规范化，加快医疗影像辅助诊断系统的产品化及临床辅助应用。2018年1月，国家标准化管理委员会发布了人工智能标准化白皮书（2018版），指出我国医疗人工智能处于起步阶段，相应的准入标准应加快制定。包括智能家居产品的研究应加快制定相关标准，其中提到智
29、能家居医疗保健产品的研究应继续制定一些标准，如医学影像辅助诊断系统相关技术和应用标准的要求。此外，各省市也发布了相关准入管理文件，贵州省发布了智能贵州发展规划（20172020年）（黔数201769号），促进了行业相关技术标准的制定，完善了相关评价标准的研究和验证机制。北京市发布了北京市加快科技创新培育人工智能产业的指导意见（京发201727号），建立了人工智能领域知识产权保护机制，加强人工智能技术创新。河南省发布了智能制造和工业三年行动河南省互联网发展（20182020年）（豫政发201814号），实行智能制造标准带头行动，加强智能制造技术创新能力，完善智能制造标准体系，满足人工智能发展需求
30、。广东省发布了广东省新一代人工智能发展规划（粤府201864号）指出应加强数据标准化管理，为人工智能产品的研究提供有效理论支撑，并积极建立以数据驱动为核心的认知计算模型。（四）国内外人工智能人员准入管理医疗人工智能领域所需人才不仅要掌握人工智能相应技术，更要了解医学理论，掌握临床相关知识，理解医疗业务流程。1.国外随着医疗人工智能快速发展，当使用手术机器人做手术时，需要医生具备精湛的手术技术和丰富临床经验，并能够应对医疗人工智能引发的并发症。37每个患者的症状和情感诉求千差万别，疾病的诊断和治疗是非常复杂的过程，医生不仅要具有精湛医术，还要具备良好的沟通能力和一定的人文素养。2016年12月，
31、美国总统行政办公室发布了人工智能、自动化与经济学报告，该报告深入研究了人工智能驱动的自动化在经济上的影响以及对人工智能领域从业人员准入带来的机遇和挑战。该报告明确指出，随着人工智能技术的不断提高，科学技术和科学生产率也会不断提高。相关领域的人员准入也将随之做出调整，需要政府继续加大力度投资，培养更多的人工智能人才。2.国内目前我国的人工智能人才培养机制尚无法满足医疗领域专门人才培养需求。医疗人工智能从业者深入医院，与医生为伍，技术人才与医疗人才一同工作、一起成长是当前常用的模式。医师注册管理办法规定医师获取从业医师资格证必须通过专门的考核和评估。根据我国相关立法规定，医生的准入资格必须包括一般准入和特殊准入，因此医疗人工智能诊疗技术也必须满足一般准入和特殊准入，仅满足人类医师的一般准入无法获取准入资格。根据侵权责任法，医务人员的义务应根据当时的最高医疗水平来定，如果医务人员实施的医疗救助低于当时的医疗水平，并且对患者造成伤害，相关医疗机构应承担相应法律责任。因此为最大限度保护患者的权益，要求医疗人工智能实行救助行为的对象，必须高于当时的医疗水平。各省市相关准入管理文件。贵州省发布了智能贵州发展规
