文 | 单烁

人工智能医疗是引领新一轮健康产业变革、破解优质医疗资源不均衡难题的关键力量。近期，国家五部门联合印发《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》（以下简称《实施意见》），为全国AI医疗发展擘画了蓝图，并明确要求强化安全监管。

山东省是医疗资源大省，在医学影像、智慧医院、健康大数据等领域具备先发优势和产业基础，理应在国家战略框架下先行先试。

近日，山东进入“两会”时间。为抓住机遇将山东的医疗数据优势、场景优势转化为制度创新优势和产业发展高地，为国家层面立法提供“山东经验”，山东省政协委员、青岛大学青岛医学院副院长李冰建议，将制定《山东省人工智能医疗应用管理条例》（以下简称《条例》）纳入规划，组织卫生健康、药监、网信、科技、司法等部门及学界、产业界专家，率先开展立法研究。

她认为，立法核心应围绕“促发展”与“防风险”两大主线，构建以下四大支柱体系：

一、明确责任归属，建立基于风险分级的分类监管体系

李冰认为，这是破解“谁来为AI的决策负责”这一核心难题的基础。在这一方面，她提到要确立“人类主体负责”根本原则，明确AI永远作为辅助工具，最终临床决策权和责任必须由执业医师承担。

其次她认为，应实施风险分级动态监管：

“借鉴国际经验，依据AI应用对患者安全的潜在影响进行分级。对用于健康管理的低风险应用实行备案制；对直接参与诊断、治疗建议的高风险应用，实施严格的准入前评估和上市后持续监测。”

最后她还提到，要构建“多方责任链条”，明确AI产品/服务提供者、部署应用的医疗机构、使用AI的医务人员三方责任。提供者需对算法安全性、有效性及可解释性负责；医疗机构负有临床验证、人员培训和系统运维责任；医务人员负有最终审核、判断与告知责任。

二、筑牢数据基石，创新医疗数据要素安全利用机制

李冰表示，数据是AI的“燃料”，其安全流动是发展的前提。

在这一方面，首先她认为应落地临床数据授权运营制度：

“依据国家《实施意见》，在山东试点建立规范的临床数据授权运营平台，由符合资质的第三方中立机构或大型医院牵头，在确保患者隐私和数据安全的前提下，实现医疗数据在科研与产业开发中的合规、高效利用。”

其次，她认为应推行数据安全与隐私保护负面清单：

“明确列出禁止行为，如未经单独同意处理敏感个人信息、将数据用于非授权目的、非法交易数据等，为各类主体划清红线。”

最后她还表示，应强化全生命周期防护：

“要求建立覆盖数据采集、存储、传输、使用、销毁的全流程技术防护和管理体系，特别加强对外包服务的安全监管。”

三、聚焦临床落地，建立全生命周期质量与效能评估体系

李冰提到，应确保AI工具在真实世界环境中安全、有效、公平。

在这一方面，她首先建议建立省级AI医疗应用中试与验证基地，依托山东省国家区域医疗中心、高水平研究型医院，建设集技术攻关、临床验证、产品孵化于一体的省级中试基地，为AI医疗器械和软件提供真实世界数据下的效能与安全性验证。

其次她认为，应实施动态性能监测与再评估：

“要求对已上市的高风险AI应用建立持续的性能监测机制，对算法因数据漂移导致的性能下降进行预警，并建立定期的再评估和退出机制。”

最后她还提出，要探索基于价值的医保支付路径，鼓励医保部门与AI企业、医疗机构合作，对能显著提升诊疗效率、改善预后或降低整体医疗费用的成熟AI应用，探索创新支付模式，推动其规模化、可持续应用。

四、坚守伦理底线，构建人本化、透明化的应用生态

李冰认为，应引导技术向善，保障患者权益与尊严。

在这一方面，她首先提出应强制人工智能身份标识与知情同意：

“任何与患者交互的AI系统，必须在交互界面显著位置标明‘人工智能辅助’，并向患者清晰说明其功能、局限及数据使用方式，保障患者知情同意权。”

其次，她还建议设立专门伦理审查委员会，要求二级以上医院设立或强化AI医疗应用伦理审查委员会，对拟引入的AI技术进行伦理风险评估，审查要点需包括算法公平性（避免对特定人群的歧视）、可解释性及对医患关系的影响。

最后她还提到，应防范情感操控与过度依赖：

“针对AI拟人化互动服务如心理陪伴机器人、智能健康助手，明确禁止其进行情感操控或诱导用户作出不合理的医疗决策，必须设置人工干预接口。”

李冰认为，通过《条例》的制定与实施，山东不仅能为全国AI医疗治理贡献智慧，更能以此为契机，吸引全球顶尖的创新要素汇聚山东，将制度优势转化为产业竞争优势，最终让安全、可信、高效的人工智能医疗惠及每一位齐鲁百姓，为“健康山东”建设和新时代社会主义现代化强省建设注入强劲的“数智”动力。