business 10 分钟阅读

犹他州AI处方试点领跑全国医疗监管变革

犹他州成为全美首个允许AI在无人直接监督下为患者诊断并开具处方的州。Nolla Health的试点目前仅针对痤疮患者,但此举可能为全美医疗监管树立先例。

  • FDA暂停
  • 中期选举
  • AI医疗
  • FDA监管
  • 医疗监管

一次先发制人的押注,牵动全国

犹他州即将成为美国第一个允许人工智能系统观察患者、做出诊断并将处方发送至药房的州——全程无需医生实时盯着屏幕。

该项目由盐湖城初创公司Nolla Health运营,目前仅覆盖轻中度痤疮。这种刻意的窄范围是其政治护甲:痤疮不会致死。但由此确立的法律与监管先例却难以轻易遏制。

每月费用为4.99美元。用户扫描面部、填写病史问卷,算法根据严重程度量表(从清洁到严重)对皮肤进行评分,然后推荐八种获批的外用治疗方案之一。医生不参与决策——至少在第三阶段之前如此,届时医生将每月回顾性审查至少10%的处方。

这个词很关键:回顾性。

分阶段推进揭示真实风险

Nolla Health首席执行官路易斯·韦努斯将此次试点描述为一场谨慎的实验。前100张处方须经人类医生审核后才能送至药房。接下来400名患者的数据由医生每周事后审查。最终,监督将缩减至每月10%的抽样。

但发展方向毋庸置疑。该模式趋向完全自动化,人类的参与从守门人缩减为审计员。这正是公司致力于构建的架构——而犹他州监管机构正在批准它。

这一结构还制造了一片责任迷雾,现有的医疗过失法律从未为此设计过应对方案。当人类医生开具处方时,责任是明确的:医生对州执照委员会和医疗过失保险负责。但当AI系统做出决定、而人类医生仅在事后——且并非每张处方——才进行审查时,不良后果的责任由谁承担?是初创公司?软件开发商?审查医生?还是颁发该项目许可的州?

尚无法院回答过这个问题。犹他州即将揭晓答案。

FDA监管悬而未决

美国食品药品监督管理局监管药物的处方与审批流程,但尚未出台针对AI驱动临床决策的综合性框架。该局已批准了部分基于AI的诊断工具,但这些设备通常与人类医生并存,而非取代它们。

Nolla Health的模式游走于这一界限的边缘。该AI系统不仅生成诊断,还在生成处方。而且它是在一个绕过传统医患关系的州政府许可项目中这样做的。

如果FDA不介入或不澄清立场,各州将独立填补这一真空。犹他州实际上自愿充当了监管实验室。其他州正密切注视着。

这里有一个值得关注的竞争维度。率先推进AI医疗应用的州将自己定位为数字健康初创企业的目的地。犹他州早已凭借有利的税收政策和亲商的监管环境吸引科技公司。此次试点将这一战略延伸至医疗健康领域——这是一个比科技产业庞大得多的行业,且能产生巨大的游说影响力。

痤疮窗口期本就狭隘

选择痤疮作为切入点具有战略上的精明之处。这是一种高发症、低急症。大多数处方来自外用维A酸类和抗生素——据韦努斯称,这些药物的副作用仅限于皮肤刺激或干燥。没有系统性药物,没有管制物质,没有紧急决策。

但先例很少会拘泥于其原始类别。肿瘤学、皮肤科、精神病学、初级保健——在这些领域,AI辅助或AI主导的处方均可能被论证为安全且高效。为痤疮治疗建立的基础设施是可转移的。监管审批流程是可转移的。责任问题也是可转移的。

第一次测试无非是:是否会出现足够严重的失误以引发 backlash。如果1000人试点平稳运行、零严重不良事件,那么扩张的论证将成为政治议题,而非科学议题。

错误已是既成事实的问题

警示案例真实且近在眼前。去年,一名60岁男子采纳ChatGPT的建议,用溴化钠替代饮食中的盐,患上了溴中毒——一种自19世纪以来罕见的精神疾病。今年3月,谷歌悄然关闭了一款名为"What People Suggest"的AI驱动健康搜索功能,原因是 reports 显示不准确的医疗信息正被推送给使用者。

这些事件涉及面向消费者的AI工具,而非受监管的医疗项目。但它们揭示了一种模式:AI系统会 hallucinate(产生幻觉),会超出训练数据泛化,并呈现出虚假的确定性。一条糟糕的饮食建议与一张糟糕的处方之间的差距,衡量的是器官衰竭与死亡。

Nolla Health的保障措施——分阶段推进、仅限外用药物、最终的事后审查——旨在将风险最小化。但它们的设计并非消除风险。这引出了一个疑问:事后审查本身是否算得上有意义的监督?一名医生每月审查10%的处方,无法发现系统性错误。他们只能发现异常值——而此时,伤害已经造成。

其他州的动向

爱达荷州、佛罗里达州和德克萨斯州均已提出探索AI在医疗中应用的立法。部分法案聚焦于诊断辅助,另一些则推向自主处方。它们尚未达到犹他州所处的高度,但有几个已十分接近。

犹他州的首发优势确实存在,却十分脆弱。如果该项目出现负面结果——哪怕仅一起严重不良事件——其他州便会踌躇。如果未出现任何负面结果,该模式将迅速扩散。数字健康初创企业会将其推向市场,州立法机构会复制它,FDA要么加速自身框架的制定,要么被迫回应由各州规则拼凑出的混乱局面。

更广泛的启示在于:美国的医疗监管或许会从联邦与州协调的模式,转向一场逐底竞争,各州通过提供更宽松的监管来争夺AI医疗公司。这种动态曾在科技领域上演。在医学领域,并不能保证会得出不同的结果。

医生之问尚无定论

医生普遍被认为是最不易被AI取代的职业之一。在低急症条件下实现自动处方,直接挑战了这一假设。一名每天接诊20名痤疮患者的皮肤科医生或初级保健医生,从理论上说,对于相当一部分病例,可以被一款4.99美元的APP所取代。

这并不意味着这个职业正在崩塌。它意味着临床工作中一个特定的领域——重复性高、依从协议、低复杂性——正变得在经济上脆弱。而经济逻辑很清楚:如果合法可用,保险公司和患者都会选择更便宜的那一项。

犹他州的项目规模尚小。其对医疗 workforce 的影响今日几乎可以忽略不计。但它所确立的结构化论点——AI可以在无需人类监督的情况下安全地处理某些医疗决策——正是未来一切都将建立在之上的基石。