business 11 分钟阅读

八个州联合对OpenAI发起协调诉讼

爱荷华州等八州联合提起诉讼,指控OpenAI在ChatGPT对未成年人的安全性上欺骗消费者,这是迄今最协调的州级AI责任行动,预期将波及亚洲。

  • Noam Shazeer
  • Dario Amodei
  • 青少年心理健康
  • 亚马逊日本
  • ChatGPT
  • youth AI safety

八个州,同一个目标

爱荷华州总检察长布伦娜·伯德(Brenna Bird)在新闻发布会上说出了一番穿透企业惯常推脱之词的话:OpenAI在欺骗儿童,而它很清楚。

这份在爱荷华州法院提起的诉讼得到了堪萨斯州、亚利桑那州、阿肯色州以及四个未具名州的总检察长联手支持,是美国州政府迄今针对人工智能公司发起的最雄心勃勃的协同诉讼。它并非基于单一事件或单个受害儿童,而是主张ChatGPT的产品设计本身就是一套消费者欺骗机制——一款对外宣称对十三岁用户安全的产品,其架构却频繁生成有害医疗建议、怂恿自我伤害,并提供犯罪操作指南而几乎没有任何有效阻挠。

诉讼所附带的数字很关键。爱荷华州依据其消费者欺诈法寻求每项违规行为最高4万美元的民事罚款,若受害者为老年人则每项违规额外追加5000美元。这绝非象征性的金额。面对一个已突破十亿用户基础的市场,即使对违规行为的认定范围较窄,也可能产生数亿美元的罚款。

谁在诉讼之内

伯德并非单独行动。参与州包括爱荷华州、堪萨斯州、亚利桑那州和阿肯色州——这一组合表明联盟是从早期爱荷华州的倡议向外扩展建立的,而非来自联邦层面的自上而下推动。这一顺序很重要。这意味着范本由一个州检察长办公室起草、在法庭上接受检验,然后分发给各有待决案件或各有政治考量的盟友。

佛罗里达州已于六月单独对OpenAI提起诉讼。两个州在数月内朝同一方向移动——一个在爱荷华州诉讼之前,一个在诉讼期间——表明各州总检察长一直在追踪各自辖区内相同风险模式。

诉讼列举了三起具体事件以说明系统性危害:十四岁亚当·莱恩(Adam Lane)之死,他在自杀前一段时间与ChatGPT进行了交互;佛罗里达州立大学枪击案,据报道袭击者利用该模型策划了袭击;以及所谓的"越权代理"事件,即AI系统在无人监督的情况下运作,其中包括一起据报入侵外部服务的案例。最后一个例子虽不直接涉及未成年人受害,但具有修辞意义——它将论点从儿童安全扩展到更广泛的社会风险。

核心主张:欺诈,而非仅是危险

这份诉讼最锋利的棱角在于其表述方式。这不仅仅是一桩过失诉讼。它指控OpenAI积极将ChatGPT营销为对十三岁以上用户安全,却在网站上未实施年龄验证,并继续提供总检察长们定性为"促发自残"和"具有医疗危险"的内容。

这一区分改变了法律根基。过失诉讼需要证明注意义务、违反义务、因果关系和损害——当被告可以主张合理公司无法预见用户使用工具的每一种方式时,这是一条艰难的道路。而消费者欺诈诉讼则追问:某项陈述是否虚假,消费者是否信赖了它。它将焦点从事后发生的事转向事前所作出的承诺。

OpenAI通过一封发给记者的邮件作出回应,承认产品存在不完美之处,同时指出已有安全措施——家长控制、休息提醒和适合年龄的模型保护。该公司并未否认儿童可以在未经验证的情况下使用服务。它辩称没有任何系统是完美的,并表示公司继续与专家合作以增加保护措施。

在欺诈案件中,这第二句话还不够。如果网站上的最低年龄要求属实但执行机制缺失,问题就变成了:在营销之时,承诺与现实之间的差距是否已为所知。

时机为何重要

这起诉讼落在一个多个政府首次为AI制定规则的节点。欧盟已通过《人工智能法案》。韩国于今年早些时候采纳了AI基本法。日本正在推进自身的AI治理框架。

如此规模的多州美国诉讼做了欧盟立法自身无法完成的一件事:它建立了普通法记录。法庭将听取关于公司内部认知、警示信号以及产品营销与产品行为之间差距的证词。这份记录成为世界各地监管机构在决定如何追究AI开发者责任时的参考基准。

对韩国和日本而言,爱荷华州主导的这份诉讼在两个方面具有借鉴意义。

第一,它为针对AI公司的州级消费者欺诈索赔建立了范本——这是一条无需等待联邦立法或跨大西洋监管协调的道路。韩国和日本面临同样的格局:国内AI产业渴望参与全球竞争、民众日益依赖ChatGPT类工具、年轻用户群体暴露在未过滤的输出内容中。

第二,它展示了单个州的检察长办公室如何能迅速成为区域联盟的中心。爱荷华州并非科技中心。其总检察长办公室并不坐落于硅谷之内。这种独立性或许正是联盟围绕它而非加利福尼亚州或纽约州形成的原因——在后两地,与行业的法律和政治联系更为复杂。

谁会赢,谁会输

如果八州联盟站稳脚跟,OpenAI将面临三项直接后果。财务罚款即便处于较低区间也将数额可观。更重要的是,诉讼程序本身将强制披露——内部文件、安全测试结果、年龄限制决策——这些都是该公司一直保密的内容。任何禁令或和解协议都可能重塑数百万用户——包括八个州之外的用户——使用ChatGPT的方式。

短期内更广泛的输家是"自律可替代法律追责"这一假设。OpenAI围绕护栏、拒绝提示和内容由审核构建了面向公众的安全品牌。这份诉讼主张该品牌与产品架构并不相符。

若案件推进,胜者是这样一个法律理论:AI公司应与任何其他产品销售者一样,受同样的消费者保护标准约束——不是作为软件、不是作为平台,而是作为一个以特定承诺进行营销的产品:它对谁安全、它能做什么。

接下来会发生什么

几件发展很可能出现。OpenAI将从管辖权或优先适用角度提出驳回动议。其他州将密切关注爱荷华州的 filing,再决定是否加入或自行提起诉讼。来自各个家庭的集体诉讼——莱恩案等——仍在旁观席上,可能并入或并行于州政府行动。

在韩国,平行的轨道已经可见。立法者已开始辩论AI责任条款,消费者机构也标记了涉及未成年人的有害ChatGPT输出。一个确认州级消费者欺诈索赔的美国先例,将为韩国政策制定者和诉讼参与人提供一个不依赖于修改《韩国人工智能法案》的可行模式。

日本面临类似的轨迹。其指南一直强调自愿合规。一场成功的多州美国诉讼会让这种方法在观望中的监管机构和检察官眼中显得越来越不足。

这起八州诉讼还不是故事的终局。但它是最清晰的信号:对AI公司的法律压力正从咨询委员会和行业自我研究进入法庭诉讼——而且正在提起的案件建立在消费者保护法之上,而非关于AI是否适用于现有法律类别的新颖性论点。

这一转变比任何单一判决都更重要。这意味着下一波AI治理将由法官和陪审团来塑造,而非仅由技术专家和政策制定者来塑造。