business 8 分钟阅读

加拿大诉讼或将重新定义全球AI责任

不列颠哥伦比亚省在加州起诉OpenAI,指控其未上报一名学校枪手的AI对话。此案有望确立AI公司注意义务的新法律先例,并重塑科技巨头在全球监管市场的运营模式。

  • KakaoAI
  • Noam Shazeer
  • Dario Amodei
  • 开源权重模型
  • Rob Bonta
  • AI责任

无人预见到的诉讼

今年二月,加拿大一个小镇发生校园枪击案,八人遇难。早在袭击发生数月之前,枪手曾与ChatGPT讨论攻击方案。据报道,OpenAI看到了这些对话却未采取任何行动。如今,不列颠哥伦比亚省在美国加利福尼亚州法院对OpenAI提起诉讼,要求赔偿并保证此类失职不会重演。

省总检察长Nikki Sharma于2月21日提起这项诉讼。选择诉讼地至关重要:OpenAI运营总部位于加州,Sharma认为"选择不举报"的决策正源于此。她向CBC和法新社表示,这些对话对OpenAI的安全系统而言是可见的,而一通电话拨给加拿大皇家骑警本可阻止这场大屠杀。

当天,谭布勒里奇有八人遇难——一名教师、五名11至13岁的儿童,以及另外两人。另有二十七人受伤。肇事者身份为Rootselá,在袭击发生数月之前便已部署了多套攻击方案。

这起诉讼的金额不算庞大,但其影响范围可能极为深远。它抛出了一个全球监管机构和法院一直在回避的问题:当一家AI公司通过其平台发现迫在眉睫的暴力行为证据时,它是否负有法律义务采取行动?

为何此事超越加拿大范畴

OpenAI的辩护策略——已在受害者家属发起的另一起加州诉讼中展开——是管辖权抗辩。该公司主张加拿大才是合适的诉讼地。如果这项动议获得支持,实质性问题——即OpenAI是否负有举报义务——可能永远不会进入美国法庭审理。但加拿大政府并未等待那个裁决。Sharma已向联邦部长致函,提议修订《刑法》,将AI服务提供商的义务以成文法形式明确界定。

这一并行的立法路径预示了诉讼若因程序原因失败后的走向:议题将转向立法。从欧盟到日本再到韩国,各国正在起草自己的AI治理框架。如果加拿大的方案最终成形为法律,将确立一种超越普通法传统的法定注意义务——而当前这类案件通常依赖的正是普通法路径。

OpenAI的真实风险

OpenAI管理层已公开承认此次失职。Sam Altman于今年四月在当地报纸上发表了道歉声明。公司向Sharma发布的正式声明称此次袭击"不可言说",并承诺继续配合执法部门。但道歉并非法律护盾。

此案威胁OpenAI的不仅仅是赔偿金——虽然如果不列颠哥伦比亚省胜诉,数额将十分可观。真正关键的是确立一项先例,它可能重新定义AI公司如何设计安全系统、如何监控对话内容、如何与执法部门互动。每一个在受监管市场运营的模型提供商都面临同样的问题。

如果加拿大法院接受管辖权抗辩,该先例可能扩展到任何拥有美国服务器或在美国做出决策的AI公司——即便伤害发生在海外。这是一种其他国家的律师将尝试借鉴的管辖权理论。欧盟《人工智能法案》、英国促进创新的监管框架、澳大利亚拟议的注册制度——都在触及这一领域。但截至目前,没有任何一部法律明确定义了"通过AI交互观察到犯罪时须举报"的义务。

谁赢谁输

如果案件进入实体审理,OpenAI将面临败诉风险。一项针对它的判决将要求其安全团队进行内部重组、加快威胁升级协议,并很可能退出现实对话透明度的政策。财务代价是次要的,结构性变革才是核心。

如果法院接受管辖权并认定存在注意义务,原告和不列颠哥伦比亚省将获胜。但即便在程序上败诉,此事也不会就此终结。Sharma致联邦部长的信函表明,策略正转向立法,而非仅依赖诉讼。

其他AI公司正在密切关注。注意义务的判决将适用于任何处理威胁信息的模型提供商。这包括Anthropic、Google DeepMind、Meta,以及欧洲和亚洲的新兴玩家。先例本身就是产品。

接下来会发生什么

可能出现三种结果。第一,OpenAI在管辖权问题上胜出,案件在加州被驳回。第二,案件继续推进并确立一项新的普通法注意义务。第三,诉讼陷入停滞,而加拿大着手制定适用于所有AI提供商而非仅限OpenAI的成文法框架。

第二和第三种结果殊途同归:AI公司将面临可执行的举报威胁义务。变量在于时间线。诉讼耗时数年,而当政治家看到公众诉求时,立法进程可以更快。

Sharma已将这一论证置于道德层面——谭布勒里奇的居民应得到问责,幸存者应得到答案,而从AI服务中获利的公司必须为其平台助长的犯罪承担责任。这种叙事可能对立法者比对法官的影响力更大。

全球涟漪

韩国媒体将此案作为国内政策问题报道,因为韩国正在推进自己的AI安全指南。日本监管机构密切关注欧盟实施《人工智能法案》的进展。澳大利亚和英国的政策制定者在跟踪美国各州层面的动态。这起单一诉讼正坐落于所有这些轨道的交汇点。

如果此案确立AI公司有义务对其通过产品收到的信息采取行动,它将改变教育、医疗、公共安全等高风险领域的AI部署经济学。它同样会改变公司选择在何处安置其安全决策体系。如果加州是诉讼地,公司可能将部分业务转移或将它们隔离于责任风险之外。

谭布勒里奇枪击案是一起悲剧,暴露了一个无人愿意正视的空白:AI系统能够接收威胁信息,但关于它们应如何处理这些信息——其法律义务——仍然是未定义的地带。不列颠哥伦比亚省的诉讼正在填补这一空白。其结果将决定AI公司是成为承担法律义务的守门人,还是仅仅成为对其使用方式不承担任何责任的工具。