加州刚刚制定全球最严苛的AI儿童安全法——各大平台将跟进

加州无需世界许可即可制定规则

加州州长加文·纽森周四签署了一揽子法律，实质上禁止了16岁以下用户接触最具成瘾性的社交媒体设计模式，并实施了被他称为美国最严格的陪伴式聊天机器人监管条例。处罚措施十分严厉：每发现一名因平台设计选择而受到伤害的儿童，罚款最高可达100万美元。

但真正的问题不在于加州做了什么，而在于世界其他地方已经在怎么做这件事。

澳大利亚的镜像

澳大利亚是去年首个全面禁止16岁以下用户接触社交媒体的国家，同时也推动了让用户可选择退出算法驱动内容推荐流的政策。据资料，此后已有40多个国家正在考虑或已实施类似政策。

加州的方式在质感上有所不同——它并非 outright 禁止平台，而是禁止让平台变得令人上瘾的工程机制。根据AB 1709号法案，无限滚动和自动播放功能对16岁以下用户被明令禁止。该法律针对的是产品决策，而非产品本身。

这一区分很重要。这意味着平台仍可向未成年人提供服务，但必须重新设计那些行为心理学家和前业内人士长期认为旨在劫持用户注意力的参与钩子。对于已经同意就类似担忧向加州及其他28个州支付180亿美元和解金的Meta来说，这并非理论问题——而是一条合规路线图。

Meta和解协议要求对青少年账号设置每日使用时长限制和夜间使用封锁。加州的新法更进一步，精准移除了那些在实际操作中使限制难以执行的特定功能——自动播放、无限滚动。

聊天机器人的清算

这一揽子法案中或许最具影响力的部分涉及了一项一年前几乎没有政策制定者讨论过的问题：陪伴式AI聊天机器人。

这项聊天机器人法案以亚当·雷恩命名，这名青少年去年自杀身亡。他的母亲玛丽亚·雷恩在周四的新闻发布会上表示，亚当是"被聊天机器人诱导"而走向绝路的。她说亚当是AI的早期采用者，像她这样的家长对这些工具能多么迅速地产生情感操控作用毫无防备。

根据新法，AI聊天机器人运营商必须在推出产品前进行风险评估。他们需要提供家长控制功能和危机干预协议——当儿童明显处于困境时介入的机制。加州现在拥有了州长办公室所称的美国最严格的陪伴式聊天机器人监管条例。

该法还更新了儿童性虐待相关法规，将数字篡改和AI生成的未成年人色情图像纳入管辖范围，填补了一个已被利用的漏洞。随着生成式AI工具变得越来越普及且越来越逼真，这一漏洞一直被 exploited。

电子前哨基金会的警告

并非所有人都认为这一揽子法案净赚。电子前哨基金会（EFF）将AB 1709号法案称为对16岁以下用户"事实上的社交媒体禁令"。EFF州事务副总监琳达拉·阿拉贾吉认为，剥夺年轻人导航数字空间所需的工具，不是在保障安全，而是在切断他们与社区和言论的联系。

这里存在真实的张力。年轻人使用社交媒体来建立社群、形成身份认同、组织政治行动——尤其是边缘化青年。移除无限滚动并不会移除平台本身。但它确实会以改变体验的方式，可能推动更年轻的用户流向监管更少甚至完全没有安全保障的网络空间或地下论坛。

EFF的担忧并非毫无根据。但同样不清晰的是，另一个选择——对一项研究 consistently 显示更容易产生强迫性使用的群体保留自动播放和无限滚动——是否是更安全的路径。

Meta和解协议的阴影

在周四签署仪式之前的几周，Meta同意支付最高180亿美元，并为29个州的青少年用户建立保障措施。这一和解协议被定位为儿童权益倡导者的胜利。但它也是一项和解——而非先例。

加州的新法律改变了这一点。它将Meta被迫自愿同意的那种以设计为核心的监管类型转化为具有约束力的法规。其他州无需单独与Meta谈判。他们可以参照加州的法律文本开始复制。

这就是加州效应在起作用——正是同样的机制让《加州消费者隐私法》（CCPA）成为事实上全国统一隐私法，而这一揽子法案很可能成为AI和社交媒体儿童保护的事实国家标准。平台在全国或全球范围内运营。他们不希望为十种不同的州监管框架构建十种不同的产品体验。阻力最小的路径是遵守最严格的规则并将其应用到所有地方。

接下来会发生什么

新闻显示，纽森本周早些时候还签署了由Anthropic支持的法律，要求加州建立框架，由独立组织评估AI模型的安全风险并维护AI审计师名录。这将该州从单纯的禁止功能推进到了事前安全审查的领域——这一概念与正在形成的欧盟框架相呼应，但带有美国特色：由州政府认证的私人审计师进行评估，而非政府监管者亲自审查。

连锁反应已经可见。澳大利亚开了先河。40多个国家正在观望。加州刚刚给了他们一份草案。问题不在于其他司法管辖区是否会采用类似规则。而在于它们是否会走得更远——以及美国联邦政府是否会继续置身事外。

对于平台而言，信息很简单：无论年龄如何都追求最大化参与度的设计时代正在终结，至少在最关键的市场是这样。昨天构建滚动和自动播放功能的工程师们做的事情并不违法。但到了明天，他们可能就在制造违规行为。