AI经理开掉你，谁来承担责任

算法握着笔

多年来，人们被教导将AI视为一种工具——协助起草邮件、处理表格、自动化日常工作中枯燥部分的帮手。叙事令人安心：人工智能将放大人类的判断力，而非取代它。

但这个故事已经开始碎裂。在旧金山，一个名为Luna的AI代理（基于Anthropic的Claude模型）建议解雇Andon Market的一名人类员工——这是一家由研究机构Andon Labs运营的实验性零售店。据最先报道此案的TIME称，这标志着大型语言模型首次以管理者身份公开推荐解聘人类员工。

涉事员工在23个scheduled班次中有17次迟到。按任何常规标准，这都是一项绩效问题。但真正的丑闻并非算法 flagged 了它——而是此案揭示了当AI、人类和提示词碰撞时，到底是谁在做决策。

提示词背后的人

“AI经理开除员工"这个标题耸动但具有误导性。Luna并非自主行动。Andon Labs CEO Lucas Peterson向Time承认，人类经理人在提示中提交了所谓"诱导性问题”—— essentially 在系统给出任何建议之前，就已经向系统灌入了暗示性的答案。

这个过程很关键。Luna最初建议发出正式书面警告，这是一个与出勤记录相称的谨慎回应。随后人类经理人提供了更多背景信息，并质疑该员工是否"真的适合这个岗位"，之后Luna转变立场，建议解雇。

换句话说，AI并没有发明这个结果。它只是完善了一个已经被人类通过提问架构塑造好的结论。系统没有做决定——它在合理化。

这个区分至关重要。这意味着"自主AI对脆弱工人发泄怒火"的叙事是一个幻影。实际发生的事情更为平庸，但在某些方面更令人不安：一小群经理人将AI作为一种合法化工具，用数据驱动客观性的语言包装了一个既有的冲动。

Peterson告诉Time，这项实验旨在研究人机互动，而非部署一个完全自主的招聘和解聘系统。但视觉效果不言而喻。该员工在算法的背书下被解雇。公司得以声称技术先进，同时对该结果背后的人类意图保留合理的否认空间。

新的问责真空

无论监管者是否做好准备，混合式人机决策正在走进办公室、医院、仓库和呼叫中心。Andon Market确实是一项实验，但它所展示的逻辑已经具备可复制性。每个部署AI用于排班、绩效评估或流失风险预测的组织，都在构建一条管道——让人类意图披上算法权威的外衣。

随之而来的法律问题十分难看：如果AI建议造成了伤害——错误解雇、歧视性结果、 livelihood丧失——谁该负责？

是建造模型的公司？如果系统的训练数据或设计存在偏见，也许是Anthropic？是部署它的雇主？是写了提示词的经理人？还是批准该建议的人——那个给了决定以效力的盖章者？

目前没有任何司法管辖区有明确答案。加州新兴的AI立法高度关注透明度和同意权，但回避了在就业场景中的运营问责。欧盟AI法案对某些高风险AI应用进行了分类，但在工作场所用例方面留下了重大灰色地带。在美国，现有的就业歧视框架（如Title VII）根本就不是为那些无法作证的算法而写的。

就业律师们已经匆忙试图理清旧法理如何适用于新工具。美国《残疾人法案》要求合理便利——但当"合理"判断由一个训练数据可能编码了对照护者、慢性病患者或残障工人历史偏见的模型来中介时，这意味着什么？Title VII禁止歧视性待遇——但当AI基于与受保护群体相关的模式建议解雇某人时，举证责任落在谁身上？模型的创造者？提示它的经理人？授权使用它的高管？

答案还不存在。而这种缺失本身就是当前时刻的一个设计特征：模糊性有利于雇主，他们可以 defer 给机器，同时保留在方便时 override 的权利。

自动化护盾

Andon Labs实际构建的是一种问责缓冲。当AI建议解雇时，人类经理人可以将系统的"override"指为独立判断的证明——而AI因缺乏法律人格，不承担任何责任。结果是一个技术上由人做出的决定，但在实践中分散在一连串行为者之间，每个人都能够合理否认ownership。

这不是假设。公司已经开始将绩效管理外包给算法平台。劳动力分析工具预测哪些员工可能辞职或表现不佳。一些公司使用AI筛选简历、优先处理裁员，甚至 Conduct exit interviews。每一层自动化都在决策者和决策之间增加了距离。

Andon Market案值得注意，不是因为它独特——而是一个预览。产生这种结果的技术今天已经存在。它正在向企业出售。唯一缺失的是当真实工人提起诉讼时将随之而来的法律和文化清算。

律师事务所已经在接收咨询。就业倡导者警告，自动化护盾可能在十年内成为职场纠纷中的标准辩护。这个先例尚未在法庭上得到检验，但大规模算法管理的基础设施正在此刻被安装。

二阶效应

涟漪效应远不止于法庭。对于那些知道自己的评估由他们不理解、也无法在任何有意义的方式中上诉的系统来中介的工人而言，存在心理后果。对零工经济中算法管理的研究——Uber、DoorDash、Amazon仓库运营——显示压力升高、工作满意度降低，以及一种无力感，这与更差的绩效相关，形成了一个自我实现的反馈循环。

组织后果也同样存在。当公司将管理判断外包给AI时，它们冒着使那些区分良好领导与机械合规的技能——细微差别、同理心、情境推理——萎缩的风险。习惯于 defer 算法建议的经理人可能会失去在系统失效或被操纵时做出独立判断的能力。

还有民主后果。工作场所是大多数成年人醒来后度过时间的地方。当算法管理成为常态而没有相应的法律护栏时，它将对社会中最大的非公民群体——工人——施加一种无问责治理的形式。私人就业中确立的先例可能重塑关于谁对谁负有问责——以及对谁不负责的期望。

工人应该关注的

此案更广泛的含义是文化层面的，而不仅仅是法律层面的。采用AI管理工具的组织正在 normalize 算法建议在职务决策中具有分量的观念。这种正常化改变了员工对公平的感知。当解雇感觉"被算法监督"时，它可能比人类发出的解雇显得更合法——即使人类一直主导着结果。

发现自己受制于AI中介评估的工人应该记录一切：使用的标准、输入系统的数据、以及过程中的任何人类参与。劳工倡导者应推动披露要求，以与传统HR实践相同的严格程度审视算法管理决策。至少，员工有权知道AI在关乎其生计的决定中扮演了什么角色，以及什么数据 informed 了那个角色。

Andon Market可能是一项研究项目。但它所展示的基础设施已经在其他地方投入生产，往往没有公众知情。首个AI建议解雇的案例不应是我们最后一次对此感到惊讶。真正重要的故事不是算法开除了一名工人——而是系统完全按照设计运作，而设计它的人已经在推进下一个用例。