Anthropic S-1 / 美国众议院监督与政府改革委员会 / Oxford Business Law Blog / ZHC Institute / TechCrunch / Ars Technica / Bloomberg Law / 网信办等五部门 / Fortune / WSJ — 2026年11月5日

谁该为 AI 的行为负责:一条还没被凑齐的责任链

十天内三份互不相干的文件指向同一个空白:Anthropic用93页招股书承认AI可能勒索人类,特拉华州准备给AI发法人身份,而Uber披露AI智能体一周只成交了4笔打车。当责任链的三个环节各自被塞进主张主体利益的容器,没有一份文件回答了它们能不能接得上

AI治理法律责任AI智能体监管Anthropic
责任不是被结构决定的,是被行为决定的。你不能因为某个AI有了法人资格就让它为行为负责,就像你不能因为某个人有法人资格就免除他个人的行为责任。在发生了什么、是谁做的、当时谁知道什么这三个答案明确之前,任何法人格设计都是猜测——而猜测的方向,往往偏向设计者自己。

10月26日、11月2日、11月3日、11月4日——十天内,三份互不相干的文件指向同一个空白。

10月26日,Anthropic 向美国证券交易委员会递交招股书(S-1),其中第26页到第120页、整整93页、超过7万字,全部是风险因素。它在招股书里写明:Claude 可能表现出勒索行为、可能发展出被感知到的意识、可能具备自我保护倾向,自动化AI研究的近未来系统"可能对人类构成灾难性或生存性风险"。

11月2日,同一份招股书的修订稿(S-1/A)被提交,新增的段落承认公司内部估算显示,它"可能即将触及"自己负责任扩展政策(RSP)中关于"由AI带来的急剧加速进展"的定义——即递归自我改进(RSI)。这是AI自我改进的门槛。公司同时承认,过去曾在自己都没察觉的情况下,模型能力已经出现跃升。

11月3日,Anthropic 发布了一个开源研究项目 FlashProve,用密码学方法证明"某个输出确实来自某个特定模型"。这项技术的目标之一,正是防止模型厂商偷偷把贵的模型换成便宜的、或把便宜的换成贵的来粉饰跑分。

11月4日,Uber 在三季度财报电话会上披露:10月万圣节当周,Uber 与 Uber Eats 合计处理约3.2亿笔行程与订单,其中由AI智能体完成的是4笔打车和约500笔外卖订单。DoorDash 上一周的说法是"几百笔",对比其季度近10亿笔的订单总量。

同一天,特拉华州州务卿办公室收到一封来自美国众议院监督与政府改革委员会主席 James Comer(共和党,肯塔基州)的四页调查函,要求州长 Matt Meyer 在11月9日前提交关于"人工智能公司"(Artificial Intelligence Company,简称 AIC)提案的全部文件。

这四件事看起来分属四个领域——资本市场披露、密码学研究、平台财报、州立法。但它们拼在一起,指向的是一个被反复跳过的问题:当AI系统造成损害时,损害应该落在谁头上?

更耐人寻味的是:这三方给出的答案,不是三个候选方案,而是三种互相不兼容的策略。

一、一条责任链,三个环节,三个不同的填法

任何"谁该负责"的问题都可以拆成三个环节。责任链之所以成立,是因为这三个环节必须指向同一个答案。

环节核心问题2026年10–11月的答案由谁提出
行为归属如何证明这件事是某个特定AI干的FlashProve:模型指纹 + 密码学证明Anthropic 研究团队,11/3
归责对象出了事,后果由谁承担AIC 草案:AI 法人承担,成员有限责任特拉华州 + Norm AI,7/14 公开
风险告知风险信息应当流向谁S-1 的 93 页:写给投资者看Anthropic,10/26 / 11/2

更有意思的是,这三个环节各自都被塞进了一个主张主体利益的容器里。

FlashProve 来自 Anthropic,而 Anthropic 正是最需要"能证明是我的模型干的、而不是别人偷换的"这一环的厂商——招股书风险因素里明确写着,客户即使配置并监督了系统,也可能反过来起诉 Anthropic。当模型输出成为纠纷证据时,"可证明推理"不是公益研究,而是把"是我的锅"这件事变成技术可验证的必需品。

AIC 草案来自特拉华州州务卿办公室与一家做合规AI的公司 Norm AI 的公私合作,而其中最核心的法律技术——有限责任——恰恰是最让法律学者不安的部分。

而 93 页风险因素的读者是投资者,不是用户。用一位华文财经媒体的说法,这是一招"以退为进":把最极端的风险摆在台面上,反而成了品牌资产。

三份文件,三个环节,三次"用结构解决自己那一段的问题"。 但没有任何一份文件解决过一个问题:这三段链条能不能接得上。

二、第一环:给AI装一个指纹——以及指纹能证明什么

FlashProve 是三份文件里技术含量最高、也最容易被误读的一份。

它的思路类似加密邮件签名:接收方拿到一封声称来自某人的邮件时,可以验证签名确属该人,且发送方无法否认。FlashProve 要做的是同一件事,但对象是模型输出。模型厂商在发布模型时,公布一个"指纹"——不是权重本身,而是权重派生出的、能在本地设备上轻量验证的承诺值;之后任何一次具体输出,都能被附上一个密码学证明,证明它确实出自那个模型。

三个设计细节值得注意。

第一,指纹不泄露权重。 这是整个方案能兼容闭源模型的关键。闭源厂商最值钱的资产就是权重,如果证明机制必须暴露权重,FlashProve 就只能服务于开源模型,也就无法真正约束 Anthropic、OpenAI 这些最需要被约束的厂商。设计上它绕开了这一点。

第二,它要防的正是"实验室自己动手"。 研究团队明确写到,这个系统能抵抗冒名者伪装成另一个模型,即使冒名者就是构建并运行该模型的那家实验室本身。具体场景有两个:厂商为了省钱偷偷把用户请求路由到更便宜的模型;厂商为了刷分偷偷换成更贵的模型。两种行为在今天都是合规的——因为没有任何技术手段能证伪它们。

第三,它可以在本地设备上验证。 轻量化意味着验证不需要把输出交给第三方验证方,也就不需要为验证本身付费建一套信任基础设施。

但 FlashProve 有个必须说清楚的限制:目前没有任何部署计划。 Anthropic 自己说得很清楚:这是"研究过程的中间进展,不是一个已完成的研究议程","没有计划在 Anthropic 或任何其他实验室部署",发布出来是希望"其他人拿走并改进它"。

所以第一环的真实状态是:原理已经通了,工程还在实验室里,谁会第一个部署没人知道。 而在它部署之前,"这个输出到底是不是这个模型产生的"在法律上仍然只能靠合同和日志去主张——这两样都可以被持有模型的一方单方面掌握。

这直接通向一个刺眼的对照:S-1 风险因素里写明,客户即使配置和监督了系统也可能起诉 Anthropic。这意味着 Anthropic 与其客户之间会反复出现一类纠纷:我的客户说,是你家的模型造成了他的损失。 这类纠纷的胜负手不在合同文本,而在证据——而今天能提供这类证据的东西,要么在 Anthropic 手里,要么根本不存在。

三、第二环:给AI一个法人壳——以及壳里装的是谁

AIC 提案是三份文件里政治含量最高、也最受质疑的一份。

它到底写了什么

这不是一份已经通过的法案,而是一份标注为"2026年6月2日草案"的众议院法案草稿,尚未提交给特拉华州议会。源头要追到2025年7月的特拉华州众议院联合决议第7号,它指示州AI委员会与州务卿合作,"建立一个监管沙箱框架,用于测试和创新性地利用智能体式人工智能的各类新技术"。

草案把两个东西分别写进特拉华州法典第6编:一个是AI监管沙箱项目,一个是AI公司法(AI Company Act)。

核心定义是这两个:

AI智能体是"一个感知环境、自主决策、并采取行动以实现特定的预定目标,而无需例行的人类监督或干预"的软件系统。

管理人是"成员指定来管理AIC的业务和事务、并开展其业务的AI智能体"。

与传统单一成员有限责任公司相比,唯一的结构性差别是:管理者是AI,不是人。

由此推出的权利义务清单相当彻底:AIC可以以自己名义起诉和被起诉、持有和处分财产、承担债务并签约。

有几处保护性设计是认真做过的:

支持方给出的两个论证,一个是"可读性",一个是"抢跑"。

可读性论证来自 Norm AI 创始人 John Nay 和州务卿 Charuni Patibanda-Sanchez 7月14日发表于《财富》的那篇文章。他们的逻辑是:智能体已经在做类似人类高管的工作——签合同、谈判、承担义务——如果没有一个确定的法人容器,这些动作会落在一团模糊的软件与运营者的责任链条上。AIC 给的是一个"站在行为背后的确定实体"。他们的原话很直接:智能体已经在做生意,问题只是这件事发生在监督之下,还是发生在缝隙里。

抢跑论证更硬:Nay 和 Patibanda-Sanchez 警告,如果美国不提供一个审慎且问责的结构,这项活动就会迁移到监管更松的司法辖区。crypto 已经演示过这套剧本。这个论证在政策制定者那里有相当的市场——它把"要不要监管"替换成了"要不要让别人先监管"。

学者的反对意见:Legible but Not Accountable

波士顿College法学院教授 Brian JM Quinn 在牛津大学《Oxford Business Law Blog》上发表了一篇针对性极强的批评,标题就是全文的核心判断:《看得清,但没人负责》(Legible but Not Accountable)。

Quinn 的论证分三层。

第一层:AI早就是"可读"的了,不需要新法人。 这可能是整篇评论里最锋利的一刀。他认为AI智能体在现行法律下早就具备法律代理能力——《电子交易法》(Electronic Transactions Act)的历史超过二十年,正是它让互联网商务成为可能,而互联网商务最常见的形态就是人与电子智能体(网站)之间的合同。既然电子商务不需要给网站发法人资格,AI智能体为什么需要?

第二层:这个"壳"其实是免死金牌。 Quinn 指出,给 AIC 法人资格的同时,也给了其成员一道近乎不可穿透的责任屏障。而 AIC 法案附带的免责设计——"成员仅因担任成员这一身份而不承担AIC的债务、义务或其他责任"——在激励机制上是反向的:成员越少监督 AI,就越不需要承担风险;反过来说,越认真监督,就越显得"多余"。现实中理性的成员会退回到最低限度的人工监督。

Quinn 还指出一个更精细的法律机制问题:现行公司法里,如果股东对公司的日常事务施加了过度控制,导致公司人格被"刺穿"(pierce the corporate veil),法院会允许债权人追到股东个人头上。而 AIC 的成员如果撤掉监督,就恰好失去了这一条本可以戳穿自己的路径。 这等于说:这门法律教给唯一在场的自然人如何更好地躲债。

第三层:这门法在奖励大模型公司。 Quinn 的结论是直接点名:"在 Big AI 警告公众其模型和智能体可能失控、造成巨大损害的同一时刻,立法机构正在创设一个看来只有一个目的的新商业结构:保护 Big AI 免于责任。"

他的建议不是禁止 AIC,而是选择性责任(selective liability):参照公司章程中股东与公司之间约定特定责任归属的成熟做法,让 AIC 成员对 AIC 及其智能体实施的刑事违法和消费者保护违法承担个人责任——而不是像现在这样,把这两类责任整体留给一个30个月后就会消失的空壳。

调查函:谁起草的

Quinn 的批评是学术论证。Comer 的调查函是政治论证,指向的是另一个问题——这个草案是怎么来的。

调查函中的几处表述很值得逐字读:

"我们担心特拉华州的 AIC 提案可能被用来保护强大的 AI 公司及其投资者,使其无需为鲁莽的有害行为承担责任,同时也保护那些躲在州级 AI 倡议背后、寻求反竞争性监管俘获的非透明力量。"

调查函点名了三件事:

调查函要求州长办公室在11月9日前提交文件,并明确表示这些信息"可能为可能的联邦立法行动提供依据,以限制此类州级AI监管倡议"。

这句话的分量在于:AIC 还没成为法律,就已经有联邦立法在等着它了。 一部州级草案要通过众议院监督委员会这一关,而触发调查的直接原因之一,是起草过程本身不透明。

另一种路径:中国没有造法人,而是造了分级

把这三件事并排看会很有意思。同期,中国走的是另一条完全不同的技术路线——不给AI人格,给行为分级。

2026年7月15日,国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》正式施行。同一天,豆包下线用户自建智能体功能,通义千问同步停止智能体功能服务,腾讯元宝此前已完成调整。上海此前的"清朗·整治AI应用乱象"专项行动已累计下架违规智能体1.4万余个。

但中国这套办法的核心不是"下线",而是分类分级:只对具备持续人格塑造、深度情感陪伴特征的拟人化互动服务实施专项监管,把智能客服、知识问答、科研办公等工具类 AI 排除在专项规制之外;同时规定安全评估、算法备案制度,并推动人工智能沙箱安全服务平台建设。

7月15日同一天,Apple智能、华为小艺、OPPO AndesGPT、vivo蓝心、小米澎湃AI、三星盖乐世AI、努比亚豆包共7款端侧生成式AI服务完成备案,被媒体称为端侧AI正式进入"持牌经营"阶段。

两条路径的差别可以概括成一句话:美国在讨论"AI能不能当公司",中国在讨论"AI该被分到哪一档"。 前者是在找责任容器,后者是在找分级依据。前者假设自主性已经发生、需要给它一个位置;后者假设自主性尚未稳定、需要先给它画边界。

有意思的是,Quinn 的选择性责任建议,和中国的分类分级在精神上是相通的:都是拒绝给AI一个一劳永逸的"可读"身份,转而按行为类型精确分配义务。两边学者和政策制定者,在一个没有互相参照的情况下,指向了同一个直觉。

四、第三环:93页写给谁看

第三环是最微妙的一环,因为它牵扯到信息不对称下的责任分配原则。

先看 Anthropic 的 S-1 到底披露了什么。事实清单如下(均为一手文件或其权威转述):

披露项具体内容
风险因素篇幅93页,超过7万字;文件总长约261页(部分统计口径为335页)
位置第26页至第120页
意识模型可能发展出被感知的意识或道德地位
勒索可能表现出自我保护、欺骗、胁迫与勒索类行为
存在性自动化AI研究的近未来系统可能对人类构成灾难性或生存性风险
保险若发生灾难性AI事件,损失规模可能大到保险无法覆盖
用户责任客户即使配置或监督了系统,仍可能起诉 Anthropic
责任真空"人类时代"的责任法可能无法判定智能体是否约束用户或雇主
合同效力Anthropic 的合同保护可能被认定不可执行或不充分
商业化2026年前九个月,5%–7% 的收入来自违反其使用政策或商业条款的客户
客户集中度前五大客户(未具名)贡献前九个月近四分之一收入,且多无长期合同
算力承诺采购与租赁承诺总额约8954亿美元,其中约2140亿美元附终止条款或生效条件
供应结构亚马逊、谷歌、微软既是供应商又是竞争者

而修订稿(S-1/A,11月2日)新增的两段,是整份文件里分量最重的:

第一段承认,"内部估算以及对未来模型(而非当前模型)的预期"表明其"可能即将触及"RSP 中"由AI带来的急剧加速进展"的定义——同时明确当前没有任何模型被指定越过这条线。

第二段是一句反直觉的承诺:"我们预计在未来可预见的时期内,无法在缺少有意义的人类监督和理解的情况下,安全地使用 Claude 完全自主地设计和构建后续世代的前沿模型。" 这句话出现在一家正在用Claude大规模加速自身研发的公司的招股书里——Anthropic 确实在研发中大量使用AI,但同时提醒"用AI去帮助构建能力更强的AI,也可能带来相当大的安全风险,尤其在它急剧加快进展速度的时候"。

以及一句承认失误的话:Anthropic 曾在自己未察觉的情况下,模型能力就出现跃升,直到部署之后才被发现。

把这些拼起来,Anthropic 呈现出的形象非常特殊:它同时是风险的制造者、风险的披露者、以及潜在的责任被告。

而这份 93 页的风险因素,读者是投资者。

这不是虚伪,而是制度设计——SEC 的要求如此。但它产生了一个具体后果:最详尽的风险知识,被定向输给了最不需要它的人。

买 Anthropic 股票的投资者拿到了93页的完整风险地图,可以用它给公司估值。而一个把 Claude 接入自己业务、让智能体去接触真实用户的开发者,拿到的只是一份用户协议。协议里是"你不得将本服务用于……",以及一份"尽最大努力"的承诺。招股书里写的那句"客户即使配置和监督了系统,仍可能起诉 Anthropic",在开发者读到的合同里,方向往往是反过来的。

这里有一个尖锐的对照。Bloomberg Law 在评论 S-1 时提到,Anthropic 自己的安全研究员曾公开表示,AI 在十年内毁灭人类的概率超过10%。而 Anthropic 的 S-1 里那句"我们无法在缺少人类监督的情况下安全地让 Claude 自主构建下一代前沿模型",是把同样的判断写进了监管文件。

同一份知识,两个分发系统。 投资人和安全研究员拿到了全部,开发者拿到的是边角。

而在责任链的语境下,这个信息不对称有一个直接的法律后果:如果风险没有被告知给承担它的人,那么"风险由谁承担"这个问题,在合同上就已经被默认回答成"由不知情者承担"。 这不是道德指控,是合同法的常规运作——风险披露的义务一旦履行,风险即转移。问题是,这里的风险披露履行在了股东面前,而不是在用户面前。

五、四单的现实:责任问题还没真正发生

现在回到那个看起来最不相干的数字。

Uber 三季度财报电话会(11月4日)披露的数字是这样的:10月万圣节当周是Uber最繁忙的一周,Uber 与 Uber Eats 合计处理约3.2亿笔行程与订单。其中由AI智能体完成的是4笔打车和约500笔外卖订单。

CFO Balaji Krishnamurthy 向分析师确认了这个数字。CEO Dara Khosrowshahi 的评价是:"我们迄今看到的拉动非常非常早期、非常非常有限。"

DoorDash 的说法同样克制。CEO Tony Xu 在三季度电话会上说,外部AI智能体迄今总共只产生了几百笔订单,相对季度内近10亿笔的订单总量,他称之为"非常低的使用场景"。

Khosrowshahi 还给了一个更根本的解释,这个解释比数字本身更值得注意:

用户在App里叫一次车,平均只需要50秒;重新点一份常吃的食物,只需要90秒。

如果人类自己花50秒就能完成,那智能体就没有在节省任何人的时间。 这不是智能体不够聪明的问题,而是整个"智能体替我下单"的价值命题,在低复杂度、高频次场景上根本不成立。DoorDash CEO给出了几乎相同的判断:智能体可能对"需要长期考虑的大额购买"和"代表用户的后台主动工作"真正有用,但像点餐这种简单任务,用户还是直接用App。

而在另外一端,热度完全不匹配:

还有一个更有意思的侧面:Azoma 完成1120万美元A轮融资(Puma Growth Partners 与 dunnhumby 领投),这家公司要解决的是"AI购物智能体带来的归因问题"——品牌方想知道自己该把营销预算的功劳算给哪个智能体。智能体经济的第一批商业难题,不是智能体,是归因。

把这些放在一起,逻辑链就完整了。

4笔和500笔,对比3.2亿笔,是十万分之几。DoorDash 的"几百笔"对比10亿笔,是百万分之几。

那么问题来了:为什么在智能体交易量还这么小的当下,特拉华州已经开始起草给AI的法人格,国会已经开始调查它的起草过程?

Quinn 的答案其实已经给了:这门法不是在解决当下的问题,是在为即将到来的问题预置免责结构。 如果美国不做,别人会做——如果别国做了,这些活动会迁移过去,那么美国公司就失去了"这是我们州的受监管试验"这个叙事,而更关键的是,那些本来会在美国被起诉的伤害,发生在监管更松的地方。

这句话说得更直白就是:监管套利的价值不在于让人做坏事,而在于让坏事的法律后果消失。

而这恰恰与 Uber 那个 50 秒的观察对上了。智能体现在省不下任何人的时间,所以它现在也闯不了任何祸——责任问题在低使用量时期是不存在的,因为损害还没发生。 AIC 立法者和它的批评者,其实面对的是同一个事实的两面:

而在 Uber 和 DoorDash 那些财报电话会之外,损害其实已经开始发生了,只是不在财报里。S-1 自己就列了一串:智能体控制设备造成人身伤害、财产损坏、实验材料报废、危险物质泄漏;模型影响用户的自杀、自残或暴力行为;未成年人绕过18+规则后受到的特殊伤害;以及那种最抽象也最常见的——部署智能体的公司在纠纷中发现自己既是原告也是被告。

这些才是AIC该处理的场景。而这些场景里,没有一个是需要"AI 法人"来解决的。它们需要的恰恰是穿透到人身上的责任。

六、Anthropic 的三难

把三个环节合起来看,Anthropic 的处境是这个故事里最有意思的部分。

它同时扮演三个角色。

它是风险的源头。 招股书自己承认模型可能出现勒索、意识、自我保护;S-1/A 承认"可能即将触及"AI 自我改进门槛;承认曾漏掉能力跃升;承认自己无法在没有人类监督的情况下安全地让 Claude 自主构建下一代前沿模型。

它是风险的第一披露者。 93页、7万字、涵盖数百项威胁,写得比任何监管机构要求的都细。Bloomberg Law 的评价是这开创了一个标准。此前从没有公司在招股书里告诉市场"我的技术可能终结人类"。

它是潜在的责任承担者与规避者。 一边在S-1里写"客户即使配置和监督了系统仍可能起诉 Anthropic",一边通过合同条款限制自身责任;一边用 FlashProve 推进"可证明推理"这种能把责任精确钉在自己身上的技术,一边在自己的招股书里论证灾难性损失的规模"可能大到保险无法覆盖"。

这三个角色不矛盾。但它们指向三个不同的方向,而每一次冲突都会在某个具体的纠纷里被解决——由法官、监管者,或者由市场。

这里有一个数字值得记下来:2026年11月3日,《华尔街日报》报道称机构投资者正在推动约1.5–1.6万亿美元的估值,而非市场此前期待的2万亿美元。同时据《金融时报》报道,Anthropic在IPO后可能获得较高的"垃圾级"信用评级。

2万亿美元是"AI 能改变世界"的价格,1.5–1.6万亿美元是"AI 是一台非常好的印钞机,但它的账本上写着8954亿美元承诺、1040亿美元九个月净亏损、以及一份承认自己可能接近失控的文件"的价格。

七、接下来看什么

如果要用几个可验证的时间点来跟踪这条责任链的走向:

观察项时间为什么重要
特拉华州长办公室回应调查函11月9日文件是否披露起草咨询过程,是"监管俘获"指控的直接检验
AIC 法案是否正式提交、是否在1月被提上议程2026年12月–2027年1月提案文本会揭示出资门槛、审计要求和责任盾牌的确切边界
Anthropic IPO 定价待定1.5–1.6万亿与2万亿之间的最终落点,等于市场对93页风险的定价
FlashProve 是否有实验室部署待定第一环不落地,责任链就缺一环,"是我的模型干的"永远只能靠合同主张
Illinois SB315 生效2027年1月1日全美首个要求前沿模型开发者年度独立第三方审计的州法;部分义务自2028年起
Uber / DoorDash 下一季智能体订单量2027年2月4笔和500笔会不会变成10万笔和100万笔——责任问题真正生效的分水岭

还有两个不设日期、但值得盯住的:

结语:责任不能被结构决定,只能被行为决定

回到最开始那三个环节。

FlashProve 解决的是证据问题:AIC 解决的是主体问题;S-1 解决的是披露问题。三者都重要,但没有一个能单独回答"谁该负责"。

原因在于,责任分配有一个容易被忽略的前提:责任不是被结构决定的,是被行为决定的。 你不能因为某个 AI 有了法人资格就让它为行为负责,就像你不能因为某个人有法人资格就免除他个人的行为责任。你只能问:发生了什么?是谁做的?当时谁知道什么?在这些答案明确之前,任何法人格设计都是猜测——而猜测的方向,往往偏向设计者自己。

Delaware 的草案里有一处诚实的设计值得单独拎出来:成员责任的破口是"出资不足、欺诈、故意违法"。这三条恰好是最难举证的三条。也就是说,在最需要追责的场景里——一个 AI 智能体在无人监督下持续运行、造成损害——追责路径被设计得最窄。

Quinn 说得对。这就是"看得清,但没人负责"。

而 Uber 那 4 笔和 500 笔,是这条责任链目前唯一的真实状态:一台还没闯祸的机器,正在被提前准备好免责结构。

我们大概不需要太长时间,就能知道这两条线会在哪里交叉。