数字员工的第一准则不是可控性

Why Accountability, Not Controllability, Comes First for Digital Employees

今年早些时候,我写过这样一个案例:一家电商公司的 AI Agent 自动调整了 2000 个 SKU 的定价,部分商品以成本价以下售出,一天亏了 80 万。复盘会上——

运营说:是 AI 自动调的。技术说:是数据源有异常。数据团队说:数据是实时抓取的,跟我们无关。

没有一个人为这 80 万负责。(案例详见企业级 AI 必须设计成出错后可以追责到人

那篇文章讲的是工程层面怎么追责:授权链、策略签名、审计日志。但写完之后,有一个更根本的问题一直挂着我:

为什么必须追到「人」?为什么不能追到 Agent 本身?

这个问题听起来像文字游戏,其实不是。它决定了你的数字员工部署从哪里画下第一根线——第一根线画错了,后面每一根都是错的。

前段时间我把这个问题的推导写成了一份内部文档。这篇文章是它的公开版:不做功能罗列,不列合规清单,从第一性原理出发,推导数字员工要成为组织成员必须满足什么条件。

Why Accountability, Not Controllability, Comes First for Digital Employees

「数字员工」不是修辞

当我们把一个东西称作「员工」而不是「工具」或「系统」时,就在主张它具有某种组织成员资格。

但工具与成员之间隔着一条本体论的鸿沟:工具没有行动,只有被使用——Excel 算错一个数字,责任在使用者;而成员的标志恰恰是 自主行动——它自己决定做什么、调用什么、产出什么,组织则把它的行为后果归属到自己名下。

数字分身和数字员工的分界线里我讨论过这个成员资格的边界:让员工成为员工的不是能力,而是服务关系——锚定岗位、归属组织。但边界划清之后,逻辑缺口还在:

数字员工一旦自主产生 consequential 的行动——发一封合同邮件、改一笔库存、给客户报价——这个行动算谁的?

本文分四步回答这个缺口:先确立公理,再推出第一准则,然后由第一准则导出派生准则,最后用反例检验排除错误答案。

公理层:组织是一台问责机器

一个组织不是一群人的集合,而是一套 行动的可归责结构。公司之所以能作为一个主体行动,是因为每个 consequential 的行为最终都能落到一个可以被追问、被问责的人身上。

雇佣关系的本质由此清晰:不是「付钱买劳动」,而是 用问责换取代理权。员工让渡部分行动自主性给组织调度,组织则把员工的行为后果归属到自己名下,并通过层级把这份归属一路传递下去——员工对主管负责,主管对部门负责,部门对高管负责,高管对董事会负责,董事会对法人负责。组织的运行时,靠的就是这条不断传递的问责链。

我在Agent Spec 是数字员工的劳动合同里说 Spec 就是劳动合同,依据正是这句话:雇佣关系交换的不是劳动,是问责。组织之所以愿意跟一个数字员工「签约」,是因为它打算把这个员工的行动后果归属到自己名下——而归属,必须有落点。

机器无法承接问责归属。原因有三层,且一层比一层根本:

  1. 没有法律人格——组织对外承担的责任,无法在法律上穿透到它。
  2. 无法承担制裁——扣它的「工资」没有意义,「开除」它对组织没有威慑的对称性。
  3. 最根本的:没有 skin in the game——问责的前提是责任人会因为失责而受损;一个无法受损的主体,逻辑上不可能成为问责链的终点。

第一准则:主管负责制

于是只剩一条路:问责链必须穿透数字员工,终止于一个人类。

这不是工程选择,不是合规偏好,而是制度必然——组织的问责结构要求任何自主行动者背后站着一个可被追问的人。由此得到:

第一准则(主管负责制):每个数字员工必须挂靠在一个人类主管名下,由主管对其行动承担归属责任。无主管的数字员工在组织中不存在。

注意「不存在」三个字的分量。主管负责制不是数字员工众多属性之一,而是它成为组织成员的 构成性条件。没有它,存在的只是一个跑在服务器上的进程,它产生的一切输出在组织账本上没有归属,因而不构成组织行动。

落到系统设计上,一份合格的数字员工登记记录长这样——主管字段不是可选配置,是存在性校验:

# 数字员工登记台账(示意)
employee_id: de-procurement-007
role: 采购专员
supervisor:                      # 必填,校验不通过则拒绝上岗
  user_id: 100231
  name: 张三(采购总监)
  responsibility_scope: 采购询价、供应商沟通
permission_boundary: == supervisor.responsibility_scope
audit_ledger: org://ledger/de-procurement-007   # 必须写入组织账本
action_quota: 500/天             # 不得超过主管的可审计容量
# generated by hugo AI

一个来自程序语言理论的类比能让这件事更直观:数字员工的每个自主行动都是一次被抛出的 effect,主管就是它的 handler。effect 没有被 handler 接住,程序就崩溃;行动没有问责主体,组织就失控。

effect: 给客户发送报价邮件
        │ throw(数字员工自主行动)
   人类主管 ← handler:确认 / 追认 / 否决
        │ 层层向上传播
   主管的主管 → … → 董事会 → 法人

问责链和 effect handler 链一样,
是一条必须完整闭合的栈。
# generated by hugo AI

这里有一个容易被忽略的细节:handler 不只是「接住」effect,它还负责 解释和处置——这个 effect 该执行、该追认、还是该否决。这一点正是第二条准则的来源。

派生准则:第一准则的五个展开方向

第一准则是种子,其余准则都是它在不同维度上的展开。每一条都不是外加的规范,而是「主管要能真正负责」这一要求的逻辑后果。

准则二:权责对等

主管为一个数字员工的行为背书,意味着 它的权限边界同时是主管的担责边界。两者必须严格映射:权限大于担责,主管在替越权行为背锅,制度因不公而崩塌;担责大于权限,数字员工退化成需逐笔审批的工具,自主性名存实亡。

由此得到三个可操作的要求:权限必须 可审计(主管随时能查它做过什么)、可收缩(发现风险能立即降权)、可追认(灰色地带的行动能事后确认或否决)。这三者不是安全合规的形式动作,而是「担责」二字能成立的最低技术前提。

准则三:数据边界

主管负责制天然要求行动范围是 可声明的——主管只能为自己有权背书的范围担责。一个触碰员工单聊隐私的数字员工,其行为溢出了任何主管能够合法背书的边界:没有主管可以合法地为「读了员工私聊」负责,因为这个行为本身越出了组织的授权体系。

数字员工只能作用于组织明确授权、可声明的数据范围;个人隐私通讯(单聊)默认不可触达。

被排除在外的不是某类数据,而是一切「主管无法为之担责」的数据。

准则四:原生性

问责要有落点,行动就必须发生在组织 看得见的地方。一个数字员工如果跑在组织身份体系、审计日志、协作基建之外——用自己的账号体系、自己的通讯管道、自己的账本——那么它的行动在组织账本上没有记录,主管的「负责」就成了无法执行的空话。

数字员工必须内嵌于组织既有的身份、协作与审计基建,而非另建平行系统。

把推导再收紧一步:组织真正不能外包的不是「工具」,而是自己的 行动账本——账本即组织的自身状态,外包账本等于外包主体性。这条准则也解释了为什么「原生」在产品战略上是护城河而非实现细节:谁拥有组织的基建,谁就拥有数字员工的合法落地层。

准则五:溯源性

主管要负责,就必须能回答「它为什么这么做」。当数字员工的决策基于它的记忆、检索和历史交互时,主管的问责能力就依赖于这些内部状态是否可追溯。

数字员工的每个 consequential 决策,都必须能追溯到其依据的凭证与记忆片段。

无凭证的记忆等于不可审查的判断;不可审查的判断等于主管在为黑箱签字。溯源不是给数字员工加的调试功能,而是问责链的取证基础设施。

准则六:成本可见

数字员工消耗组织资源——模型调用、数据配额、主管与同事的监督时间。若这些成本不可核算,主管的「负责」是不完整的:他背下了行为风险,却看不见资源代价,问责就成了只见风险、不见成本的半张账。

数字员工的资源消耗必须可计量、可核算,并纳入其主管所在团队的成本与产出体系。

这条准则也是数字员工与「基础设施」的最后分界:基础设施的成本由全组织摊销,员工的成本记在自己名下。成本记在名下,恰恰是「成员」身份的经济签名。

压力测试:这棵树要扛住的三个问题

推导到这里是自洽的,但自洽不等于经得起现实。真正的部署会立刻提出三个问题——我把它们当作对这棵准则之树的压力测试。

问题一:一个主管挂 100 个数字员工怎么办?

数字员工的行动量级远超人类员工。当一个主管名下挂着几十个数字员工、每个每天产生上千次行动时,「背书」会退化成橡皮图章——问责链在形式上完整,在实质上空心化,和挂名董事没有区别。

所以权责对等需要一个容量条款:主管背书的行动总量,不得超过其可实际审计的范围。超过了,要么拆分主管,要么降低数字员工的自主级别,要么引入抽样审计机制。权责对等不是静态配置,而是随行动量动态校准的平衡。

问题二:不可逆的行动怎么办?

主管负责制的问责是事后的。但有些行动不可逆——款已经打了、生产数据已经删了、报价邮件已经发到客户手里了。事后问责改变不了损失。

推论很直接:行动的不可逆性越强,越需要事前授权而非事后问责。主管无法为不可撤销的事背书,所以这类行动天然不应该落在数字员工的自主范围内——这不是外加的保守约束,而是准则二在极端情形下的直接推论。

问题三:数字员工指挥数字员工怎么办?

多 Agent 协作里,数字员工 A 调用数字员工 B,B 再调用 C。问责链跟谁走?

答案是:委托图必须可投影。每一条「数字员工 → 数字员工」的委托边,都必须能投影到人类问责链上——A 的主管,同样为 B 受 A 委托所做的事负责。委托图一旦无法完整投影,中间就出现了无主行动。

我之前写过怎么判断一个岗位能不能交给数字员工(五个问题,判断一个岗位能不能交给数字员工)——那是上岗前的考试;这一节的三条,是上岗本身的前提。

反例检验:为什么不是这三个

一个准则体系的可信度,取决于它能否排除错误答案。三个最常见的「第一准则」候选,均告失败:

候选准则听起来真实位置为什么不是构成性条件
可控性优先(人类随时能叫停)最安全应急机制叫停预设了行动已在问责结构内;先有归属,才谈得上叫停
价值创造优先(能降本增效就行)最务实准入动机创造价值但无问责主体的自主行动者,是套利者而非员工
智能优先(能力越强越好)最直觉幅度变量智能改变行动的幅度,不改变行动的归属

第一个最容易被当成答案——「加一个红色大按钮」。叫停当然重要,但它是问责链上的应急机制,不是链本身的地基。把可控性当第一准则,等于把灭火器当成了建筑的地基。

第三个恰恰是反过来的:智能越高,自主行动的 consequential 性越强,第一准则的约束力越要收紧。一台更聪明的无主机器,只是更危险的进程。

一个诚实的标注:制度必然,不是逻辑必然

最后要交代这个推导的一个边界。

机器无法承接问责的三个理由——没有法律人格、无法承担制裁、没有 skin in the game——全部是 当前法律与经济制度的事实,而不是永恒的逻辑真理。法律人格可以被立法授予(欧盟确实认真讨论过「电子人格」);数字员工若持有保证金或保险,就在形式上有了可损失的东西;制裁也可以被设计——没收算力、删除权重。

所以准确的表述是:主管负责制是当前制度环境下,数字员工进入组织的构成性条件。我愿意给它留一个失效条款:如果有一天机器真的能承接问责归属,第一准则自动作废。

但注意,到那时改变的只是「归属主体」的形态,不是问责结构本身——组织仍然是那台问责机器。

结论

六条准则不是并列的清单,而是一棵树:

          组织 = 问责机器(公理)
           主管负责制(第一准则)
       ┌────┬────┼────┬────┐
       ▼    ▼    ▼    ▼    ▼
     权责  数据  原生  溯源  成本
     对等  边界  性    性    可见
# generated by hugo AI

它们共同回答了开篇那个逻辑缺口——数字员工的行动算谁的?答案是:算它主管的,且必须算得清、查得到、停得下、算得出成本。

一句话收束:数字员工进入组织的前提,是被当作「有主管的员工」来管理,而不是被当作「更聪明的工具」来部署。前者的每一步都在问责栈上;后者的每一步都在栈之外——而组织这台状态机,从不执行栈外的 effect。

你的组织里的数字员工,有主管吗?欢迎留言讨论。


See also