数字员工的第一准则不是可控性

Why Accountability, Not Controllability, Comes First for Digital Employees

今年早些时候,我写过这样一个案例:一家电商公司的 AI Agent 自动调整了 2000 个 SKU 的定价,部分商品以成本价以下售出,一天亏了 80 万。复盘会上——

运营说:是 AI 自动调的。技术说:是数据源有异常。数据团队说:数据是实时抓取的,跟我们无关。

没有一个人为这 80 万负责。(案例详见企业级 AI 必须设计成出错后可以追责到人)

那篇文章讲的是工程层面怎么追责:授权链、策略签名、审计日志。但写完之后,有一个更根本的问题一直挂着我:

为什么必须追到「人」?为什么不能追到 Agent 本身?

这个问题听起来像文字游戏,其实不是。它决定了你的数字员工部署从哪里画下第一根线——第一根线画错了,后面每一根都是错的。

前段时间我把这个问题的推导写成了一份内部文档。这篇文章是它的公开版:不做功能罗列,不列合规清单,从第一性原理出发,推导数字员工要成为组织成员必须满足什么条件。

Why Accountability, Not Controllability, Comes First for Digital Employees

[Read More]

企业级 AI 必须设计成出错后可以追责到人

从'AI 做的'到'谁让 AI 这么做的'——构建可追责的 AI 系统

上周一个真实案例:某电商公司的 AI Agent 自动调整了 2000 个 SKU 的定价策略,导致部分商品以成本价以下售出,一天亏了 80 万。复盘会上,所有人面面相觑——

运营说:“我没动过,是 AI 自动调的。” 技术说:“模型输出没问题,是数据源有异常。” 数据团队说:“数据是实时抓取的,跟我们无关。”

没有一个人为这 80 万负责。

这不是个例。当 AI 从"辅助工具"升级为"执行主体",一个被企业严重低估的问题出现了:出了事,找谁?

[Read More]