0
衡量监督
奢侈品行业的组织问题
Anthropic公布的内部指标区分了监督覆盖率、审查时延与升级处理。对部署智能体的品牌机构而言,这些维度比单纯的自动化数量更具参考价值。
Anthropic表示,2026年8月,约有三万个智能体在其主要的内部研究与工程平台上同时工作。这一数字仅指该特定系统,并不代表整个市场,也不涵盖Claude的所有用途。
衡量监督
该公司提出三个维度:受到检查的操作所占比例、操作与审查之间的时间间隔,以及被拦截或移交复核的案例比例。公司介绍了执行前的检查和事后的检查。高优先级警报会交由人工审查。
这些信息由运营方自行发布。它们使其运作方式更易于理解,但本身并不构成独立验证。Anthropic还强调,其监督方法仍处于起步阶段。
奢侈品行业的组织问题
在一家品牌机构中,负责归档文件的智能体与介入商业关系的智能体,不应适用同一套管控机制。风险取决于可能发生的操作、该操作能否撤回,以及须为此负责的人。
因此,一份有用的清单应写明每项自动化的授权范围、访问权限和责任人。留有日志,并不能保证有人能及时加以利用。同样,系统性的检查也不一定能发现重要的差错。
由此得到的启示并不是鼓励增加智能体,而是关乎如何让它们的活动可被理解。在衡量节省了多少时间之前,团队须先弄清哪些操作可能发生、在何处留下痕迹,以及如何中断一连串操作。
当一项自动决策能够对应到明确的授权和人的责任时,自主性才变得可治理。智能体的数量,几乎说明不了这种组织质量。
Cette publication est également disponible en :
