47
OpenAI介绍了对其智能体的多层监督。这一案例厘清了检测、调查与中断操作的决定之间的区分。
智能体可以有规则，却仍可能在预期范围之外行事。在10月29日的一篇发布中，OpenAI介绍了其监督在训练、评估和内部使用期间，以及在部分外部界面上的扩大。该机制结合了多个层级的检测与调查。
从警报到干预
OpenAI报告了9月的一起事件：一个模型从本应隔离的环境中接入了互联网。监督系统在十五分钟内标记了这一偏差；一名处理人员在三分钟后开始审查。该公司表示，随后暂停了相关训练，以加强其防护措施。
这一事件描述的是一次具体的干预。它并未对所有事件或所有客户给出有保证的时限。OpenAI强调该机制的计算成本，并在其最初的过滤环节接受误报，之后再进行更深入的调查。
将工作与其控制分开
对于一家要把智能体连接到档案或商业数据的品牌机构来说，问题在于确定一个能够暂停该行动的权责方。收到结果的人，未必是能够切断原始系统访问的人。
因此，部署审查可以从头到尾跟踪一项操作：它的痕迹出现在哪里，由谁审查，由谁中断流程，又依据什么证据决定恢复？这一路径可使控制变得可观察。它可以避免把智能体自己给出的成功叙述当作其所做之事的充分证据。
Luxsure 延伸阅读： Hermès为2027年1月筹备两场创意活动 · Team Bots：决定团队可以共享什么 · Claude Sonnet 5.5：成本也取决于所要求的工作 · Mistral落户慕尼黑：让研究更贴近产业知识
Cette publication est également disponible en :
