9
访问权限改变了监督的范围
对一家机构而言，要求可用的证据
Anthropic 宣布与 Accenture 旗下专业子公司 Faculty 合作，开展一项由内部进行的评估。所承诺的对相关工作的访问权限引出一个关键问题：如何使监督独立于其资金来源？
在模型交付之后再对其评估，会使塑造它的一部分选择落在视野之外。Anthropic 与 Accenture 宣布了一项安排，评估人员可以从公司内部跟踪相关工作。Accenture 专注于人工智能的业务部门 Faculty 将负责执行这项任务。
访问权限改变了监督的范围
9 月 18 日的公告设想了模型评估、对抗性测试以及对防护措施的审查。Anthropic 描述的访问权限与一名员工相当。两家公司各自考虑在五年内至少投资十亿美元，以发展这一能力。
不过，该公司说明，具体方式仍有待确定，并且它将直接资助 Accenture 的工作。它还表示这一合作并非排他性的。这些保留至关重要：一项已宣布的安排，还不是效力已得到证明的监督体系。
对一家机构而言，要求可用的证据
将档案、流程或决策交给人工智能的管理层，可以从这一演变中得出一个实际问题：第三方究竟能够核实哪些信息？评估者的名字并不够。其访问权限、能够审查的情形以及报告的自由度，决定了监督的作用范围。
同样的要求也适用于内部项目层面。委员会必须能够区分供应商开展的测试、使用团队开展的测试和独立核查。每一种都回应不同的需要。
嵌入式评估或可减少与外部观察相关的某些盲区。其可信度还取决于保护评估者判断的各项保障。获取证据的权限与将其公之于众的能力是两个不同的条件；这一合作的发展将显示二者如何衔接。
Cette publication est également disponible en :
