Anthropic annonce une évaluation menée de l’intérieur avec Faculty, filiale spécialisée d’Accenture. L’accès promis aux travaux ouvre une question décisive : comment rendre le contrôle indépendant de son financement ?
Évaluer un modèle une fois livré laisse hors champ une partie des choix qui l’ont façonné. Anthropic annonce avec Accenture un dispositif dans lequel des évaluateurs pourraient suivre les travaux depuis l’intérieur de l’entreprise. Faculty, l’activité spécialisée en IA d’Accenture, doit conduire cette mission.
L’accès change le périmètre du contrôle
L’annonce du 18 septembre prévoit des évaluations de modèles, des tests adversariaux et un examen des protections. Anthropic décrit un accès comparable à celui d’un salarié. Les deux entreprises envisagent chacune d’investir au moins un milliard de dollars sur cinq ans pour développer cette capacité.
La société précise toutefois que les modalités restent à définir et qu’elle financera directement le travail d’Accenture. Elle indique aussi que le partenariat n’est pas exclusif. Ces réserves sont essentielles : un dispositif annoncé n’est pas encore un système de contrôle dont l’efficacité aurait été démontrée.
Pour une maison, demander une preuve utilisable
Une direction qui confie des archives, des processus ou des décisions à l’IA peut tirer une question pratique de cette évolution : quelles informations un tiers est-il réellement en mesure de vérifier ? Le nom d’un évaluateur ne suffit pas. Son accès, les situations qu’il peut examiner et sa liberté de signalement déterminent la portée du contrôle.
La même exigence vaut au niveau d’un projet interne. Un comité doit pouvoir distinguer les tests réalisés par le fournisseur, ceux conduits par l’équipe utilisatrice et les vérifications indépendantes. Chacun répond à un besoin différent.
L’évaluation embarquée pourrait réduire certains angles morts liés à l’observation extérieure. Sa crédibilité dépendra aussi des garanties qui protègent le jugement de l’évaluateur. L’accès à la preuve et la capacité de la rendre publique sont deux conditions distinctes ; le développement du partenariat permettra de voir comment elles s’articulent.
