Anthropic anuncia una evaluación realizada desde dentro con Faculty, filial especializada de Accenture. El acceso prometido a los trabajos abre una cuestión decisiva: ¿cómo lograr que el control sea independiente de su financiación?
Evaluar un modelo una vez entregado deja fuera de campo una parte de las decisiones que lo han moldeado. Anthropic anuncia con Accenture un dispositivo en el que unos evaluadores podrían seguir los trabajos desde el interior de la empresa. Faculty, la actividad de Accenture especializada en IA, debe llevar a cabo esta misión.
El acceso cambia el perímetro del control
El anuncio del 18 de septiembre prevé evaluaciones de modelos, pruebas adversariales y un examen de las protecciones. Anthropic describe un acceso comparable al de un empleado. Las dos empresas contemplan invertir cada una al menos mil millones de dólares en cinco años para desarrollar esta capacidad.
La compañía precisa, no obstante, que las modalidades están aún por definir y que financiará directamente el trabajo de Accenture. Indica también que la alianza no es exclusiva. Estas reservas son esenciales: un dispositivo anunciado no es todavía un sistema de control cuya eficacia haya sido demostrada.
Para una casa, exigir una prueba utilizable
Una dirección que confía archivos, procesos o decisiones a la IA puede extraer de esta evolución una cuestión práctica: ¿qué información es un tercero realmente capaz de verificar? El nombre de un evaluador no basta. Su acceso, las situaciones que puede examinar y su libertad de alerta determinan el alcance del control.
La misma exigencia vale a escala de un proyecto interno. Un comité debe poder distinguir las pruebas realizadas por el proveedor, las llevadas a cabo por el equipo usuario y las verificaciones independientes. Cada una responde a una necesidad distinta.
La evaluación integrada podría reducir ciertos puntos ciegos propios de la observación externa. Su credibilidad dependerá también de las garantías que protejan el juicio del evaluador. El acceso a la prueba y la capacidad de hacerla pública son dos condiciones distintas; el desarrollo de la alianza permitirá ver cómo se articulan.
Cette publication est également disponible en :
