Anthropic объявляет об оценке, проводимой изнутри совместно с Faculty, специализированной дочерней компанией Accenture. Обещанный доступ к работам ставит решающий вопрос: как сделать контроль независимым от его финансирования?
Оценка модели после её передачи оставляет за рамками часть решений, которые её сформировали. Anthropic совместно с Accenture объявляет о механизме, при котором оценщики смогут следить за работой изнутри компании. Faculty, направление Accenture, специализирующееся на ИИ, должно выполнять эту миссию.
Доступ меняет периметр контроля
Объявление от 18 сентября предусматривает оценки моделей, состязательные тесты и проверку защитных мер. Anthropic описывает доступ, сопоставимый с доступом сотрудника. Каждая из двух компаний рассматривает возможность вложить не менее одного миллиарда долларов в течение пяти лет на развитие этой возможности.
Компания, однако, уточняет, что условия ещё предстоит определить и что она будет напрямую финансировать работу Accenture. Она также указывает, что партнёрство не является эксклюзивным. Эти оговорки существенны: объявленный механизм — это ещё не система контроля, эффективность которой была бы доказана.
Для компании: требовать пригодное к использованию доказательство
Руководство, которое доверяет ИИ архивы, процессы или решения, может извлечь из этой эволюции практический вопрос: какую информацию третья сторона действительно способна проверить? Имени оценщика недостаточно. Его доступ, ситуации, которые он может исследовать, и свобода сообщать о выявленном определяют охват контроля.
То же требование действует на уровне внутреннего проекта. Комитет должен уметь различать тесты, проведённые поставщиком, тесты, проведённые командой-пользователем, и независимые проверки. Каждый отвечает на свою потребность.
Встроенная оценка могла бы уменьшить некоторые слепые зоны, связанные с внешним наблюдением. Её достоверность будет зависеть и от гарантий, защищающих суждение оценщика. Доступ к доказательству и возможность обнародовать его — два разных условия; развитие партнёрства покажет, как они сочетаются.
Cette publication est également disponible en :
