تعلن Anthropic عن تقييم يُجرى من الداخل مع Faculty، الشركة التابعة المتخصصة في Accenture. وإتاحة الاطلاع الموعودة على الأعمال تفتح سؤالاً حاسماً: كيف يمكن جعل الرقابة مستقلة عن تمويلها؟
إن تقييم نموذج بعد تسليمه يترك خارج النطاق جزءاً من الخيارات التي شكّلته. وتعلن Anthropic مع Accenture ترتيباً قد يتمكن فيه مقيِّمون من متابعة الأعمال من داخل الشركة. وتتولى Faculty، نشاط Accenture المتخصص في الذكاء الاصطناعي، تنفيذ هذه المهمة.
الوصول يغيّر نطاق الرقابة
يتضمن إعلان 18 سبتمبر تقييمات للنماذج واختبارات خصومية ومراجعة للضمانات الوقائية. وتصف Anthropic وصولاً مماثلاً لوصول أحد الموظفين. وتعتزم كل من الشركتين استثمار مليار دولار على الأقل على مدى خمس سنوات لتطوير هذه القدرة.
غير أن الشركة توضح أن الشروط التفصيلية لم تُحدَّد بعد، وأنها ستموّل عمل Accenture مباشرة. وتشير أيضاً إلى أن الشراكة ليست حصرية. وهذه التحفظات جوهرية: فالترتيب المعلن ليس بعدُ نظام رقابة ثبتت فعاليته.
بالنسبة إلى أي بيت، المطالبة بدليل قابل للاستخدام
يمكن لإدارة تعهد بأرشيفات أو عمليات أو قرارات إلى الذكاء الاصطناعي أن تستخلص من هذا التطور سؤالاً عملياً: ما المعلومات التي يستطيع طرف ثالث التحقق منها فعلاً؟ اسم المقيِّم لا يكفي. فوصوله، والحالات التي يمكنه فحصها، وحريته في الإبلاغ، هي ما يحدد مدى الرقابة.
وينطبق المطلب نفسه على مستوى مشروع داخلي. إذ ينبغي للجنة أن تكون قادرة على التمييز بين الاختبارات التي أجراها المورّد، وتلك التي أجراها الفريق المستخدم، والتحققات المستقلة. ولكل منها حاجة مختلفة.
قد يقلّص التقييم المدمج بعض النقاط العمياء المرتبطة بالمراقبة الخارجية. وستعتمد مصداقيته أيضاً على الضمانات التي تحمي حكم المقيِّم. إن الوصول إلى الدليل والقدرة على نشره علناً شرطان متمايزان؛ وسيتيح تطور الشراكة معرفة كيف يتكاملان.
Cette publication est également disponible en :
