Η Anthropic ανακοινώνει μια αξιολόγηση που διεξάγεται εκ των έσω με τη Faculty, εξειδικευμένη θυγατρική της Accenture. Η υποσχόμενη πρόσβαση στις εργασίες θέτει ένα καθοριστικό ερώτημα: πώς μπορεί ο έλεγχος να καταστεί ανεξάρτητος από τη χρηματοδότησή του;
Η αξιολόγηση ενός μοντέλου μετά την παράδοσή του αφήνει εκτός πεδίου ένα μέρος των επιλογών που το διαμόρφωσαν. Η Anthropic ανακοινώνει με την Accenture ένα σχήμα στο οποίο αξιολογητές θα μπορούσαν να παρακολουθούν τις εργασίες από το εσωτερικό της εταιρείας. Η Faculty, η δραστηριότητα της Accenture με ειδίκευση στην ΤΝ, πρόκειται να φέρει εις πέρας αυτή την αποστολή.
Η πρόσβαση αλλάζει την έκταση του ελέγχου
Η ανακοίνωση της 18ης Σεπτεμβρίου προβλέπει αξιολογήσεις μοντέλων, δοκιμές αντιπαράθεσης και εξέταση των μέτρων προστασίας. Η Anthropic περιγράφει μια πρόσβαση συγκρίσιμη με εκείνη ενός υπαλλήλου. Οι δύο εταιρείες εξετάζουν να επενδύσουν η καθεμία τουλάχιστον ένα δισεκατομμύριο δολάρια σε πέντε χρόνια για να αναπτύξουν αυτή την ικανότητα.
Η εταιρεία διευκρινίζει ωστόσο ότι οι λεπτομέρειες απομένει να καθοριστούν και ότι θα χρηματοδοτήσει άμεσα το έργο της Accenture. Επισημαίνει επίσης ότι η συνεργασία δεν είναι αποκλειστική. Οι επιφυλάξεις αυτές είναι ουσιώδεις: ένα σχήμα που έχει ανακοινωθεί δεν είναι ακόμη σύστημα ελέγχου του οποίου η αποτελεσματικότητα έχει αποδειχθεί.
Για έναν οίκο, η απαίτηση μιας αξιοποιήσιμης απόδειξης
Μια διοίκηση που εμπιστεύεται αρχεία, διαδικασίες ή αποφάσεις στην ΤΝ μπορεί να αντλήσει από αυτή την εξέλιξη ένα πρακτικό ερώτημα: ποιες πληροφορίες είναι πράγματι σε θέση να επαληθεύσει ένας τρίτος; Το όνομα ενός αξιολογητή δεν αρκεί. Η πρόσβασή του, οι καταστάσεις που μπορεί να εξετάσει και η ελευθερία του να αναφέρει καθορίζουν την εμβέλεια του ελέγχου.
Η ίδια απαίτηση ισχύει σε επίπεδο εσωτερικού έργου. Μια επιτροπή πρέπει να μπορεί να διακρίνει τις δοκιμές που πραγματοποίησε ο προμηθευτής, εκείνες που διεξήγαγε η ομάδα χρηστών και τους ανεξάρτητους ελέγχους. Καθένας ανταποκρίνεται σε διαφορετική ανάγκη.
Η ενσωματωμένη αξιολόγηση θα μπορούσε να μειώσει ορισμένα τυφλά σημεία που συνδέονται με την εξωτερική παρατήρηση. Η αξιοπιστία της θα εξαρτηθεί επίσης από τις εγγυήσεις που προστατεύουν την κρίση του αξιολογητή. Η πρόσβαση στην απόδειξη και η δυνατότητα να δημοσιοποιηθεί είναι δύο διακριτές προϋποθέσεις· η εξέλιξη της συνεργασίας θα δείξει πώς αρθρώνονται.
Cette publication est également disponible en :
