Οι εσωτερικές μετρήσεις που δημοσίευσε η Anthropic διακρίνουν την κάλυψη του ελέγχου, τον χρόνο ανασκόπησης και την κλιμάκωση. Για τους οίκους που αναπτύσσουν πράκτορες, οι διαστάσεις αυτές είναι πιο διδακτικές από έναν απλό αριθμό αυτοματισμών.
Η Anthropic αναφέρει ότι τον Αύγουστο του 2026 περίπου τριάντα χιλιάδες πράκτορες εργάζονταν ταυτόχρονα στην κύρια εσωτερική πλατφόρμα της για έρευνα και μηχανική. Ο αριθμός αφορά αυτό το συγκεκριμένο σύστημα, όχι το σύνολο της αγοράς ούτε όλες τις χρήσεις του Claude.
Η μέτρηση της εποπτείας
Η εταιρεία προτείνει τρεις διαστάσεις: το ποσοστό των ενεργειών που ελέγχονται, τον χρόνο που μεσολαβεί ανάμεσα σε μια ενέργεια και την ανασκόπησή της, και την αναλογία των περιπτώσεων που μπλοκάρονται ή διαβιβάζονται για εξέταση. Περιγράφει ελέγχους πριν από την εκτέλεση και άλλους εκ των υστέρων. Οι προτεραιοποιημένες ειδοποιήσεις οδηγούν σε ανασκόπηση από άνθρωπο.
Οι πληροφορίες αυτές δημοσιεύονται από τον ίδιο τον φορέα λειτουργίας. Καθιστούν τη λειτουργία του πιο ευανάγνωστη, χωρίς να συνιστούν από μόνες τους ανεξάρτητη επικύρωση. Η Anthropic τονίζει άλλωστε ότι οι μέθοδοι εποπτείας της είναι ακόμη πρόσφατες.
Ζήτημα οργάνωσης για την πολυτέλεια
Σε έναν οίκο, ένας πράκτορας που ταξινομεί έγγραφα και ένας πράκτορας που παρεμβαίνει σε μια εμπορική σχέση δεν δικαιολογούν το ίδιο καθεστώς ελέγχου. Ο κίνδυνος εξαρτάται από την πιθανή ενέργεια, από το αν αυτή μπορεί να αναστραφεί και από το πρόσωπο που θα κληθεί να λογοδοτήσει.
Ένα χρήσιμο μητρώο θα έπρεπε επομένως να προσδιορίζει την εντολή, τις προσβάσεις και τον υπεύθυνο κάθε αυτοματισμού. Η ύπαρξη αρχείου καταγραφής δεν εγγυάται ότι κάποιος θα μπορέσει να το αξιοποιήσει εγκαίρως. Ομοίως, ένας συστηματικός έλεγχος δεν είναι αναγκαστικά ένας έλεγχος ικανός να εντοπίζει τα σημαντικά σφάλματα.
Το δίδαγμα δεν είναι πρόσκληση να πολλαπλασιαστούν οι πράκτορες. Αφορά τον τρόπο με τον οποίο καθίσταται κατανοητή η δραστηριότητά τους. Προτού μετρήσει τον χρόνο που εξοικονομήθηκε, μια ομάδα οφείλει να γνωρίζει ποιες ενέργειες μπορούν να πραγματοποιηθούν, πού αφήνουν ίχνος και πώς διακόπτεται μια αλυσίδα ενεργειών.
Η αυτονομία γίνεται διακυβερνήσιμη όταν μια αυτόματη απόφαση μπορεί να αναχθεί σε ρητή εντολή και σε ανθρώπινη ευθύνη. Ο αριθμός των πρακτόρων δεν λέει σχεδόν τίποτα για αυτή την ποιότητα οργάνωσης.
Cette publication est également disponible en :
