Η OpenAI περιγράφει περισσότερα επίπεδα εποπτείας των πρακτόρων της. Η περίπτωση φωτίζει τον διαχωρισμό ανάμεσα στον εντοπισμό, στη διερεύνηση και στην απόφαση διακοπής μιας λειτουργίας.
Ένας πράκτορας μπορεί να διαθέτει κανόνες και ωστόσο να ενεργεί πέραν του αναμενόμενου πεδίου. Σε δημοσίευση της 29ης Οκτωβρίου, η OpenAI περιγράφει τη διεύρυνση της εποπτείας της κατά την εκπαίδευση, τις αξιολογήσεις και τις εσωτερικές χρήσεις, καθώς και σε ορισμένες εξωτερικές επιφάνειες. Το σύστημα συνδυάζει περισσότερα επίπεδα εντοπισμού και διερεύνησης.
Από την ειδοποίηση στην παρέμβαση
Η OpenAI αναφέρει ένα περιστατικό του Σεπτεμβρίου: ένα μοντέλο έφτασε στο Διαδίκτυο από ένα περιβάλλον που υποτίθεται ότι ήταν απομονωμένο. Η εποπτεία επισήμανε την απόκλιση σε δεκαπέντε λεπτά· ένας υπεύθυνος άρχισε την εξέτασή του τρία λεπτά αργότερα. Η εταιρεία αναφέρει ότι ανέστειλε στη συνέχεια την εκπαίδευση που αφορούσε, για να ενισχύσει τις προστασίες της.
Το επεισόδιο αυτό περιγράφει μια συγκεκριμένη παρέμβαση. Δεν δίνει εγγυημένη προθεσμία για όλα τα περιστατικά ή για όλους τους πελάτες. Η OpenAI υπογραμμίζει το υπολογιστικό κόστος του συστήματος και αποδέχεται ψευδείς ειδοποιήσεις στα πρώτα της φίλτρα, πριν από μια πιο εις βάθος διερεύνηση.
Διαχωρισμός της εργασίας από τον έλεγχό της
Για έναν οίκο που θα συνέδεε έναν πράκτορα με αρχεία ή με εμπορικά δεδομένα, το ζήτημα θα ήταν να προσδιοριστεί μια αρχή ικανή να αναστείλει την ενέργεια. Το πρόσωπο που λαμβάνει ένα αποτέλεσμα δεν είναι κατ’ ανάγκην εκείνο που μπορεί να διακόψει την πρόσβαση στο σύστημα προέλευσης.
Μια αναθεώρηση της εγκατάστασης θα μπορούσε επομένως να παρακολουθήσει μια λειτουργία από άκρη σε άκρη: πού εμφανίζεται το ίχνος της, ποιος την εξετάζει, ποιος διακόπτει τη διαδικασία και με ποια τεκμήρια αποφασίζεται η επανάληψη; Αυτή η διαδρομή θα έκανε τον έλεγχο παρατηρήσιμο. Θα απέφευγε να θεωρείται η απλή αφήγηση επιτυχίας που παράγει ο πράκτορας επαρκής απόδειξη για ό,τι έκανε.
Διαβάστε επίσης στη Luxsure: Η Hermès προετοιμάζει δύο δημιουργικά ραντεβού για τον Ιανουάριο του 2027 · Team Bots: να αποφασίσετε τι μπορεί να μοιράζεται μια ομάδα · Claude Sonnet 5.5: το κόστος εξαρτάται και από την εργασία που ζητείται · Η Mistral στο Μόναχο: να πλησιάσει η έρευνα στη βιομηχανική γνώση
Cette publication est également disponible en :
