Ένας οίκος πολυτελείας ζει από όσα θυμάται: το κόψιμο ενός σακακιού του 1987, την ακριβή απόχρωση ενός κόκκινου, την προτίμηση μιας πελάτισσας για γάντια χωρίς φόδρα. Αυτή η μνήμη είναι το πιο εύθραυστο περιουσιακό του στοιχείο, και ως τώρα η τεχνητή νοημοσύνη την αντιμετώπιζε ως δαπάνη. Κάθε αίτημα υποχρέωνε να ξαναδιαβαστεί ολόκληρος ο φάκελος, και κάθε επανάγνωση τιμολογούνταν.
Η ανακοίνωση του GPT‑6.1 Sol από την OpenAI μετατοπίζει αυτόν τον υπολογισμό. Ο πάροχος αναγράφει για το νέο του μοντέλο 2 δολάρια ανά εκατομμύριο tokens εισόδου και 10 δολάρια εξόδου, δηλαδή το ένα πέμπτο των τιμών του κορυφαίου μοντέλου του, Astra (10 και 50 δολάρια). Ο πιο ενδιαφέρων αριθμός βρίσκεται ωστόσο πιο κάτω στην ανακοίνωση: το πλαίσιο που έχει ήδη μεταδοθεί, το λεγόμενο «στην προσωρινή μνήμη», κοστίζει μόλις 0,10 δολάρια ανά εκατομμύριο tokens, 95 % λιγότερο από την τυπική είσοδο.
Μεταφρασμένο σε χρήσεις, ένας πράκτορας που κρατά στο μυαλό του τον οδηγό ύφους ενός οίκου, τα αρχεία των συλλογών του και το ιστορικό ενός πελάτη μπορεί να ξανανοίγει αυτόν τον φάκελο σε κάθε ανταλλαγή για ένα κλάσμα της τιμής. Ό,τι ήταν πολυτέλεια εργαστηρίου γίνεται συνηθισμένη γραμμή προϋπολογισμού.
Αυτοί οι αριθμοί προέρχονται από τον ίδιο τον πάροχο, μετρημένοι σε δοκιμές που ο ίδιος επέλεξε. Η OpenAI αναγνωρίζει άλλωστε ότι τα τεστ πραγματολογικής ακρίβειας βασίζονται σε σκόπιμα δύσκολες ερωτήσεις, μη αντιπροσωπευτικές της συνήθους χρήσης. Ως προς τη διαφάνεια του πράκτορα απέναντι σε ένα εργαλείο αναζήτησης εκτός λειτουργίας, το μοντέλο αποτυγχάνει ακόμη στο 2,1 % των περιπτώσεων. Για έναν οίκο όπου κάθε φράση δεσμεύει το όνομα, αυτό το υπόλοιπο δεν είναι καθόλου ασήμαντο: ένας φθηνός πράκτορας που επινοεί μια ημερομηνία ίδρυσης κοστίζει περισσότερο από έναν ακριβό πράκτορα που σιωπά.
Το ερώτημα αλλάζει λοιπόν φύση. Δεν αφορά πια το τι μπορεί κανείς να αντέξει να δώσει στη μηχανή να διαβάσει, αλλά το τι δέχεται να της εμπιστευτεί. Όταν η μνήμη δεν κοστίζει σχεδόν τίποτα, η επιλογή γίνεται η σπάνια χειρονομία: να αποφασιστεί ποια αρχειακά σύνολα μπαίνουν στο πλαίσιο, ποια μένουν εκτός προσβασιμότητας και ποιος ξαναδιαβάζει ό,τι βγαίνει από αυτό. Μια τεχνογνωσία μεταδιδόταν άλλοτε μέσα από το εργαστήριο. Στο εξής θα πρέπει να επιλέξουμε τι δεχόμαστε να αποστηθίσει ένας τρίτος.
Cette publication est également disponible en :
