Η OpenAI αναγράφει την ανάγνωση της προσωρινής μνήμης (cache) στα 0,10 δολάρια ανά εκατομμύριο tokens. Η τιμή αυτή ενδιαφέρει τις επαναλαμβανόμενες εργασίες, υπό την επιφύλαξη ελέγχου της πραγματικής ποιότητάς τους.
Ένας φάκελος αναφοράς μπορεί να ξαναδιαβάζεται σε κάθε νέο αίτημα προς ένα μοντέλο. Στην τιμολόγηση του GPT-6.1 Sol, η OpenAI χρεώνει τις εισόδους που βρίσκονται στην cache με 0,10 δολάρια ανά εκατομμύριο tokens, έναντι 2 δολαρίων για τις τυπικές εισόδους. Η έξοδος κοστίζει 10 δολάρια ανά εκατομμύριο. Οι τυπικές τιμές εισόδου και εξόδου αντιστοιχούν στο ένα πέμπτο εκείνων του GPT-6 Astra· αυτή η αναλογία δεν εγγυάται συνολικό λογαριασμό διαιρεμένο διά πέντε.
Η σελίδα λανσαρίσματος παρουσιάζει το μοντέλο ως εξέλιξη του GPT-6 Sol, διαθέσιμη στα Work, Codex και στο API. Αναφέρει πρόοδο σε αρκετές αξιολογήσεις επαγγελματικής εργασίας, διευκρινίζοντας ταυτόχρονα ότι οι δοκιμές σε ερευνητικό περιβάλλον ή μέσω API μπορεί να διαφέρουν από τη χρήση στην παραγωγή. Αυτή η επιφύλαξη συνοδεύει τις συγκρίσεις απόδοσης.
Να διατηρείς ένα πλαίσιο που αξίζει να διατηρηθεί
Για μια συντακτική ομάδα ή μια διεύθυνση συλλογής, η επαναχρησιμοποίηση θα μπορούσε να αφορά ένα εγκεκριμένο σώμα αναφορών. Χρειάζεται όμως να ξέρει κανείς ποια έκδοση του οδηγού ύφους, του καταλόγου ή του brief παραμένει επίκαιρη. Μια φθηνότερη ανάγνωση μιας ξεπερασμένης οδηγίας δεν δημιουργεί καμία χρήσιμη οικονομία.
Η αξιολόγηση θα έπρεπε λοιπόν να συνδυάζει δύο ελέγχους: την ποιότητα των απαντήσεων και την εγκυρότητα του πλαισίου που επαναχρησιμοποιείται. Ένας φάκελος που διορθώνεται μετά από κάθε λάθος θα επέτρεπε να φανεί αν η βελτίωση μεταφέρεται στις επόμενες εργασίες. Οι ανθρώπινες διορθώσεις, οι επαναλήψεις αιτημάτων και ο χρόνος αναθεώρησης θα εισέρχονταν στο συνολικό κόστος.
Η τιμή της cache παρέχει μια ακριβή παράμετρο αγοράς. Η απόφαση να της ανατεθεί περισσότερη δουλειά εξαρτάται από μια άλλη απόδειξη: την ικανότητα διατήρησης των σωστών αναφορών χωρίς διάδοση των παλιών σφαλμάτων. Αυτή η απόδειξη πρέπει να παραχθεί πάνω στα έγγραφα και τις απαιτήσεις της ομάδας.
Cette publication est également disponible en :
