OpenAI указывает стоимость чтения кэша в 0,10 доллара за миллион токенов. Этот тариф интересен для повторяющихся задач при условии проверки их реального качества.
Справочный пакет документов можно перечитывать при каждом новом обращении к модели. В тарифах GPT-6.1 Sol OpenAI берёт за кэшированный ввод 0,10 доллара за миллион токенов против 2 долларов за стандартный ввод. Вывод стоит 10 долларов за миллион. Стандартные цены на ввод и вывод составляют пятую часть цен GPT-6 Astra; это соотношение не гарантирует, что итоговый счёт уменьшится в пять раз.
На странице запуска модель представлена как развитие GPT-6 Sol, доступное в Work, Codex и через API. В ней сообщается о прогрессе по нескольким оценкам профессиональной работы, при этом уточняется, что испытания в исследовательской среде или через API могут отличаться от использования в производственной среде. Эта оговорка сопровождает сравнения производительности.
Сохранять контекст, который стоит сохранять
Для редакционной команды или руководства коллекцией повторное использование могло бы касаться утверждённого корпуса справочных материалов. Но нужно знать, какая версия руководства по стилю, каталога или брифа остаётся актуальной. Более дешёвое чтение устаревшей инструкции не даёт никакой полезной экономии.
Поэтому оценка должна сочетать две проверки: качество ответов и актуальность повторно используемого контекста. Пакет, исправляемый после каждой ошибки, позволил бы увидеть, переходит ли улучшение на последующие работы. Исправления человеком, повторные запросы и время на проверку вошли бы в полную стоимость.
Цена кэша даёт точный параметр для закупки. Решение поручить ему больше работы зависит от другого доказательства: способности сохранять верные ссылки, не распространяя прежние ошибки. Это доказательство должно быть получено на документах и требованиях самой команды.
Cette publication est également disponible en :
