Descarga gratis

Costo: escalones de precio y horas más baratas

Si un modelo cobra más pasado cierto tamaño de conversación, o menos a ciertas horas, la app lo sabe y actúa sola para que el mismo trabajo cueste menos.

Actualizado el · versión 2.0.117 · Markdown

Algunos modelos cobran varias veces más por cada petición cuando la conversación pasa de cierto tamaño. Otros cuestan menos a ciertas horas. NoBreiniers lo lee del precio de cada modelo y actúa solo. Las dos cosas vienen encendidas y se apagan en «Ajustes» › «Cuentas» › «Costo».

El escalón de precio

Un escalón es un tamaño de conversación a partir del cual cada petición a ese modelo cuesta más: no solo lo que se pasa, la petición entera.

Antes de llegar a un escalón, la app hace esto, en este orden:

  1. Recorta lo que no duele. Los resultados viejos de herramientas pasan a vistas previas cortas. El texto completo queda guardado en el chat.
  2. Compacta antes del escalón. La conversación se compacta un poco antes de llegar, con margen. Mira Contexto, compactación y el registro de la tarea.
  3. Cuida lo que entra de golpe. Un resultado tan grande que por sí solo cruzaría el escalón entra como vista previa, con todo su texto en un archivo del chat. Un mensaje tuyo así de largo le llega al modelo con su principio y su final, y entero en los archivos del chat. En el chat tu mensaje sigue completo.
  4. Hace la cuenta. Solo se mantiene por debajo cuando compactar cuesta menos que pagar el precio alto. Si no, usa la ventana entera y te dice por qué.

Un modelo sin escalones, un plan que no cobra por token y un modelo que corre en tu Mac siguen exactamente igual.

Lo que ves

  • En un modelo con escalón, «Conversación acortada · …» aparece más a menudo en el chat. Nada más cambia.
  • La tarjeta del saldo, en la barra de título, lo dice: «La conversación se mantiene corta para que cada respuesta cueste menos».
  • La ventana «Contexto» tiene una línea que lo explica, solo en los modelos que tienen escalón:
La línea termina asíQué significa
«…por eso este chat se mantiene por debajo: se compacta sola a los …»Lo normal: el chat se queda bajo el escalón.
«Este chat se compacta antes de llegar ahí.»El punto donde ya se compacta el chat queda por debajo del escalón.
«Mantenerse por debajo está apagado en Ajustes › Cuentas, así que este chat usa la ventana entera.»Tú lo apagaste.
«Las instrucciones y herramientas de este chat dejan muy poco espacio por debajo, así que usa la ventana en vez de compactarse cada pocos pasos.»El escalón es demasiado bajo para trabajar bien por debajo.
«Compactar para mantenerse por debajo costaría más de lo que ahorra, así que este chat usa la ventana.»El escalón sube tan poco el precio que no compensa.

Todas empiezan igual: «Pasados los … tokens, cada petición a este modelo cuesta … veces más».

¿Cambia la calidad?

En nuestras pruebas, no. Seis chats largos de programación (de 100.000 a 267.000 tokens de contexto, un mismo modelo) se corrieron de tres formas: compactando en el punto normal y manteniéndose bajo un escalón de 100.000 y de 200.000 tokens. Todas las tareas pasaron en todas: 34 de 34.

Lo que sí cambia es la frecuencia. Bajo un escalón de 100.000 tokens, esos chats se compactaron más o menos cada cuatro minutos de trabajo continuo. Bajo uno de 200.000, una vez en un chat de 72 pasos. Un chat que no llega al límite no se compacta.

Apagarlo

  1. Abre «Ajustes» (⌘,) › «Cuentas».
  2. Abre «Avanzado»; en «Costo» apaga «Evitar que los chats largos cuesten más».

Apagado, el chat usa la ventana entera del modelo.

Horas más baratas

En «Avanzado» › «Costo», «Horas más baratas para lo que puede esperar» hace que el trabajo que nadie está esperando corra cuando el modelo cuesta menos:

  • Esperan las tareas automáticas sin hora fija que se repiten cada seis horas o más, y lo que la app aprende en segundo plano. Cuatro horas como máximo.
  • No espera nada de lo que tú pides: eso siempre corre al momento. Tampoco una tarea con hora fija, ni una que lanzas con «Ejecutar ahora».

Una tarea automática que espera lo dice en su fila: «Espera las horas baratas · corre a las …». Para correrla ya, pulsa su botón de reproducir.