Planificador de ventana de contexto de IA
Un modelo solo puede leer y escribir un número limitado de tokens por solicitud. Introduce la ventana de contexto, cuántos tokens usa cada parte de tu solicitud y cuántos quieres dejar libres para la respuesta. El planificador lo suma con exactitud y muestra qué queda, cuán llena está la ventana y qué recortar si se desborda.
Resultado
Introduce una ventana de contexto y tus cantidades para planificar el presupuesto.
- Total de entrada
- Reservado para la respuesta
- Comprometido
- Restante
- Ventana usada
| Parte | Tokens | Proporción de la ventana |
|---|
Ejemplos
Ejemplos resueltos con cifras habituales (todos los valores en tokens):
| Escenario | Ventana | Entrada | Respuesta reservada | Resultado |
|---|---|---|---|---|
| Asistente de chat | 32.768 | 8.500 | 1.000 | Cabe con margen (29%) |
| Preguntas sobre documentos (recuperación) | 128.000 | 50.000 | 4.000 | Cabe con margen (42,2%) |
| Agente con herramientas | 200.000 | 119.000 | 16.000 | Cabe con margen (67,5%) |
| Documento largo en una sola solicitud | 200.000 | 191.000 | 16.000 | Supera el límite (−7.000) |
Fórmula y metodología
El presupuesto es una suma simple, así que las cifras son exactas (dadas las cantidades que introduces):
entrada = prompt de sistema + conversación + documentos + herramientascomprometido = entrada + respuesta reservadarestante = ventana de contexto − comprometidoventana usada = comprometido ÷ ventana de contextoConviene saber
- La mayoría de las API cuentan la entrada y la salida juntas contra la ventana de contexto, pero algunos modelos limitan además la respuesta por separado. Consulta la documentación de tu modelo.
- «Justo» empieza en el 85 % de la ventana, lo que deja espacio para la sobrecarga de formato.
- Los envoltorios de mensajes, los esquemas de herramientas, las imágenes y los tokens de razonamiento también ocupan la ventana. Tus recuentos pueden no incluirlos, así que deja margen.
- Las ventanas de contexto varían según el modelo y cambian con el tiempo. Esta herramienta no conoce tu modelo: introduce tú su ventana.
- Las palabras y los caracteres se convierten con promedios editables. Usa el contador de tokens para una cifra más precisa sobre un texto real.
Método y referencias
Estas fuentes primarias respaldan los métodos en los que se basa esta herramienta. Haberlas leído no verifica cada resultado de la calculadora, y las cifras que figuran como supuestos son propias de ToolQuarter.
La aritmética del planificador es exacta. Las fuentes respaldan una idea: la ventana la comparte todo lo que hay en la solicitud y en la respuesta, no solo tu prompt visible.
- OpenAI API: Key concepts: Indica que, en los modelos de generación de texto, el prompt y la salida generada juntos deben caber en la longitud de contexto máxima del modelo. ()
- Anthropic: Context windows: Define la ventana de contexto como todo el texto al que un modelo puede referirse al generar una respuesta, incluida la propia respuesta, e indica que las definiciones de herramientas y los tokens de razonamiento cuentan para ella. ()
- OpenAI API: Reasoning models: Señala que los tokens de razonamiento no son visibles en la API pero ocupan espacio en la ventana de contexto, que conviene dejarles sitio y que la longitud de la ventana varía entre versiones del modelo. ()
Supuestos de ToolQuarter (sin fuente primaria):
- El umbral «justo» del 85 % es una regla práctica de ToolQuarter para dejar espacio a la sobrecarga de formato, no un límite de ningún proveedor.
- Las palabras y los caracteres se convierten a tokens con promedios editables que son supuestos de ToolQuarter: usa el contador de tokens para texto real. No se incluye la ventana de contexto ni el límite de salida de ningún modelo, así que introduce los tuyos.
Cómo usar
- Introduce la ventana de contexto de tu modelo o elige un tamaño habitual.
- Elige si vas a escribir tokens, palabras o caracteres.
- Rellena cada parte de la solicitud y el espacio que quieres dejar libre para la respuesta.
- Lee el espacio restante y el estado, y recorta la parte más grande si el plan se pasa.
Preguntas frecuentes
¿Qué es una ventana de contexto?
Es el número máximo de tokens que un modelo puede manejar en una solicitud: tu prompt, los mensajes anteriores, los documentos y herramientas, y normalmente también la respuesta. Lo que exceda se rechaza o se trunca, según el proveedor.
¿Los tokens de salida cuentan contra la ventana de contexto?
En la mayoría de las API sí: la entrada y la salida deben caber juntas. Algunos modelos fijan además un máximo aparte para la respuesta. Por eso este planificador reserva espacio para la respuesta en lugar de ignorarla.
¿Cuánto debería reservar para la respuesta?
Al menos lo que ocupe la respuesta más larga que esperes, y no menos que tu ajuste de salida máxima si lo has fijado. Reservar poco corta las respuestas; reservar demasiado desperdicia espacio que podrías dar a los documentos.
¿Qué pasa cuando una solicitud supera la ventana?
Según el proveedor, recibes un error o se descarta o trunca contenido antiguo. Ninguna de las dos cosas es buena para la calidad, así que recorta la parte más grande, resume mensajes antiguos o recupera menos fragmentos.
¿Cómo reduzco un prompt que no cabe?
Resume el historial largo, recupera menos fragmentos o más cortos, acorta las definiciones de herramientas, recorta el prompt de sistema o reduce la respuesta reservada. La línea de consejo señala primero la parte más grande.
Última actualización: