Si estás construyendo aplicaciones con IA, probablemente ya te hayas dado cuenta de que los costos de tokens se acumulan rápido. Cada llamada a la API cuenta, y el formato que usas para estructurar datos importa más de lo que crees.
Aquí entra TOON (Token-Oriented Object Notation), un formato diseñado específicamente para contextos de LLMs. Veamos cómo se compara con JSON y qué puedes ahorrar realmente.
¿Qué es TOON?
TOON es un formato ligero de serialización de datos optimizado para eficiencia de tokens. En lugar de la sintaxis verbosa de JSON, TOON usa una representación más compacta que los LLMs pueden interpretar fácilmente.
Ejemplo JSON:
json
{
"nombre": "Juan Pérez",
"edad": 32,
"email": "[email protected]",
"activo": true
}
Ejemplo TOON:
Diferencia simple, pero importa a escala.
Las Matemáticas de los Tokens
Veamos números reales. Usando el tokenizador de GPT-4:
Formato JSON (95 caracteres):
- →Tokens: ~28
- →Incluye:
{, }, ", ,, espaciado extra
Formato TOON (73 caracteres):
- →Tokens: ~21
- →Sintaxis más limpia, menos delimitadores
Ahorro: 25% menos tokens por objeto
Donde TOON Realmente Brilla
Datos Anidados Complejos
Cuando trabajas con arrays y objetos anidados, los ahorros se multiplican:
JSON (62 tokens):
json
{
"usuarios": [
{
"id": 1,
"nombre": "Alicia",
"roles": ["admin", "editor"]
},
{
"id": 2,
"nombre": "Roberto",
"roles": ["viewer"]
}
]
}
TOON (43 tokens):
toon
usuarios: items[2]:
- id: 1
nombre: Alicia
roles: items[2]:
- admin
- editor
- id: 2
nombre: Roberto
roles: items[1]:
- viewer
Ahorro: 26% de reducción en tokens
Contexto de Respuestas API
Si estás incluyendo respuestas de APIs en tus prompts, esto suma rápidamente. Una respuesta típica con 10 objetos:
- →JSON: ~1,200 tokens
- →TOON: ~850 tokens
- →Ahorras 350 tokens por request
A $10 por millón de tokens (precio de GPT-4), procesando 10,000 requests:
- →Costo JSON: $120
- →Costo TOON: $85
- →Ahorro mensual: $35 por flujo de trabajo
Cuándo Usar TOON
Perfecto para:
- →System prompts con datos estructurados
- →Ejemplos few-shot en tu contexto
- →Definiciones de herramientas/funciones
- →Resúmenes de datasets grandes
- →Pasos de razonamiento chain-of-thought
Quédate con JSON cuando:
- →Necesites validación estricta de esquemas
- →Interactúes con APIs externas (esperan JSON)
- →Tu equipo no esté familiarizado con formatos tipo YAML
- →Uses librerías estándar de parsing JSON
Impacto en el Mundo Real
Supongamos que estás construyendo un sistema RAG que procesa 1,000 documentos diarios, cada uno con metadata en tu prompt:
Uso diario de tokens:
- →JSON: 450,000 tokens
- →TOON: 315,000 tokens
Diferencia mensual:
- →4.05M tokens ahorrados
- →Al precio actual: $40-80 ahorrados mensuales
Para una sola aplicación. Multiplica esto en múltiples flujos de trabajo, y estás viendo una reducción de costos significativa.
Tips de Implementación
- →Enfoque híbrido: Usa TOON en prompts, JSON para contratos de API
- →Documenta claramente: Asegúrate de que tu equipo sepa qué formato usar dónde
- →Testea el parsing: Verifica que tu LLM interprete correctamente las estructuras TOON
- →Monitorea el uso de tokens: Rastrea métricas antes/después para confirmar ahorros
La Conclusión
TOON no es revolucionario, pero es práctico. Si estás vigilando presupuestos de tokens (y deberías), cambiar formatos internos de datos de JSON a TOON puede reducir costos en 25-35% sin cambiar funcionalidad.
El formato es legible, los LLMs lo manejan naturalmente, y los ahorros se acumulan con el tiempo.
Vale la pena probarlo en tu próximo proyecto.
Herramienta para convertir JSON a TOON
