Arquitectura

Cómo el agente elige su cerebro: local vs frontera

Una de las preguntas más honestas que nos hacen: "¿por qué un agente tendría más de un cerebro?" La respuesta corta: porque ninguna IA es la mejor en todo.

El problema de tener un solo cerebro

Los modelos de frontera son extraordinarios razonando — y caros, y dependes del proveedor. Los modelos locales son gratuitos, privados y están siempre disponibles — y en tareas simples son más que suficientes. Un agente profesional usa ambos, según la tarea.

El enrutamiento: decidir en milisegundos

Cuando una tarea llega al agente, una puerta inteligente la clasifica: ¿es rutinaria? → cerebro local. ¿Toca datos sensibles? → local, sin salida. ¿Requiere razonamiento profundo o contexto de un millón de palabras? → modelo de frontera. Y si un proveedor se cae, la puerta salta a otro cerebro automáticamente.

Lo mismo que hacemos en PISO ZERO

Nuestra propia flota opera así: modelos locales trabajando 24/7 en máquinas propias, y modelos de frontera para lo que lo amerita. Si un proveedor cambia de precios o desaparece, nuestro agente ni se entera. Esa resiliencia es lo que te entregamos en cada piso.

← Volver al blog