Volver al blog

Serie de aprendizaje de IA, lección 1: uso de modelos

23 de septiembre de 20266 min
Herramientas de desarrollo

Serie de aprendizaje de IA · Lección 1 de 4

La mayoría de los resultados de IA se deciden antes de escribir el primer prompt. El modelo que eliges fija el techo de calidad, el suelo de costo y cuánto contexto puede cargar la tarea, así que elígelo a propósito, no por costumbre.

Estado: esquema. El recorrido en pantalla aún no se ha grabado: esta entrada es el plan que seguirá, y recibirá el recorrido real cuando la lección se emita.

LecciónEnfoquePregunta que responde
1 — Uso de modelosNivel de modelo, contexto, tokens¿Qué modelo necesita esta tarea?
2 — Prompt, proyecto y contextoEstructura del prompt, contexto permanente¿Qué se pone delante del modelo?
3 — Documentación, reglas y skillsEstructura del repositorio¿Cómo se mantiene coherente un repositorio entre sesiones?
4 — Reducir el costoMedición, palancas, límites¿Cómo gastar menos sin perder calidad?

Lo que podrás hacer

  • Mirar una tarea y nombrar el nivel de modelo que necesita, con una razón
  • Estimar cuánto contexto enviar antes de enviarlo
  • Estimar aproximadamente cuánto costará la ejecución antes de ejecutarla

No "qué modelo es el mejor": no existe. Qué modelo encaja con esta tarea.

Fuera del alcance: la redacción del prompt y la configuración del proyecto (lección 2), los archivos de reglas y los skills (lección 3) y la reducción del gasto (lección 4). Esta lección enseña el vocabulario del costo —tokens, contexto, entrada frente a salida— para que la lección 4 tenga algo concreto que recortar.


La decisión del modelo

Nivel de modelo — capacidad frente a velocidad frente a precio

  • Capacidad, velocidad y precio se mueven juntos: un razonamiento más potente suele ser más lento y más caro por token
  • La misma tarea se ejecuta en un modelo pequeño y en uno grande, lado a lado, para que la compensación se vea en lugar de afirmarse

Encaje con la tarea — adapta el trabajo, no el titular

  • Búsqueda, clasificación, redacción, razonamiento de varios pasos y trabajo de agente de larga duración no necesitan el mismo modelo
  • Tres tareas reales del propio repositorio de este blog reciben cada una un modelo y una razón explícita, nunca "porque es el más nuevo"
Tipo de tareaEncaje típicoPor qué
Búsqueda / clasificaciónNivel pequeño y rápidoEntrada corta, una respuesta correcta, fácil de verificar
Redacción / reescrituraNivel medioNecesita fluidez más que razonamiento profundo
Razonamiento de varios pasos / depuraciónNivel grandeLos errores se acumulan: la capacidad compensa
Trabajo de agente de larga duraciónNivel grande, con límitesMuchos pasos, muchos tokens: necesita un presupuesto y una condición de parada

Ventana de contexto — lo que cabe, lo que se cae

  • Más contexto no es automáticamente mejor: a partir de cierto punto pagas tokens que el modelo apenas usa
  • Más allá del límite de la ventana, el contenido antiguo se cae en silencio
  • En pantalla: un archivo largo pegado entero y luego solo la sección relevante, comparando resultado y costo

Tokens — entrada frente a salida

  • Los tokens de entrada y de salida se cuentan por separado, y a menudo se cobran por separado
  • Se cuentan un prompt real de este proyecto y su respuesta, para que "cuánto costará" deje de ser una conjetura

Ajustes de esfuerzo y razonamiento

  • Algunos modelos ofrecen un ajuste de cuánto razonan antes de responder
  • Una tarea realmente difícil se ejecuta con un ajuste bajo y con uno alto, comparando resultados, no solo latencia

La lista de decisión

▶ show code
# Model Decision — before you send
1. What kind of task is this? (lookup / draft / reasoning / agent)
2. What does "correct" look like, and how will you check it?
3. What is the smallest tier that can plausibly pass that check?
4. What context does it actually need? (sections, not whole files)
5. Rough token estimate: input + expected output
6. Is there an effort/reasoning setting — and does this task need it?
7. Check failed? Change one thing (tier, context, or setting) and rerun

Verifica antes de confiar en ello

Los nombres de modelos, los tamaños de ventana de contexto y los precios cambian demasiado a menudo para publicarse como hechos, así que esta lección no nombra ninguno. Antes de grabar la lección, cada uno se vuelve a comprobar en la documentación del propio proveedor:

  • Nombres actuales de los modelos y el nivel en que se sitúa cada uno
  • Tamaño de la ventana de contexto por modelo
  • Precio de entrada y de salida por modelo, mostrado solo si se comprobó esa misma semana
  • Si existe un ajuste de esfuerzo o razonamiento en los modelos mostrados, y cómo se llama

¿Necesitas los detalles ahora? Consulta la documentación de Anthropic, la documentación de OpenAI y las fichas de modelo de Hugging Face: las mismas fuentes que la lección comprueba antes de salir en directo.


Preguntas frecuentes

"¿Qué modelo es el mejor?" Ninguno, en abstracto. El modelo adecuado es el más pequeño que supera tu comprobación para esta tarea.

"¿Debo enviar el archivo entero?" Normalmente no. Envía la sección de la que depende la tarea: los archivos enteros cuestan más y pueden enterrar la parte importante.

"¿Dónde encuentro precios y límites actuales?" En la documentación del propio proveedor, consultada la semana en que la necesitas, no en una entrada de blog, incluida esta.


Siguiente: lección 2

Elegir el modelo es la mitad de la preparación. La lección 2 cubre lo que se pone delante de él: estructura del prompt, criterios de aceptación y contexto permanente del proyecto. Para la versión avanzada de elegir dónde se ejecuta el trabajo de IA, la guía de configuración de IA híbrida reparte el trabajo entre Hugging Face, Claude y un modelo de Ollama ejecutado localmente.

Ponte en contacto

¿Te interesa un tema? Déjame una nota y elige una categoría. También estoy disponible para una reunión de consultoría gratuita: escríbeme y lo organizamos.