About this episode

The episode discusses the complexities of scaling large language models compared to traditional web applications.

Servir un LLM no es como escalar una web app normal. Hablamos de tokens, GPUs, KV cache, latencia, costos y por qué “agregar más pods” ya no salva a nadie. Fuentes: • https://www.dheeth.blog/llm-serving-is-not-normal-web-serving/ • https://arxiv.org/abs/2309.06180 • https://kubernetes.io/docs/concepts/workloads/autoscaling/horizontal-pod-autoscale/

More episodes of No Tiene Nombre

• NTN 527- La Trampa Económica de la IA · June 1, 2026 · 16 min
• NTN 526 - Opus 4.8 y Anthropic casi toca el trillón · May 29, 2026 · 18 min
• NTN 525 - 2 PhaaS 2 Furious · May 27, 2026 · 17 min
• NTN 524 - Cursor, Meta y Spotify IA · May 25, 2026 · 17 min
• NTN 523 - Top 5 en IA: GPUs, Leyes y $$$ · May 22, 2026 · 17 min
• NTN 521 - Google I/O 2026 · May 20, 2026 · 19 min

Explore listener stats, chart rankings, contacts and more on the No Tiene Nombre podcast page.