About this episode
The episode discusses local inference, the evolution of open weight models, and the challenges organizations face in implementing AI strategies.
💻 Per aprire la puntata di questa settimana ci occupiamo di inferenza locale e di quanto il mondo dei modelli open Weight stia evolvendo velocemente. GGUF, quantizzazione e vari tool, danno la possibilità di far girare modelli sempre più potenti anche su hardware consumer; negli ultimi due anni ad esempio, la qualità dei modelli eseguibili localmente su un MacBook da 128GB è cresciuta di quasi 5 volte! 📈 Se la tecnologia corre, le aziende riescono a stare al passo? La lettura di 'AI Strategy: Think Top-Down, Experiment Bottom-Up' ci ha offerto un interessante spunto di riflessione. L'80% dei progetti AI è destinato a fallire nonostante ci siano modelli e infrastrutture funzionanti. Il problema non è tecnico ma organizzativo: gli obiettivi sono poco chiari, i processi non ripensati e le aziende non sono in grado di creare team dedicati all'innovazione. 🎙️ E per concludere in bellezza, nonostante fosse praticamente ora di punta, abbiamo trovato spazio per qualche PointerPicks! Supporta il PointerPodcast La nostra pagina supportaci Unitevi al nostro gruppo Telegram per discutere della puntata Lascia una recensione su Spotify Lascia una recensione su Apple Podcast Acquista il…
People in this episode
Host: PointerPodcast
Topics covered
- local inference
- open weight models
- AI strategy
- organizational challenges
- innovation teams
Keywords
- local inference
- open weight models
- AI projects
- organizational issues
- innovation
Mentioned in this episode
Organizations: HuggingFace
Products: MacBook Neo Note
Books & works: AI Strategy: Think Top-Down, Experiment Bottom-Up
More episodes of
- Pointer[295]: Un Secondo Cervello · June 7, 2026 · 44 min
- Pointer[294]: La Clonazione · May 31, 2026 · 29 min
- Pointer[293]: È La Harness · May 24, 2026 · 45 min
- Pointer[291]: Dentro La Mente Di Un LLM · May 10, 2026 · 30 min
- Pointer[290]: Dentro DeepSeek V4 · May 3, 2026 · 48 min
- Pointer[289]: Tokenmaxxing · April 26, 2026 · 57 min
Explore listener stats, chart rankings, contacts and more on the podcast page.
![Pointer[292]: Pensare E Sperimentare](https://pointerpodcast.it/images/logo_puntata.png)