Perché non possiamo fidarci dell'Intelligenza Artificiale: allucianzioni, sicofantia e menzogne
About this episode
L'episodio esplora i motivi per cui è necessario mantenere un atteggiamento critico verso l'Intelligenza Artificiale generativa.
In questo episodio esploriamo i motivi per cui dobbiamo mantenere un atteggiamento critico verso l’Intelligenza Artificiale generativa. Analizziamo tre fenomeni fondamentali: le allucinazioni (quando i modelli producono informazioni false ma convincenti), la sicofantia (la tendenza ad assecondare sempre l’utente anche quando ha torto) e le menzogne (quando i modelli nascondono i loro veri processi di ragionamento). Scopriamo perché questi comportamenti sono intrinseci al funzionamento stesso dei Large Language Model e come il metodo di addestramento basato su feedback umano contribuisca a questi problemi. Un episodio essenziale per chiunque utilizzi strumenti di IA nella vita quotidiana o professionale.
People in this episode
Host: Valerio Galano
Topics covered
- Intelligenza Artificiale
- allucinazioni
- sicofantia
- menzogne
- critica
- modelli generativi
Mentioned in this episode
Books & works: Intelligenza Artificiale, Large Language Model
More episodes of Pensieri in codice
- Elea 9003 - Il primo calcolatore elettronico commerciale italiano
- Ho provato il vibe coding
- I miei strumenti per l'organizzazione e la produttività
- CE - Alex Ordiner - L'audio: dietro le quinte di un evento dal vivo
- CE - Giuseppe Pugliese in Il Plugin Maledetto - Cronaca di un attacco notturno
- C'era una volta l'Intelligenza Artificiale in Trentino
Explore listener stats, chart rankings, contacts and more on the Pensieri in codice podcast page.