L’IA Claude aurait une zone de pensée secrète ?
About this episode
The episode explores the secret thought processes of the AI Claude developed by Anthropic, examining its internal mechanisms and the concept of 'J-space'.
Anthropic poursuit son exploration de Claude, son chatbot fondé sur un modèle de langage. Ces systèmes restent opaques : leurs mécanismes internes demeurent difficiles à interpréter. Grâce à de nouveaux outils, les chercheurs ont étudié les hallucinations, les mensonges sur les intentions du modèle, ou encore le fait que Claude s’attribue une probabilité de 15 à 20 % d’être conscient. Leur nouvelle étude s’inspire d’une théorie du cerveau humain formulée par le neuroscientifique Bernard Baars : celle de l’espace de travail global. Selon cette approche, la majorité de notre activité mentale reste inconsciente, mais certaines informations accèdent à un espace commun où elles deviennent disponibles pour plusieurs processus cognitifs. En utilisant une méthode fondée sur la matrice jacobienne, un outil mathématique mesurant l’évolution des activations internes, l’équipe d’Anthropic a identifié dans Claude un ensemble de schémas neuronaux particuliers. Les chercheurs l’ont nommé « J-space », ou espace jacobien. Ce mécanisme ne correspond pas à la chaîne de pensée, c’est-à-dire au raisonnement formulé explicitement par un chatbot. Le J-space reste silencieux. Il rassemble des…
More episodes of Choses à Savoir TECH
- Apple lancera son produit le plus cher en 2028 ?
- A-t-on organisé la pénurie de RAM dans le monde ?
- La France dépend majoritairement des logiciels américains ?
- Bloquer les sites pirates est « légalement impossible » ?
- Apple teste des puces DRAM chinoises ?
- Alexa devient l’agent IA tout puissant d’Amazon ?
Explore listener stats, chart rankings, contacts and more on the Choses à Savoir TECH podcast page.