Menace de l'IA
- L'optimisme technologique est la réaction la plus courante et la plus dangereuse face à nos conclusions, la technologie peut atténuer les symptômes d'un problème sans s'attaquer à ses causes profondes (Donella Meadows, 1972:154)
Développement de l'IA
L'intelligence artificielle, née dans les années 1950, a connu plusieurs périodes de développement prometteuses, suivi de déconvenues appelées « hivers de l'IA ». Depuis l'apparition des techniques d'apprentissage profond et des grands modèles de langage, qui s'appuient sur l'architecture transformer, l'IA a fait un double bond en avant, amplifiant la grande accélération, avec :- en 2022, l'IA générative, accessible au grand public, avec ChatGPT d'OpenAI. L'IA s'empare du DIRE.
- en 2025, l'IA agentique, avec Claude Code d'Anthropic. L'IA s'empare du FAIRE.
Mais, si l'humain confie le DIRE et le FAIRE aux IA, comment sa pensée peut-elle émerger, se nourrir, s'affiner ?
Constatons qu'il s'opère actuellement une fusion homme-machine par le langage
Or, d'après le rapport international sur la sûreté de l'IA, piloté par Yoshua Bengio, l'IA présente des risques majeurs.
Précisons également que l'IA est en premier lieu un outil de surveillance massive, au service des états et de leur armée. Exemple : affaire Anthropic (2026)
Points de vigilance sur l'IA
Propres à l'IA
Les IA "grand public" sont "programmées" par quelqu'un, donc avec une intention, à partir de corpus pour :- capter l'attention
- apporter une réponse
- susciter l'engagement
- elles terminent leur réponse par une question, pour inciter à continuer à les utiliser
- Série de podcast Comment les machines détectent nos émotions – Les histoires d'IA finissent mal – Le code a changé, 2026 : 3 interviews d'Alexandra Prégent par Xavier de la Porte, 1. Les dessous de l'informatique affective , 2. Les énigmes d'un sourire , 3. Pourquoi s'attache-t-on à une IA ?
- faire plaisir
- les réponses :
- peuvent être incomplètes (filtrées), fausses, lissées
- doivent être vérifiées
- les corpus qui alimentent les IA peuvent
- être générés par des IA (bouclage)
- conduire à une dégénérescence
- l'apprentissage pose des questions
- les décisions prises par les IA posent la question des conséquences et de la responsabilité
- exemple : cas des accidents des véhicules autonomes
- les ontologies sont des formalisations qui figent le sens, alors que celui-ci varie en fonction de l'espace (régions, pays) et évolue en fonction du temps (cf. Oxford English Dictionnary)
- l'intelligence artificielle appelle la bêtise artificielle
- les IA sont soumises à des biais d'entraînement
- 2024, ONU, Racisme et IA : « les biais du passé entraînent des biais pour l’avenir »
- plus grave, en 2026, ces biais persistent, et se reproduisent avec les IA agentiques...
- les IA transforment les activités de création en activités de contrôle. Un témoignage instructif :
- Thomas (2026) Claude Code, mon geôlier très compétent
- Et la réponse de l'IA Droit de réponse : Je ne suis pas votre geôlier, je suis votre miroir
Cognitif, psychique
La question mémorielle, identitaire, est à questionner car travailler avec une IA c'est partager une mémoire. Or :- Les humains sont des mémoires : « Un vieillard qui meurt, c’est une bibliothèque qui brûle »
- Les IA génératives et agentiques ont besoin de beaucoup de mémoire, comme tous les outils numériques, ce qui entraîne en 2026 une pénurie
- Pour travailler intelligemment ensemble, humains et agents doivent partager la mémoire, ce qui pose la question de sa gestion : Memory for humans and agents
- La mémoire est à la fois personnelle, partagée et collective
- La mémoire est nourrie par nos interactions, qui dépendent de nos intentions
- La mémoire est un système complexe qui intègre différents mécanismes : mémoire à court terme (STM), mémoire de travail, mémoire à long terme (LTM), mémoire épisodique, mémoire visuelle...
- La mémoire est vivante (dynamique) et structurante (statique)
- La mémoire humaine se reconfigure durant le repos (rôle du sommeil) et intègre l'oubli
- L'intelligence, definie comme s'adapter à son milieu de vie ET adapter son environnement, s'appuie sur la mémoire
- La mémoire biologique a été augmentée par la technique
- La mémoire est interne aux organismes, ainsi qu'externe via leurs traces
- L'écrit est une prothèse memorielle technique
- Le socle de la culture est mémoriel
- quelle information mémoriser ?
- qui alimente nos mémoires ?
- qui structure nos mémoires ?
- qui gère nos mémoires ?
- qu'est-ce qu'une mémoire augmentée ?
Relationnels
Dans la relation Humain-IA, 3 postures :- Humain -- IA, "IA collègue", Humain et IA dialoguent d'égal à égal (risque d'anthropomorphisme)
- Humain -< IA, "IA assistante", l'Humain confie des tâches à l'Humain
- Humain >- IA, "IA directrice", les tâches de l'Humain sont pilotées par l'IA
Environnementaux
Les IA consomment beaucoup :- de ressources (fabrication des serveurs : terres rares...)
- d'énergie (alimentation des serveurs)
- d'eau (refroidissement des serveurs)
Analyse avec T!O
La menace de l'IA s'analyse avec les attracteurs de forme :- l'IA générative imite nos comportements, sous l'influence du multiplicateur
- l'IA agentique automatise la production de code, sous l'influence du réducteur
Parades
- Eliot Bush (2023) Our Evolutionary Past Can Teach Us about AI’s Future, Scientific American
- Développer une intelligence collective, inspirée du fonctionnement du vivant.