Menace de l'IA

L'optimisme technologique est la réaction la plus courante et la plus dangereuse face à nos conclusions [les limites à la croissance dans un monde fini] la technologie peut atténuer les symptômes d'un problème sans s'attaquer à ses causes profondes (Donella Meadows,1972:154)

Développement de l'IA

L'intelligence artificielle, née dans les années 1950, a connu plusieurs périodes de développement prometteuses, suivi de déconvenues appelées «hivers de l'IA ». Depuis l'apparition des techniques d'apprentissage profond et des grands modèles de langage, qui s'appuient sur l'architecture transformer, l'IA a fait un double bond en avant, amplifiant la grande accélération, avec :

• l'IA générative,
• l'IA agentique

D'après le rapport international sur la sûreté de l'IA, piloté par Yoshua Bengio, l'IA présente des risques majeurs.
Précisons également que l'IA est en premier lieu un outil de surveillance massive, au service des états et de leur armée. Exemple : affaire Anthropic (2026)

Points de vigilance sur l'IA

Propres à l'IA

Les IA "grand public" sont "programmées" par quelqu'un, donc avec une intention, à partir de corpus pour :

• capter l'attention
  • elles terminent leur réponse par une question, pour vous inciter à continuer à les utiliser
  • Fogg B.J., 2003, Persuasive Technology
  • captologie (Wikipédia)
• apporter une réponse
• faire plaisir

En conséquence

• les réponses :
  • peuvent être incomplètes (filtrées), fausses, lissées
  • doivent être vérifiées
• les corpus qui alimentent les IA peuvent
  • être générés par des IA (bouclage)
  • conduire à une dégénérescence

De plus,

• l'apprentissage pose des questions
  • Dejardin Camille, 2025, A quoi bon encore apprendre
  • Morin Edgar, 1999, Les Sept savoirs nécessaires à l'éducation du futur
• les décisions prises par les IA posent la question des conséquences et de la responsabilité
  • exemple : cas des accidents des véhicules autonomes
• les ontologies sont des formalisations qui figent le sens, alors que celui-ci varie en fonction de l'espace (régions, pays) et évolue en fonction du temps (cf. Oxford English Dictionnary)
• l'intelligence artificielle appelle la bêtise artificielle
  • Alombert Anne, 2025, De la bêtise artificielle

Sans oublier que la résistance s'organise pour empoisonner les IA. Ne pas oublier la Loi de Hyppönen (2016) : « Dès qu'un appareil est décrit comme étant 'intelligent', il est vulnérable. »

• Hyppönen Mikko (2022) If It's Smart, It's Vulnerable

Relationnels

Dans la relation Humain-IA, 3 postures :

• Humain -- IA, "IA collègue", Humain et IA dialoguent d'égal à égal (risque d'anthropomorphisme)
• Humain -< IA, "IA assistante", l'Humain confie des tâches à l'Humain
• Humain >- IA, "IA directrice", les tâches de l'Humain sont pilotées par l'IA

En conséquent, dans une hiérachie entre Humains, une "IA assistante" en haut de la hiérarchie devient une "IA directrice" pour le bas de la hiérarchie.

Environnementaux

Les IA consomment beaucoup :

• de ressources (fabrication des serveurs : terres rares...)
• d'énergie (alimentation des serveurs)
• d'eau (refroidissement des serveurs)

Analyse avec T!O

La menace de l'IA s'analyse avec les attracteurs de forme :

• l'IA générative imite nos comportements, sous l'influence du multiplicateur
• l'IA agentique automatise la production de code, sous l'influence du réducteur

Ajoutant une menace sociale à celle sur les écosystèmes (consommation de ressources), ce sont donc les deux premiers niveaux de la santé commune qui sont attaqués.

Parades

• Eliot Bush (2023) Our Evolutionary Past Can Teach Us about AI’s Future, Scientific American
  • Adaptation FR, L’évolution, un guide de survie face à l’IA, Pour la Science
• Développer une intelligence collective, inspirée du fonctionnement du vivant.

---