15 Fév Optimisation et décadence
Récit imaginé par Adrien Salome, Catherine Davy, Camille Pédarriosse, Sylvain Bigot et facilité par Élodie Dantard dans le cadre de l’atelier futurs proches réalisé le 15 février 2024 en partenariat avec l’ADEME
Thème de l’atelier : Et si la France était neutre en carbone en 2050 (scénario 3 de l’ADEME) ?
Simon, 20 ans vit dans la smartcity de Nancy, 1.7 million d’habitants, immeubles haussmannien, entièrement automatisée et optimisée. Autour de Nancy, la nature est rationalisée et les services écosystémiques exploités au maximum :
– panneaux photovoltaïques, éoliennes et champs de batteries Lithium dans des conteneurs maritimes permettant d’alimenter la demande d’électricité croissante alimentant la technostructure optimisée par l’IA généralisée de la smart city.
– plantations hors sol sous serres, machines agricoles et laboratoire de création de viande permettent d’alimenter les humains
Simon travaille 3 jours par semaine sur la maintenance des capteurs dans la smartcity et l’ensemble de ses actions lui sont dictées par une IA.
Très soucieux des problématiques écologiques, il résiste contre le modèle de société tel que porté dans les grandes métropoles notamment par des actions de sensibilisation, en pratiquant la permaculture et en participant au marché noir de la graine dans le petit village de Gérardmer.
La société dans laquelle il évolue se décline en deux strates :
– Des humains augmentés qui télétravaillent et contrôlent une IA qui elle même contrôle/surveille le reste de la population
– Des « agents » qui représentent la classe sociale la plus basse et sont en charge de maintenir la structure support de la smartcity (capteurs, câbles, …).
Simon, « agent » de l’IA se rend, comme tous les vendredis, à la réunion virtuelle dans le métaverse avec les 20 000 autres agents de l’IA de Nancy. L’IA y présente comme chaque semaine les missions à réaliser par les agents pour la semaine suivante.
Après les sujets habituels de maintenance et de réparation, l’IA annonce qu’une vague de 100 000 réfugiés climatiques arrive sur le territoire de la cité optimisée.
L’arrivée de ces 100 000 réfugiés climatiques est due à l’état de sécheresse permanent en Italie.
En utilisant ses calculs d’optimisation usuels, l’IA décide qu’ils doivent être supprimés. Ses décisions sont orientées pour garantir la stabilité du système et sa performance ainsi que l’optimisation de la vie des habitants de la smartcity de Nancy.
En plein milieu de la réunion hebdomadaire, l’IA exige donc de ses 20 000 agents de procéder à l’élimination des 100000 réfugiés.
La discussion entre agents est technique sur le protocole à adopter. Simon se demande comment il peut au moins sauver les réfugiés qu’il doit exécuter (en les cachant dans son chalet à Gérardmer) et essaye de convaincre les autres. Il est aussi étonné par le manque de réaction des autres participants qui posent des questions techniques à l’IA sur le comment mais pas sur le pourquoi.
Cet ordre met à jour l’une des limites de l’IA notamment lorsqu’elle est utilisée en gouvernance d’un territoire.
Par ailleurs, les humains n’ont pas réussi à agir de façon collective pour renverser le système, seules quelques bonnes actions individuelles se détachent, comme celle de Simon.
Simon comprend assez vite qu’il manque de marge de manœuvre et se contente de planifier la survie de ceux (2-3 personnes) qu’il doit exécuter, dont l’IA lui a donné les coordonnées. Il retourne à Gérardmer rapidement après la réunion, pour préparer l’accueil des personnes qui ne vont pas tarder à arriver. Suite à cet évènement, Simon décide de déserter sa fonction comme technicien de l’IA. Il crée finalement une communauté en auto-suffisance autour de son chalet de Gérardmer.
La société sur-optimisée proposée par l’IA ne supporte aucune perturbation, manque de résilience car pour exaucer les souhaits de ses habitants, qui n’ont jamais été remis en question, elle doit exploiter chaque m² de terre et chaque ressource. Il n’y a plus de marges de manœuvre.
Simon a réussi en tant qu’individu, à modifier son environnement dans un sens plus humaniste, mais il n’a pas réussi à changer le système dans lequel évolue la société autour de lui.
C’est la faillite du collectif, le status quo a triomphé !