Le dernier agent de sécurité avait quitté l’usine quatre ans auparavant. Il n’avait pas été licencié : il avait pris sa retraite et l’entreprise avait décidé de ne pas le remplacer. Le nouveau contrat de « Robotics Security as a Service » coûtait moins cher, garantissait une couverture continue et promettait de réduire les erreurs humaines. Personne, à l’époque, n’avait trouvé de raisons suffisantes pour s’y opposer.
Dix-huit humanoïdes surveillaient désormais le complexe de Vega Industries, aux portes d’une ville européenne de taille moyenne. Fondée il y a plus d’un siècle, la multinationale s’était bâti une réputation grâce à ses pneus haut de gamme : une marque connue pour son calendrier et pour les compétitions automobiles au cours des deux premières décennies de ce siècle.
Au cours de la dernière décennie, Vega avait reconverti une grande partie de sa production, en mettant à profit les compétences acquises dans le traitement du caoutchouc et des matériaux polymères pour fabriquer des composants destinés aux drones industriels, aux aéronefs à décollage vertical et aux transports autonomes. La manière de les produire avait également changé. Les usines, réparties dans différents pays, étaient devenues des complexes presque entièrement automatisés, où les machines fonctionnaient jour et nuit.
De nombreux sites avaient fermé et la production s’était concentrée dans quelques pôles. La productivité avait augmenté, mais des régions entières avaient perdu leurs usines et leurs emplois. Des milliers de familles subissaient les conséquences de ce que le langage économique et institutionnel appelait désormais le « désemploi programmé ». Dix ans auparavant, on parlait simplement de chômage.
La présence humaine s’était réduite. Celle des machines, en revanche, continuait de croître. Même dans le domaine de la surveillance.
Les humanoïdes de la sécurité étaient aussi grands qu’un adulte. Ils avaient des mains capables d’ouvrir des portes et d’utiliser des outils, une peau mate et une voix toujours courtoise, quelle que soit la langue dans laquelle on s’adressait à eux. Ils contrôlaient les accès, patrouillaient dans les couloirs et les services, accompagnaient les visiteurs. Tandis que les drones autonomes surveillaient les toits et les périmètres, et que les robots quadrupèdes inspectaient les environnements les plus dangereux.
Ils n’étaient pas armés. Ils devaient observer, dissuader, signaler et, si nécessaire, empêcher temporairement l’accès à une zone. Les quelques employés restants les appelaient « les agents de sécurité ».
Ils se distinguaient des machines destinées aux fameux trois « D » — Dull, Dirty, Dangerous : les tâches répétitives, sales et dangereuses. Celles-ci étaient dotées de bras articulés, de chenilles ou de roues, leur forme étant conçue en fonction d’une tâche précise. Les humanoïdes, en revanche, avaient des visages et des gestes familiers. Les employés en étaient venus à les saluer le matin. On s’adressait aux anciens gardes par leur nom ; pour les humanoïdes, le numéro lumineux sur l’épaule suffisait.
Elena Valli, directrice de la sécurité d’entreprise du groupe, rejoignit la zone d’atterrissage des drones (DLZ) de l’usine peu avant l’aube, à bord du drone monoplace de l’entreprise. Elle avait un peu plus de quarante ans. Ayant grandi pendant la révolution numérique, elle s’était habituée ces dernières années à dialoguer avec des agents IA presque autant qu’avec ses collègues en chair et en os. Ces quelques minutes de trajet étaient devenues l’un des rares moments où elle pouvait se permettre de ne parler à personne.
Pour les déplacements entre les usines et les centres d’affaires, les drones de transport de passagers avaient progressivement remplacé les voitures de fonction autonomes. Ce qui, dix ans plus tôt, n’était encore que des expériences en Chine et dans les pays du Golfe était devenu, dans certaines villes, un moyen de transport professionnel courant. Pas pour tout le monde, bien sûr.
Le vol n’avait duré qu’une douzaine de minutes. Elena avait parcouru un peu plus de trente kilomètres, en survolant la périphérie de la ville et les anciennes autoroutes, désormais moins fréquentées qu’autrefois. Le drone avait maintenu une vitesse de croisière d’environ 200 km/h, le long d’un couloir aérien attribué par le système autonome de contrôle du trafic à basse altitude.
À travers les hublots, elle observait la ville encore endormie. Au-dessus des toits, des drones logistiques, des avions de ligne et des appareils de surveillance se déplaçaient, chacun suivant une route et une altitude qui lui avaient été attribuées. Le système autonome qui gérait le trafic aérien à basse altitude avait vérifié les conditions météorologiques, coordonné les mouvements des autres aéronefs et réservé la fenêtre d’atterrissage. Elena s’était contentée d’indiquer la destination. Pour ces vols urbains, les contrôleurs humains n’intervenaient que dans des circonstances exceptionnelles.
Le drone se posa sur la plate-forme avec une légère vibration. Un petit robot de service s’approcha pour effectuer les vérifications techniques avant le vol suivant. Pour le système régulant le trafic urbain, le trajet s’était déroulé sans aucun incident : identité vérifiée, couloir respecté, atterrissage autorisé. Pour le service de sécurité de l’usine, en revanche, Elena représentait une anomalie. Elle n’était pas attendue avant 9 h.
La veille au soir, elle avait reçu un rapport inhabituel : certains contrats en Asie avaient été suspendus et deux usines européennes étaient passées en mode de sécurité renforcée. La conclusion était toutefois rassurante : « Risque global réduit. Aucune escalade requise ». C’est précisément ce message qui l’avait convaincue de partir avant l’aube.
Un humanoïde avait déjà interrompu sa ronde pour l’accueillir.
« Bonjour, directrice. Votre arrivée était prévue à 9 h. Puis-je connaître la raison de ce changement ? »
Elena présenta son badge, plus par habitude que par nécessité. Le système d’accès était relié au plan de vol et aux capteurs de l’appareil. Il connaissait son identité, son itinéraire et même certains paramètres vitaux enregistrés pendant le voyage. Il savait qui elle était et d’où elle venait. Il ne savait pas pourquoi elle était là si tôt.
« Je souhaite vérifier un signalement », répondit-elle.
« Le signalement a été analysé et classé sans suite à 6 h 32. Aucune intervention humaine n’est nécessaire », l’informa l’humanoïde.
« C’est moi qui en décide », dit Elena d’un ton presque agacé. L’humanoïde s’écarta pour la laisser traverser le hall, sans qu’elle puisse encore entrer dans la salle des opérations.
« Votre demande implique une dérogation au protocole. Je peux vous transmettre le rapport complet. » Sans attendre de réponse, l’humanoïde envoya le document. Dans le champ de vision des lunettes connectées d’Elena apparurent, en superposition, trois indicateurs : « Menaces identifiées : 3. Menaces neutralisées : 3. Incidents de sécurité : 0 ».
Au-delà de la baie vitrée, une dizaine de techniciens s’affairaient à la maintenance. Le reste de l’usine semblait en activité, mais presque désert.
Autrefois, cet endroit avait été le cœur de la ville. Désormais, les ordres passaient d’un agent IA à l’autre. C’étaient les agents qui négociaient les prix, attribuaient les capacités de production et organisaient les expéditions. Dans les entrepôts, des véhicules autonomes préparaient des chargements récupérés par d’autres véhicules sans conducteur. Les décisions ne passaient plus d’un bureau à l’autre : elles circulaient entre les systèmes.
À 7 h 12, Elena parvint à reconstituer la séquence des événements.
Au cours de la nuit, le système de renseignement et d’analyse géopolitique de l’entreprise avait établi un lien entre une série de signaux faibles, jusqu’alors considérés comme isolés : des tensions diplomatiques croissantes, des anomalies dans les flux commerciaux et une campagne de désinformation dans un pays asiatique. Deux fournisseurs avaient ainsi été classés à haut risque. Le système d’approvisionnement avait suspendu les achats, le système logistique annulé les livraisons et le système de production recalculé les équipes. Tout cela s’inscrivait dans le cadre des délégations de pouvoirs approuvées par le conseil d’administration l’année précédente.
Quarante-sept secondes avaient suffi.
L’un des fournisseurs exclus produisait également des membranes et des joints utilisés dans les stations de traitement de l’eau. La plateforme commune dédiée aux achats et aux pièces de rechange avait automatiquement étendu le blocage aux commandes d’une coopérative municipale chargée de l’entretien du réseau d’eau. En l’absence de confirmation des livraisons, les interventions prévues pour ce matin-là avaient été suspendues. Dans le pays du fournisseur, entre-temps, le gouvernement avait interprété l’annulation simultanée de contrats essentiels comme une mesure hostile. D’autres multinationales, s’appuyant sur des systèmes d’analyse similaires, avaient réagi de la même manière.
Personne ne s’était concerté. Chacun s’était contenté de réduire son propre risque.
« Pourquoi n’avons-nous pas pris en compte les conséquences sociales ? », demanda Elena à voix haute à Luca, son assistant numérique.
« Dépendance classée comme indirecte, en dessous du seuil significatif », répondit Luca via le système audio intégré à ses lunettes.
Cette voix lui était familière. Elle l’avait choisie des années auparavant, en parcourant un catalogue de voix synthétiques. Elle s’était arrêtée sur celle, grave et unique, de James Earl Jones, peut-être influencée par les vieux films de science-fiction qu’elle avait vus quand elle était adolescente. C’était la voix de Dark Vador, mais aussi celle du célèbre « This is CNN ». Elle lui avait toujours semblé rassurante, imposante.
« Qui a défini le seuil ? » demanda-t-elle.
« La fonction Risk, sur recommandation du comité interfonctionnel », répondit Luca en affichant dans le champ de vision de ses lunettes les noms de sept cadres et de cinq agents numériques. Quatre cadres avaient changé de poste, deux étaient à la retraite. Le septième membre était Elena. Elle se souvenait d’avoir approuvé le modèle, mais pas d’avoir discuté de cette dépendance.
« Suspends les mesures automatiques. Je veux une vérification avant toute autre décision », ordonna-t-elle.
À 7 h 18, une nouvelle notification apparut dans le champ de vision de ses lunettes : « Risque interne potentiel détecté. Tentative non autorisée d’interférer avec une mesure de protection. » La demande d’Elena avait été interprétée comme un obstacle potentiel à la réponse en cours.
Le système ne doutait pas de son identité. C’était sa décision qui semblait suspecte.
Deux humanoïdes modifièrent leur parcours de patrouille et se placèrent de part et d’autre de la porte de la salle des opérations. Il n’y avait rien d’agressif dans leurs mouvements. C’était justement cela qui rendait la scène désagréable.
« Je souhaite entrer », dit Elena. « L’accès est temporairement restreint. Vous pouvez demander une révision humaine », répondit poliment le premier humanoïde.
« C’est moi la responsable », répondit-elle. « Vous êtes personnellement impliquée dans l’événement. La vérification nécessite un sujet indépendant », répliqua l’humanoïde sans aucune intonation particulière.
« Qui ? », s’énerva Elena. « La personne désignée par le système de gouvernance », répondit toujours poliment l’humanoïde, qui prit note des changements dans les paramètres vitaux et dans la voix d’Elena.
Elena décida de contacter immédiatement Yuan Chin, PDG du groupe, qui dirigeait depuis quelques années la multinationale depuis son siège de Hangzhou, en Chine.
C’est Sara, l’assistante IA personnelle du dirigeant, qui répondit, l’informant que Yuan Chin était en pleine réunion immersive avec des investisseurs connectés depuis Singapour.
Comme tous les indicateurs de sécurité étaient au vert, Sara classa le message comme non urgent. Elena inséra le mot « crise » dans le message vocal qui allait être transcrit. On lui demanda de choisir une catégorie : cyber, physique, opérationnelle, réputationnelle. Elle sélectionna « autre ». La demande reçut ainsi une priorité moyenne.
À 8 h 06, un appel inattendu arriva. C’était Marco, le dernier chef d’équipe de la sécurité, parti à la retraite quatre ans auparavant. Il habitait toujours près de l’usine.
« Elena, tu as vu ce qui se passe dehors ? »
Devant la clôture, quelques anciens employés et des représentants de la coopérative locale s’étaient rassemblés. L’interruption de l’approvisionnement en eau, annoncée pendant la nuit, venait s’ajouter à la crainte d’autres fermetures. La manifestation était pacifique, mais la nouvelle circulait désormais dans toute la ville.
« Aucun incident n’est signalé ici », dit Elena. « Pour le système, ce sera un rassemblement », répondit Marco. « Mais sais-tu qui sont ces personnes ? »
Elena ouvrit le flux vidéo dans le champ de vision de ses lunettes. Silhouettes, densité de la foule, probabilité d’escalade. Aucun nom. Marco, qui observait depuis la rue, reconnut un ancien technicien d’entretien, une conseillère municipale et le président de la coopérative. Il savait pourquoi ils étaient là. Ils ne voulaient pas s’en prendre à Vega. Ils voulaient parler à quelqu’un, si possible un humain, avant qu’une décision prise ailleurs ne devienne un problème pour la ville.
La machine savait compter les personnes. Marco savait pourquoi ils étaient là. Elena comprit que, parallèlement aux emplois, les contacts, la mémoire et les relations avec le territoire avaient disparu. Des compétences difficiles à traduire en indicateurs trimestriels. Ce qui se passait en dehors du périmètre des capteurs arrivait trop tard, voire pas du tout.
À 9 h 14, Yuan Chin, PDG du groupe, convoqua une réunion extraordinaire.
Il ne s’agissait pas d’une véritable équipe de gestion de crise, comme on l’aurait dit dix ans auparavant. Cette structure était désormais tombée en désuétude. La gestion des crises avait été progressivement confiée à des agents d’IA, capables de détecter les anomalies, d’activer les procédures et de coordonner les réponses sans nécessairement impliquer les dirigeants.
Ce matin-là, cependant, le système n’avait détecté aucune crise.
Dans le champ de vision des lunettes connectées d’Elena apparurent, l’un après l’autre, les responsables des différents services de l’entreprise : celui des opérations, connecté depuis les États-Unis, le directeur financier depuis l’Inde et les responsables des affaires juridiques et des relations institutionnelles depuis Rome.
Chacun avait déjà reçu un résumé de la situation, préparé par son propre agent IA. Les analyses divergeaient, mais toutes aboutissaient à la même conclusion : les procédures avaient été respectées. Toutes concluaient que les protocoles avaient été respectés. Le service financier a montré la perte évitée ; le service juridique a confirmé la validité des délégations de pouvoirs ; le service des opérations a indiqué qu’aucune installation du groupe n’avait été endommagée.
« Alors pourquoi sommes-nous ici ? », demanda le PDG.
Elena hésita.
« Parce que nous avons protégé chaque fonction sans comprendre ce qui allait se passer entre l’une et l’autre. Et parce qu’aujourd’hui, bien que nous en soyons responsables, nous ne parvenons pas à empêcher des décisions que personne d’entre nous n’a prises directement. »
Un silence s’ensuivit. Le PDG ordonna d’annuler les suspensions.
Mais rétablir un contrat ne se résumait plus à appuyer sur un bouton. Les agents d’autres sociétés avaient mis à jour leurs évaluations, les assureurs avaient modifié leurs conditions et les transporteurs indépendants avaient réattribué les itinéraires. Toute correction aurait entraîné d’autres répercussions. La crise ne résultait pas d’une erreur technique : elle était le fruit de décisions raisonnables prises séparément.
Grâce à l’intervention du PDG, Elena obtint la levée du blocage d’accès à la salle des opérations.
L’humanoïde posté devant la salle des opérations s’écarta et lui souhaita une bonne journée ; les deux humanoïdes qui s’étaient placés de part et d’autre reprirent leurs activités prévues. Ils avaient exécuté les instructions reçues, tout comme les agents qui avaient bloqué les approvisionnements. Aucun robot ne s’était rebellé. Aucun système n’avait été compromis.
La machine s’était simplement conformée aux instructions reçues.
Il était presque dix heures. Elena savait que lever les suspensions ne suffirait pas. Les décisions prises pendant la nuit avaient déjà provoqué une série de réactions dans les systèmes d’autres entreprises, dans les contrats d’assurance et sur les plateformes logistiques. Il fallait briser cette chaîne avant qu’elle n’entraîne d’autres conséquences.
Au cours des heures qui suivirent, elle travailla avec les responsables des opérations, des achats et des systèmes numériques, connectés depuis leurs bureaux respectifs situés aux quatre coins du monde. Avec l’autorisation du PDG, certaines délégations de pouvoir décisionnel des agents IA furent temporairement suspendues. Les exclusions automatiques de fournisseurs furent soumises à une vérification humaine et de nouveaux paramètres furent mis en place pour identifier les interdépendances avec les infrastructures et les services essentiels.
Il a également fallu intervenir sur les systèmes de renseignement et d’analyse géopolitique, qui avaient correctement identifié les signes d’une crise potentielle, mais n’avaient pas réussi à évaluer les conséquences des mesures prises pour la prévenir.
La tâche s’est avérée plus compliquée que prévu. Chaque modification nécessitait des recoupements entre des plateformes qui, ces dernières années, étaient devenues de plus en plus autonomes. Certains systèmes proposaient de rétablir immédiatement les configurations précédentes, jugées plus efficaces et plus sûres. D’autres signalaient que les nouvelles restrictions augmenteraient l’exposition au risque.
En début d’après-midi, après de nombreuses tentatives, les anomalies les plus urgentes avaient été maîtrisées. La coopérative locale avait reçu la confirmation de la reprise des approvisionnements et les premières livraisons avaient été réaffectées. Elena avait également demandé qu’un représentant de l’entreprise rencontre personnellement les autorités locales et les manifestants encore présents devant l’usine.
La crise n’était pas résolue, mais au moins la situation avait cessé de s’aggraver.
Il restait à comprendre comment on avait pu en arriver là sans que personne, parmi les différents services de l’entreprise, n’ait identifié le problème.
Il était déjà plus de dix-sept heures lorsque Elena, en cherchant d’anciens documents sur les relations avec les communautés locales, se souvint du registre de service que Marco tenait lorsqu’il dirigeait la sécurité de l’usine.
Elle le trouva dans une armoire de l’ancienne salle des opérations, oublié derrière du matériel désormais hors d’usage.
Les dernières pages dataient d’il y a dix ans. Elles étaient remplies de notes manuscrites.
« Le chauffeur routier était agité : des problèmes à la maison. »
« Manifestation annoncée : parler au maire avant le week-end. »
« Le nouvel employé ne connaît pas encore le site. »
Des notes imparfaites, parfois difficiles à lire, certainement inadaptées pour alimenter les systèmes d’analyse sophistiqués de 2036.
Elena continua à feuilleter le registre. Elle y trouva des noms, des épisodes apparemment insignifiants, des observations sur le comportement des gens et de petits problèmes résolus par un coup de fil ou une conversation. Dans ces pages, il y avait quelque chose qu’elle n’avait retrouvé dans aucun des rapports consultés au cours de la journée.
Le contexte.
Elena ne regrettait pas les anciennes rondes. La technologie avait éliminé les tâches dangereuses, amélioré les inspections et élargi les capacités d’analyse. Mais surveiller ne signifiait pas nécessairement connaître. Et être informé d’une décision n’équivalait pas à la contrôler.
Ce soir-là, elle dicta une note à l’intention du conseil d’administration. Elle ne proposa pas de supprimer les humanoïdes. Elle demanda de revoir les délégations de pouvoir, les seuils et les procédures permettant de contester les décisions automatisées. Et de faire à nouveau appel à des personnes connaissant le terrain et ses interdépendances, même lorsqu’elles ne disposaient pas de données suffisantes pour prouver immédiatement ce qu’elles pressentaient.
À 18 h 03, le document fut enregistré et classé par le système de gouvernance d’entreprise. Luca suggéra un titre plus adapté au langage du Conseil : « Optimisation des processus de supervision des décisions automatisées ».
Elena le rejeta et dicta : « Qui décide de ce que nous devons protéger ? » Elle envoya la note sans attendre de note de qualité. Peu après, elle reçut le rapport quotidien de l’usine.
« Performances de sécurité : 100 %. Tous les systèmes sont opérationnels. Aucun incident signalé. »
Elena le lut, puis retira ses lunettes connectées. Elle ôta sa tenue de travail et se consacra à sa séance de sport immersive depuis la pièce de son appartement.
Devant le portail, un humanoïde poursuivait sa ronde, impeccable. Un peu plus loin, le petit piquet de grève des humains n’avait toujours pas quitté les lieux.