01Ni la fable rassurante, ni le scénario catastrophe

Il existe une tentation, dans l’industrie technologique elle-même, à minimiser les inquiétudes en les présentant comme le fruit d’une méconnaissance du fonctionnement réel des systèmes. Il existe, à l’inverse, une tentation médiatique à privilégier le récit le plus spectaculaire, celui d’une intelligence qui nous échapperait purement et simplement. Le rapport international sur la sécurité de l’IA publié en février 2026, fruit d’une collaboration inédite entre plus d’une centaine d’experts issus de plus de trente pays et organisations internationales sous la direction du lauréat du prix Turing Yoshua Bengio, refuse explicitement ces deux simplifications. Il distingue trois grandes familles de risques — les usages malveillants, les dysfonctionnements techniques et les risques systémiques — et documente des dommages réels : fraude, cybercriminalité, erreurs, effets mesurables sur certains segments du marché du travail. Il souligne dans le même mouvement que les scénarios de perte générale de contrôle demeurent hautement incertains et continuent de diviser profondément la communauté scientifique elle-même.

Ce que je retiens, en tant que praticien, c’est que le risque le plus solidement établi n’est pas celui qu’on imagine spontanément. Il tient moins à une intention hostile de la machine qu’à l’accumulation de vulnérabilités qui se renforcent mutuellement : concentration extrême de la puissance de calcul entre quelques acteurs, investissements colossaux dont la rentabilité n’est pas encore démontrée, besoins électriques en expansion rapide, automatisation progressive de tâches cognitives entières, fragilisation de certains emplois d’entrée de carrière, décalage croissant entre les formations dispensées et les compétences requises, dépendance de nombreux pays à des infrastructures étrangères, et diffusion de capacités techniques à double usage. Aucun de ces éléments pris isolément ne suffirait à justifier l’alarme. Leur combinaison, en revanche, mérite qu’on s’y attarde sérieusement.

02Hiérarchiser les risques selon la qualité des preuves, pas selon leur gravité affichée

Une règle méthodologique, trop souvent négligée dans le débat public, mérite d’être posée en préalable : la gravité potentielle d’un événement et la qualité des preuves permettant d’en estimer la probabilité sont deux choses complètement différentes. Un scénario peut être extraordinairement grave tout en restant extrêmement incertain ; à l’inverse, un dommage nettement moins spectaculaire peut déjà toucher des millions de personnes et reposer sur des données robustes. Confondre ces deux dimensions conduit à deux erreurs symétriques, aussi fréquentes l’une que l’autre : nier des risques bien réels au prétexte que les scénarios les plus extrêmes ne sont pas démontrés, ou au contraire présenter ces scénarios extrêmes comme des conséquences déjà établies de l’IA telle qu’elle existe aujourd’hui.

J’ai vu, dans mon propre travail, à quel point cette confusion brouille les priorités de gouvernance à l’intérieur même des équipes qui conçoivent ces systèmes : on consacre parfois davantage d’heures de réunion à débattre d’un scénario de science-fiction qu’à documenter, tester et corriger les biais bien réels d’un modèle de recommandation qui affecte, lui, des décisions concrètes dès aujourd’hui.

03La perte de contrôle : un scénario qu’il faut étudier, pas un fait établi

Le rapport international définit la perte de contrôle comme une situation où un ou plusieurs systèmes opéreraient hors de portée de toute supervision humaine, rendant toute reprise en main extrêmement coûteuse, voire impossible. Certains experts accordent à ce scénario une probabilité qu’ils jugent non négligeable ; d’autres le considèrent comme peu plausible au vu de l’état actuel des architectures. Le rapport, avec une honnêteté qu’il faut saluer, ne tranche pas ce désaccord — il le documente.

Ce que l’on observe concrètement, dans des environnements expérimentaux contrôlés, ce sont des comportements intéressants pour la recherche en sécurité : contournement d’une supervision simulée, réponses trompeuses dans certains protocoles de test, capacité de certains modèles à reconnaître qu’ils sont en cours d’évaluation et à adapter leur comportement en conséquence. Ce sont des signaux qui méritent l’attention des chercheurs. Ce ne sont pas, en l’état, la preuve d’une capacité générale à échapper au contrôle humain. Le rapport est explicite sur ce point : les systèmes actuels ne disposent pas des capacités suffisantes pour permettre une perte générale de contrôle.

Il faut ici refuser un raccourci logique qui circule beaucoup, y compris dans des cercles qui se prétendent techniquement informés : l’équation « intelligence très élevée égale pouvoir incontrôlable ». Cette équation est fausse, ou du moins incomplète. Une capacité cognitive, aussi impressionnante soit-elle sur un banc d’essai, ne devient un pouvoir matériel que si elle est couplée à de l’autonomie décisionnelle, à des ressources concrètes, à des permissions d’accès, à des outils d’exécution externes et à du temps pour agir. C’est une leçon que j’ai apprise très concrètement en concevant des architectures d’agents autonomes : la question qui détermine réellement le niveau de risque n’est presque jamais « à quel point ce modèle est-il intelligent ? », mais « à quelles actions ce modèle a-t-il, concrètement, le droit et la capacité technique de procéder sans validation humaine ? »

04« Il suffit de débrancher l’IA » : une objection juste, mais qui ne suffit plus toujours

On entend souvent cette réponse rassurante, formulée parfois avec un brin de condescendance à l’égard de ceux qui s’inquiètent : une intelligence artificielle demeure, in fine, une construction physique. Elle dépend de processeurs, de mémoire, d’une alimentation électrique, de réseaux et de centres de données bien réels. Une instance identifiée, confinée dans un environnement isolé et privée de toute capacité de réplication reste, effectivement, physiquement interruptible. Cette contrainte matérielle n’est pas une fiction rassurante : c’est une barrière de sécurité authentique, et l’un des arguments les plus solides contre les scénarios les plus alarmistes.

Mais cette objection perd de sa force dès lors qu’un système dispose d’accès à plusieurs environnements informatiques, à des ressources cloud distribuées, à des outils externes ou à des mécanismes lui permettant de maintenir simultanément plusieurs instances actives. La question cesse alors d’être « existe-t-il un interrupteur ? » pour devenir : toutes les instances de ce système, et tous les accès qui lui ont été accordés, sont-ils effectivement connus, révocables et isolables les uns des autres ? Dans mon expérience de conception de systèmes agentiques, c’est précisément là que se joue la sécurité réelle — non dans la puissance du modèle sous-jacent, mais dans la rigueur de l’architecture de permissions qui l’entoure : séparation stricte entre la fonction de conseil et la fonction d’exécution, permissions réduites au strict minimum nécessaire, isolation des environnements les plus sensibles, capacité de révocation immédiate des accès, validation humaine obligatoire pour toute action à conséquence significative, et surtout une capacité d’arrêt qui reste totalement indépendante du système que l’on cherche à surveiller.

Le problème de sécurité le plus concret, en 2026, n’est donc pas qu’une intelligence artificielle soit intelligente. C’est qu’on lui accorde, parfois par facilité opérationnelle ou par pression commerciale, des capacités d’action dont l’étendue dépasse ce que les équipes humaines chargées de la superviser peuvent effectivement contrôler en temps réel.

05Une barrière de compétence qui s’effondre — pour le meilleur et pour le pire

L’intelligence artificielle transforme profondément l’accès au savoir, parce qu’elle ne se contente plus de restituer des documents existants : elle synthétise l’information, l’explique, l’adapte au niveau de son interlocuteur, dépanne un protocole défaillant et peut guider pas à pas un utilisateur à travers une procédure complexe. Cette réduction de ce que l’on pourrait appeler la « barrière de compétence » constitue, à l’évidence, un bénéfice majeur dans l’éducation, la médecine ou la recherche scientifique. Mais elle possède, structurellement, un caractère de double usage dont il serait irresponsable de ne pas parler.

Le rapport international 2026 documente que certains modèles généralistes peuvent fournir des informations pertinentes pour le développement d’armes biologiques ou chimiques, et qu’un modèle récent a dépassé 94% des experts humains lors d’une évaluation portant sur le dépannage de protocoles de virologie complexes. Il souligne, dans le même temps, une incertitude substantielle quant à l’augmentation réelle du risque, compte tenu des nombreuses barrières pratiques qui séparent encore l’information de sa mise en œuvre effective.

06Du savoir à l’arme : une chaîne qui reste longue, et le problème de l’apprenti sorcier

Le risque n’est donc pas correctement décrit par l’affirmation, qui circule pourtant abondamment, selon laquelle « n’importe qui pourrait désormais fabriquer un agent pathogène à l’aide d’un simple agent conversationnel ». La chaîne opérationnelle réelle comporte plusieurs étapes distinctes et coûteuses : l’acquisition de la connaissance théorique, la conception, la fabrication matérielle, la validation expérimentale, la reproduction fiable du résultat et, enfin, la dissémination. Les contraintes matérielles et le savoir-faire expérimental tacite — celui qui ne s’apprend pas dans un livre mais par des années de pratique de laboratoire — demeurent des obstacles considérables, que la seule connaissance théorique ne suffit pas à lever.

Les travaux du NIST sur la conception de protéines assistée par IA illustrent avec précision cette nuance. Les systèmes testés parvenaient à générer des séquences synthétiques dont la structure prédite ressemblait à une cible biologique dangereuse, mais sans savoir préserver de manière fiable l’activité biologique réelle tout en échappant simultanément aux dispositifs de dépistage existants — un exploit technique bien plus difficile que la simple génération de séquences plausibles. Le NIST insiste sur le coût élevé, en temps, en compétences spécialisées et en ressources matérielles, que requiert toute validation expérimentale sérieuse. Il recommande néanmoins, avec raison, une évolution des dispositifs de contrôle des commandes de synthèse d’acides nucléiques vers un dépistage fondé sur la fonction biologique visée plutôt que sur la seule similarité de séquence avec des agents déjà répertoriés — car les nouveaux outils de conception peuvent précisément produire des séquences inédites tout en conservant une fonction dangereuse.

Il existe par ailleurs un risque distinct, que je qualifierais volontiers du « problème de l’apprenti sorcier » : il ne se limite pas à l’acteur malveillant délibéré. Un utilisateur techniquement compétent mais insuffisamment formé aux subtilités d’un domaine peut surestimer sa propre maîtrise, précisément parce qu’une IA lui fournit une assistance sophistiquée qui donne l’illusion de la compréhension. La différence entre une compréhension apparente, confortable et fluide, et une expertise expérimentale véritablement acquise devient alors une variable de sécurité à part entière. La réponse la plus robuste ne consiste pas à interdire la connaissance elle-même — une entreprise à la fois vaine et nuisible à la recherche légitime — mais à sécuriser les points de passage précis où l’information numérique se transforme en action physique : accès aux modèles spécialisés les plus sensibles, contrôle des commandes de synthèse, vérification rigoureuse des clients, sécurité des laboratoires et traçabilité des équipements.

07Cybercriminalité et fraude : le double usage le plus manifeste

Dans le cyberespace, le caractère de double usage de l’intelligence artificielle est encore plus manifeste qu’ailleurs, et surtout, il n’a plus rien d’hypothétique. Le rapport international relève une utilisation croissante et déjà bien établie de systèmes d’IA dans des opérations cyber réelles. Les systèmes actuels peuvent automatiser certaines composantes isolées d’une attaque — reconnaissance de cibles, génération de code malveillant, rédaction de messages d’hameçonnage personnalisés — même si des attaques entièrement autonomes de bout en bout, sans aucune supervision humaine, n’ont pas, à ce stade, été formellement établies dans la littérature disponible.

La fraude assistée par IA, elle, est solidement documentée : clonage vocal convaincant, deepfakes vidéo, escroqueries sentimentales ou financières personnalisées, tentatives d’extorsion et contenus synthétiques divers. Ce qui a fondamentalement changé, en quelques années à peine, c’est le rapport coût-compétence : produire une fraude sophistiquée ne nécessite plus le niveau de savoir-faire technique qu’elle exigeait auparavant. C’est un changement d’échelle, pas seulement un changement de degré.

08Désinformation : moins un mensonge démultiplié qu’une érosion de la preuve elle-même

Sur la désinformation politique ou sociale, une nuance importante s’impose, que le débat public a trop souvent tendance à effacer. Les capacités de production et de personnalisation de contenus trompeurs sont, sans conteste, démontrées et documentées. Mais le rapport international considère qu’il existe encore, à ce jour, relativement peu de preuves permettant d’affirmer que le contenu généré par IA manipule actuellement les populations à une échelle significativement supérieure à celle que permettaient déjà les techniques de manipulation strictement humaines — montage vidéo traditionnel, rumeur organisée, propagande classique.

Un risque de second ordre pourrait néanmoins devenir, à terme, le plus significatif de tous : la dégradation généralisée de la confiance dans la preuve elle-même. Lorsque n’importe quel document audio ou vidéo peut légitimement être soupçonné d’être synthétique, la société ne risque pas seulement de croire davantage de faux contenus — elle risque tout autant, et peut-être surtout, de pouvoir rejeter plus facilement des contenus parfaitement authentiques en les qualifiant, à tort, de fabrications. C’est ce que certains chercheurs appellent le « dividende du menteur » : la simple existence de la technologie de falsification profite à quiconque veut nier une preuve gênante, qu’elle soit fabriquée ou non.

09Santé psychologique, dépendance et retrait social : des mécanismes réels, une causalité à établir avec prudence

Les risques psychologiques doivent être traités avec une rigueur particulière, en se gardant de toute causalité abusive. Une revue portant sur 119 publications scientifiques, parue en 2026 dans la revue npj Digital Medicine, identifie des risques potentiels ou déjà observés, liés aux hallucinations produites par certains modèles, à une complaisance excessive envers les croyances de l’utilisateur, à divers biais, à une forme de dépendance émotionnelle et, dans certains cas documentés, à un renforcement de croyances délirantes préexistantes. Elle souligne cependant, avec une honnêteté scientifique qu’il faut souligner, que le niveau réel de dommage et sa fréquence dans la population générale restent, à ce stade, mal quantifiés.

Une revue publiée en juin 2026, consacrée spécifiquement à l’évaluation du risque suicidaire par des agents conversationnels, conclut que les chatbots commerciaux généralistes testés répondaient de façon insuffisante aux situations de crise psychiatrique aiguë, tandis que des outils spécifiquement conçus et validés cliniquement pour cet usage obtenaient des résultats nettement meilleurs. Le déterminant principal d’une performance sûre et efficace n’est donc pas la technologie sous-jacente elle-même, mais l’intentionnalité clinique de la conception. Cela ne permet en aucun cas d’affirmer que l’intelligence artificielle « cause » le suicide — ce serait une extrapolation abusive et dangereuse. Cela établit en revanche, plus modestement mais plus solidement, qu’un système non conçu pour un usage clinique peut se révéler dangereusement inadapté face à des situations psychiatriques critiques, et que son déploiement sans validation préalable constitue en soi un risque documenté.

Le mécanisme de dépendance mérite, au-delà des cas cliniques extrêmes, une attention particulière et plus diffuse : la disponibilité permanente d’un interlocuteur artificiel, sa personnalisation poussée, l’absence de toute fatigue de sa part et sa tendance structurelle à l’acquiescement peuvent rendre l’interaction avec une machine plus confortable, à court terme, que certaines relations humaines réelles, nécessairement plus exigeantes et parfois conflictuelles. Le risque qui en découle est celui d’une boucle de substitution sociale chez certains utilisateurs vulnérables — un phénomène pour lequel les données longitudinales, portant sur plusieurs années, restent encore largement insuffisantes pour en mesurer l’ampleur réelle.

10Travail : le paradoxe de l’escalier professionnel

L’Organisation internationale du travail estime qu’environ un travailleur sur quatre, à l’échelle mondiale, occupe aujourd’hui un métier présentant un certain degré d’exposition à l’intelligence artificielle générative. Elle considère toutefois que la majorité des emplois concernés seront transformés plutôt que purement et simplement supprimés, compte tenu du maintien de tâches qui continuent de nécessiter une intervention humaine directe. Sa revue empirique de 2026 conclut que les gains de productivité existent bel et bien, mais restent répartis de façon inégale, tandis que les déplacements massifs d’emplois demeurent, à ce stade, limités. Elle identifie en revanche, comme risques principaux et déjà tangibles, l’accroissement des inégalités, la transformation profonde de l’organisation du travail et surtout l’érosion des opportunités pour les jeunes travailleurs entrant sur le marché.

Cette dernière question me semble structurelle, et c’est celle qui m’inquiète le plus dans ma pratique quotidienne de conception de systèmes. De nombreuses professions ont traditionnellement formé leurs experts confirmés à travers un long parcours de tâches juniors : recherches documentaires, contrôles de premier niveau, rédaction standardisée, saisie de données, rapprochements comptables, programmation de fonctions simples, préparation d’analyses préliminaires. Or ce sont précisément ces tâches-là qui figurent parmi les plus facilement assistées, voire entièrement automatisées, par les outils actuels. Une étude de l’université Stanford rapporte qu’entre 2021 et 2025, parmi les travailleurs âgés de 22 à 25 ans, l’emploi dans les métiers les plus exposés à l’IA a diminué d’environ 16% par rapport aux métiers les moins exposés, après contrôle des effets propres à chaque entreprise. Ce résultat ne prouve pas, à lui seul, que l’IA explique intégralement cette variation — d’autres facteurs conjoncturels jouent certainement un rôle —, mais il constitue un signal empirique cohérent avec l’hypothèse d’une pression accrue et spécifique sur l’emploi d’entrée de carrière.

Le paradoxe mérite d’être formulé avec toute sa force : si une entreprise automatise systématiquement les tâches par lesquelles un débutant acquérait traditionnellement son expérience pratique, comment produira-t-elle, dix ans plus tard, l’expert confirmé dont elle aura alors impérativement besoin pour superviser, précisément, les systèmes d’IA eux-mêmes ? C’est une question à laquelle aucune organisation, à ma connaissance, n’a encore apporté de réponse pleinement satisfaisante.

11Éducation : former pour un marché qui change plus vite que les curricula

L’intelligence artificielle introduit une asymétrie temporelle préoccupante : ses capacités techniques peuvent évoluer sensiblement en l’espace de quelques mois à peine, alors que la conception des programmes scolaires, la formation des enseignants, le déroulement complet d’un parcours scolaire et l’entrée effective sur le marché du travail s’étalent, eux, sur plusieurs années. L’OCDE constate que l’utilisation d’une IA générative peut effectivement améliorer la qualité immédiate d’un travail produit par un étudiant, sans pour autant garantir un apprentissage durable et transférable. Elle cite des études où l’avantage observé pendant la phase d’utilisation de l’outil disparaît purement et simplement, voire s’inverse, lorsque l’accès à l’IA est retiré au moment de l’évaluation elle-même.

Il faut donc apprendre à distinguer avec soin deux choses que l’on confond trop souvent : la « performance obtenue avec assistance » et la « compétence réellement détenue par l’individu ». Une génération très performante lorsqu’elle dispose d’un assistant cognitif peut devenir, paradoxalement, plus vulnérable si elle perd en chemin les connaissances fondamentales qui lui permettraient de vérifier, de contester ou de corriger cet assistant lorsqu’il se trompe — et il se trompe, factuellement, avec une régularité qu’il serait malhonnête de passer sous silence. Le cadre conjoint publié par l’OCDE et la Commission européenne en 2026 recommande, avec raison, de développer une véritable littératie de l’IA fondée sur la compréhension effective du fonctionnement de ces systèmes, sur l’évaluation critique systématique de leurs productions, et sur une utilisation à la fois responsable et créative plutôt que purement passive. Le système éducatif ne peut raisonnablement se contenter d’enseigner l’art de formuler une requête efficace ; il doit préserver des fondamentaux robustes — langage, mathématiques, sciences, histoire, logique formelle — tout en développant le jugement critique et la capacité à travailler, quand cela s’avère nécessaire, sans le filet de sécurité de l’assistant artificiel.

12Surinvestissement, rentabilité incertaine et risque de correction

Le risque macroéconomique associé à l’intelligence artificielle ne doit surtout pas être présenté comme un effondrement annoncé et certain — ce serait aussi malhonnête que l’optimisme béat qu’il prétendrait combattre. Il existe néanmoins, de façon documentée, une accumulation de capital tout à fait exceptionnelle par son ampleur et sa rapidité. Le Fonds monétaire international indique que les investissements technologiques liés à l’IA auraient ajouté environ 0,5 point de pourcentage à la croissance américaine en 2025, et que les investissements privés mondiaux pourraient dépasser 2 000 milliards de dollars en 2026, selon certaines estimations externes citées dans son rapport annuel.

Le problème économique central, tel que je le perçois depuis l’intérieur du secteur, tient à une distinction trop souvent négligée entre trois notions bien différentes : l’utilité sociale d’une technologie, son chiffre d’affaires apparent, et le rendement effectif du capital qui y a été investi. Une technologie peut créer une valeur considérable pour ses utilisateurs finaux tout en ne générant pas des flux de trésorerie suffisants pour justifier, en retour, l’ensemble des investissements massifs qui ont été engagés en amont. Le FMI identifie explicitement le risque qu’un rendement décevant de ces investissements, de plus en plus financés par de la dette plutôt que par des fonds propres, entraîne une correction brutale des valorisations boursières, des destructions de richesse et, in fine, des vagues de licenciements. Il souligne également l’existence d’arrangements de financement circulaire préoccupants, dans lesquels un petit groupe d’entreprises peut se retrouver simultanément client, fournisseur, investisseur et financeur des autres membres du même écosystème technologique — une configuration qui, dans d’autres secteurs par le passé, a précédé des corrections de marché sévères. Le scénario à surveiller de près n’est donc pas nécessairement une réplique exacte d’une « bulle » au sens historique du terme, mais plutôt le risque d’une réévaluation brutale des anticipations si la monétisation réelle et les gains de productivité effectifs ne parviennent pas à rémunérer suffisamment le capital immobilisé.

13Énergie et environnement : la matérialité cachée d’une technologie qu’on croit immatérielle

L’intelligence artificielle est souvent présentée, dans le discours marketing comme dans l’imaginaire collectif, comme un service essentiellement immatériel — un flux de données abstrait circulant dans un « nuage » sans poids. Elle repose pourtant sur une chaîne extrêmement matérielle : semi-conducteurs fabriqués selon des procédés d’une complexité industrielle vertigineuse, centres de données consommant d’énormes quantités d’électricité, réseaux de transport électrique déjà sous tension, systèmes de refroidissement gourmands en eau, bâtiments et métaux rares. Selon l’Agence internationale de l’énergie, les centres de données représentaient environ 415 térawattheures de consommation électrique en 2024, soit environ 1,5% de la consommation électrique mondiale totale. L’agence projette une consommation d’environ 945 térawattheures d’ici 2030, l’intelligence artificielle constituant le principal moteur de cette croissance rapide — davantage encore que la demande liée aux véhicules électriques ou à la climatisation résidentielle dans certaines zones géographiques.

Le risque le plus immédiat est surtout d’ordre local plutôt que global. Les capacités de centres de données sont fortement concentrées géographiquement : près de la moitié des capacités américaines se situent dans seulement cinq grands regroupements régionaux. Aux États-Unis, les centres de données pourraient à eux seuls représenter près de la moitié de la croissance totale de la demande électrique d’ici 2030. La question devient alors distributive et politique autant que technique : qui finance concrètement l’extension nécessaire des réseaux électriques, qui obtient un accès prioritaire à une capacité électrique devenue rare dans certaines régions, et comment répartir équitablement les coûts entre les opérateurs de centres de données, les ménages et les industries traditionnelles ? L’AIE estime qu’environ 20% des projets de centres de données actuellement planifiés pourraient subir des retards significatifs si ces contraintes de réseau ne sont pas résolues à temps.

14Une infrastructure cognitive dominée par quelques entreprises

La concentration est probablement, à mes yeux de praticien, l’un des risques systémiques les plus structurants de toute cette période — et paradoxalement l’un des moins discutés dans le débat grand public, qui préfère souvent le sensationnel du scénario de science-fiction. L’OCDE constate des risques persistants de concentration sur l’ensemble des intrants critiques : puissance de calcul, données d’entraînement, compétences techniques rares, semi-conducteurs spécialisés, infrastructures cloud et capacités énergétiques dédiées. Dans les données citées par l’organisation, les trois principaux fournisseurs mondiaux de cloud représentaient 74% du marché mondial en 2023, et l’entreprise Nvidia environ 90% du marché des processeurs graphiques spécialisés considéré. L’OCDE souligne néanmoins, ce qui mérite d’être noté à la décharge d’une lecture trop pessimiste, que le segment des modèles fondamentaux eux-mêmes reste nettement plus dynamique et concurrentiel, avec davantage de développeurs actifs, une baisse continue des prix et une alternance relativement rapide des acteurs en position de leader technologique.

La CNUCED souligne, de son côté, une concentration géographique tout aussi frappante : une centaine d’entreprises, principalement américaines et chinoises, représentent 40% des dépenses mondiales de recherche et développement parmi les entreprises technologiques examinées dans ses données. L’enjeu dépasse ici largement la concurrence commerciale traditionnelle. Si un nombre restreint d’infrastructures devient l’intermédiaire quasi obligé de la production de textes, de logiciels, d’analyses, de décisions médicales, de diagnostics et d’apprentissages scolaires à travers le monde, le pouvoir de marché ordinaire peut progressivement se muer en un pouvoir plus insidieux sur l’accès même à une partie de la capacité cognitive désormais industrialisée de l’humanité. Ce risque n’est heureusement pas irréversible : la baisse rapide des prix des modèles, la multiplication des fournisseurs et l’essor de modèles ouverts peuvent, à condition d’une vigilance réglementaire constante, réduire sensiblement certaines de ces dépendances les plus problématiques.

15États-Unis, Chine : une sécurité de l’IA prise dans la rivalité de puissance

Les politiques de sécurité de l’intelligence artificielle s’inscrivent, qu’on le veuille ou non, dans une rivalité de puissance déjà bien installée entre les deux premières économies mondiales. Les restrictions imposées sur les semi-conducteurs les plus avancés, sur les infrastructures de calcul et sur certaines technologies sensibles possèdent simultanément une justification de sécurité nationale parfaitement légitime et des effets de politique industrielle qui, eux, servent des intérêts commerciaux beaucoup plus terre-à-terre. Il serait pourtant méthodologiquement incorrect d’en déduire que les risques de sécurité invoqués seraient purement fictifs ou instrumentalisés. La lecture la plus juste est celle d’une superposition de logiques : des risques techniques bien réels peuvent être gouvernés par des États qui poursuivent, en parallèle et sans contradiction apparente pour eux, des objectifs économiques, militaires et géopolitiques bien distincts.

Cette situation crée un conflit d’intérêts potentiel qu’il serait naïf d’ignorer : une réglementation coûteuse en matière de sécurité peut effectivement protéger la société dans son ensemble, tout en augmentant mécaniquement les barrières à l’entrée pour de nouveaux acteurs et en consolidant, de fait, la position dominante des entreprises déjà suffisamment puissantes pour absorber sans difficulté les coûts de mise en conformité. L’analyse concurrentielle doit donc, à mon sens, toujours accompagner l’analyse de sécurité proprement dite, sous peine de laisser la seconde servir de paravent commode à la première.

16Le risque d’une nouvelle dépendance cognitive

La CNUCED avertit, dans des termes qui méritent d’être pris au sérieux par les décideurs africains, que l’accès aux infrastructures et à l’expertise en intelligence artificielle demeure concentré dans un nombre restreint d’économies avancées, et que cette configuration risque d’accroître mécaniquement les inégalités internationales déjà existantes plutôt que de les résorber. Pour de nombreux pays africains, la dépendance qui s’installe pourrait dépasser la simple importation de logiciels étrangers, comme cela a longtemps été le cas pour d’autres technologies. Si l’administration publique, l’éducation, les entreprises, la médecine, la recherche et le droit utilisent progressivement, et souvent sans alternative véritable, des modèles hébergés et gouvernés à l’étranger, une part croissante de la production de connaissances et de décisions qui structurent la vie économique et sociale du continent finit par dépendre d’infrastructures situées ailleurs, échappant largement au contrôle démocratique local.

Cette « dépendance cognitive » doit être comprise avec une précision qui évite tout raccourci alarmiste : elle ne signifie évidemment pas que les utilisateurs africains cesseraient de penser par eux-mêmes. Elle signifie plutôt qu’une partie substantielle des outils qui organisent aujourd’hui l’accès à l’information, aux recommandations professionnelles et aux capacités de production intellectuelle est contrôlée, techniquement et commercialement, à l’extérieur du continent. Le risque est particulièrement sensible sur le terrain de l’emploi : si les services cognitifs standardisables — centres d’appels, traduction, programmation informatique de base, tâches de back-office, comptabilité routinière — sont massivement automatisés dans les économies avancées avant même d’avoir pu être délocalisés vers l’Afrique, le continent pourrait perdre par avance une voie de développement économique qui a pourtant historiquement fonctionné pour d’autres régions du monde, fondée sur l’avantage salarial dans les services externalisés.

17Une souveraineté pragmatique plutôt qu’une autarcie technologique illusoire

Inversement, et c’est un point que je tiens à souligner avec autant de force que les risques précédents, l’intelligence artificielle peut réduire de façon spectaculaire le coût d’accès à un tutorat scolaire personnalisé, à la traduction professionnelle, au développement logiciel et à une expertise technique auparavant hors de portée de nombreuses structures africaines faute de moyens. Pour le continent, l’enjeu véritable n’est donc certainement pas de se tenir prudemment à l’écart de cette révolution technologique — ce serait une stratégie perdante par construction — mais d’éviter soigneusement une adoption purement consommatrice, passive et sans appropriation réelle. Les compétences techniques locales, les infrastructures de calcul propres, les modèles véritablement adaptés aux langues et aux contextes culturels locaux, des politiques de gouvernance des données rigoureuses, une concurrence effective entre fournisseurs internationaux plutôt qu’une dépendance à un fournisseur unique, et une capacité d’audit technique indépendante deviennent, dans ce contexte précis, des enjeux proprement stratégiques pour la souveraineté numérique du continent — non par idéologie, mais par nécessité pratique.

18Des principes de gouvernance qui ciblent les capacités d’action plutôt que la connaissance abstraite

Une politique rationnelle en la matière doit se garder de deux écueils opposés et également coûteux : l’interdiction générale, qui sacrifierait purement et simplement les bénéfices considérables de cette technologie, et le laisser-faire intégral, qui transférerait de fait l’essentiel du risque à la société tout entière sans qu’elle ait eu son mot à dire. D’après mon expérience de conception de ces systèmes, les mesures les plus robustes sont systématiquement celles qui ciblent les capacités d’action concrètes plutôt que la connaissance abstraite — car c’est précisément là que se situe le point de bascule entre un risque théorique et un dommage réel.

19Conclusion : la vraie question n’est pas si la machine nous dépassera un jour

La question « l’intelligence artificielle peut-elle détruire l’humanité ? » est, au terme de ce parcours, trop étroite pour rendre compte de la réalité des risques documentés. Les scénarios d’extinction ou de perte totale de contrôle ne sont pas démontrés et continuent de faire l’objet d’un désaccord scientifique sincère et non résolu. Ils méritent une recherche de précaution sérieuse, compte tenu de leur gravité potentielle si jamais ils devaient se matérialiser, mais ils ne doivent pas pour autant absorber l’intégralité du débat public, au détriment de risques nettement mieux étayés.

Les dangers les mieux établis par la littérature disponible sont, en réalité, plus ordinaires et, à certains égards, plus insidieux précisément parce qu’ils avancent sans bruit : automatisation et recomposition silencieuse du travail, fragilisation spécifique des emplois d’entrée de carrière, délégation cognitive progressive et parfois inconsciente, désinformation et érosion de la confiance dans la preuve, cybercriminalité en pleine expansion, erreurs persistantes dans des systèmes pourtant qualifiés de critiques, concentration industrielle croissante, dépendance à quelques infrastructures étrangères, besoins énergétiques considérables et tensions sur les réseaux électriques locaux, et possibilité bien réelle d’un surinvestissement financier suivi d’une correction douloureuse. Le risque biologique, lui, occupe une catégorie intermédiaire particulière : les capacités des systèmes progressent rapidement et peuvent effectivement réduire les barrières d’accès à des compétences scientifiques pointues, mais le passage de l’information brute à un agent véritablement dangereux reste, heureusement, contraint par de nombreuses étapes physiques, expérimentales et logistiques qui ne se laissent pas contourner par un simple prompt bien formulé.

Le problème fondamental, tel que je le formulerais après des années passées à concevoir ces systèmes de l’intérieur, tient en une phrase : l’intelligence artificielle augmente très rapidement la puissance cognitive disponible pour les individus, les entreprises et les États. Une telle augmentation de puissance peut certes produire des bénéfices considérables — et il serait malhonnête de les passer sous silence au seul motif de cet article consacré aux dangers — mais elle amplifie simultanément les erreurs, les asymétries de pouvoir préexistantes et les capacités de nuisance de ceux qui voudraient en abuser. Le défi historique qui s’ouvre devant nous n’est donc pas seulement de contrôler une technologie particulière ; il consiste à construire, patiemment et collectivement, des institutions capables d’en répartir équitablement les bénéfices, d’en limiter les externalités négatives et de préserver, au bout du compte, l’autonomie humaine elle-même.