Ceci est une tribune sur l’intelligence artificielle du journaliste d’investigation germano-indien, Tahir Chaudhry, connu pour ses enquêtes sur de grands sujets, dont celle à succès sur l’affaire Jeffrey Epstein, publiée en 2024. Le journaliste est d’ailleurs auteur d’un livre publié récemment et consacré entre autres à la divinisation de l’intelligence artificielle et à l’idéologie du transhumanisme. Tribune !
Lefaso.net
Il n’existe pas d’intelligence artificielle.
Pour le futurologue Ray Kurzweil, l’intelligence artificielle ouvre la voie à la création d’un dieu « qui n’a jamais existé ». L’historien Yuval Noah Harari estime que l’IA écrira un jour des « livres sacrés » et donnera naissance à de « nouvelles religions ». Elon Musk évoque même des « miracles dignes de Jésus ». Quant à Peter Thiel, il place ses espoirs dans le transhumanisme, c’est-à-dire dans le dépassement des limites biologiques de l’être humain par la fusion de l’homme et de la machine.
Ce que l’homme recherchait autrefois dans le divin, certains des penseurs les plus influents de la Silicon Valley croient aujourd’hui pouvoir le trouver dans le progrès technologique et la prétendue intelligence artificielle. Pourtant, ce récit est de plus en plus remis en question par des voix critiques qui appellent à une évaluation plus lucide de ce domaine. Un examen attentif révèle qu’il ne se cache derrière cette façade ni intelligence numérique, ni conscience électronique, et encore moins un être artificiel en train de s’éveiller. Cette croyance relève d’une illusion colossale — et pourrait conduire l’humanité vers l’une des impasses technologiques les plus dangereuses de son histoire.
Si l’on demandait à une personne lambda ce qu’est l’intelligence artificielle, la plupart penseraient probablement à ChatGPT, Grok ou Claude : de grands modèles de langage capables de reconnaître et de générer du texte ou des images. Ceux qui utilisent l’IA de manière plus intensive l’envisagent également comme incluant des outils de création vidéo, musicale et autres contenus créatifs. Un groupe encore plus restreint parlerait d’agents IA qui planifient et exécutent des tâches de manière autonome, ou de programmation vocale, où les logiciels sont programmés par la voix plutôt que manuellement.
Toutes ces réponses ne font que décrire les manifestations visibles de ce qu’on appelle l’intelligence artificielle : une panoplie d’outils, d’applications et de modèles à travers lesquels les humains font l’expérience de l’IA. Cependant, si l’on s’interroge sur l’image que le terme « intelligence artificielle » évoque chez beaucoup de gens, on passe à un tout autre niveau. L’IA apparaît alors comme une entité indépendante : flexible, apparemment imprévisible, capable d’apprendre et en constante évolution pour devenir plus intelligente. Nombreux sont ceux qui l’associent à l’idée d’un être pensant en pleine croissance qui s’émancipe peu à peu de ses créateurs humains à chaque étape de son développement. En réalité, cette impression repose principalement sur notre conditionnement par la science-fiction hollywoodienne et sur une puissante illusion : ce qui est occulté, c’est ce qui se cache derrière chaque réponse : la puissance de calcul, les mathématiques, les données et les statistiques, mais surtout, des milliards d’heures de travail humain, d’évaluations et de décisions.
L’intelligence artificielle, telle qu’on la conçoit, apparaît comme l’initiatrice d’une réalisation qu’elle n’a pas produite elle-même. Sa représentation en oracle omniscient masque sa profonde dépendance à d’innombrables contributions humaines. C’est comme si l’on commandait un sac en cuir. Des dizaines de spécialistes interviennent à chaque étape – de l’éleveur au tanneur et teinturier, en passant par le designer et le sellier.
Au final, une seule personne se tient devant nous, nous remet le sac fini et donne l’impression que c’est son œuvre exclusive. Il en va de même pour l’intelligence artificielle : tous les outils de sa panoplie ne sont pas à l’origine d’une réalisation, mais plutôt sa dernière expression visible. Pour Jaron Lanier, l’IA n’est rien d’autre que la forme la plus puissante – bien qu’involontaire – de collaboration humaine collective à ce jour ; pour lui, les modèles de langage ne sont que des « condensations statistiques du langage humain et des données ».
Sommes-nous tous victimes du plus grand deepfake ?
Si l’on demande à des modèles de langage de composer un dialogue fictif entre Jeffrey Epstein et Peter Thiel, en s’inspirant du style d’écriture des courriels publiés d’Epstein, le résultat est un échange étonnamment plausible. Pourtant, personne ne prétendrait que Jeffrey Epstein ou Peter Thiel aient pris vie dans l’ordinateur. Le modèle ne reconstruit pas la conscience, mais se contente de poursuivre des schémas linguistiques appris avec une probabilité statistique.
Pour ce faire, il décompose d’abord le texte d’entrée en petites unités linguistiques (tokens), calcule la probabilité de chaque token suivant possible en fonction des schémas appris lors de l’entraînement, puis génère l’élément constitutif suivant de la réponse. Ce processus est répété des milliers de fois, token par token, jusqu’à l’obtention d’un texte complet. Il en résulte une fonction de saisie semi-automatique intelligente qui poursuit les phrases d’une manière qu’une personne sage et moralement responsable serait susceptible de formuler.
Le manque de compréhension des modèles de langage est fréquemment la cible de moqueries sur les réseaux sociaux. Par exemple, une personne demande à un modèle de langage quelle option est la plus écologique : aller en voiture au lavage auto ou à pied. Le modèle répond : « À pied, sans hésiter. » Il ne comprend pas que le but du déplacement est de laver sa voiture et que celle-ci doit d’abord se rendre au lavage. Autre exemple : un utilisateur demande au modèle de se taire après avoir dit « Au revoir ». Mais à chaque fois, le modèle répond : « D’accord, je me tais. » Ceci illustre la limite : un modèle de langage est conçu pour poursuivre verbalement chaque interaction. Même la demande de silence est perçue comme une nouvelle réponse. Ces exemples démontrent que si l’« intelligence artificielle » peut générer un discours convaincant, elle ne peut ni comprendre les intentions ni appréhender les situations dans leur ensemble.
Lorsqu’un modèle de langage répond par des phrases comme « Je comprends » ou « Je suis désolé », il ne diffère en rien d’un perroquet imitant une expression déjà entendue. Les mots peuvent sembler appropriés, mais ils sont dépourvus de toute compréhension ou empathie sous-jacente. De même, bien qu’un modèle de langage disposant de suffisamment d’informations puisse générer une image psychologique d’une précision étonnante, voire quasi photoréaliste, d’une personne, tel un miroir, il ne reflète que la surface des informations disponibles, jamais l’expérience intérieure ni l’essence même de l’individu.
Les passionnés de technologie répondraient probablement à cette objection par leur mantra habituel : « Pas encore ! » Pourtant, ils expliquent rarement comment les modèles de langage actuels s’améliorent concrètement au quotidien. On a souvent l’impression d’une technologie qui s’auto-alimente, traite toujours plus de données, entraîne des modèles toujours plus grands et s’optimise en permanence. Mais ce paradigme dit de passage à l’échelle est de plus en plus remis en question. De plus en plus de critiques évoquent la fin de l’ère du passage à l’échelle pur : les données d’entraînement de haute qualité ne sont pas illimitées, les données générées artificiellement peuvent dégrader les modèles à long terme au lieu de les améliorer, tandis que le coût des puces, de l’énergie et des centres de données ne cesse d’augmenter.
On s’intéresse beaucoup moins au fait que des centaines de milliers de personnes travaillent quotidiennement en coulisses pour faire progresser l’IA actuelle, rémunérées pour entraîner, évaluer et améliorer les modèles. Des plateformes comme Outlier AI, DataAnnotation.tech et Appen recrutent activement ces employés, les payant souvent environ 30 € de l’heure pour des projets en langue allemande, et plusieurs fois plus pour des spécialistes – par exemple, en médecine, en droit, en mathématiques ou en informatique. Derrière ces systèmes prétendument autonomes, on estime que plusieurs centaines de milliers de personnes dans le monde travaillent directement à l’entraînement des modèles d’IA modernes.
Elles rédigent des consignes, annotent des textes et des images, évaluent et comparent les réponses, vérifient les faits, signalent les hallucinations, les erreurs logiques et les contenus problématiques, testent les modèles pour détecter leurs faiblesses (tests d’intrusion) et définissent ce qui est autorisé et ce qui ne l’est pas. Elles établissent les règles, fixent les limites, corrigent et surveillent les modèles. En bref, leur tâche n’est pas d’apprendre aux machines à raisonner et à comprendre, mais d’optimiser leurs prédictions statistiques et donc leur automatisation.
Les magnats de la tech de la Silicon Valley sont-ils en train de créer un nouvel oracle ?
Des critiques éminents du battage médiatique autour de l’IA, tels queJaron Lanier, pionnier de la réalité virtuelle, Emily Bender, linguiste, Gary Marcus, neuroscientifique, Geoffrey Hinton, pionnier de l’intelligence artificielle, et l’écrivain Ted Chiang appellent de leurs vœux une évaluation objective de ce qu’on appelle l’intelligence artificielle. Selon eux, les réseaux neuronaux, aussi impressionnants soient-ils, constituent le fondement de ces systèmes ; des structures mathématiques qui ne s’inspirent que très vaguement du cerveau humain. Ce dernier est composé d’environ 86 milliards de cellules nerveuses qui communiquent entre elles par des processus biochimiques extrêmement complexes. Les réseaux neuronaux artificiels, quant à eux, ne sont constitués que de nombres, de pondérations, de fonctions mathématiques et de relations statistiques.
Les humains perçoivent l’information par leurs sens, la traitent par le cerveau et l’expriment finalement par le langage et les actions. Un système d’IA ne peut pas faire cela seul. Il a besoin de l’intervention humaine pour définir ses objectifs, ses limites et ses règles de conduite. La différence cruciale : cette entité ne possède pas de conscience propre. Ce sont les développeurs, les équipes de sécurité et de politiques, les comités d’éthique, ainsi que la direction et les investisseurs qui la remplacent. Ils décident des données avec lesquelles le système est entraîné, des réponses souhaitées ou inhibées, des valeurs qu’il véhicule et de ses limites. La question cruciale demeure : la machine dépendra-t-elle donc, à terme, d’une conscience qui la contrôle ?
Des millions de personnes se tournent chaque jour vers ChatGPT, Claude, Grok ou Gemini pour obtenir des explications, des conseils ou des solutions à leurs questions professionnelles, médicales, psychologiques ou personnelles. Nombre d’entre elles confient leurs pensées, leurs craintes et leurs espoirs les plus intimes à ces systèmes. Cette situation accroît la dépendance à l’égard de quelques plateformes. La concentration des connaissances, des ressources et du pouvoir d’interprétation entre les mains de quelques acteurs ouvre ainsi la voie à des manipulations d’une ampleur historique. Or, ce qui apparaît comme la sagesse d’un oracle numérique repose en grande partie sur des décisions humaines. À y regarder de plus près, cette prétendue intelligence artificielle omnipotente se révèle être un système complexe, une véritable marionnette dont les ficelles restent tirées par des humains.
Invoquer une intelligence artificielle surpuissante présente, à court terme, un avantage prépondérant pour les grandes entreprises technologiques. Cela leur permet d’attirer plus facilement des investissements massifs, de faire grimper leurs valorisations boursières et de concentrer davantage leur pouvoir économique et politique. Nombre de ces entreprises leaders n’ont pas émergé ex nihilo, mais bien dans un contexte de recherche financée par l’État, de contrats gouvernementaux de plusieurs milliards de dollars et de liens étroits avec le complexe militaro-industriel.
Le développement de modèles de langage complexes exigeant d’immenses quantités de données, des puces spécialisées, d’immenses centres de données, une consommation énergétique colossale, des professionnels hautement qualifiés et des investissements de plusieurs milliards, cette technologie clé se retrouve inévitablement concentrée entre les mains de quelques entreprises et États. L’IA devient ainsi un amplificateur des structures de pouvoir existantes.
L’histoire de l’humanité regorge d’exemples d’élites utilisant des institutions créées ou contrôlées artificiellement pour influencer les décisions, les visions du monde et les comportements. L’oracle le plus célèbre de l’Antiquité se trouvait à Delphes. Pendant plus de mille ans, rois, généraux, riches citoyens et délégations venus de tout le monde grec s’y rendirent. Delphes était considérée comme
le nombril du monde, le lieu où Apollon parlait par l’intermédiaire de la prêtresse Pythie.
Le pèlerinage lui-même faisait partie du rituel. Le consultant pénétrait dans le sanctuaire sur les pentes du mont Parnasse, se purifiait à la source castillane, offrait des sacrifices et s’acquittait des droits d’entrée. Il empruntait ensuite la Voie Sacrée, passant devant des trésors, des ex-voto et des monuments des cités-États les plus puissantes de Grèce. Ceux qui faisaient des dons généreux ou exerçaient une influence politique bénéficiaient d’un accès privilégié.
La consultation elle-même restait secrète pour ceux qui la sollicitaient. Dans la chambre la plus intime du temple d’Apollon, l’Adyton, la Pythie siégeait sur un trépied de bronze. Les auteurs antiques la décrivaient comme saisie d’extase divine ; aujourd’hui, les chercheurs pensent que des gaz tels que l’éthylène, s’échappant de fissures dans la roche, ont pu contribuer à cet état de transe. Ceux qui cherchaient conseil ne s’adressaient pas directement à la Pythie, mais aux prêtres. Ces derniers transmettaient les questions, écoutaient ses déclarations souvent énigmatiques, en formulaient des oracles compréhensibles, fréquemment ambigus et parfois rimés, puis les transmettaient aux consultants. Le consultant ne voyait jamais comment la réponse était élaborée. Il ne recevait que le résultat final, et c’est précisément ce processus qui lui donnait l’apparence de la voix d’une puissance supérieure.
Les recherches modernes suggèrent qu’un vaste réseau d’information opérait en coulisses autour de l’oracle. Pèlerins, marchands, envoyés et messagers apportaient sans cesse à Delphes des nouvelles du monde grec. Cela permettait aux prêtres d’établir des profils remarquablement précis des structures du pouvoir politique, des intérêts personnels et des conflits imminents. Ce qui apparaissait à beaucoup comme une prescience divine reposait souvent sur une connaissance exceptionnellement approfondie. C’est précisément ce qui a transformé l’oracle en un instrument de pouvoir politique. Ses prédictions influençaient les dirigeants dans leurs décisions concernant la guerre et la paix, guidaient la fondation des colonies, renforçaient ou affaiblissaient les alliances entre les cités-États grecques, apaisaient ou exacerbaient les conflits, conféraient une légitimité religieuse aux décisions politiques et assuraient le prestige, l’influence et la prospérité économique durables de Delphes.
Comme par le passé, il existe aujourd’hui deux oracles. L’un s’adresse au grand public : de vastes modèles de langage répondent aux questions, composent des textes et donnent l’impression d’une autorité omnisciente. L’autre est destiné aux élites politiques, militaires et économiques : Palantir, le système d’analyse de données et d’intelligence artificielle cofondé par Peter Thiel en 2003 et soutenu dès ses débuts par In-Q-Tel, la branche d’investissement de la CIA. À l’instar de l’oracle de Delphes, il collecte, relie et synthétise d’immenses quantités d’informations. Grâce à l’intelligence artificielle, il génère des rapports de situation, des évaluations des risques et des recommandations d’actions à destination des services de renseignement, de l’armée, de la police et du système judiciaire.
L’homme n’est-il vraiment qu’une machine ?
Depuis des années, les sections commentaires de Reddit sont le théâtre de débats enflammés entre ingénieurs, passionnés de technologie, fans de science-fiction et Cassandres. Au cœur du débat se trouve la question : l’« intelligence artificielle » existe-t-elle réellement, ou n’est-elle qu’une puissante illusion que nous avons nous-mêmes créée ? Ceux qui cherchent à dénoncer la supercherie qui se cache derrière le terme « IA » sont considérés comme technophobes et rétrogrades ; ceux qui perçoivent déjà une intelligence surnaturelle dans les logiciels puissants apparaissent comme les adeptes d’une nouvelle religion technologique.
En définitive, la question de l’existence de l’intelligence artificielle relève moins de la science et de la technologie que de la philosophie et de la religion. Car elle touche au cœur même de ce que nous considérons comme l’essence de l’humanité : la conscience, la raison, la créativité, le libre arbitre et une finalité supérieure. Elle nous oblige à réfléchir à notre conception de l’humanité et à notre vision du monde, à ce qui distingue les humains des machines, et à la possibilité même de franchir cette frontière.
En juin 2023, cette question a fait l’objet de vifs débats sur Reddit. Un utilisateur a alors publié une vidéo en demandant : « Comment appelle-t-on ça ? » Le lien menait à un robot quadrupède qui, au départ, tâtonnait maladroitement comme un nouveau-né et se déplaçait en rampant sur le sol. Mais en seulement une heure, il a appris à se tenir debout, à garder l’équilibre et finalement à marcher. Le plus impressionnant, c’est que cela s’est produit pour la première fois sans entraînement préalable en simulation. Le robot a utilisé l’algorithme Dreamer, qui construit en continu un modèle interne de son environnement, en tire des prédictions et optimise ses mouvements par essais et erreurs.
Mais ce qui était censé prouver l’existence d’une forme de vie intelligente n’a en réalité pas prouvé le contraire. Contrairement à un enfant humain, le robot n’a pas appris par la compréhension. Il n’a pas non plus expérimenté au sens humain du terme. Les humains ont défini la fonction de récompense ; par la suite, sa stratégie d’action a été optimisée mathématiquement et statistiquement sur des millions d’interactions jusqu’à obtenir la récompense attendue la plus élevée. Le robot ne comprenait ni la gravité ni l’équilibre, n’avait aucune notion de la marche et pouvait difficilement transférer ses connaissances à de nouvelles situations. Un enfant humain, en revanche, apprend non seulement à marcher, mais développe aussi une compréhension de l’espace, de la cause et de l’effet, du comportement social, des intentions et des dangers. Le fait que le robot n’ait plus besoin de simulation pour apprendre constitue une avancée technique remarquable, le triomphe d’un algorithme qui optimise les schémas, et non d’un esprit qui comprend.
La question de la mécanisation de la pensée préoccupe l’humanité depuis bien plus longtemps que l’existence des ordinateurs. Dès le XVIIe siècle, le philosophe anglais Thomas Hobbes observait que la pensée humaine n’est rien d’autre qu’une forme de calcul arithmétique. Le polymathe Gottfried Wilhelm Leibniz rêvait d’un « calcul de la pensée » permettant de résoudre tous les différends par le simple calcul. Au XIXe siècle, George Boole formalisait les lois de la logique en équations mathématiques grâce à son algèbre, tandis que Charles Babbage concevait la première machine à calculer universelle mécanique – précurseur théorique de l’ordinateur moderne. La mathématicienne Ada Lovelace, qui collabora avec Babbage, reconnut que cette machine pouvait traiter non seulement des nombres, mais aussi des symboles tels que des notes de musique ou des lettres. Cependant, elle mettait en garde : « La machine analytique ne prétend absolument pas produire quoi que ce soit par elle-même. Elle ne peut faire que ce que l’on sait lui dire de faire. »
L’impulsion décisive pour l’« intelligence artificielle » survint durant la Seconde Guerre mondiale.
Le mathématicien Norbert Wiener fut chargé d’améliorer la précision des canons antiaériens contre les bombardiers allemands – la Blitzkrieg d’Hitler ayant révélé la vulnérabilité des Alliés. Wiener développa une méthode permettant de prédire statistiquement le mouvement suivant d’un avion à partir de sa trajectoire : la naissance de la cybernétique, science du contrôle et de la communication chez les êtres vivants et les machines. Si un canon autorégulateur et le cerveau humain fonctionnent selon les mêmes principes de rétroaction, alors tous deux sont, en fin de compte, des systèmes d’information, selon les cybernéticiens. Wiener, qui posa ainsi les fondements théoriques de l’informatique moderne et de l’intelligence artificielle dans les années 1940, formula l’idée que les humains sont des machines biologiques de traitement de l’information et que la vision d’une intelligence entièrement mécanisable est réalisable.
Bien que cette idée ait gagné en popularité, elle s’est également heurtée à des résistances au sein de la communauté scientifique. L’un de ses critiques les plus importants fut le mathématicien autrichien Kurt Gödel. Avec ses théorèmes d’incomplétude de 1931, il démontra que même le système de règles et de calculs le plus complet ne peut jamais appréhender toutes les vérités mathématiques. Il existe des énoncés vrais qui ne peuvent être prouvés au sein d’un tel système. Gödel établit ainsi une limite fondamentale à la formalisation : la vérité dépasse ce qui peut être calculé ou prouvé. Cette question demeure centrale dans le débat actuel sur l’intelligence artificielle. Même l’algorithme le plus puissant reste un système formel et, par conséquent, se heurte, en principe, aux mêmes limitations.
Le test de Turing a-t-il créé le premier travesti numérique ?
Le terme « intelligence artificielle » a été inventé par John McCarthy lors de la conférence de Dartmouth en 1956. L’idée elle-même, cependant, était plus ancienne. Des années auparavant, le mathématicien britannique Alan Turing l’avait déjà esquissée dans son article.Machines informatiques et intelligenceEn 1950, une question provocatrice fut posée : « Les machines peuvent-elles penser ? » L’idée de créer une machine intellectuellement égale à l’homme n’a cessé de fasciner la science depuis lors.
Les premiers programmes, tels que Logic Theorist (1956), capable d’effectuer des démonstrations mathématiques, ou ELIZA (1966), qui simulait une conversation avec un psychothérapeute, ont alimenté cet espoir. Bien que limités à des tâches bien précises, ces programmes ont soudainement fait naître l’espoir d’une machine pensante. Dans de nombreux domaines, le progrès technologique était déjà confondu avec une véritable pensée. Puis survint le revers.
À la fin des années 1960, Marvin Minsky et Seymour Papert ont démontré les limites des techniques alors courantes.Chenréseaux neuronaux simples sur. Ces systèmes étaient même incapables d’apprendre la règle XOR, c’est-à-dire de reconnaître si une seule des deux lumières était allumée. Des réseaux neuronaux plus complexes auraient pu, en principe, résoudre ce problème. Mais à l’époque, aucune méthode pratique pour les entraîner de manière fiable ne existait. De nombreux chercheurs doutaient donc que les réseaux neuronaux puissent un jour tenir leurs promesses. Conjuguée à une puissance de calcul limitée et à des ensembles de données insuffisants, cette situation a conduit au premier grand hiver de l’IA. Le rêve de machines apprenantes persistait néanmoins, car les prérequis technologiques nécessaires faisaient encore défaut.
Dans les années 1980, les réseaux de neurones ont fait leur retour grâce à de nouvelles méthodes d’apprentissage. Cependant, la véritable percée n’est survenue qu’en 2012, lorsque AlexNet, grâce à de vastes ensembles de données et à la puissance des cartes graphiques, a remporté haut la main la compétition ImageNet, inaugurant ainsi l’ère de l’apprentissage profond. Ce succès a fait renaître le rêve initial, sous une nouvelle appellation. Depuis le début des années 2000, le terme « apprentissage profond » s’est imposé pour désigner ce domaine.Intelligence artificielle générale(AGI). Ce terme ne désigne plus des programmes spécialisés, mais l’ancienne vision d’une machine capable d’accomplir n’importe quelle tâche mentale aussi bien, voire mieux, qu’un humain.
Le mathématicien britannique Alan Turing a joué un rôle clé dans cette évolution. Avec ses théoriesnMachine de Turing de 1936 Avec son modèle conceptuel décrivant les problèmes résolubles par des procédures de calcul séquentielles, Turing a posé les fondements de l’informatique moderne. Parallèlement, il en a démontré les limites : tous les problèmes ne peuvent être résolus par un algorithme. Pour certaines questions, il n’existe par principe aucune méthode de calcul générale, quelle que soit la puissance de l’ordinateur. Ce faisant, Turing a façonné notre compréhension des capacités fondamentales des machines et de leurs limites.
Dans ce contexte, Turing posa une question différente en 1950. Dans son test de Turing, il ne cherchait plus à savoir si une machine pensait réellement ou possédait une conscience. Le facteur décisif était uniquement sa capacité à imiter un être humain en conversation de manière si convaincante que l’interlocuteur ne puisse plus les distinguer. De nombreux penseurs de renom dans le domaine des technologies, tels que Ray Kurzweil, Sam Altman, Demis Hassabis et Elon Musk, font encore référence à ce changement de perspective. Sur le plan philosophique, cependant, cette évolution des critères a marqué un tournant majeur, rappelant le développement des théories du genre depuis les années 1960.
Avec la distinction entre sexe (sexe biologique) et genre (genre social), qui a pris une importance particulière depuis les années 1990, le critère d’évaluation est passé d’une base objectivement observable à une définition fonctionnelle ou subjective. Ce n’est plus seulement la nature biologique ou matérielle qui est considérée comme déterminante, mais de plus en plus la manière dont une chose apparaît, est perçue ou vécue. Le test de Turing illustre un changement de perspective comparable dans le débat sur l’IA : ce n’est plus la nature intrinsèque ou la conscience potentielle d’une machine qui détermine sa classification comme « intelligente », mais plutôt la force de persuasion de son comportement observable.
Qui détient les clés de notre forteresse ?
Cette mystification profite avant tout à ceux qui financent, développent et contrôlent la technologie. Plus les attentes sont grandes, plus les milliards d’investissements affluent, plus les valorisations boursières grimpent et plus l’influence politique s’accroît. Parallèlement, le récit d’une intelligence quasi-surhumaine occulte son fonctionnement réel. Les grands modèles de langage apparaissent comme de mystérieuses boîtes noires dont les décisions sont rarement remises en question. Il est donc d’autant plus important d’ouvrir ces boîtes noires : il faut savoir clairement qui finance, développe, entraîne et contrôle ces systèmes, quelles données ils utilisent et à qui ils servent en définitive.
Le plus grand danger de ce qu’on appelle l’intelligence artificielle n’est pas que les machines développent un jour une conscience propre, mais plutôt que les humains leur attribuent des capacités qu’elles ne possèdent pas. Le test de Turing a contribué à déplacer le critère d’évaluation de la pensée réelle vers sa simulation convaincante. Cette idée est à la base du discours actuel sur l’IA générale : la vision d’un super-héros technologique qui guérit les maladies, met fin aux guerres, prévient les catastrophes et triomphe de la mort. Mais une société qui espère le salut par les machines ne risque-t-elle pas de se rendre inévitablement plus passive ?
Là où juges, fonctionnaires, médecins, enseignants ou soldats délèguent progressivement leurs responsabilités à des algorithmes, la technologie menace de remplacer le jugement humain. La Chine a déjà testé ses premiers juges IA, l’Albanie a nommé un ministre de l’IA chargé de l’administration publique, et les forces armées modernes s’appuient de plus en plus sur des essaims de drones autonomes dotés d’IA. Les machines n’assument aucune responsabilité. Elles ne portent pas non plus la culpabilité. Ces deux aspects restent du ressort des humains. Mais moins leur fonctionnement est compris, plus leurs résultats sont perçus comme des jugements.
Imaginez une forteresse dont la porte s’ouvre et se ferme automatiquement : contrôlée par des capteurs, la reconnaissance faciale et un système d’autocorrection. Au départ, cette technologie est au service de l’humanité. Mais peu à peu, l’humanité oublie comment actionner la porte elle-même. Leurs enfants ne connaissent que le mécanisme automatique, leurs petits-enfants ignorent même son fonctionnement.
Lorsqu’un capteur tombe en panne, qu’une erreur logicielle survient ou que le système est manipulé, personne ne peut intervenir. Finalement, ce n’est pas la machine qui a pris le contrôle, mais l’humanité qui l’a perdu. La question cruciale n’est donc pas : « Quel sera le degré d’intelligence de la soi-disant IA ? » mais plutôt : « Si elle n’agit jamais de manière indépendante, qui parle à travers elle, dans l’intérêt de qui est-elle déployée et qui porte la responsabilité de ses décisions ? »
Author: The Insider
Rédacteur et développeur web