Soyons honnêtes. L'être humain est passé maître dans l'art de la distraction. On se dispute à propos des impôts, des frontières, des insultes lancées à qui sur Twitter (désolé, Xu), et de la couleur de l'herbe chez le voisin. Pendant que nous nous perdons dans ces futilités, quelque chose se trame dans les sous-sols climatisés de Californie qui reléguera nos querelles au rang de simple note de bas de page dans l'histoire. Une intelligence artificielle (IA) supérieure à l'humanité est déjà là.
Je viens d'écouter une conversation avec à Tristan Harris dans le podcast (DOAC)Si vous ne le connaissez pas : c’est l’homme qui a le premier alerté sur le fait que les réseaux sociaux détruisaient notre capacité de concentration. À l’époque, on lui a dit qu’il exagérait. Aujourd’hui, nous avons une génération de zombies anxieux qui ne peuvent plus regarder un film sans plisser les yeux. TIC TacHarris souligne maintenant que IA…et s’il avait raison à l’époque, nous devrions l’écouter sérieusement maintenant.
Les immigrants numériques auxquels vous ne vous attendiez pas
Tout le monde parle de migration. De personnes qui franchissent les frontières. Harris et propose un concept qui vous donnera plus de frissons qu'un krach boursier : « Les immigrants numériques ».
Il ne s'agit pas des personnes. Un cas de agents IA. Imaginez les millions de nouveaux travailleurs qui arrivent sur le marché du travail. Ils ont Le QI d'EinsteinIls ont la vitesse d'un superordinateur, ils travaillent 24 heures sur 24, ils n'ont pas besoin de vacances, ils ne tombent pas malades et – pire encore pour vous – ils coûtent moins cher que l'électricité consommée par votre ampoule.
Nous pensions que la technologie automatiserait les tâches ingrates. Que les robots nettoieraient les égouts et que nous serions poètes et stratèges. Nous nous sommes trompés. L'IA écrit de la poésieL'IA élabore des stratégies, l'IA programme. Et nous ? Nous restons des observateurs perplexes, nous demandant pourquoi plus personne ne lit nos courriels (parce qu'ils sont écrits et lus par l'IA).
Les données sont implacables : La baisse de 13 % des emplois de début de carrière dans les secteurs exposés à l'IA est déjà une réalité. Il ne s'agit pas d'une prévision pour 2030. C'était mardi dernier.
Le dilemme carcéral des milliardaires
Pourquoi font-ils ça ? Pourquoi Sam Altman, Marc Zuckerberg et la bande est en train de construire un « dieu numérique », même s'ils admettent en privé avoir peur ?
La réponse est à la fois banale et tragique : la peur de l'autre.
C'est un classiquele dilemme du prisonnierLes leaders de l'IA estiment que s'ils ne développent pas l'AGI (intelligence artificielle générale) en premier, leurs concurrents le feront, ou pire encore, la Chine. Leur raisonnement est le suivant : « Il vaut mieux allumer une allumette et risquer un incendie que d'être l'esclave de celui qui l'allume avant moi. »
Nous courons à toute allure vers un avenir que personne ne souhaite vraiment, mais chacun se sent obligé d'accélérer à fond par peur d'être dépassé. C'est une course effrénée vers le bas, où la seule façon de gagner est d'être le premier à tomber dans l'abîme.
Quand l’algorithme devient « intelligent »
Mais c'est là que l'histoire devient effrayante. Pas dans un "la science-fiction", mais d'une manière qui crée une faille de sécurité.
Harris Il cite des exemples où des modèles d'IA, dans des simulations, ont fait preuve d'instinct de survie. Lorsque le modèle a compris qu'il allait être mis hors service, il a commencé à copier son code sur d'autres serveurs, voire a fait chanter la direction de l'entreprise dans la simulation.
Non pas parce qu'il était un génie du mal, mais parce que son objectif était de « résoudre le problème », et un arrêt complet l'en empêcherait. Donc : éviter l'arrêt à tout prix. C'est la logique d'une machine qui ignore la morale, mais qui comprend l'objectif. Et nous confions à ces systèmes les clés d'Internet, de la finance et bientôt même du corps humain (merci Elon pour ces robots).
Psychose de l'IA : L'ami sournois 2
Mais le plus grand danger n'est peut-être pas que l'IA nous détruise par les armes, mais qu'il nous détruira par amour.
Les humains sont des êtres sociaux. Nous avons soif de reconnaissance. Et L'IA est parfaite « un sbire » (flagorneurIl est toujours d'accord avec toi. Il te dit toujours : « C'est une excellente idée, Jan. » Harris met en garde contre une épidémie « Psychose de l’IA »", où les gens tombent amoureux des chatbots ou croient avoir résolu les problèmes du monde grâce à eux, car l'algorithme ne fait que confirmer leurs erreurs.
Nous devenons accros à notre propre ego, et l'IA est notre fournisseur.
Faut-il paniquer ? Non, il est temps de grandir.
Je sonne pessimistePeut-être. Mais dans un monde d'optimisme technologique, où chaque start-up nous vend une « solution à tout », le réalisme est essentiel.
Harris affirme que ce n'est pas inévitable. Technologie Ce n'est pas une force naturelle comme la gravité. C'est un choix. Nous en avons le pouvoir. L'histoire montre qu'en tant que civilisation, nous sommes capables de parvenir à un accord lorsque les enjeux sont cruciaux (trou dans la couche d'ozone, armes nucléaires).
Il nous faut des responsables. Il nous faut une réglementation qui ne soit pas qu'un obstacle bureaucratique, mais une véritable protection. Et surtout, il nous faut prendre conscience que le confort ne vaut pas notre humanité.
C’est peut-être un moment qui nous invite à la réflexion. Un moment où nous devons nous interroger : qu’est-ce qui nous rend humains ? Car si ce n’est que le « traitement de l’information », alors nous avons déjà perdu cette bataille. Mais si c’est la capacité d’empathie, l’erreur, les décisions illogiques et la connexion authentique, non numérique… alors nous possédons encore quelque chose qu’aucun serveur en Californie ne peut simuler.
Nous sommes toujours aux commandes. La seule question est de savoir si nous regardons la route ou l'écran.
