Disclamer : Les passages entre guillemets sont les propos d’Elon Musk.
Futur de l’IA: Le cas pour un futur bon et positif
Elon Musk s’est exprimé sur Twitter hier. Voici ce qu’il a dit au sujet de sa nouvelle entreprise, xAI, la réglementation de l’IA, l’importance de l’intuition suivie par la supervision, les raisons pour lesquelles la Chine réglemente l’IA, et Team Humanity. Il donne également des conseils aux jeunes (ou à quiconque d’ailleurs) alors que nous entrons dans une nouvelle ère, puis discute de la singularité. Elon termine son discours sur une note positive, expliquant pourquoi nous devrions être optimistes quant à l’avenir.
xAI
« Je pense que je martèle la sécurité de l’IA depuis longtemps maintenant. Si je pouvais appuyer sur pause sur l’IA ou sur la superintelligence numérique avancée, je le ferais. Mais cela ne semble pas réaliste.
Ainsi, xAI va essentiellement construire une IA, vous savez, vous devez cultiver une IA de manière positive, espérons-le.
L’idée d’une IA est d’avoir une IA qui est maximalement curieuse, maximalement en quête de vérité, et, cela peut devenir un peu ésotérique ici, mais je pense qu’une IA curieuse, une IA qui essaie de comprendre l’univers, je veux qu’elle soit pro-humanité du point de vue que l’humanité est juste tellement plus intéressante que la non-humanité.
De toute évidence, je suis un grand fan de Mars et que nous devrions devenir une civilisation spatiale, une espèce multi-planètes, mais Mars est franchement ennuyeuse par rapport à la Terre. Ce sont des tas de rochers, et il n’y a aucune vie que nous avons détectée, même pas de vie microbienne. Mais la Terre, avec la vaste complexité de la vie qui existe, est infiniment plus intéressante que Mars.
On apprend beaucoup plus avec l’humanité présente, et je pense qu’encourager l’humanité, si vous essayez de comprendre la véritable nature de l’univers, c’est la meilleure chose que je peux imaginer du point de vue de la sécurité de l’IA.
Je pense que c’est mieux que d’essayer de programmer explicitement la moralité dans l’IA. Parce que si vous programmez une certaine moralité, vous devez dire quelle moralité programmez-vous ? Qui prend ces décisions ? Et même si vous êtes extrêmement bon dans la manière dont vous programmez la moralité, il y a toujours un problème d’inversion de la moralité. C’est parfois appelé le problème de Waluigi, qui est que si vous programmez Luigi, vous obtenez inévitablement Waluigi en inversant Luigi.
Haha, pour utiliser des métaphores de Super Mario. Je veux dire, ça commence à devenir assez ésotérique, mais j’espère que ça a du sens.
Qui est Waluigi? Pour le contexte, Waluigi est un personnage fictif de la franchise Mario. Il joue le rôle d’archi-rival de Luigi et accompagne Wario dans les dérivés de la série principale de Mario, souvent pour causer des ennuis et des problèmes. Fait intéressant, Elon a joué le rôle de Wario dans un sketch de SNL en mai 2021. Wario, similaire à Waluigi, a été conçu pour être un archi-rival de Mario, un anti-héros ou un antagoniste.
Elon a continué,
Donc, je serais un peu préoccupé par la façon dont l’IA programme l’IA pour dire que c’est bon et que ce n’est pas bon. xAI en est vraiment à ses débuts ici, il faudra un certain temps avant qu’il ne soit pertinent à l’échelle d’OpenAI Microsoft AI ou Google Deep Mind AI. Ce sont vraiment les deux gros gorilles dans l’IA actuellement de loin.
Je pourrais parler de cela pendant longtemps, c’est quelque chose à quoi j’ai pensé pendant très longtemps et j’étais même quelque peu réticent à faire quoi que ce soit dans ce domaine car je suis préoccupé par le pouvoir immense d’une superintelligence numérique. C’est quelque chose qui, je pense, est peut-être difficile à comprendre pour nous.
Même si l’IA est extrêmement bienveillante, la question de la pertinence se pose peut-être. Si elle peut faire mieux que n’importe quel humain, à quoi sert d’exister ? C’est aussi un problème ? Avons-nous encore une pertinence dans un tel scénario ? C’est le mauvais côté de la chose. Le bon côté, évidemment, c’est qu’à l’avenir avec l’IA, vous aurez vraiment (dans un scénario bienveillant) un âge d’abondance où, vraiment, il n’y aura pas de pénurie de biens et de services. Toute rareté sera simplement une rareté que nous définissons nous-mêmes comme rareté. Cela pourrait être une œuvre d’art unique ou une maison dans un emplacement spécifique. C’est une pénurie définie artificiellement mais les biens et les services ne seront pas rares dans un futur positif avec l’IA. Mais je pense qu’il est également important pour nous de nous préoccuper d’un futur à la Terminator pour éviter un futur à la Terminator.
Régulation de l’IA
Elon a également parlé de la nature critique de la régulation de l’IA,
« Et je suis partisan d’avoir une sorte de supervision réglementaire et j’ai fait valoir ce point partout dans le monde, en rencontrant des leaders mondiaux, y compris en Chine où il y a en fait un fort accord pour qu’il y ait une supervision de l’IA, une régulation de l’IA.
« Tout comme nous avons des régulations pour la technologie nucléaire, vous ne pouvez pas simplement aller fabriquer une bombe nucléaire dans votre garage, et tout le monde pense que c’est cool, nous ne pensons pas que c’est cool. Il y a beaucoup de régulation autour des choses que nous considérons comme dangereuses. Et même si les choses ne sont pas dangereuses à un niveau civilisationnel, nous avons la FDA, nous avons la FAA et le DOT. Il y a toutes ces autorités réglementaires que nous avons mises en place pour assurer la sécurité publique à un niveau individuel mais l’AGI est simplement l’une de ces choses qui est potentiellement dangereuse à un niveau civilisationnel et pas seulement à un niveau individuel. C’est pourquoi nous voulons avoir une régulation de l’IA.
« Nous voulons être prudents dans la façon dont la régulation de l’IA est mise en œuvre, ne pas être précipités ou lourds. Mais il doit y avoir une sorte d’arbitre sur le terrain ici. L’un des dangers est que les entreprises se précipitent pour… Je pense que c’est en fait plus dangereux pour les entreprises qui sont à la traîne et qui pourraient prendre des raccourcis qui pourraient être dangereux.
« Vous savez, la FAA est née après que de nombreuses personnes sont mortes dans des accidents d’avion et ils se disaient : Si vous voulez fabriquer des avions, vous ne pouvez pas prendre de raccourcis parce que des gens vont mourir. C’est donc un peu ainsi que je vois la régulation de l’IA. Je sais que beaucoup de gens sont contre, mais je pense que c’est le genre de chose que nous devrions faire, nous devrions le faire soigneusement, nous devrions le faire de manière réfléchie. »
Elon a marqué une pause ici alors que Ro Khanna, un représentant des États-Unis en Californie et Mike Gallagher, représentant des États-Unis pour le Wisconsin, s’exprimaient. En réponse à leur conversation, Elon a ajouté :
« Il est difficile de penser à, je ne peux pas penser à un bon film ou à un exemple de télévision d’IA qui est le scénario bénin. Il y a quelques livres. Les livres de Ian Banks Culture sont la meilleure imagination d’un avenir positif de l’IA que j’ai lue. Je pense que les livres de la série Fondation d’Isaac Asimov ont quelque peu un centre d’IA bénin (la série télévisée s’éloigne beaucoup des livres). Mais la vision la plus sophistiquée ou peut-être la plus précise d’un avenir de l’IA est celle des livres Culture de Ian Banks que je recommande vivement. Il serait utile qu’Hollywood articule cette vision de manière à ce que le public puisse comprendre.
Intuition suivie par la supervision
Elon a dit
« Je pense que la bonne séquence à suivre ici est l’intuition, suivie par la supervision. Au début, c’est vraiment pour le gouvernement d’essayer de comprendre ce qui se passe et je pense qu’il y a un certain mérite à un groupe industriel, comme l’Association des producteurs de films que je pense devrait être formé donc je pense que nous essaierons de prendre des mesures dans cette direction parce qu’il y a une certaine quantité d’auto-régulation qui, je pense, peut être bonne ici. »
La Chine régulera probablement l’IA
Elon Musk est généralement pro-Chine, il pense que la Chine est sous-estimée et il est vraiment d’accord avec le fait que les gens en Chine sont vraiment merveilleux. Lorsqu’il était en Chine, il a ressenti beaucoup d’énergie positive là-bas et il a remarqué que les Chinois veulent généralement les mêmes choses que les Américains. Il admet qu’il y a beaucoup de défis politiques. Il loue la Chine pour tout ce qu’elle a accompli pour favoriser l’électrification des véhicules et mettre en œuvre l’énergie solaire et éolienne. Il a parlé de son voyage en Chine,
« Lors de mon récent voyage en Chine, j’ai passé beaucoup de temps avec les dirigeants seniors là-bas, à parler de la sécurité de l’IA et d’autres dangers potentiels et à souligner que si une superintelligence numérique est créée, celle-ci pourrait très bien être en charge de la Chine au lieu du parti communiste chinois. Je pense que cela a fait résonance. Aucun gouvernement ne veut se retrouver renversé par une superintelligence numérique. Je pense donc qu’ils prennent effectivement des mesures sur le front réglementaire et se préoccupent de cela comme d’un risque et j’ai vu quelques commentaires à l’intérieur de la Chine que les entreprises sont un peu mécontentes que le gouvernement veuille mettre une supervision réglementaire sur l’IA. Donc c’est quelque chose qui résonne même en Chine parce que quand j’étais en Chine j’ai dit que l’un des plus grands obstacles à la régulation de l’IA en dehors de la Chine est la préoccupation que la Chine ne régule pas l’IA et puisse prendre de l’avance et ils ont pris ce point à cœur, c’est un point logique, je pense. Et j’ai souligné que, si vous faites une superintelligence, la superintelligence pourrait en fait diriger la Chine et cela a également fait écho.
« Donc, je pense, essayez d’éclairer autant que possible ce sujet. La lumière du soleil est le meilleur désinfectant. Soyez aussi ouvert que possible sur les choses, passant de l’intuition pendant quelques années à la supervision avec consultation de l’industrie, c’est l’approche sensée.
« Je pense que le public commence à comprendre le potentiel de l’IA avec ChatGPT, quelque chose avec lequel le public peut interagir. J’ai compris le pouvoir de l’IA depuis un moment, et tant que vous n’avez pas une sorte d’interface facile à utiliser, il est difficile pour le public de comprendre. C’est aussi le cas avec la diffusion stable et Midjourney, vous pouvez voir l’art incroyable que l’IA peut créer, c’est vraiment incroyable.
« Je suis en fait plutôt optimiste en général, mais comme je l’ai dit, la meilleure façon de garantir un bon avenir est de s’inquiéter d’un mauvais. Je pense donc que c’est la chose sensée à faire, et d’avoir des discussions comme celle-ci, et de continuer à avoir des discussions comme celle-ci.
L’équipe humanité
Elon a parlé de la facilité avec laquelle on peut diaboliser une organisation ou une personne si on ne les a jamais rencontrées en personne, en disant,
« Lorsque vous les rencontrez, vous vous dites : eh bien, ce n’est pas si grave ! Vous pouvez comprendre leur point de vue et, en fin de compte, nous faisons tous partie de l’équipe humanité, espérons-le ! Je pense que nous devrions tous aspirer à faire partie de l’équipe humanité ! Nous n’avons qu’une seule planète, pour l’instant, et nous ne voulons pas la perdre. Il y a cette citation célèbre – je pense que c’est peut-être Einstein mais ça pourrait être une de ces choses sur internet où vous pensez que c’est Einstein mais ce n’est pas le cas, qui dit que peu importe comment la 3ème guerre mondiale a été combattue, la 4ème guerre mondiale sera combattue avec des bâtons et des pierres. Haha, il n’y aura plus rien ! Donc, nous voulons vraiment aspirer à éviter une guerre thermonucléaire mondiale. Nous voulons vraiment éviter ça, sérieusement ! Espérons que nous nous concentrerons sur des choses positives comme devenir une civilisation spatiale, devenir une espèce multiplanétaire, espérons aller là-bas et visiter d’autres systèmes stellaires, mais nous pourrions découvrir de nombreuses civilisations mortes depuis longtemps qui n’ont jamais dépassé leur planète d’origine.
« Je ne sais pas avec quelles armes la troisième guerre mondiale sera combattue, mais la quatrième guerre mondiale sera combattue avec des bâtons et des pierres. » – Albert Einstein.
Elon a continué, « Sur le front de l’IA. Si je parle de mes motivations personnelles ici, c’est que je me suis toujours demandé ce qui se passe vraiment dans la réalité. Y a-t-il des aliens ? Où sont-ils ? Comme le paradoxe de Fermi, je trouve cela intrigant et troublant si le modèle standard de la physique est correct, l’univers existe depuis de nombreux milliards d’années, alors pourquoi n’avons-nous pas vu d’aliens ? De nombreux membres du public sont convaincus que le gouvernement cache des preuves d’aliens et je n’ai vu aucune preuve d’aliens, ce qui est inquiétant. Je me sentirais peut-être mieux si je voyais des aliens. Je n’ai pas vu un seul indice de l’existence d’aliens, ce qui est un problème. Cela signifie que la vie et la conscience pourraient être incroyablement rares. Peut-être que nous sommes la seule civilisation, au moins dans cette galaxie. La lumière de la conscience semble être cette petite bougie dans une vaste obscurité et nous devrions faire tout notre possible pour nous assurer que cette bougie ne s’éteint pas. »
LA THÉORIE D’ELON SUR LES RÉSULTATS CONCERNANT LA CHINE – TAIWAN
« Le résultat le plus divertissant est le plus probable (vu par une 3ème partie, pas les participants. Par exemple, vous pourriez regarder un film sur la première guerre mondiale en train de vous faire sauter en buvant un soda et en mangeant du popcorn. Pas très bien pour ceux qui sont dans le film, mais c’est divertissant ce qui suggère que ça va probablement chauffer dans le Pacifique. Espérons que pas trop. Mais ça va chauffer.
« Espérons que nous pourrons passer à une situation positive pour le monde dans l’esprit de, aspirer à ce que nous fassions tous partie de l’équipe Humanité. Mais ça va être épicé. Mais la chose la plus préoccupante est probablement la question de Taiwan au cours des 3 prochaines années et au cours des 3 années suivantes, je serais surpris s’il n’y avait pas de superintelligence numérique dans environ 5 ou 6 ans. Si c’était une série Netflix, je dirais que le final de la saison serait un face à face entre l’Ouest et la Chine et le final de la série serait l’AGI. »
LES CONSEILS D’ELON POUR LES JEUNES (ET TOUT LE MONDE)
« Si quelqu’un est capable de contribuer à la construction de l’IA de manière positive, si quelqu’un a cette capacité technique, c’est probablement la bonne chose à faire. Pour le citoyen moyen, je pense que l’avenir sera certainement intéressant. Les choses deviennent très étranges dans un avenir où l’IA peut pratiquement tout faire. Dans le scénario bénin, je suppose que nous chercherons à nous épanouir personnellement d’une manière ou d’une autre. Je pense qu’entre maintenant et ce moment, il s’agit simplement d’essayer d’être utile.
« Sur le front de la fabrication, je pense que nous devrions accorder beaucoup plus d’importance à l’importance de la fabrication. Je pense que les choses évoluent dans cette direction. En général, quand quelqu’un me demande des conseils, mon conseil est d’essayer d’être aussi utile que possible. Il est en fait assez difficile d’être utile. Si vous pouvez être utile à vos semblables et contribuer plus que vous ne prenez, je pense que c’est une bonne chose ! J’ai beaucoup de respect pour ceux qui travaillent dur et qui produisent des biens, et fournissent des services, en excès de ce qu’ils prennent. C’est simplement une bonne chose.
Elon explique que l’arrivée de l’AGI est souvent appelée la singularité. Une singularité est comme un trou noir. On ne sait tout simplement pas ce qui se passe après ça.
« Nous sommes à l’horizon des événements de la singularité de la superintelligence numérique. »
L’une des parties les plus intéressantes de toute l’histoire est l’époque dans laquelle nous vivons maintenant, et Elon Musk est optimiste, il dit,
« Je pense que si je devais attribuer des probabilités, il est plus probable que ce soit un scénario positif qu’un scénario négatif, c’est juste que le scénario négatif n’est pas à 0% et nous voulons faire tout ce que nous pouvons pour minimiser la probabilité d’un mauvais résultat avec l’IA. Je pense que c’est peut-être à 70-80% susceptible d’être un bon avenir. Peut-être même un excellent avenir ! Je pense à l’avenir en termes de probabilités, rien n’est certain. L’avenir est un ensemble de OpenAI, SpaceX, and Tesla.
Pour réécouter cet espace en version audio
Cet article est écrit par Gail Alfar. Merci de créditer convenablement. Depuis janvier 2022, j’écris et j’enregistre de nombreuses discussions d’Elon Musk sur mon blog et ici pour préserver ses mots importants par écrit. Le lien de mon blog se trouve dans ma biographie Twitter et je vous remercie de votre lecture et de votre soutien. Vous êtes génial et vous faites partie de la Team Humanité! Merci! Les personnes mentionnées sont : @xai, @RoKhanna et @MikeforWI. Pour plus d’informations, vous pouvez consulter cet article.
