Sam Altman, après avoir été attaqué avec une bouteille incendiaire chez lui, a publié un message : Je aime ma famille, et je crois que l'IA appartient à tout le monde

Auteur : Sam Altman

Traduction : Deep潮 TechFlow

Deep潮 introduction : Quelqu’un a lancé une bouteille incendiaire chez Sam Altman à 3h45 du matin. Il a rarement montré une photo de famille, espérant que cela pourrait dissuader la prochaine personne de nous lancer une bouteille incendiaire, peu importe comment elle le voit. Cet article ne se limite pas à dénoncer l’attaque, il expose aussi pour la première fois sa conviction complète sur l’IA : l’IA doit être démocratisée, un petit nombre de laboratoires ne devraient pas décider de l’avenir de l’humanité, et la tentation de “ne pas pouvoir revenir en arrière une fois qu’on voit l’AGI” remplit ce domaine de conflits dramatiques à la Shakespeare.

Voici une photo de ma famille. Je les aime plus que tout.

Je souhaite que cette image ait du pouvoir. En général, nous préservons une vie privée assez stricte, mais dans ce cas, je partage une photo, en espérant qu’elle pourrait dissuader la prochaine personne de nous lancer une bouteille incendiaire, peu importe comment elle me perçoit.

La première personne l’a fait hier soir, à 3h45 du matin. Heureusement, elle a rebondi sur la maison, personne n’a été blessé.

Les mots ont aussi du pouvoir. Il y a quelques jours, un article incendiaire à mon sujet a été publié. Hier, quelqu’un m’a dit qu’il pensait que cet article était apparu à un moment où l’anxiété face à l’IA était extrême, rendant ma situation plus dangereuse. Je n’y ai pas prêté attention à l’époque.

Maintenant, je me réveille en pleine nuit, furieux, et je réalise que j’ai sous-estimé la puissance des mots et de la narration. C’est peut-être le bon moment pour parler de quelques choses.

Tout d’abord, ma conviction.

Travailler pour la prospérité de tous, donner du pouvoir à chacun, faire avancer la science et la technologie, ce sont pour moi des devoirs moraux.

L’IA sera l’outil le plus puissant pour étendre les capacités et le potentiel humains. La demande pour cet outil est pratiquement sans limite, et les gens l’utiliseront pour faire des choses incroyables. Le monde devrait disposer d’une grande quantité d’IA, et nous devons comprendre comment y parvenir.

Tout ne sera pas facile. La peur et l’anxiété face à l’IA sont légitimes ; nous assistons à un changement social majeur, peut-être le plus grand de toute l’histoire. Nous devons assurer la sécurité, ce n’est pas seulement une question d’alignement d’un modèle — il faut une réponse collective de la société pour faire face aux nouvelles menaces. Cela inclut de nouvelles politiques pour traverser une période de transition économique difficile, afin d’atteindre un avenir meilleur.

L’IA doit être démocratisée ; le pouvoir ne peut pas être trop concentré. Le contrôle de l’avenir appartient à tous et à leurs institutions. L’IA doit donner du pouvoir aux individus, nous devons décider collectivement de notre futur et de nouvelles règles. Je ne pense pas qu’il soit correct que quelques laboratoires d’IA prennent les décisions les plus importantes concernant notre avenir.

L’adaptabilité est cruciale. Nous apprenons tous très rapidement de nouvelles choses ; certaines de nos convictions seront justes, d’autres erronées, et parfois nous devons changer rapidement d’avis à mesure que la technologie et la société évoluent. Personne ne comprend encore pleinement l’impact de la superintelligence, mais il sera immense.

Ensuite, quelques réflexions personnelles.

En regardant mon premier dix ans chez OpenAI, je peux citer beaucoup de choses dont je suis fier, ainsi qu’une multitude d’erreurs.

Je pense à notre prochain procès avec Elon, et je me souviens à quel point je tenais à ne pas accepter qu’il veuille un contrôle unilatéral sur OpenAI. J’en suis fier, fier du chemin étroit que nous avons parcouru à l’époque, qui a permis à OpenAI de continuer d’exister, ainsi que de tous les succès qui ont suivi.

Je ne suis pas fier de ne pas avoir su gérer le conflit, ce qui m’a causé beaucoup de douleur, ni de la mauvaise gestion de mes conflits avec l’ancien conseil d’administration, qui a créé beaucoup de chaos pour l’entreprise. Dans la trajectoire folle d’OpenAI, j’ai commis beaucoup d’autres erreurs ; je suis un être imparfait, au cœur d’une situation exceptionnellement complexe, essayant chaque année de m’améliorer, toujours au service de la mission. Dès le début, nous savions à quel point le risque de l’IA était grand, et que les divergences personnelles entre des personnes bien intentionnées pouvaient être amplifiées de façon extrême. Mais vivre ces conflits intenses et devoir souvent les arbitrer a un coût élevé. Je suis désolé pour ceux que j’ai blessés, j’espère apprendre plus vite.

Je suis aussi très conscient qu’OpenAI est aujourd’hui une plateforme majeure, pas une petite startup, et que nous devons fonctionner de manière plus prévisible. Les dernières années ont été extrêmement tendues, chaotiques et sous haute pression.

Mais ce dont je suis le plus fier, c’est que nous réalisons notre mission, ce qui semblait presque impossible au début. Malgré tous les obstacles, nous avons compris comment construire une IA très puissante, comment accumuler suffisamment de capital pour construire l’infrastructure nécessaire à sa livraison, comment créer des produits et des entreprises, comment déployer à grande échelle des services relativement sûrs et robustes, et bien plus encore. Beaucoup d’entreprises disent vouloir changer le monde ; nous l’avons vraiment fait.

Enfin, quelques idées sur cette industrie.

Ce que j’ai appris ces dernières années, et ma vision des nombreuses tragédies shakespeariques entre entreprises de notre domaine, se résument à ceci : “Une fois que vous voyez l’AGI, vous ne pouvez pas ne pas la voir.” Elle possède une véritable dynamique de “l’anneau de pouvoir”, poussant les gens à faire des choses folles. Je ne dis pas que l’AGI elle-même est l’anneau, mais que c’est une philosophie totalitaire de “devenir celui qui contrôle l’AGI”.

La seule solution que je vois est d’aller vers une large diffusion de la technologie, sans que personne ne possède l’anneau. Deux moyens évidents d’y parvenir sont l’autonomisation des individus et la garantie que les systèmes démocratiques restent en contrôle.

Il est crucial que le processus démocratique reste plus fort que les entreprises. La législation et la réglementation évolueront, mais nous devons travailler dans le cadre du processus démocratique, même s’il est chaotique et plus lent que ce que nous souhaiterions. Nous voulons être une voix et un acteur d’intérêt, mais sans détenir tout le pouvoir.

Beaucoup de critiques de notre secteur proviennent de préoccupations sincères concernant les risques extrêmes de cette technologie. C’est tout à fait légitime, et nous accueillons volontiers les critiques bienveillantes et le débat. Je ressens profondément l’anti-technologie, il est évident que la technologie n’est pas toujours bénéfique pour tout le monde. Mais, dans l’ensemble, je crois que le progrès technologique peut rendre l’avenir incroyablement meilleur, pour ta famille et la mienne.

Lorsque nous engageons ce débat, nous devons réduire la rhétorique et les stratégies, et essayer d’avoir moins d’explosions à la maison, que ce soit au sens figuré ou littéral.