Les problèmes de l'altruisme efficace vont au-delà de Sam Bankman

Sam Bankman-Fried a fait de l'altruisme efficace une ligne de force, mais sa philosophie de faire le bien au maximum masque une culture florissante de comportement prédateur.

Ellen Huet

Illustration : Sophie Gullbrants pour Bloomberg Businessweek

Avantage d'abonné

S'abonner

Sonia Joseph avait 14 ans lorsqu'elle a lu pour la première fois Harry Potter et les méthodes de la rationalité, une fanfiction méga-populaire qui réinvente le garçon sorcier en un empiriste rigide. Ce Potter rationnel teste les sorts de ses professeurs avec la méthode scientifique, se moque de toutes les incohérences qu'il trouve et résout tous les problèmes des sorciers avant qu'il n'atteigne l'âge de 12 ans. "J'ai adoré ça", dit Joseph, qui a lu HPMOR quatre fois dans son adolescence. C'était une Amérindienne ambitieuse et neurodivergente qui ne se sentait pas à sa place dans son lycée de banlieue du Massachusetts. L'histoire, dit-elle, "fait beaucoup appel aux étrangers intelligents".

Une recherche d'autres écrits par l'auteur de la fanfic, Eliezer Yudkowsky, a ouvert plus de portes à Joseph. Depuis le début des années 2000, Yudkowsky soutient qu'une intelligence artificielle hostile pourrait détruire l'humanité en quelques décennies. Cette croyance motrice a fait de lui un parrain intellectuel dans une communauté de personnes qui se disent rationalistes et visent à garder leur pensée impartiale, même lorsque les conclusions sont effrayantes. L'intérêt naissant de Joseph pour le rationalisme l'a également attirée vers un altruisme efficace, une philosophie morale connexe devenue tristement célèbre par son association avec l'ex-milliardaire crypto en disgrâce Sam Bankman-Fried. À la base, l'altruisme efficace met l'accent sur l'utilisation de la pensée rationnelle pour avoir un impact positif maximal sur le monde. Ces groupes distincts mais qui se chevauchent se sont développés dans des forums en ligne, où les publications sur les dangers de l'IA sont devenues courantes. Mais ils se sont également regroupés dans la Bay Area, où ils ont commencé à esquisser un domaine d'étude appelé la sécurité de l'IA, un effort pour rendre les machines moins susceptibles de nous tuer tous.