LessWrong

LessWrong, écrit également Less Wrong, est un blogue communautaire et un forum discutant entre autres de biais cognitifs, de philosophie, de psychologie, d'économie, de rationalité et d'intelligence artificielle[1],[2].

Less Wrong
Histoire
Prédécesseur
Overcoming Bias (d)
Cadre
Type
Organisation
Fondateur
Produit
Site web

Objectif

LessWrong promeut les changements de mode de vie devant conduire à plus de rationalité et à l'amélioration de soi. Les postes ont souvent pour objectif d'améliorer l'évaluation des preuves et d'éviter les biais cognitifs, par exemple grâce à l'utilisation du théorème de Bayes comme outil d'aide à la décision[2]. L'accent est aussi mis sur les barrières psychologiques qui entravent une bonne prise de décision, notamment le conditionnement de la peur[3] et les biais cognitifs étudiés par le psychologue Daniel Kahneman[4].

LessWrong s'intéresse également au transhumanisme, aux menaces existentielles et à la singularité. L'observer a noté que "bien que se décrivant comme un forum sur "l'art de la rationalité humaine", le groupe de New York Less Wrong [...] se concentre sur une branche du futurisme qui semblerait plus à l'aise dans un multiplex 3D qu'un séminaire universitaire: la menace existentielle (ou, avec un peu de chance, la promesse utopique) connue sous le nom de singularité technologique. [...] Se faire passer pour des «rationalistes», comme l’a fait l’équipe de LessWrong, rend beaucoup plus difficile de les écarter comme un « culte apocalyptique »[5]".

Historique

LessWrong a été développé à partir de Overcoming Bias, un blog consacré à la rationalité humaine, qui a débuté en avec comme principaux contributeurs le théoricien de l’intelligence artificielle Eliezer Yudkowsky et l’économiste Robin Hanson. En , les publications de Yudkowsky ont été utilisées pour créer le blog communautaire LessWrong, et Overcoming Bias est devenu le blog personnel de Hanson[6].

En 2017 fut annoncé que l'ancien correspondant scientifique de BuzzFeed, Tom Chivers publierait un livre sur LessWrong avec l'éditeur Weidenfeld & Nicolson[7].

Basilic de Roko

En , Roko, contributeur de LessWrong posta une expérience de pensée similaire au pari de Pascal, dans laquelle un futur système d'intelligence artificielle, par ailleurs bienveillant, torture des simulations de personnes qui n'ont pas œuvré pour le mettre en place. Elle est connue sous le nom de « basilic de Roko », car le seul fait d'entendre parler de cette idée inciterait davantage l'hypothétique intelligence artificielle à recourir à ce chantage. Yudkowsky supprima les publications de Roko sur le sujet, la qualifiant de « stupide ». La discussion sur le basilic de Roko fut interdite sur LessWrong pendant plusieurs années car elle aurait provoqué une dépression nerveuse chez certains lecteurs[8],[5]. L'interdiction fut levée en [9].

Cracked qualifia le basilic de Roko de « chose la plus stupide de tout Internet » et a décrit l'expérience de pensée comme « un non-sens total, mais également l'expression parfaite des problèmes de personnalité de toutes les personnes concernées [...]. Ils se sont piégés dans une expérience de pensée de leur propre fait, une prison dont les seuls barreaux sont l'intelligence qu'ils s'attribuent »[10]. David Auerbach a écrit dans Slate « la combinaison d'ambitions messianiques, la conviction de votre propre infaillibilité, et beaucoup d'argent ne font jamais bon ménage, quelle que soit l'idéologie, et je ne m'attends pas à ce que Yudkowsky et ses acolytes soient une exception. Je m'inquiète moins du basilic de Roko que de ceux qui croient transcender la morale conventionnelle[11] ».

Il est fait allusion au basilic de Roko dans la culture populaire dans les actions du personnage Gilfoyle dans la saison 5, épisode 5 de Silicon Valley[12], le personnage Roccoco Basilisk dans la vidéo de Grimes de "Flesh Without Blood" explicitement nommé d'après le basilic de Roko[13], l'intrigue de Magnus: Robot Fighter # 8 par Fred Van Lente[14] et divers webcomics tels que celui d'xkcd "AI-Box Experience"[15] et de Questionable Content avec l'officier de police Roko Basilisk[16].

Mouvement néo-réactionnaire

Le mouvement néo-réactionnaire s'est développé sur LessWrong[17],[18],[19], attiré par les discussions sur le site autour de l'eugénisme et de la psychologie évolutionniste[20]. Yudkowsky a fortement répudié les mouvements réactionnaires[21],[22].

Références
  1. « Less Wrong FAQ », LessWrong
  2. Miller, « You Can Learn How To Become More Rational », Business Insider, (consulté le )
  3. Oliver Burkeman, « This column will change your life: Feel the ugh and do it anyway. Can the psychological flinch mechanism be beaten? », (consulté le )
  4. Oliver Burkeman, « This column will change your life: asked a tricky question? Answer an easier one. We all do it, all the time. So how can we get rid of this eccentricity? », (consulté le )
  5. Tiku, « Faith, Hope, and Singularity: Entering the Matrix with New York’s Futurist Set », Observer, (consulté le )
  6. « Where did Less Wrong come from? (LessWrong FAQ) » (consulté le )
  7. Cowdrey, « W&N wins Buzzfeed science reporter's debut after auction », The Bookseller (consulté le )
  8. Love, Dylan, « WARNING: Just Reading About This Thought Experiment Could Ruin Your Life », Business Insider, (consulté le )
  9. RobbBB, « A few misconceptions surrounding Roko's basilisk », LessWrong, (consulté le ) : « The Roko's basilisk ban isn't in effect anymore »
  10. McKinney, « 5 Hilariously Petty Abuses Of Revolutionary Technologies », Cracked.com, (consulté le )
  11. « The Most Terrifying Thought Experiment of All Time »
  12. Henderson, « Silicon Valley Recap: The Terminator Problem », Vulture, (consulté le )
  13. Benjamin, « Grimes Explains the 4 Characters in Her "Flesh Without Blood" Video: Exclusive », Fuse, (consulté le ) : « She's doomed to be eternally tortured by an artificial intelligence, but she's also kind of like Marie Antoinette. »
  14. Wickline, « Turning The Gold Key - Frank Barbiere Talks With Fred Van Lente About Mangus: Robot Fighter », Bleeding Cool, (consulté le )
  15. « xkcd: AI-Box Experiment », xkcd.com
  16. « Questionable Content », www.questionablecontent.net
  17. Klint Finley, « Geeks for Monarchy: The Rise of the Neoreactionaries »,
  18. Riggio, « The Violence of Pure Reason: Neoreaction: A Basilisk », Social Epistemology Review and Reply Collective, vol. 5, no 9,‎ , p. 34–41 (ISSN 2471-9560, lire en ligne) :
    « The embryo of the movement lived in the community pages of Yudkowsky’s blog LessWrong, a website dedicated to refining human rationality. »
  19. Mark Siemons, « Neoreaktion im Silicon Valley: Wenn Maschinen denken »,
  20. Keep, « The Strange and Conflicting World Views of Silicon Valley Billionaire Peter Thiel », Fusion, (consulté le ) : « Thanks to LessWrong’s discussions of eugenics and evolutionary psychology, it has attracted some readers and commenters affiliated with the alt-right and neoreaction, that broad cohort of neofascist, white nationalist and misogynist trolls. »
  21. Riggio, « The Violence of Pure Reason: Neoreaction: A Basilisk », Social Epistemology Review and Reply Collective, vol. 5, no 9,‎ , p. 34–41 (ISSN 2471-9560, lire en ligne) :
    « Land and Yarvin are openly allies with the new reactionary movement, while Yudkowsky counts many reactionaries among his fanbase despite finding their racist politics disgusting. »
  22. Eliezer Yudkowsky, « Untitled », Optimize Literally Everything (blog), (consulté le )

Liens externes
  • Portail d’Internet
Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.