Centre pour l'étude des risques existentiels

Le centre pour l'étude des risques existentiels[1] (CSER pour Centre for the Study of Existential Risk en anglais) est un centre de recherche de l'université de Cambridge créé à l'origine pour se concentrer sur l'étude des risques liés à des évolutions de la technologie susceptible de mettre en danger l'avenir même de l'humanité. Le centre a été fondé par les chercheurs Huw Price, Martin Rees et Jaan Tallinn[2].

L'une des études du centre, le risque que des robots se révoltent contre l'espèce humaine dans une approche semblable à celle dépeinte par Terminator, a bénéficié d'une importante visibilité médiatique. Selon Price, « Il semble raisonnable de croire qu’à un moment donné, dans ce siècle ou le prochain, l’intelligence échappera aux contraintes de la biologie »[trad 1]^,[1]^,[3].

Par la suite, le centre a précisé ses centres d'intérêt pour les élargir à d'autres risques susceptibles de mettre en danger la continuation de la civilisation ou la survie de l'espèce humaine. Les quatre catégories de risques envisagées sont les suivantes :

• les risques technologiques extrêmes ;
• les risques biologiques catastrophiques mondiaux ;
• les risques extrêmes de type environnementaux d'impact mondial ;
• les risques en lien au développement de l'intelligence artificielle.

Curieusement, pour le centre, les risques technologiques extrêmes incluent une guerre nucléaire, une pandémie issue de développements artificiels, le changement climatique, effondrement écologique ou des impacts de l'ntelligence artificielle avancée[4].

Le centre de recherche a été à l'initiative de la création d’un groupe parlementaire transpartisant centré sur les intérêts des générations futures, dans le but d'amener les politiques à penser long terme et risques globaux[5]^,[6]. Ce groupe a notamment produit une charte applicable au Royaume-Uni similaire à ce qui existait déjà au Pays de Galles visant la préservation des intérêts des générations futures [7].