Existentielles Risiko

Künstlerische Darstellung eines großen Asteroideneinschlags. Ein Asteroid mit gewaltiger Einschlagskraft könnte für das Aussterben der Dinosaurier verantwortlich sein.

Ein existentielles Risiko für die Menschheit ist ein Ereignis, welches in der Lage ist, auf der Erde entstandenes, intelligentes Leben auszulöschen, oder dessen gewünschte Entwicklung drastisch und permanent einzuschränken. Sie unterscheiden sich von anderen Formen von Risiken sowohl durch ihren umfassenden Wirkungsbereich, als auch ihr enormes Schadensausmaß. Naturkatastrophen wie Supervulkane und Asteroiden können, falls ausreichend mächtig, existentielle Risiken darstellen, wenngleich Ereignisse menschlichen Ursprungs wie beispielsweise Atomkrieg, Bioterrorismus, Künstliche Intelligenz oder katastrophaler Klimawandel ebenfalls das Fortbestehen intelligenten Lebens auf der Erde bedrohen können.

Während einzelne Bedrohungen wie Atomkrieg oder Klimawandel intensiv untersucht werden, hat die systematische Analyse existentieller Risiken ungeachtet ihrer enormen Bedeutung erst im Jahre 2002 begonnen. Dies mag auch daran liegen, dass hochgradig interdisziplinäres Wissen zum Erforschen existentieller Risiken notwendig ist.

Mögliche Szenarien

Verschiedenen Ereignisse stellen ein Existentielles Risiko für die Menschheit oder gar alles Leben auf der Erde dar:

Autoritäre Weltregierung

Eine totalitär dominierte Weltregierung könnte durch einen globalen Genozid (Omnizid) den Fortbestand der gesamten Menschheit bedrohen, oder zumindest einen Großteil der Weltbevölkerung ausrotten, während Widerstand durch massive Überwachung und die Einschränkung von Bürgerrechten gefährdet wäre. Große und mächtige Staaten stellen dabei wahrscheinlich eine größere Bedrohung dar als kleine Schurkenstaaten, die den Fortbestand der Menschheit nur mit Massenvernichtungswaffen ernsthaft gefährden können, während eine Weltregierung zu einem schleichenden Omnizid in der Lage wäre.

Derartige Szenarien werden oft in Alternativweltgeschichten diskutiert. Aldous Huxleys Schöne Neue Welt und George Orwells 1984 sind die bekanntesten Vertreter des Genres. In Philip K. Dicks Roman Das Orakel vom Berge werden von den siegreichen Nationalsozialisten im Jahr 1962 alle Schwarzafrikaner ermordet und zu Schmierfett verarbeitet.

Siehe auch: Weltregierung, Demozid und Dystopie

Nuklearer Holocaust

Schon einzelne Atomsprengköpfe können Städte zerstören und tausende Menschenleben vernichten. Bereits die Verwendung eines Bruchteils der weltweiten Arsenale könnte also durch die direkte Wirkung Millionen oder gar Milliarden Menschen töten, während die Nachwirkung der Explosionen die Menschheit endgültig ausrotten könnte:

Vernichtete Infrastruktur, vergiftetes Wasser, Keimbahnmutationen, ansteigende Krebsrate, ein kollabierendes Ökosystem, der Zusammenbruch sozialer Institutionen sowie ein Nuklearer Winter könnten die Überlebenden der Explosionen bis zur Ausrottung dezimieren.

Umweltkatastrophen

Der Verlust von Biodiversität unter anderem durch Bejagung, Neobiota und Umweltverschmutzung könnte durch gewisse Schlüsselereignisse das Ende der Menschheit in Form eines globalen Ökozids zur Folge haben.

Siehe auch: Umweltkatastrophe

Pandemien

Eine globale Pandemie, die HIV, das neuartige Coronavirus, den Schwarzen Tod oder die Spanische Grippe an Virulenz und Letalität übertrifft, könnte die Menschheit drastisch verkleinern. Eine komplette Auslöschung gilt jedoch als höchst unwahrscheinlich, da es für einen Erreger schwieriger wird, eine große Zahl an Menschen zu infizieren, je tödlicher er ist. Die Quartäre Aussterbewelle könnte von einer derartigen globalen Seuche ausgelöst worden sein, ein Erklärungsansatz, der als „Hyperkrankheitshypothese“ bekannt ist. Diese wurde durch Ross MacPhee (Mitarbeiter des American Museum of Natural History) und Preston Marx (Aaron Diamond AIDS Research Center und Tulane University) entwickelt, die argumentieren, dass eine hochinfektiöse und tödliche Krankheit eine Schlüsselrolle bei der Dezimierung der Megafauna in Nordamerika gespielt haben könnte. Derartige Krankheiten sind jedoch durch paläontologische Hinweise schwer zu belegen. Das Aussterben der indigenen Rattenspezies auf den Weihnachtsinseln könnte direkt durch Flohkrankheiten verursacht worden sein, die von eingeschleppten Ratten verbreitet worden waren. DNA-Analysen bekräftigten diese Vermutung.

Bioterrorismus

Entwicklungen in der Biotechnologie, der Genetik und der Genomik haben nachhaltige Einflüsse auf die globale Sicherheit. Der Erreger einer Hyperkrankheit in der Hand von Terroristen könnte das Ende der Menschheit bedeuten. Die folgenden Krankheitserreger stellen sogenannte Klasse-A-Pathogene dar und können bereits in ihrer natürlichen Form als Biowaffen verwendet werden.

1. Bacillus anthracis (Anthrax)
2. Clostridium botulinum toxin (Botulismus)
3. Yersinia pestis (Pest)
4. Variola major (Pocken) und verwandte Pockenviren
5. Francisella tularensis (Tularämie)
6. Virales Hämorrhagisches Fieber
7. Arenaviren: Junin, Machupo, Guanarito, Chapare Lassa, Lujo
8. Bunyaviren
9. Hantaviren
10. Flaviren
11. Dengue
12. Filoviren
13. Ebola
14. Marburgvirus

Genetisch modifizierte Pathogene in Biowaffen (z. B. Ebolapocken) sind sicherlich besonders geeignet, eine finale Pandemie zu verursachen.

Graue Schmiere

Molekulare Nanotechnologie kann durchaus zu der Konstruktion von bakteriengroßen Robotern führen, die sich selbst replizieren und anorganische oder organische Verbindungen für ihre Replikation benötigen. Indem sie bei diesem exponentiell beschleunigenden Prozess die Biosphäre vertilgen, vergiften oder das Sonnenlicht blockieren, könnten sie den Fortbestand der Menschheit und allen Lebens auf der Erde gefährden. Sicherheitsvorkehrungen wie abgeschirmte Aufbewahrung, die Beschränkung der „Nahrung“ der Roboter auf seltene Elemente oder einprogrammierte Sperren könnten die Gefahr einer derartigen Katastrophe hypothetisch verringern. Ein Auslegungsstörfall oder der Missbrauch der Nanoroboter als Waffe könnte diese Sperren jedoch umgehen.

Eskalierende globale Erwärmung

Es besteht die Möglichkeit, dass die Freisetzung von Treibhausgasen in die Atmosphäre sich als stark selbst verstärkender Rückkopplungsprozess erweisen könnte, in den ab einem gewissen Point of no Return weder durch Vermeidungsstrategien noch durch Geoengineering interveniert werden kann. Die Erdatmosphäre könnte sich dann der Atmosphäre der Venus angleichen und Leben wäre unmöglich.

Siehe auch: Globale Erwärmung

Neues Eiszeitalter / Zweite Schneeball Erde

Die Theorie vom „Schneeball Erde“ besagt, dass die gesamte Erde mehrmals in der Erdgeschichte eingefroren war, was möglicherweise zu einigen der schwersten Krisen und Massenaussterben in der Geschichte des Lebens auf der Erde geführt haben soll.

Sollte die momentane Warmzeit abrupt enden, könnten die Temperaturstürze und ihr Einfluss auf die Lebensmittelversorgung das Fortbestehen der Menschheit gefährden.

Siehe auch: Eiszeitalter

Ausbruch eines Supervulkans

Der Ausbruch eines ganzen Vulkankomplexes könnte Effekte, die mit einem Nuklearen Winter vergleichbar sind, verursachen und so den Fortbestand der Menschheit gefährden.

Impakt eines Himmelskörpers

→ Hauptartikel: Impakt

Ein Objekt mit einem Durchmesser von mehr als 500 m, das mit hinreichender Geschwindigkeit die Erde trifft, könnte das Ende der Menschheit verursachen.

Gammablitze

Gammablitze sind Wellen intensiver Strahlung, die bei gewissen astronomischen Ereignissen entstehen und die sich mit Lichtgeschwindigkeit durch den Kosmos begeben. Sollte ein derartiger Blitz mit hinreichender Intensität die Erde treffen, würde die intensive Strahlung nicht tief in die Atmosphäre eindringen. Stickstoff und Sauerstoff in den Schichten der oberen Atmosphäre würden jedoch zu Stickstoffmonoxid verschmolzen werden, das auf Ozon einen ähnlichen Effekt wie FCKWs hat, als Folge würde die Ozonschicht wahrscheinlich unrettbar vernichtet.

Das UV-Licht der Sonne, das dann ungebremst die Erdoberfläche erreichen könnte, würde wahrscheinlich vor allem das Phytoplankton, das dicht unter der Wasseroberfläche lebt, ausrotten, was einen Kollaps des gesamten globalen Ökosystems zur Folge haben könnte.

Das Ordovizische Massenaussterben wurde möglicherweise durch einen Gammablitz in Erdnähe verursacht. Der Wolf-Rayet-Stern WR 104 könnte bei seinem Tod einen GRB zur Erde senden und sie so sterilisieren.

Massive Sonneneruptionen

Sonneneruptionen sind gewaltige Protuberanzen auf der Sonnenoberfläche, in deren Folge die Erde mit Subatomaren Teilchen bombardiert wird, die jedoch durch das Erdmagnetfeld abgelenkt werden können. Allerdings wurden Hauptreihensterne, zu denen auch die Sonne gehört, bereits dabei beobachtet, wie sie bisweilen ihre Leuchtkraft um den Faktor 20 erhöhen. Einige Forscher meinen, dass dies ein Zeichen für außergewöhnliche „Super-Protuberanzen“ sein könnte. Es ist nicht auszuschließen, dass die Sonne derartige Strahlungsausbrüche ebenfalls zur Erde senden könnte. Diese hätten möglicherweise ähnliche Effekte auf das irdische Leben wie ein Gammablitz.

Eintritt des Sonnensystems in eine Dunkelwolke

Eine Dunkelwolke ist eine Wolke aus interstellarem Gas und Staub, die das Sonnensystem an Größe bei weitem übertrifft und bis zu 150 Lichtjahre durchmessen kann. Wenn das Sonnensystem durch einen solchen Nebel driften sollte, könnte der kosmische Staub das Licht der Sterne verdunkeln. Des Weiteren könnte eine Dunkelwolke mit einer Dichte von 100 bis 300 Molekülen pro cm³ die Heliosphäre stark zusammendrücken, wodurch ihre Materie bis ins Innere des Sonnensystems gelangen und sogar die Sonne verdunkeln könnte. Dies könnte die Photosynthese stören oder verunmöglichen. Einige Forscher vermuten einen derartigen „Nebel-Winter“ hinter vergangenen Eiszeiten und Massensterben.

Wir können zwar ohne Sonnenschein leben, jedoch würde eine Dunkelwolke uns darin einschränken, andere existenzielle Bedrohungen abzuwenden.

Aussterben durch den Einfluss von Künstlicher Intelligenz

Eine überlegene künstliche Intelligenz könnte den Fortbestand der gesamten Menschheit gefährden. Entweder indem sie diese willentlich ausrottet oder im Zuge ihrer Aufgabenerfüllung oder aus Gleichgültigkeit heraus unsere Lebensgrundlage, die Erde oder gar das Universum vernichtet; gewisse Gedankenexperimente lassen es gar nicht unmöglich erscheinen, dass eine Superintelligenz das Sonnensystem in Computronium verwandelt, ohne direkt bösartige Absichten zu haben.

Eine solche Intelligenz könnte durch intensives Studium der Neurologie und Kybernetik gezielt erschaffen werden oder aus dem Eintreten in eine Technologische Singularität hervorgehen, wenn Maschinen beginnen sich derart selbst zu verbessern, dass das menschliche Verständnis nicht mehr Schritt halten kann. Ebenfalls möglich wäre das Entstehen einer derartigen Intelligenz, wenn die Verwendung von Brain-Computer-Interfaces und Nanomedizin oder vergleichbaren Technologien die Kapazitäten eines oder vieler Menschen derartig verändern, dass ein neues, andersartiges und überlegenes Bewusstsein entsteht.

Das Blue-Brain-Projekt, ACT-R, SOAR, Cyc, A.L.I.C.E. und Watson sind nur einige der Projekte, die das Entstehen einer künstlichen Intelligenz begünstigen könnten oder sogar direkt darauf abzielen.

In der Popkultur wird diese Idee prominent elaboriert: Mit Skynet, einer künstlichen Intelligenz, die im Film Terminator, sofort nachdem sie das Bewusstsein erlangt, einen globalen Atomkrieg beginnt und danach alles daran setzt, die überlebenden Menschen mit zeitreisenden Kampfrobotern auszurotten; oder auch Colossus aus dem gleichnamigen Film, der die gesamte Menschheit mit Atomraketen in Schach hält und damit droht, sie bei Gegenwehr auszurotten.

Siehe auch: Künstliche Intelligenz

Aussterben durch den Einfluss von Außerirdischen

Sollte es zum Kontakt zwischen Menschen und extraterrestrischen Zivilisationen kommen, könnten diese die Menschheit ausrotten, entweder durch einen gezielten, wie auch immer begründeten Genozid, durch das Einführen fremder Pathogenen, durch Räuber, durch den Raub aller irdischen Rohstoffe oder durch die Ausrottung von Schlüsseltierarten.

Siehe auch: Außerirdisches Leben

Falsifizierte Szenarien

Polywasser

In den 1960er Jahren gaben sich sowjetische Wissenschaftler der Vorstellung hin, mit Polywasser würde eine besonders stabile Variante des Normalen Wassers bestehen. Diese könnte normales Wasser umwandeln, das dann aufgrund veränderter Eigenschaften lebensfeindlich wäre und so das gesamte Ökosystem vernichten würde. Später stellte sich diese Forschung als Pathologische Wissenschaft heraus.

Wahrscheinlichkeit existentieller Risiken

Die Eintrittswahrscheinlichkeiten mancher Gefahren sind mit beträchtlicher Genauigkeit berechnet worden. So beträgt beispielsweise die Wahrscheinlichkeit eines Asteroideneinschlags, welcher das Aussterben der Menschheit zur Folge hätte, 0,000001 (eins zu einer Million) in den nächsten einhundert Jahren (obwohl spätere Forschung eine weit höhere Wahrscheinlichkeit nahelegte). Damit vergleichbar sind Vulkanausbrüche, die schwerwiegend genug sind um katastrophalen Klimawandel zu verursachen, ähnlich dem Toba-Vulkanausbruch, der fast das Aussterben der menschlichen Spezies verursacht hat, Die Häufigkeit von derartigen Vulkanausbrüchen wird auf etwa einmal alle 50,000 Jahre geschätzt. Die Wahrscheinlichkeiten anderer Bedrohungen sind jedoch viel schwieriger zu berechnen. Obwohl Experten der Global Catastrophic Risk Conference die Wahrscheinlichkeit für das Aussterben der menschlichen Spezies innerhalb der nächsten 100 Jahre auf 19 % schätzten, gab es beträchtliche Meinungsverschiedenheiten bezüglich der relativen Bedeutung der jeweiligen Gefahren.

Es gibt erhebliche methodische Schwierigkeiten beim Abschätzen dieser Risiken. Die meiste Aufmerksamkeit wurde Risiken gewidmet, die die menschliche Zivilisation in den nächsten hundert Jahren bedrohen, aber das Vorhersagen über diesen Zeitraum gestaltet sich als sehr schwierig. Alle Bedrohungen, deren Ursprung in der Natur liegt, verhalten sich relativ konstant, obwohl neue Risiken entdeckt werden könnten. Anthropogene Bedrohungen jedoch, werden sich wahrscheinlich mit der Entwicklung neuer Technologien dramatisch verändern; während Vulkane über die gesamte Geschichte hinweg eine Bedrohung darstellten, spielen nukleare Waffen erst seit dem 20. Jahrhundert eine Rolle. Die Geschichte zeigt, dass die Fähigkeit die Zukunft vorherzusagen bei früheren Experten sehr eingeschränkt war, gleichwohl könnten moderne probabilistische Vorhersage-Methoden, wie beispielsweise Prognosemärkte oder traditionellere Vorgehensweisen wie Peer-Review die Genauigkeit von Vorhersagen erhöhen.

Bedrohungen menschlichen Ursprungs wie z. B. nuklearer Krieg oder Nanotechnologie sind noch schwerer vorherzusagen, aufgrund der inhärenten methodologischen Probleme in den Sozialwissenschaften. Während der Kubakrise, schätzte John F. Kennedy die Wahrscheinlichkeit eines nuklearen Krieges auf 33 % bis 50 %. Ungeachtet dessen gilt, dass es im Allgemeinen sehr schwer ist die Größenordnung eines dieser Risiken richtig einzuschätzen, da sich internationale Beziehungen und technologischer Fortschritt rapide ändern können.

Aufgrund von Selektionseffekten durch bloße Beobachtung (englisch: observation selection effects) stellen existentielle Risiken eine einzigartige Herausforderung für Vorhersagen dar, sogar mehr als andere weit in der Zukunft liegende Ereignisse. Anders als bei den meisten anderen Ereignissen ist das Ausbleiben von existentiellen Risiken in der Vergangenheit kein Beleg dafür, dass die Wahrscheinlichkeit von in der Zukunft liegenden existentiellen Risiken gering ist. Denn hätte sich ein existentielles Risiko in unserer Vergangenheit ereignet, gäbe es keine Menschen mehr die dies beobachten könnten.

„Bei existentiellen Risiken kann unsere Vorgehensweise nicht praktisches Herumprobieren sein. Es gibt keine Möglichkeit aus Fehlern zu lernen. Die reaktive Herangehensweise – einfach sehen was passiert, Gefahren begrenzen und aus Erfahrung lernen – ist unausführbar. Nein, wir müssen eine proaktive Vorgehensweise wählen. Das erfordert den Weitblick neue Arten von Bedrohungen zu antizipieren und die Bereitschaft entschiedene Präventionsmaßnahmen durchzuführen und deren (moralische oder ökonomische) Kosten zu tragen.“

– Nick Bostrom, Milan Cirkovic

Fermi-Paradoxon

Es wurden bereits viele Planeten außerhalb unseres Sonnensystems entdeckt, und es gibt wahrscheinlich noch viel mehr unentdeckte, erdähnliche Planeten, auf denen Leben entstehen könnte. Angesichts der relativen Schnelligkeit, mit der sich Leben auf der Erde entwickelt hat, und angesichts der enormen Größe des beobachtbaren Universums scheint es a priori und a posteriori wahrscheinlich, dass sich intelligentes Leben auch auf anderen Planeten entwickelt hat.

Somit scheint das Ausbleiben jeglicher Anzeichen von intelligentem Leben außerhalb der Erde ein Paradoxon darzustellen. Besonders relevant ist das Ausbleiben von großflächigen, von der Erde aus sichtbaren, künstlichen Konstruktionen im All, was nahelegt, dass wenige bis keine Zivilisationen lange genug überleben, um den Weltraum kolonisieren zu können.

Es gibt eine Reihe von Erklärungen für das Fermi-Paradoxon, wie beispielsweise die Hypothese, dass die Erde Teil eines galaktischen Zoos sei, oder dass die Entstehung von Leben einfach extrem unwahrscheinlich ist. Eine weitere Erklärung ist jedoch, dass ein Großer Filter (englisch: Great Filter) existiert; der Große Filter ist diejenige Eigenschaft unseres Universums, welche tote Materie davon abhält innerhalb eines genügend großen Zeitraums in intelligentes Leben zu evolvieren und anschließend das Universum zu besiedeln. Falls dieser Filter nun vor uns liegt – vielleicht zerstören sich die meisten Zivilisationen in nuklearen Kriegen – wird er die Menschheit, es sei denn, sie ist sehr ungewöhnlich im Vergleich zu außerirdischen Zivilisationen, davon abhalten den Weltraum zu besiedeln.

Kognitive Verzerrungen

Die Erforschung von kognitiven Verzerrungen offenbart eine Reihe von Tendenzen und Neigungen im Wahrnehmen, Urteilen und Denken von Menschen, welche nicht den Standards unvoreingenommener Rationalität entsprechen. Viele dieser Verzerrungen beeinflussen die Vorhersage von existentiellen Risiken. Die Verfügbarkeitsheuristik beispielsweise könnte Menschen dazu veranlassen die Gefahr existentieller Risiken zu unterschätzen, da offensichtlich noch niemand eines beobachtet hat. In ähnlicher Weise bewirkt der Rückschaufehler, dass vergangene Ereignisse vorhersehbarer erscheinen als sie tatsächlich waren, was zu übermäßigem Vertrauen in die Fähigkeit die Zukunft vorherzusagen führt.

Der Konjunktions-Fehlschluss (englisch: Conjunction fallacy) tritt auf, wenn Menschen die Wahrscheinlichkeit von Konjunktionen überschätzen; z. B. wenn man glaubt, dass eine politische Aktivistin mit größerer Wahrscheinlichkeit eine feministische Bankangestellte als eine Bankangestellte ist. In gleicher Weise unterschätzen Menschen die Wahrscheinlichkeit disjunktiver Ereignisse. Die Bedrohung existentieller Risiken ist hochgradig disjunktiv, denn die Ursache kann nuklearer Krieg oder Klimawandel oder Künstliche Intelligenz oder Bioterrorismus oder ein Asteroideneinschlag sein, was dazu führt, dass die Plausibilität existentieller Risiken unterschätzt wird.

Potentielle Bedeutung existentieller Risiken

Einige Wissenschaftler setzen sich eindringlich für das Verringern existentieller Risiken ein, da zukünftige Generationen davon außerordentlich profitieren würden. Derek Parfit behauptet, dass das Aussterben der Menschheit ein immenser Verlust wäre, da unsere Nachkommen möglicherweise für Milliarden Jahre überleben könnten, bevor die ansteigende Hitze der Sonne die Erde unbewohnbar machen würde. Nick Bostrom argumentiert, dass der Menschheit mit der Besiedlung des Weltalls sogar noch großartigere Möglichkeiten offenstehen. Falls unsere Nachfahren das All besiedeln, könnten sie in der Lage sein, eine sehr große Anzahl von Menschen zu ernähren, und dies möglicherweise für mehrere Billionen Jahre. Deshalb würde selbst eine nur geringfügige Reduzierung der Wahrscheinlichkeit existentieller Risiken einen höchst bedeutsamen Einfluss auf die erwartete Anzahl von in der Zukunft existierenden Menschen haben.

Manche Wissenschaftler stimmen mit den genannten Argumenten nicht überein. Exponentielle Diskontierung könnte diese in der Zukunft liegenden Vorteile viel weniger bedeutsam erscheinen lassen, und manche Philosophen bezweifeln, dass das Sichern der Existenz zukünftiger Generationen von Wert sei.

Manche Wirtschaftswissenschaftler haben ebenfalls die Bedeutung existentieller Risiken diskutiert, obwohl in den meisten dieser Diskussionen der Name „katastrophale Risiken“ (englisch: catastrophic risk) verwendet wird. Martin Weitzman argumentiert, dass möglicherweise die meisten der durch den Klimawandel erwarteten wirtschaftlichen Kosten von der geringen Wahrscheinlichkeit herrühren, dass die globale Erwärmung unsere Berechnungen bei weitem übertrifft und dies katastrophale Schäden zur Folge hat. Richard Posner hat argumentiert, dass wir im Allgemeinen viel zu wenig gegen Gefahren von riesigem Schadensausmaß, jedoch gering erscheinender, schwer abzuschätzender Wahrscheinlichkeit unternehmen.

Siehe auch

• Fermi-Paradoxon
• Doomsday-Argument
• Nick Bostrom
• Eliezer Yudkowsky
• Superintelligenz
• Effektiver Altruismus
• Wild Card (Zukunftsforschung)

Literatur

• Nick Bostrom, Milan Cirkovic: Global Catastrophic Risks. Oxford University Press, 2008.
• Joel Garreau: Radical Evolution. 2005.
• Toby Ord: The Precipice - Existential Risk and the Future of Humanity. Bloomsbury Publishing, 2020. ISBN 9781526600219
• Richard A. Posner: Catastrophe. Oxford University Press, 2004.
• Martin Rees: Our Final Hour (UK title: „Our Final Century“). 2003, ISBN 0-465-06862-6.
• Phil Torres mit Martin Rees (Vorwort): Morality, Foresight & Human Flourishing. An Introduction to Existential Risks. Pitchstone, Durham 2017. ISBN 978-1634311427.
• Alexei Turchin: Structure of the global catastrophe. Risks of human extinction in the XXI century. 2010, ISBN 978-1-4457-5658-5.
• Nick Bostrom, Superintelligenz: Szenarien einer kommenden Revolution. 2014, ISBN 3-518-58612-2.
• Umfangreiches Interview mit Bostrom. In: The Atlantic (englisch)
• Shahar Avin, et al.: Classifying global catastrophic risks, Futures 2018, online.

Weblinks

• Eine Website von Nick Bostrom über existentielle Risiken.
• Nick Bostrom: Existential Risks: Analyzing Human Extinction Scenarios. – Der ursprüngliche Artikel
• Nick Bostrom: Astronomical Waste: The Opportunity Cost of Delayed Human Development. – Aufsatz über die ethische Bedeutung von existentiellen Risiken
• Global Catastrophic Risks. Ein Überblick von GiveWell, einer Organisation die forscht wie man mit seinen Spenden am meisten Gutes tun kann
• Eliezer Yudkowsky: Cognitive biases potentially affecting judgment of global risks. (PDF) Aufsatz über mehrere kognitive Verzerrungen, welche unsere Beurteilung von existentiellen Risiken beeinträchtigen.
• Bill Joy: Why the future doesn’t need us. Wired.com.
• Being present in the face of existential threat: The role of trait mindfulness in reducing defensive responses to mortality salience. (PDF)