The Psychology of Existential Risk: Cognitive Constraints to Evaluation of Human Extinction
Author
Risnes, Morten Ilseng
Term
4. term
Education
Publication year
2022
Submitted on
2022-05-18
Pages
52
Abstract
Background: New technologies can bring great benefits but also new risks to humanity’s continued existence. Although human extinction would be a permanent end that deprives countless potential future lives, the topic receives limited attention in public debate and policy. Prior findings suggest many people do not see extinction as uniquely worse than other catastrophes, and that judgments often focus on immediate deaths and suffering rather than long-term consequences. Objective: This theoretical thesis examines whether human cognition is poorly suited to accurately perceive and assess existential risks and scenarios of premature human extinction. It asks: How well can we understand and relate to existential risks? Which cognitive limitations hinder accurate risk assessment? Approach: The thesis primarily reviews literature from cognitive psychology’s heuristics-and-biases program, while also considering alternative viewpoints and critiques. Results and discussion: Several familiar mental shortcuts help explain how people think about existential risk: availability (judging by examples that come easily to mind), representativeness (matching to familiar patterns), anchoring (sticking too closely to initial numbers or frames), and the affect heuristic (feelings steering judgments). Because extinction is abstract, unique, and beyond personal experience, it is hard to imagine and evaluate. The theory of attribute substitution is considered as an account of how difficult questions may be unconsciously replaced by easier ones. Judgment and decision making are further discussed using Stanovich’s tripartite model of the mind, in which fast, intuitive goals can conflict with more intentional, deliberative goals. The thesis concludes by outlining ideas for future research.
Baggrund: Nye teknologier kan skabe store fremskridt, men også nye risici for menneskehedens fortsatte eksistens. Selvom menneskelig udslettelse ville være et permanent ophør, der frarøver utallige mulige fremtidige liv, fylder emnet kun lidt i offentligheden og i politik. Tidligere fund tyder på, at mange ikke ser udslettelse som unikt værre end andre katastrofer, og at vurderinger ofte præges af fokus på umiddelige dødsfald og lidelser frem for de langsigtede konsekvenser. Formål: Denne teoretiske afhandling undersøger, om menneskelig kognition er dårligt egnet til præcist at opfatte og vurdere eksistentielle risici og scenarier med for tidlig udslettelse af menneskeheden. Den spørger: I hvilket omfang kan vi forstå og forholde os til eksistentielle risici? Hvilke kognitive begrænsninger kan hindre en nøjagtig risikovurdering? Fremgangsmåde: Afhandlingen bygger primært på litteratur fra kognitiv psykologi, især heuristics-and-biases-programmet, og inddrager også andre perspektiver og kritik. Resultater og diskussion: Flere velkendte mentale genveje kan belyse, hvordan mennesker vurderer eksistentiel risiko: tilgængelighed (vi bedømmer ud fra eksempler, der let falder os ind), repræsentativitet (vi matcher til velkendte mønstre), forankring (vi hænger for meget fast i første tal eller ramme) og affekt-heuristik (følelser styrer vurderinger). Fordi udslettelse er abstrakt, unik og uden personlig erfaringsbaggrund, er den svær at forestille sig og bedømme. Teorien om attributsubstitution peger på, at vi ved svære spørgsmål ubevidst kan erstatte dem med lettere. Dømmekraft og beslutningstagning diskuteres desuden i lyset af Stanovich’ tredelte model for sindet, hvor hurtige, intuitive mål kan konflikte med mere intentionelle, overvejede mål. Afslutningsvis skitseres ideer til fremtidig forskning.
[This apstract has been rewritten with the help of AI based on the project's original abstract]