Kunstig intelligens og moralsk status

Artificial intelligence and moral status

Worsøe-Petersen, Marc

4. semester

Anvendt Filosofi, Kandidat

2023

2023-10-25

54

Dette speciale undersøger, hvilke kriterier et kunstigt intelligent system skal opfylde for at have moralsk status, på baggrund af den stigende udbredelse af AI og en voksende filosofisk debat om, hvorvidt sådanne systemer kan være moralske subjekter. Med udgangspunkt i et kort overblik over kunstig intelligens og begrebet moralsk status redegør specialet for og sammenligner centrale forslag til kriterier: sentience (evnen til at opleve glæde eller smerte), bevidsthed, autonomi og målsætning, avancerede kognitive evner, (sociale) relationer samt adfærd. Analysen bygger på filosofiske positioner om moral status og AI samt inddrager bidrag fra datalogien (bl.a. Erik Learned-Miller og Miroslav Kubat). Den kritiske gennemgang konkluderer, at argumenterne for sentience som det afgørende kriterium for moralsk status er mest overbevisende: Et AI-system må kunne have oplevelser af velbefindende eller lidelse for at have interesser, der kan tælle moralsk. Forslag om ikke-sentiente interesser eller mål fremstår begrebsligt problematiske. Avancerede kognitive evner vurderes som underinklusive som grundlag for moralsk status, men fornuftige som kriterium for moralsk agens. Den relationelle tilgang ender i moralsk relativisme, og etisk behaviorisme bliver overinkluderende på grund af dens komparative princip.

This thesis examines which criteria an artificially intelligent system must meet to have moral status, prompted by AI’s growing presence and an expanding philosophical debate on whether such systems can be moral subjects. Following a brief overview of artificial intelligence and the concept of moral status, it outlines and compares leading proposals: sentience (the capacity to experience pleasure or pain), consciousness, autonomy and goal-setting, advanced cognitive abilities, (social) relations, and behavior. The analysis draws on moral philosophy and AI ethics, supplemented by contributions from computer science (including Erik Learned-Miller and Miroslav Kubat). The critical assessment concludes that arguments favoring sentience as the decisive criterion for moral status are the most convincing: an AI system must be capable of positive or negative experiences to have interests that matter morally. Accounts that posit non-sentient interests or goals are conceptually problematic. Advanced cognition is judged underinclusive for moral status but appropriate as a criterion for moral agency. The relational approach collapses into moral relativism, and ethical behaviorism is overinclusive due to its comparative principle.

[Dette resumé er genereret med hjælp fra AI direkte fra projektet (PDF)]

Download
Vis denne rapport i AAU Studenterprojekter