"To Benefit all Humanity": Towards Fair Algorithmic Systems through Substantive Equality and Theories of Justice
Author
Choque Condori, John Gustavo
Term
4. Semester
Publication year
2023
Submitted on
2023-07-30
Pages
98
Abstract
Denne afhandling undersøger, hvorfor det er vanskeligt at skabe fair algoritmiske systemer, og foreslår en ny ramme for at udvikle mere retfærdige løsninger baseret på filosofiske teorier om retfærdighed. Afhandlingen giver et historisk overblik over feltet, fra fairness-forskning i computersystemer til beslægtede spørgsmål i psykometri, og beskriver de aktuelle udfordringer. Den viser, at algoritmisk fairness er et "wicked problem" – et komplekst problem uden en bredt accepteret definition – hvilket fører til indbyrdes modstridende matematiske fairness-mål. For at komme videre omformuleres debatten som algoritmisk retfærdighed, der udvider fokus ud over enkelte beslutningspunkter og inddrager stemmerne fra de mennesker, der påvirkes af systemerne. Afhandlingen introducerer "Substantive algorithmic fairness framework" som en praktisk måde at fremme retfærdighed og adressere sociale hierarkier i algoritmisk beslutningstagning. Med udgangspunkt i denne ramme præsenteres en ny analytisk tilgang, som forbinder relationelle og strukturelle forhold med repræsentationsskader (hvordan grupper fremstilles) og allokeringsskader (hvordan goder og muligheder fordeles). Ved at anvende retfærdighedsteori kan tilgangen pege på potentielle reformer, der kan gøre systemer mere fair. Tilgangen afprøves på transformer-modeller (en udbredt AI-arkitektur til sprog og andre data) gennem eksperimenter og kvalitativ analyse, som påviser bias på tværs af flere kategorier og uoverensstemmelser i modellernes output. Afhandlingen konkluderer, at integration af filosofiske teorier om retfærdighed kan lede til algoritmiske systemer, der stemmer bedre overens med samfundets principper og kan gavne menneskeheden som helhed, og dermed åbner nye veje til at håndtere wickedheden i algoritmisk fairness.
This thesis examines why making algorithmic systems fair is so difficult and proposes a new framework for developing fairer systems grounded in philosophical theories of justice. It provides a historical overview of the field, linking early fairness research in computer systems to related issues in psychometrics, and maps the current debates. The thesis argues that algorithmic fairness is a wicked problem—a complex issue with no widely accepted definition—which produces conflicting mathematical fairness metrics. To move forward, it reframes the debate as algorithmic justice, expanding the analysis beyond single decision points and incorporating the voices of those affected by algorithmic systems. It introduces the Substantive algorithmic fairness framework as a practical way to promote justice and address social hierarchies in algorithmic decision-making. Building on this framework, the thesis presents a new analytical approach that connects relational and structural factors with representational harms (how groups are portrayed) and allocative harms (how resources and opportunities are distributed). Using theories of justice, the approach identifies potential reforms to make systems fairer. The approach is applied to transformer models (a widely used AI architecture for language and other data) through experiments and qualitative analysis, revealing biases across multiple categories and inconsistencies in model outputs. The thesis concludes that integrating philosophical theories of justice can guide the design of algorithmic systems that better align with societal principles and benefit humanity as a whole, offering new avenues to address the wickedness of algorithmic fairness.
[This summary has been rewritten with the help of AI based on the project's original abstract]
Keywords
Documents