Diversitet ind, diversitet ud - En undersøgelse af bias i design og udvikling af teknologi

Diversity in, diversity out - a study on bias in design and development of technology

Hesseldahl, Fanny Hvidtfeldt

4. semester

Informationsvidenskab (cand.it.), Kandidat

2022

77

Dette speciale undersøger, hvordan bias viser sig i hverdagsteknologier som ansigtsgenkendelse, beslutningsalgoritmer og servicerobotter – og hvad man kan gøre ved det. Gennem et systematisk litteraturreview samler det viden om, hvor bias opstår, hvorfor det sker, og hvilke løsninger der har dokumenteret effekt. Studiet fokuserer på etnicitetsrelateret bias, fordi flere udbredte systemer bygger på egenskaber som hudtone og ansigtstræk, hvilket kan stille nogle brugergrupper dårligere. Med afsæt i Human-Centered Design, herunder Design Thinking og Participatory Design, undersøger specialet, hvordan man kan reducere eller undgå bias ved at inddrage brugere og sætte deres behov i centrum. Det gennemgår også grundlæggende elementer i kunstig intelligens, da AI er central i mange af de analyserede teknologier. Litteraturen organiseres i fem områder: bias-typer, problemfelter, berørte teknologier, grundårsager og løsningsmetoder. Heraf udspringer fire praktiske spor til mere inkluderende og etisk teknologi: brugerinddragelse gennem hele udviklingen, bedre repræsentation (fx i træningsdata og testbrugere), transparens om systemers funktion og ydeevne, samt klare retningslinjer, der styrer designvalg. Målet er at belyse aktuelle udfordringer i teknologidesign og vise, at veletablerede, brugercentrerede metoder kan gøre systemer mere retfærdige og tilgængelige.

This thesis examines how bias appears in everyday technologies—such as facial recognition, decision-making algorithms, and service robots—and what can be done about it. Through a systematic review of existing research, it brings together evidence on where bias occurs, why it happens, and which solutions have support. The study focuses on ethnicity-related bias because many widely used systems rely on features like skin tone and facial structure, which can disadvantage some groups. Drawing on Human-Centered Design, including Design Thinking and Participatory Design, the thesis explores how to reduce or avoid bias by involving users and centering their needs. It also outlines basic elements of artificial intelligence, since AI is central to many of the technologies analyzed. The review organizes the literature into five areas: types of bias, problem domains, affected technologies, root causes, and solution methods. From this, four practical directions emerge for building more inclusive and ethical technology: continuous user involvement, better representation (for example in training data and test users), transparency about how systems work and perform, and clear guidelines to steer design choices. The aim is to highlight current challenges in technology design and show that established, user-centered approaches can make systems fairer and more accessible.

[Dette resumé er omskrevet med hjælp fra AI baseret på projektets originale resumé]

teknologi ; design ; udvikling ; bias ; etnicitet ; køn ; human centered design ; design thinking ; participatory design

Download
Vis denne rapport i AAU Studenterprojekter