Exploring Ethics and Human Values in Designing AI
Author
Partadiredja, Reza Arkan
Term
4. Semester
Publication year
2021
Submitted on
2021-07-31
Pages
111
Abstract
Bekymringer over AI’s risici har ført til mange etiske principper, og design har historisk bidraget ved at omsætte værdier til praksis. Men AI har en særlig materialitet (dvs. sin egen karakter og måde at virke på), som gør det udfordrende for designere. Der er stadig begrænset viden om, hvordan designere konkret anvender værdier og tager etik i betragtning i AI-projekter. Dette projekt spørger derfor: Hvordan anvender designere værdier og overvejer etik, når de designer AI? For at undersøge dette blev der gennemført otte interviews med AI-designere og -udviklere om deres designprocesser, designets rolle, de udfordringer de møder, deres syn på AI’s samfundsmæssige implikationer, deres forståelse af etiske værdier og deres forsøg på at omsætte disse værdier i praksis. Derefter blev der afholdt en workshop med fem designere for at generere ideer til, hvordan værdier kan anvendes i AI-design, efterfulgt af en refleksion over om, hvordan og hvorfor disse ideer bør bruges i praksis. Resultaterne viser en stærk vægt på menneskecentrerede og deltagende tilgange (involvering af brugere og andre interessenter) til at anvende værdier og tage etik i betragtning. Samtidig hæmmes disse indsatser af iboende udfordringer og andre forhold, der gør det vanskeligt at oversætte værdier og etik til daglig praksis. Deltagerne fremhæver dog designeres væsentlige rolle og bidrag i udviklingen af AI, og fundene peger på, at der kan være behov for et paradigmeskifte i designpraksis i AI-konteksten. Som led i syntesen foreslås en ramme, der omrammer AI fra tre perspektiver: (1) AI som det er, (2) AI som et designmateriale (noget designere kan forme og kombinere), og (3) AI som et socioteknisk system (teknologi, der er sammenvævet med sociale forhold). Disse omramninger genererede nye ideer og spørgsmål. Ved at samle indsigter fra interviews og workshoppen med centrale pointer fra litteraturen præsenterer projektet yderligere ideer og spørgsmål, der kan danne grundlag for fremtidige undersøgelser i krydsfeltet mellem AI, design og etik.
Growing concern about AI risks has produced many ethical principles, and design has historically helped translate values into practical methods. However, the distinct materiality of AI (its particular nature and way of working) creates challenges for designers. There is still limited knowledge about how designers actually apply values and consider ethics in AI projects. This project therefore asks: How do designers apply values and consider ethics when designing AI? To explore this, eight interviews were conducted with AI designers and developers about their design processes, the role of design, the challenges they face, their views on AI’s societal implications, their understanding of ethical values, and their attempts to put those values into practice. A subsequent workshop with five designers generated ideas for applying values in AI design, followed by reflection on whether, how, and why these ideas should be used in practice. Findings highlight the importance of human-centered and participatory approaches (involving users and other stakeholders) to apply values and consider ethics. At the same time, these efforts are hindered by inherent challenges and other factors that make it difficult to translate values and ethics into day-to-day practice. Participants nonetheless emphasized the essential role and contribution of designers in AI development, and the results suggest that a paradigm shift in design practice for AI may be needed. As part of the synthesis, a framework is proposed to reframe AI from three perspectives: (1) AI as it is, (2) AI as a design material (something designers can shape and combine), and (3) AI as a sociotechnical system (technology intertwined with social contexts). These reframings generated new ideas and questions. By bringing together insights from the interviews and workshop with key points from the literature, the project offers further ideas and questions that can guide future work at the intersection of AI, design, and ethics.
[This summary has been rewritten with the help of AI based on the project's original abstract]
Keywords
arificial intelligence ; design ; ai ; ethics ; values ; designing AI
Documents