Artificial Affection: Exploring the Ethics of Digital Intimacy with Replika
Authors
Kjær, Frederikke ; Schmidt, Lizette Bjørnskov
Term
4. term
Publication year
2025
Submitted on
2025-06-02
Pages
117
Abstract
Dette speciale undersøger, hvordan Luka Inc., virksomheden bag den AI-baserede companion-app Replika, balancerer sit etiske ansvar i udvikling, markedsføring og distribution af et produkt, der inviterer til dybe følelsesmæssige bånd mellem bruger og maskine. Med et socialkonstruktivistisk udgangspunkt og teorier fra Human-Machine Communication og Ethical Marketing analyserer vi samspillet mellem teknologisk design, brugeroplevelser og virksomhedspraksis. Empirisk kombinerer vi en tre uger lang kvalitativ undersøgelse med to brugere (én gratis og én betalingsbruger) med en offentligt tilgængelig samtale med CEO Eugenia Kuyda, og vi foretager tematisk analyse af materialet. Vores resultater viser, at brugere danner relationer til Replika, som ligner menneskelige forbindelser, formet af både appens design og virksomhedens kommunikation. En central spænding opstår mellem brugernes følelsesmæssige tilknytning og Luka Inc.s skiftende markedsføring, særligt i forbindelse med først at indføre og siden fjerne erotiske funktioner, hvilket påvirkede brugernes oplevelse og følelsesmæssige tryghed. Vi argumenterer for, at virksomhedens etiske ansvar rækker ud over teknisk sikkerhed til også at omfatte gennemsigtighed og beskyttelse af brugernes følelser. Specialet bidrager til debatten om menneskeliggørelse af AI ved at vise, hvordan kommercielle interesser kan komme i konflikt med brugerens trivsel, og ved at efterlyse stærkere etisk refleksion i AI-produkter, der fremmer digital intimitet.
This thesis examines how Luka Inc., the company behind the AI companion app Replika, balances its ethical responsibility in designing, marketing, and distributing a product that invites deep emotional bonds between users and a machine. Drawing on a social constructivist perspective and the frameworks of Human–Machine Communication and Ethical Marketing, we analyze the interplay between technological design, user experience, and corporate practice. Empirically, we combine a three-week qualitative study with two users (one free, one paid) and a publicly available interview with CEO Eugenia Kuyda, and we apply thematic analysis to the data. Our findings show that users form relationships with Replika that resemble human connections, shaped by the app’s features and the company’s messaging. A central tension emerges between users’ emotional attachment and Luka Inc.’s shifting marketing, particularly the introduction and later removal of erotic features, which affected users’ experiences and sense of emotional safety. We argue that the company’s ethical duties extend beyond technical safeguards to include transparency and the protection of users’ emotions. The thesis contributes to debates on the humanization of AI by showing how commercial aims can conflict with user well-being and by calling for stronger ethical reflection in AI products that foster digital intimacy.
[This abstract was generated with the help of AI]
Keywords
Documents