Locating Responsibility in an Autonomous Military Technology
Authors
Olsen, Johannes Skjødt ; Andersen, Troels Albert
Term
4. term
Education
Publication year
2018
Submitted on
2018-05-31
Abstract
This thesis examines how technological autonomy in military systems affects the allocation and understanding of responsibility. Using a case study of NATO AGS’s deployment of Global Hawk reconnaissance drones, we conducted network-centered ethnographic fieldwork in spring 2018 based on interviews, informal conversations, observations, and literature review. Actor-Network Theory (ANT) and postphenomenology provided the main analytical lenses, supplemented by Ibo van de Poel’s “Problem of Many Hands,” to map the many human and nonhuman actors (e.g., military units, regulators, pilots, data analysts, sensors, and satellites) and their mutual influences. We found that the military normatively assigns responsibility through a strict structure—individuals are accountable for their tasks and a commander for the operation—yet the drone’s autonomous mediations distribute and complicate responsibility across a large, stable sociotechnical network. Our analysis highlights a useful distinction between assigning responsibility and fault, shows that highly advanced automated systems can employ autonomous functions even with humans in control, and proposes understanding autonomy as process-based. We characterize the Global Hawk as a robust technology with a morally sound design and recommend further case-based studies and the inclusion of ethical theories in future assessments.
Dette speciale undersøger, hvordan teknologisk autonomi i militære systemer påvirker fordelingen og forståelsen af ansvar. Med et casestudie af NATO AGS’ anvendelse af Global Hawk-rekognosceringsdroner gennemførte vi et netværkscentreret, etnografisk feltarbejde i foråret 2018 baseret på interviews, uformelle samtaler, observationer og litteraturstudier. Aktør-netværksteori (ANT) og postfænomenologi udgjorde de centrale teoretiske rammer, suppleret af Ibo van de Poels “Problem of Many Hands”, for at kortlægge de mange menneskelige og ikke-menneskelige aktører (fx militære enheder, myndigheder, piloter, dataanalytikere, sensorer og satellitter) og deres indbyrdes påvirkninger. Vi fandt, at militæret normativt placerer ansvar efter en streng struktur, hvor den enkelte er ansvarlig for sin opgave, og en kommandør er ansvarlig for missionen; samtidig viser Global Hawks autonome medieringer, at ansvar i praksis fordeles og bliver vanskeligere at spore på tværs af et stort og stabilt socio-teknisk netværk. Vores analyse peger på et nyttigt skel mellem at placere ansvar og at være skyld i fejl, at højt avancerede, automatiserede systemer kan udnytte autonome funktioner selv med mennesker i kontrol, samt at autonomi med fordel kan forstås som procesbaseret. Vi karakteriserer Global Hawk som en stærk teknologi med et etisk forsvarligt design og anbefaler flere casestudier og inddragelse af etiske teorier i fremtidige vurderinger.
[This apstract has been generated with the help of AI directly from the project full text]
Keywords
ANT ; Postfænomenologi ; Netværksanalyse ; Militæret ; Droner ; Autonome ; Ansvar