Privacy vs Utility in AI Glasses: A User Study on Visual Censoring
Authors
Hammer, Frederik Ødgaard ; Sørensen, Rasmus Rytter
Term
4. term
Education
Publication year
2026
Submitted on
2026-06-03
Abstract
AI glasses are everyday tools that can help with tasks like finding your car or translating conversations in real time. Because they continuously capture visual data from the environment, protecting privacy is critical. We ran a user survey to understand how people perceive privacy when sharing data with AI. We recorded a series of scenarios, paired each with a specific AI task, and applied one of three visual censoring methods: black boxes (covering areas), blur (softening details), or generative censoring (replacing sensitive content with AI-generated substitutes). We introduce VEIL (Visual Eraser for Identity and Location privacy in AI), a system that automatically hides privacy-sensitive elements such as faces or location details using these methods. Our findings show that censoring sensitive elements significantly improves users’ privacy perception when sharing data with AI systems. When censoring avoids task-relevant elements, the quality of AI answers does not decrease. Participants viewed black-box censoring as the most privacy-preserving, while generative censoring raised concerns about potential misuse. Overall, visual censoring can balance privacy protection and AI answer quality.
AI-briller er værktøjer til hverdag, som kan hjælpe med alt fra at finde din bil til at oversætte samtaler i realtid. Fordi de løbende optager omgivelserne, er beskyttelse af privatliv vigtig. Vi gennemførte en brugerundersøgelse for at forstå, hvordan folk oplever privatliv ved deling af data med AI. Vi optog en række scenarier, knyttede hver optagelse til en konkret AI-opgave, og anvendte én af tre visuelle censurmetoder: sorte felter (dækker områder), sløring (gør detaljer utydelige) eller generativ censur (erstatter følsomt indhold med AI-skabte alternativer). Vi introducerer VEIL (Visual Eraser for Identity and Location privacy in AI), et system der automatisk skjuler privatlivsfølsomme elementer som ansigter eller lokalitetsoplysninger med disse metoder. Resultaterne viser, at censur af følsomme elementer markant forbedrer brugeres oplevelse af privatliv, når data deles med AI-systemer. Når censuren ikke rammer elementer, der er nødvendige for opgaven, forringes AI’ens svar ikke. Deltagerne opfattede sorte felter som mest privatlivsbeskyttende, mens generativ censur gav bekymringer om mulig misbrug. Samlet set viser arbejdet, at visuel censur kan balancere privatliv og kvaliteten af AI-svar.
[This apstract has been rewritten with the help of AI based on the project's original abstract]