Security, privacy and utility of an SNN edge enabled Clinical Healthcare Agentic Diagnostic(CHAD) system
Authors
Arndt, Christian Tobias ; Poulsen, Marc Tvermose
Term
4. semester
Education
Publication year
2026
Submitted on
2026-06-04
Pages
117
Abstract
AI systems that can act on their own (agentic AI) are increasingly used in healthcare. They offer new opportunities for automated diagnostic reasoning but also raise security risks and potential exposure of sensitive patient data. This study examines a practical setup where neuromorphic edge pre-processing (brain-inspired models running locally on devices) is used in a privacy-preserving, agentic diagnostic system for clinical ECG analysis. We conduct a literature review on agentic large language models (LLMs) in healthcare, application security, and neuromorphic computing. We implement and test two spiking neural networks: a feature-based spiking recurrent network (ALIF-SRNN) and a waveform-based spiking convolutional network (SCNN). Using a PRAM-anonymized version of the MIMIC-IV clinical dataset, we evaluate security, privacy, and diagnostic utility, and run ablation tests (systematically removing input features) to assess the impact of processing at the edge versus centrally. Privacy tests indicate that compressed SNN outputs resist both linear and non-linear reconstruction and perform near chance on membership-inference attacks, while standalone rhythm classification retains moderate utility (macro-F1 ≈0.55–0.57). In ablation, real SNN outputs substantially improve an LLM’s ICD diagnostic code Top-1 accuracy over a no-signal baseline (from 6% to 29%), although overall agent-level performance remains limited and below an oracle upper bound (theoretical maximum). Overall, the results support a deployable pattern: isolating data with edge SNNs can reduce exposure without fully sacrificing downstream diagnostic signal, while highlighting remaining gaps in security hardening and clinical reasoning accuracy.
AI-systemer, der kan handle selvstændigt (agentisk AI), bruges i stigende grad i sundhedsvæsenet. De giver nye muligheder for automatiseret diagnostik, men øger også sikkerhedsrisici og risikoen for eksponering af følsomme patientdata. Denne studie undersøger en praktisk løsning, hvor neuromorf kant-præprocessering (hjernelignende modeller, der kører lokalt på enheder) indgår i et privatlivsbevarende, agentisk diagnosesystem til klinisk EKG-analyse. Vi gennemfører et litteraturstudie af agentiske store sprogmodeller (LLM) i sundhed, applikationssikkerhed og neuromorf computing. To spikende neurale netværk implementeres og testes: et funktionsbaseret spikende rekurrent netværk (ALIF-SRNN) og et bølgeformsbaseret spikende konvolutionelt netværk (SCNN). Med en PRAM-anonymiseret version af MIMIC-IV kliniske data evaluerer vi sikkerhed, privatliv og diagnostisk nytte og udfører ablationstest (systematisk fjernelse af inputfunktioner) for at vurdere effekten af, hvad der behandles på kanten frem for centralt. Privatlivstest viser, at komprimerede SNN-udgange modstår både lineær og ikke-lineær rekonstruktion og ligger tæt på tilfældig i medlemskabs-inference-angreb, mens selvstændig rytmeklassifikation har moderat nytte (macro-F1 ≈0,55–0,57). I ablation forbedrer reelle SNN-udgange LLM’ers ICD-diagnosekoder Top-1-nøjagtighed markant sammenlignet med en ingen-signal-baseline (fra 6% til 29%), men den samlede agent-ydelse er fortsat begrænset og under en orakel-øvre grænse (teoretisk maksimum). Resultaterne peger på et implementerbart mønster: isolering med kant-SNN’er kan reducere dataeksponering uden helt at miste nedstrøms diagnostisk signal, samtidig med at der fremhæves tilbageværende huller i sikkerhedshærdning og klinisk ræsonneringspræcision.
[This apstract has been rewritten with the help of AI based on the project's original abstract]
Keywords