HUME Risikoanalyse

Introduksjon

HUME er en digital plattform for å oppdage stress gjennom kunstig intelligens, basert på endringer i fysiologiske signaler relatert til stress. HUME gir innsikt i stressopplevelser for å støtte omsorgspersoner i å gi daglig omsorg og assistanse til mennesker.

Bruken av stressdeteksjonssystemet HUME medfører potensielle risikoer. En grundig risikoanalyse fokuserer på å identifisere disse risikoene og utvikle tiltak for å håndtere eller minimere dem.

Dette dokumentet beskriver de mulige risikoene basert på FMEA og DPIA (Data Protection Impact Assessment) analyser og kontrolltiltakene.

Risikoer og kontrolltiltak

HUME består av sensorer og et datadashbord. Sensorene måler fysiologiske data som en klients hudledningsevne og hjertefrekvens. Dashbordet viser deretter stressnivået.

Risikoer

De viktigste risikoene og hensynene inkluderer:

• Personvern, sikkerhet og etikk: Innsamling av data for å oppdage stress kan involvere sensitiv informasjon. Det er en risiko for at personopplysninger kan samles inn uten tilstrekkelig samtykke eller at denne informasjonen kan misbrukes.

• Nøyaktighet og pålitelighet: Stressnivåer er komplekse og kan variere fra person til person. Nøyaktigheten til stressdeteksjonssystemer kan variere, og det er viktig å vurdere mulige feil eller unøyaktigheter i resultatene. Sensorer som måler stress, som hjertefrekvensmålere eller hudledningsevnesensorer, kan være følsomme for eksterne faktorer, bevegelse eller miljøforhold, som kan resultere i unøyaktige målinger.

• Stigmatisering og feiltolkning: Feiltolkning av stressindikatorer kan føre til stigmatisering eller feil behandling av enkeltpersoner. Det er viktig å erkjenne at stress ikke alltid er negativt og bør forstås og håndteres riktig.

• Avhengighet av teknologi: Overdreven avhengighet av teknologi for å oppdage stress kan føre til at man ignorerer viktige menneskelige signaler og intuisjon, og kan potensielt redusere den menneskelige interaksjonen og støtten som trengs for å håndtere stress.

• Invasivitet og komfort: Noen sensorer kan oppfattes som påtrengende, spesielt når de kontinuerlig samler fysiologiske data. Sensoren kan også forårsake allergiske reaksjoner. Dette kan redusere brukerkomforten og føre til motstand mot å bruke slike sensorer.

Kontrolltiltak

Personvern, sikkerhet og etikk

Følgende tiltak er implementert innenfor Mentech for å kontrollere risikoen for “Personvern og etikk”:

1. Bruk av informert samtykke, med en transparent og klar samtykkeprosedyre. Brukere (ofte via den juridiske representanten) samtykker eksplisitt før dataene deres samles inn. Dette er beskrevet i vår GDPR-håndbok og personvernpolicy.

2. Vi lagrer dataene under HUME-programmer i kryptert form slik at enkeltpersoner ikke kan identifiseres direkte via den innsamlede informasjonen. Etter fullføring av et HUME-program lagres informasjonen anonymt og slettes etter 1 år.

3. Vi arbeider etter prinsippet om dataminimering, hvor kun nødvendige data relevante for formålet med stressdeteksjon samles inn.

4. Vi har implementert sterke sikkerhetstiltak. Robuste sikkerhetsprotokoller beskytter mot uautorisert tilgang, datalekkasjer og hacking.

5. Vi gir klare instruksjoner om konsekvensene av å bruke HUME, som hvordan stressdeteksjonssystemet fungerer, hvilke data som samles inn, og hvordan de brukes.

6. Vi opererer i henhold til gjeldende standarder, etikk og lovgivning.

7. Vi utfører regelmessige revisjoner (penetrasjonstester) for å sikre at de innsamlede dataene behandles og brukes etisk og lovlig.

8. Vi involverer brukere i prosessen ved å samle tilbakemeldinger og la dem delta i beslutningsprosesser angående bruken av dataene deres.

For spørsmål eller kommentarer har vi opprettet et personvernteam: privacy@mentechinnovation.eu

Nøyaktighet og pålitelighet

For å kontrollere risikoen knyttet til nøyaktighet og pålitelighet av stressdeteksjonssystemer, er følgende tiltak implementert:

1. Stressdeteksjonssystemer er ikke perfekte og kan gi falske positive eller falske negative resultater. Før oppstart av et HUME-program gir vi en forklaring på nøyaktighet og toleransegrenser angående falske negative og falske positive. En falsk positiv kan føre til unødvendige inngrep, mens en falsk negativ kan bety at noen som opplever stress forblir uoppdaget. Under inntaket bruker vi en sjekkliste som også diskuterer og definerer konsekvensene av en mulig feilindikasjon og tilhørende tolkning av stress. I tillegg samler vi inn brukertilbakemeldinger om nøyaktigheten til HUME under hvert HUME-program. Før oppstart av et program bestemmer vi baselinemålingen. Under modellkalibreringen vurderer vi om de oppfattede stressnivåene samsvarer med de oppdagede stressnivåene, slik at systemet kan justeres og forbedres. Også under bruk mottar vi regelmessig tilbakemeldinger om nøyaktigheten av stressprediksjon.

2. Vi har implementert kvalitetskontroll for å overvåke kvaliteten på sensoren og de kroppsnære enhetene. For eksempel måles og vurderes kvaliteten på sokken før starten av en økt.

3. Vi bruker vanligvis 2 forskjellige sensorer, nemlig hjertefrekvens og hudledningsevne, som gir både et mer pålitelig kombinert signal og en innebygd backup (hvis én sensor er utilstrekkelig nøyaktig, faller HUME tilbake på den andre sensoren).

4. Vi har validert HUME-utfallsmål i en klinisk studie. Vi utfører regelmessig forskning i samarbeid med akademiske partnere som LUMC, Tranzo og TU/e. Resultatene av disse studiene er beskrevet i vitenskapelige artikler.

5. Vi bruker maskinlæring og AI-algoritmer for å trene og forbedre systemet basert på innsamlede data. Ved kontinuerlig å lære av nye data kan systemet bli mer nøyaktig i å gjenkjenne stresssignaler. Vi bruker også laboratoriedata for å utvikle nye modeller.

6. Vi investerer i utforskning av nye sensorteknologier og forbedring av eksisterende teknologier. Dette øker nøyaktigheten og påliteligheten til HUME.

7. Vi jobber med tverrfaglige team, der tekniske eksperter, brukere og helsepersonell samarbeider for å sikre og kontinuerlig forbedre nøyaktigheten og påliteligheten til stressdeteksjonssystemer.

Detaljert informasjon om disse kontrolltiltakene kan finnes i den tekniske dokumentasjonen til HUME.

Stigmatisering og unngåelse av feiltolkning

For å kontrollere risikoen knyttet til stigmatisering og unngåelse av feiltolkning, er følgende tiltak implementert:

1. Stress er komplekst og kan ha ulike årsaker. Det er avgjørende å forstå konteksten til stressnivåer og ikke bare stole på sensordata. Implementering av en kontekstuell tilnærming hjelper med å tolke stressnivåer mer nøyaktig.

2. Vi gir HUME-brukere omfattende instruksjon og intensiv opplæring før de begynner å bruke HUME. Riktig opplæring bidrar til å forhindre bias og feiltolkning av stressindikatorer.

3. Under inntak og opplæring understreker vi at stressresponser varierer fra person til person og at ikke alle signaler betyr det samme for alle.

4. Vi kombinerer ofte sensordata med andre informasjonskilder, som selvrapportering fra brukeren, hendelsesrapporter eller kontekstuelle data som miljø eller sosial situasjon.

5. Vi understreker at HUME stressdeteksjon er et støtteverktøy for å gi assistanse til mennesker med omsorgsbehov. Vi setter livskvaliteten til både klienten og omsorgspersonen i sentrum.

6. Gjennom MyHUME-dashbordet og rapporter kommuniserer vi konsekvent om tolkningen av stressutfall og mulige passende intervensjoner.

Det er svært viktig å adoptere en menneskesentrisk tilnærming når man bruker HUME. Å unngå stigmatisering begynner med å forstå og respektere individuelle forskjeller og erfaringer. Under inntak og instruksjon diskuteres disse risikoene med omsorgsteamet.

Avhengighet av teknologi

For å kontrollere risikoen knyttet til avhengighet av teknologi, er følgende tiltak implementert:

• Under inntak og instruksjon, men også under bruken av HUME, diskuterer vi teknologiens rolle i å oppdage og tolke stress. Vi har utviklet omfattende instruksjon og opplæring der vi også påpeker begrensningene ved teknologien til HUME-brukere (omsorgspersoner, helsepersonell og pårørende). Under opplæringen lærer vi dem hvordan de skal tolke data fra HUME-appen og MyHUME-dashbordet og kombinere det med menneskelige observasjoner.

• Omsorgspersonen kan registrere menneskelige vurderinger ved hjelp av etiketter i appen. Disse etikettene kan brukes til å finjustere modellen til brukeren og brukes også til å gi kontekst til stressutfallene.

• Vi utfører regelmessige evalueringer for å sjekke hvordan teknologien brukes og hvordan folk reagerer på den. Vi samler inn denne tilbakemeldingen fra brukere og inkorporerer rådene i den videre utviklingen av HUME.

• Mentech-kontoansvarlige har erfaring med langtidsomsorg for mennesker med utfordrende atferd. De er svært dyktige til å tolke atferd og kan derfor fremheve viktigheten av menneskelig interaksjon og støtte i håndtering av stress. De oppmuntrer til personlige samtaler, terapi og sosial kontakt som et supplement til bruken av HUME.

Under forberedelse, instruksjon, opplæring, bruk og evaluering fortsetter vi å understreke at HUME er en støtteteknologi for å gjenkjenne stressoppbygging. Ved å bruke teknologi som støtte snarere enn som erstatning, kan avhengigheten av den reduseres samtidig som den menneskelige forbindelsen opprettholdes.

Invasivitet og komfort

For å redusere invasivitet og forbedre komfort ved bruk av stressdeteksjonssystemer med sensorer, er følgende kontrolltiltak iverksatt:

• Vi designer i samskaping med helsevesenet, blant annet ved å bruke fokusgrupper og iterativ design, smarte kroppsnære enheter som er så lite invasive som mulig og gir komfort til brukeren. Den smarte sokken integreres for eksempel enkelt i klientens primære prosess. Ankel-hjertefrekvenssensoren er også designet for klientens komfort. Vi har lagt stor vekt på brukervennlighet under bruk.

• Under baselinemålingen utfører vi en komforttest og en aksepttest. Vi ser både på aksepten av sensoren og på komforten (f.eks. om sensoren forårsaker en allergisk reaksjon). Også under bruk forblir oppmerksomheten rettet mot komfort og aksept ved regelmessig å diskutere dette temaet med omsorgsteamene.

• Ved oppstart av et HUME-program vurderer vi risikoen for svelging. Vi prøver også å estimere om det er sjanse for å hekte seg fast i noe.

• Vi bruker forskjellige størrelser av sensorer (sokker) og forskjellige typer sensorer for å tilby en personlig og skreddersydd løsning.

Ved å fokusere på å forbedre komfort og redusere invasiviteten til sensorer, kan aksepten og bruken av stressdeteksjonssystemer økes uten at brukerne føler seg ukomfortable mens de bruker dem.