Når maskinen sier nei: Hvem har egentlig ansvaret for velferden din?
Et avslag uten et menneskelig ansikt
Du åpner den digitale postkassen og finner et avslag. Språket er standardisert, begrunnelsen kort og formuleringene virker hentet fra et system som har vurdert opplysningene dine mot en rekke vilkår. Ingen saksbehandler har satt sitt personlige preg på teksten. Likevel får avgjørelsen konkrete følger for økonomien, helsen eller muligheten til å få hjelp.
Hvem bærer egentlig ansvaret når saksbehandleren tilsynelatende er byttet ut med kode? Automatisert saksbehandling betyr at et datasystem helt eller delvis bruker forhåndsdefinerte regler, modeller eller mønstre i data til å behandle en sak og i noen tilfeller fatte vedtak. Teknologien kan gjøre forvaltningen raskere, men den kan aldri oppheve kravet om rettferdig behandling. I en digital velferdsstat skal du fortsatt ha mulighet til innsyn, forståelig begrunnelse, menneskelig vurdering og reell klagebehandling.
Bak fasaden av effektivitet lurer skjulte skjevheter
Automatisering kan gi tydelige fordeler. Enkle og standardiserte saker kan behandles raskere, feil som skyldes manuell registrering kan reduseres, og flere kan få svar uten lang ventetid. Forvaltningen kan også bruke teknologi til å oppdage manglende dokumentasjon eller kontrollere at like faktiske forhold behandles likt. Når vilkårene er klare og objektive, kan dette styrke likebehandlingen.
Men et system er aldri mer nøytralt enn dataene, reglene og prioriteringene det bygger på. Historiske data kan inneholde spor av tidligere forskjellsbehandling. Dersom personer med ustabil inntekt, utenlandsk navn, funksjonsnedsettelse eller kompliserte livssituasjoner oftere har fått avslag tidligere, kan et maskinlæringssystem tolke slike mønstre som tegn på risiko eller manglende rett. Dermed kan gamle skjevheter gjentas og forsterkes, selv om ingen uttrykkelig har programmert inn diskriminering.
Problemet kan også oppstå gjennom såkalte stedfortredende variabler. Et system trenger ikke å bruke etnisk bakgrunn, kjønn eller helse direkte for å få en skjev effekt. Bosted, språk, arbeidshistorikk, kontaktmønstre eller hvilken type dokumentasjon en person leverer, kan indirekte gi modellen informasjon om beskyttede eller sårbare kjennetegn. En bred internasjonal analyse av offentlige algoritmer viser hvordan digital velferdsforvaltning kan reprodusere eksisterende ulikheter dersom systemene ikke vurderes i den sosiale og politiske sammenhengen de skal brukes i. Dette er grundig belyst i forskning om algoritmisk diskriminering i latinamerikanske velferdsstater.
Slik fungerer algoritmisk forvaltning i praksis
Det er nyttig å skille mellom to hovedtyper automatisering. Et regelbasert system følger uttrykkelige vilkår, omtrent som en digital sjekkliste. Dersom bestemte opplysninger er til stede, og alle lovens krav er oppfylt, kan systemet beregne eller innvilge en ytelse. Maskinlæring fungerer annerledes. Modellen finner mønstre i store datamengder og kan brukes til å klassifisere, forutsi eller prioritere saker. Slike modeller kan være effektive, men det kan være vanskeligere å forklare nøyaktig hvorfor én bestemt person fikk et bestemt resultat.
I Norge og Norden brukes automatisering i ulike deler av offentlig forvaltning. Det kan gjelde beregning og utbetaling av ytelser, kontroll av formelle vilkår, behandling av standardiserte søknader, veiledning og prioritering av saker. Automatisering kan også brukes som beslutningsstøtte, uten at systemet selv fatter det endelige vedtaket. I arbeidet med mulige datadrevne verktøy for bosetting av flyktninger er det for eksempel vurdert både regelbaserte, prediktive, hybride og fullt automatiserte modeller. At et system bare gir en anbefaling, betyr likevel ikke at rettssikkerheten er sikret. En saksbehandler kan i praksis bli så avhengig av systemets forslag at den menneskelige kontrollen blir ren formalitet.
Folketrygdloven § 21-11 a åpner for automatisert behandling hos blant andre Helfo og Helsedirektoratet når avgjørelsen bygger på klare, objektive og standardiserbare kriterier. Automatisering passer først og fremst for lite inngripende avgjørelser og for saker der utfallet kan avgjøres entydig. Skjønnsmessige vurderinger skal normalt behandles manuelt. Et automatisk avslag kan bare brukes innenfor snevre rammer, blant annet når ytelsen klart faller utenfor ordningen eller et absolutt vilkår ikke er oppfylt. De alminnelige kravene til forsvarlig saksbehandling, utredning, informasjon, begrunnelse og klage gjelder fortsatt.
| Manuell saksbehandling | Algoritmisk eller automatisert behandling |
|---|---|
| En saksbehandler vurderer dokumentene og kan stille oppklarende spørsmål. | Et system sammenligner opplysninger med regler, parametere eller statistiske mønstre. |
| Skjønn og individuelle forhold kan vurderes direkte. | Individuelle forhold kan bli oversett dersom de ikke finnes i relevante datafelt. |
| Begrunnelsen kan forklares gjennom saksbehandlerens vurdering. | Begrunnelsen må også forklare hvilke data, regler eller modellresultater som påvirket utfallet. |
| Feil kan oppdages gjennom dialog under behandlingen. | Feil må oppdages gjennom testing, innsyn, manuell kontroll eller klage. |
Dine lovfestede rettigheter når koden fatter vedtaket
Personvernforordningen artikkel 22 gir et viktig vern mot avgjørelser som utelukkende bygger på automatisert behandling og som har rettslig virkning eller på tilsvarende måte påvirker deg betydelig. Et avslag på en velferdsytelse kan nettopp få slike konsekvenser. Hovedregelen er at slike helautomatiske avgjørelser ikke skal tas uten særskilt rettslig grunnlag eller et annet lovlig unntak. Når automatisering likevel er tillatt, skal det finnes egnede garantier for rettighetene dine.
Disse garantiene er ikke oppfylt bare fordi en person står oppført som ansvarlig for systemet. Du skal kunne be om menneskelig inngripen, få frem synspunktene dine og bestride avgjørelsen. Den menneskelige vurderingen må være reell. Saksbehandleren må ha tilstrekkelig kompetanse, tid og myndighet til å endre resultatet, og ikke bare bekrefte maskinens konklusjon. Samtidig skal begrunnelsen være konkret nok til at du kan forstå hva som skjedde, hvilke opplysninger som ble brukt, og hva som eventuelt kan korrigeres.
Forvaltningen må dessuten kunne dokumentere at systemet er testet, at opplysningene er nødvendige og relevante, og at virkningen for ulike grupper er vurdert. Kravet om dataminimering betyr at det ikke skal samles inn eller brukes flere personopplysninger enn det saken trenger. Rettsikkerhet, åpenhet, personvern og vern mot diskriminering må ses samlet. Dette er et sentralt tema i Prosjekt Digital velferdsstat ved Universitetet i Oslo, som undersøker blant annet automatisering, profilering, forklarbarhet, diskriminering og hvordan forvaltningsretten må tilpasses nye digitale arbeidsformer.
- Rett til informasjon: Du skal få vite at automatisert behandling brukes når dette har betydning for saken, og hva behandlingen innebærer.
- Rett til innsyn: Du kan be om innsyn i personopplysningene som er brukt, og hvordan de har påvirket saken.
- Rett til forklaring: Begrunnelsen må gjøre det mulig å forstå de viktigste faktorene bak resultatet.
- Rett til menneskelig vurdering: Når reglene åpner for automatisering, skal du kunne be om at en kompetent person vurderer saken.
- Rett til å klage: Et maskinelt vedtak kan klages på etter de ordinære reglene for den aktuelle ordningen.
Konkrete grep du tar for å utfordre et maskinelt avslag
Et avslag bør ikke møtes med en generell protest alene. Jo mer presist du ber om innsyn og ny vurdering, desto lettere blir det å avdekke om problemet skyldes feil data, feil regelbruk eller manglende vurdering av individuelle forhold. Ta vare på vedtaket, vedleggene, datoene og all kommunikasjon. Dersom klagefristen er kort, bør klagen sendes innen fristen selv om du fortsatt venter på flere opplysninger.
- Krev innsyn i grunnlaget. Be om å få vite hvilke personopplysninger, dokumenter, regler og eventuelle parametere som ble lagt til grunn. Spør også om avgjørelsen var helautomatisert, eller om en saksbehandler faktisk vurderte saken. Be om en forklaring på hvilke forhold som var avgjørende, og kontroller om inntekter, arbeidsevne, bosted, familiesituasjon eller andre opplysninger er riktige.
- Be uttrykkelig om manuell behandling. Skriv at du ber om en reell menneskelig vurdering av saken. Be om at saksbehandleren vurderer opplysningene selvstendig og tar stilling til om automatiseringen har oversett omstendigheter som krever skjønn. En slik anmodning bør ikke bare sendes muntlig. Bruk den digitale dialogen eller skriftlig post, slik at kravet kan dokumenteres.
- Forklar hva maskinen ikke så. Pek på konkrete individuelle forhold som ikke fremgår av standardfeltene eller som ikke er riktig forstått. Det kan være en medisinsk utvikling, uforutsigbar inntekt, omsorgsansvar, manglende tilgang til dokumentasjon, språkbarrierer eller en særlig belastende livssituasjon. Skriv at vedtaket bestrides fordi begrunnelsen ikke viser hvordan disse forholdene er vurdert, og be om at saken utredes på nytt.
En enkel klageformulering kan være: «Det bes om innsyn i hvilke opplysninger og regler som lå til grunn for vedtaket, og om opplysning om vedtaket ble fattet helautomatisert. Det bes samtidig om en reell manuell vurdering. Vedtaket bestrides fordi følgende individuelle forhold ikke er vurdert: …» Deretter bør du forklare hvorfor forholdene kan påvirke vilkårene for ytelsen.
Hvis du ikke får et forståelig svar, kan du be om veiledning om klageinstans og videre fremgangsmåte. I enkelte saker kan det også være aktuelt å kontakte Datatilsynet ved spørsmål om personopplysninger eller automatiserte avgjørelser, eller Sivilombudet dersom du mener forvaltningen har behandlet saken uforsvarlig. Slike instanser erstatter ikke alltid en ordinær klage, så den vanlige klagefristen må fortsatt overholdes.
Ta makten tilbake over dine egne velferdsrettigheter
Teknologi skal gjøre velferdsordningene mer tilgjengelige, ikke gjøre dem mindre forståelige. Et system som behandler like saker likt, kan være nyttig. Et system som skjuler feil, viderefører skjevheter eller gjør det umulig å få vurdert en særlig situasjon, kan derimot svekke både verdighet og rettssikkerhet. Ansvar kan ikke legges på en algoritme. Det er fortsatt et offentlig organ som må kunne forklare, dokumentere og stå til ansvar for vedtaket.
Et uforståelig avslag er ikke nødvendigvis en endelig dom. Be om innsyn, krev en konkret begrunnelse, be om menneskelig vurdering og klag innen fristen. Still spørsmål ved feil opplysninger og forklar det som ikke passer inn i systemets standardkategorier. I møte med en digital forvaltning er det ikke urimelig å kreve et svar som et menneske kan forstå og et menneske har ansvar for.
