Tilbake

Kunstig intelligente beslutningssystemer

Aktuelt | 05.07.17

IT og datasikkerhet
EUs personvernforordning (GDPR), som vil bli gjeldende rett i Norge fra og med mai 2018, vil legge rammer for bruken av kunstig intelligens i beslutningssystemer.

EUs personvernforordning (GDPR) som vil bli gjeldende rett i Norge fra og med mai 2018, inneholder bestemmelser som legger føringer for bruken av kunstig intelligens (AI) i beslutningssystemer. En vellykket implementering av AI-baserte beslutningssystemer forutsetter en gjennomtenkt strategi.

GDPR gir enkeltpersoner rett til ikke å være gjenstand for automatiserte beslutninger i den grad beslutningen får rettsvirkninger eller andre konsekvenser av vesentlig betydning for personen beslutningen gjelder. Et viktig unntak gjelder avgjørelser som er nødvendige i forbindelse med inngåelse eller gjennomføring av en kontrakt. Det typiske eksemplet er kredittsjekker. Men selv i tilfeller hvor det er adgang til å benytte automatiserte beslutningssystemer har personen beslutningen retter seg mot flere rettigheter, blant annet til å kreve manuell intervensjon og forklaring av logikken i beslutningssystemet.

Restriksjonene for bruk av automatiserte beslutningssystemer innebærer at virksomheter som har etablert, eller som planlegger å ta i bruk, slike verktøy må beholde back-office ressurser for å imøtekomme dem som ikke ønsker sin skjebne avgjort av en algoritme. Virksomheten må også sørge for at det finnes kompetanse internt til å redegjøre for logikken i de beslutningssystemene, herunder hvilke opplysninger som danner grunnlaget for beslutningen og hvilke kilder disse er hentet fra. Jo mer intrikat teknologi som benyttes, jo vanskeligere kan det være å redegjøre for logikken. Virksomheter som lar andre utvikle AI på sine vegne til bruk i forbindelse med (eksterne) beslutningssystemer, bør ha en plan for hvordan virksomheten skal imøtekomme forespørsler om informasjon og innsyn.

Restriksjonene i personvernregelverket vedrørende automatiserte beslutninger kan i verste fall bidra til at insentivene til å satse på AI svekkes. Det er imidlertid også mulig å snu på dette og si at muligheten til å kreve manuell behandling øker insentivene til å lage velfungerende og tillitvekkende systemer. De som lykkes med å lage systemer som etterlever de strenge kravene som gjelder innenfor EØS-området vil kunne oppnå et konkurransefortrinn på det globale markedet.

Dersom man skal lykkes med beslutningssystemer basert på AI som retter seg mot enkeltpersoner, enten det dreier seg om å fatte standardiserte vedtak innenfor det offentlige eller beregning av forsikringspremier, vil det være essensielt at man klarer å bygge opp tillit hos kundene eller til de metodene virksomheten benytter.

Forståelig og lett tilgjengelig informasjon om logikken i systemene og åpenhet om hvilke rettigheter den enkelte har, er et sentralt grep som tjener flere formål enn etterlevelse av regelverket. Dersom virksomheten klarer å formidle at den AI-baserte løsningen gjør en like god eller bedre jobb enn det som er tilfelle for manuelt baserte beslutninger, har man kommet langt på vei. Åpenhet og redelighet vedrørende hva slags informasjon som danner grunnlag for beslutningene og hvor den hentes fra er også grunnleggende.

Det ser ikke ut til å være noen grunn til bekymring for at restriksjonene vedrørende automatiserte beslutninger i GDPR vesentlig vil hindre utviklingen innenfor AI. GDPR vil derimot unektelig legge rammene for den.


Artikkelen ble først publisert i Finansavisen 03.07.17.