Påstander om KI og personvern
Lov på eksamen
- Datamaskin med programmeringsverktøy
- Lærebok, dokumentasjon og egne notater og programmer
Ikke åpent internett (bare noen utvalgte nettressurser), kommunikasjon med andre eller kunstig intelligens.
Kan den løses uten PC?
Kan løses med penn og papir. Du trenger ikke kalkulator.
Fra 2027 er det bare kalkulator og skriftlige hjelpemidler på del 2. Vurderingen er gjort med KI og kan inneholde feil.
Sett ett kryss for hver påstand, enten sant eller usant.
| Påstand | Sant | Usant |
|---|---|---|
| Fordi utvikling av KI kan kreve mye og uventede data, kan det være fornuftig å samle inn flere personopplysninger enn det man i utgangspunktet tror er nødvendig for et bestemt prosjekt. | ||
| Alle reglene for personvern gjelder også under utvikling av KI. | ||
| Når KI bruker personopplysninger i en beslutningsprosess, har den registrerte ikke rett til innsyn, fordi det å forklare prosessen er veldig vanskelig. | ||
| Det er viktig å gjøre tverrfaglige vurderinger av de etiske konsekvensene ved bruk av KI. | ||
| Det er enten etiske eller juridiske dilemmaer ved bruk av KI. | ||
| KI er objektiv, og derfor er bruken av KI rettferdig for alle. | ||
| KI kan alltid gjenbruke personopplysninger fra andre prosjekter, fordi utvikling av KI betraktes som forskning. |
Fasit
Sant: påstand 2 og 4. Usant: påstand 1, 3, 5, 6 og 7.
LøsningsforslagKI-generert
Påstandene bygger på Datatilsynets rapport «Kunstig intelligens og personvern» (2018) fra forberedelsesdelen.
- Usant. Prinsippet om dataminimering sier at opplysningene skal være adekvate, relevante og begrenset til det som er nødvendig for formålet. Datatilsynet innrømmer at det kan være vanskelig å vite på forhånd hvilke opplysninger en algoritme trenger, men mener nettopp derfor at behovet må vurderes fortløpende. Å samle inn «for sikkerhets skyld» strider mot prinsippet. Irrelevante opplysninger øker dessuten risikoen for at algoritmen finner tilfeldige sammenhenger som ikke er reelle.
- Sant. Personvernforordningen (GDPR) gjelder for all behandling av personopplysninger. Utvikling av KI med personopplysninger er behandling, så alle prinsippene og reglene gjelder, også kravet om gjennomsiktighet.
- Usant. Den registrerte har rett til innsyn og til informasjon om logikken bak automatiserte avgjørelser. At KI er vanskelig å forklare, fritar ikke den behandlingsansvarlige fra denne plikten. Hensynet til forretningshemmeligheter kan heller ikke brukes til å nekte innsyn i alle opplysningene.
- Sant. Datatilsynet anbefaler å «tenke tverrfaglig»: KI er mer enn teknologi, og tverrfaglige team bør vurdere de etiske og samfunnsmessige konsekvensene av systemene.
- Usant. Det er ikke enten etiske eller juridiske dilemmaer. Mange dilemmaer er begge deler. Diskriminering med skjeve algoritmer er for eksempel både etisk galt og i strid med prinsippet om rettferdighet i GDPR.
- Usant. En algoritme er ikke mer objektiv enn menneskene som lager den og dataene den trenes på. Gir treningsdataene et skjevt bilde av virkeligheten, kan resultatet bli diskriminerende. Rapporten viser til et amerikansk system for risikovurdering av domfelte som ifølge ProPublica flagget afroamerikanere feilaktig som høyrisiko dobbelt så ofte som hvite.
- Usant. Gjenbruk av opplysninger til nye formål må som hovedregel være forenlig med det opprinnelige formålet (formålsbegrensning), ellers kreves nytt samtykke eller annet behandlingsgrunnlag. Vitenskapelig forskning er et unntak, men utvikling av KI er bare i noen tilfeller forskning. Å bruke KI til å vurdere kredittverdighet er for eksempel ikke forskning. Ordet «alltid» gjør påstanden usann.