Informasjonsteknologi 2 Vår 2024

Løkka går «fra og med 2 til $n$». I oppgave 3 skriver eksamen uttrykkelig «til og med», så her tolker vi «til» som «til, men ikke med». Da går i fra 2 til 9:

Etter løkka inneholder a plassene 0 til 9. DISPLAY a[n] prøver å vise a[10], som aldri er satt. Resultatet blir en indeksfeil, for eksempel IndexError i Python.

Hadde løkka gått til og med 10, ville den også regnet ut a[10] = 21 + 34 = 55, og programmet ville vist 55.

Algoritmen lager Fibonacci-tallene i en indeksert variabel (liste) a:

1. De to første tallene settes til a[0] = 0 og a[1] = 1.
2. Løkka går gjennom plassene fra 2 og oppover. Hvert nytt tall er summen av de to foregående: a[i] = a[i-1] + a[i-2]. Listen blir $0,1,1,2,3,5,8,13,21,34$.
3. Når løkka er ferdig, vises tallet på plass n til brukeren.

Hensikten er altså å finne Fibonacci-tall nummer $n=10$, som er 55. Siden løkka stopper før i = 10, finnes ikke a[10], og visningen gir indeksfeil (se a). Feilen rettes ved å la løkka gå til og med n.

Vi vet ikke på forhånd hvor mange tall vi må lage før vi har funnet ti partall. En FOR-løkke med fast antall runder passer derfor dårlig. I stedet bruker vi en WHILE-løkke og en teller antall som holder styr på hvor mange partall som er vist:

SET a[0] TO 0
SET a[1] TO 1
DISPLAY a[0]
SET antall TO 1
SET i TO 2
WHILE antall LESSER THAN 10
    SET a[i] TO a[i-1] + a[i-2]
    IF a[i] % 2 EQUAL TO 0
        DISPLAY a[i]
        INCREMENT antall
    ENDIF
    INCREMENT i
ENDWHILE

Forklaring av endringene:

• n trengs ikke lenger. Løkka stopper når antall har nådd 10.
• Startverdien a[0] = 0 er et partall og vises før løkka, så antall starter på 1. Tallet a[1] = 1 er et oddetall og skal ikke vises.
• Et tall er partall når resten ved deling med 2 er null (a[i] % 2 EQUAL TO 0). Bare da vises tallet og telleren økes.
• i økes i hver runde, uansett om tallet var partall eller ikke.

Programmet viser $0,2,8,34,144,610,2584,10946,46368,196418$. Hvert tredje Fibonacci-tall er et partall, så løkka må lage tallene helt fram til a[27] = 196418. Vil vi ikke regne med startverdien 0, fjerner vi DISPLAY a[0] og setter antall til 0. Da slutter programmet med a[30] = 832040.

Flytskjemaet bruker standardsymbolene: ellipse for start og slutt, rektangel for tilordninger og beregninger, parallellogram for visning (utdata) og rombe for valg. Løkka er pila fra i = i + 1 tilbake til testen antall < 10 ?. Når svaret er «nei», er ti partall vist, og programmet stopper.

Et klassediagram i UML har tre felt:

• Øverst står klassenavnet, Kalkulator.
• I midten står egenskapene (attributtene). Kalkulatoren trenger ingen egenskaper: hver metode får tallene den skal regne med som parametere og returnerer svaret. Feltet står derfor tomt.
• Nederst står metodene. De fire funksjonene fra pseudokoden blir metoder i klassen. + betyr at metodene er offentlige, slik at resten av programmet kan bruke dem. Parameterne og returverdien er desimaltall (float). Datatypene er ikke påkrevd, men gjør diagrammet tydeligere.

Konstruktøren Kalkulator() lager et nytt kalkulatorobjekt. Den tar ingen parametere, siden objektet ikke har egenskaper som skal settes. Mange tar ikke med konstruktøren i diagrammet når den ikke gjør noe spesielt.

En deepfake er bilde, video eller lyd som er manipulert med kunstig intelligens, for eksempel ved at ansiktet eller stemmen til én person byttes ut med en annens. Deepfakes er derfor manipulerte medier. I forberedelsesartikkelen får FFI politikeren Abid Raja til å snakke trøndersk med stemmen til en forsker.

De andre alternativene er feil. Deepfakes er ikke et sosialt medium, selv om de ofte spres der. Det er heller ikke virtuell virkelighet, der brukeren beveger seg i en datagenerert verden. Det finnes apper for ansiktsbytte, men deepfake er en betegnelse på teknikken og resultatet, ikke navnet på én app.

Deepfakes gjør det enkelt å lage troverdige videoer der politikere sier noe de aldri har sagt. Artikkelen nevner den falske videoen der Zelenskyj ber soldatene legge ned våpnene, og falske bilder brukt i den amerikanske valgkampen. Økt risiko for politisk manipulering er derfor en konsekvens.

De andre alternativene er feil. Deepfakes øker desinformasjonen i stedet for å redusere den, og de svekker tilliten til video- og lydbevis. Økt digital kompetanse er ingen direkte konsekvens av teknologien, selv om den kan være et mottiltak.

En godt laget deepfake er laget nettopp for å se ekte ut. Det hjelper derfor lite å se på videoen alene, og tekniske verktøy for å avsløre KI-innhold er mangelfulle. Artikkelen anbefaler i stedet kildekritikk: vær skeptisk til oppsiktsvekkende innhold, finn ut hvem avsenderen er, og sjekk om det samme blir omtalt av andre kilder, for eksempel redaktørstyrte medier.

De andre alternativene er feil. At videoen ser ekte ut, sier lite om en godt laget deepfake. Profesjonelle filmskapere kan også lage deepfakes, og mange likes viser bare at videoen er populær, ikke at den er sann. Falskt og oppsiktsvekkende innhold får ofte ekstra mye engasjement.

Hvordan svindelen virker. I saken fra forberedelsen trodde en ansatt i Hongkong at han var i videomøte med kollegaer. Møtet var iscenesatt av svindlere som hadde manipulert video og lyd med deepfake-teknologi, og han overførte over 271 millioner kroner. Økokrim peker på at svindlerne kombinerer kunstig intelligens med sosial manipulering: de utnytter tillit, autoritet og tidspress. Svindelen er altså ikke bare et teknisk angrep, men et angrep på menneskene og rutinene i bedriften.

Hvordan jeg kan bidra til å avsløre slike forsøk:

• Se etter varselsignaler i forespørselen. Uvanlige ønsker om store overføringer, hastverk, krav om hemmelighold og nye kontonumre er typiske tegn på svindel, uansett hvor ekte møtet ser ut.
• Bekrefte identiteten i en annen kanal. Ring personen på et nummer du allerede har, eller møt personen fysisk. En svindler kontrollerer bare kanalen han selv har satt opp.
• Se og lytte etter tekniske avvik. Unaturlige konturer rundt ansikt og hender, uskarp bakgrunn, dårlig samsvar mellom leppebevegelser og lyd og en monoton stemme kan avsløre en deepfake. Be personen snu hodet, holde hånden foran ansiktet eller svare på noe bare den ekte personen vet. Slike kontroller blir likevel mindre pålitelige etter hvert som teknologien blir bedre.
• Kildekritikk. Hvem har innkalt til møtet, fra hvilken adresse og på hvilken plattform? Stemmer det med hvordan bedriften vanligvis jobber?

Hva bedriften kan gjøre for å forebygge:

• Rutiner som ikke bygger på tillit til ansikt og stemme. Store betalinger bør kreve godkjenning fra minst to personer («fire øyne-prinsippet») og bekreftelse gjennom et eget, sikret system med tofaktorautentisering. Ingen enkeltperson skal kunne overføre store beløp på grunnlag av et videomøte.
• Opplæring. Ansatte må vite at deepfakes finnes, kjenne varselsignalene og vite at det er lov og ønsket å stoppe opp og sjekke, også når «sjefen» har det travelt. Øvelser med simulerte svindelforsøk kan gjøre dette konkret.
• Tekniske tiltak. Bruke godkjente møteplattformer der deltakerne er logget inn med bedriftens identitetsløsning, og merke eksterne deltakere tydelig. Verktøy som oppdager deepfakes, kan være et supplement, men ikke eneste forsvar.
• Begrense råmaterialet. Jo mer lyd og video av ledere som ligger åpent på nettet, jo lettere er det å lage en overbevisende deepfake. Bedriften kan tenke gjennom hvor mye slikt den publiserer.
• Beredskap. En klar plan for hva de ansatte skal gjøre ved mistanke, og at hendelser meldes til ledelsen og politiet (Økokrim).

Viktigst er at bedriften ikke gjør det enkelte individet til eneste forsvarslinje. Når deepfakes blir så gode at de ikke kan avsløres med øynene, er det rutinene som stopper svindelen.

Dilemmaet. Bedriften vil finne kandidater som presterer under press, og deepfakes gjør det mulig å lage realistiske og krevende situasjoner. Samtidig bruker bedriften en teknologi som bygger på å lure folk, og den bruker kanskje ansiktet og stemmen til kandidaten selv. Spørsmålet er om målet kan forsvare metoden.

Argumenter for:

• Realistisk vurdering. Et vanlig intervju sier lite om hvordan en person takler en sint kunde eller en vanskelig kollega. Simulerte situasjoner kan gi et bedre bilde av den faktiske kompetansen.
• Likebehandling. Alle kandidater kan møte nøyaktig den samme situasjonen. Det kan gi en mer rettferdig sammenligning enn et intervju der stemningen avhenger av intervjueren.
• Relevans for jobben. En teknologibedrift som selv er utsatt for deepfake-svindel, kan ha behov for å teste om kandidatene klarer å håndtere manipulerte medier.

Argumenter mot:

• Personvern og biometriske opplysninger. Bilder, video og stemmeopptak av kandidaten er personopplysninger. Behandles de teknisk for å gjenkjenne personen, regnes de som biometriske opplysninger, en særlig kategori etter GDPR med strengere krav. Å lage en digital kopi av ansiktet og stemmen til noen er uansett et stort inngrep, fordi kopien kan få personen til å si og gjøre ting hen aldri har gjort. En jobbsøker er i et avhengighetsforhold til bedriften, og det er tvilsomt om samtykket er frivillig når det å si nei kan koste jobben. I tillegg må bedriften vurdere dataminimering og formålsbegrensning: Hva skjer med modellen av kandidaten etter intervjuet, og kan den misbrukes eller lekke?
• Villedning og autonomi. Poenget med testen er at kandidaten ikke skal vite hva som er ekte. Etter pliktetikken er det galt å lure mennesker og bruke dem bare som middel, selv om hensikten er god. Kandidaten vurderer også bedriften og må kunne ta et informert valg om arbeidsgiveren sin.
• Psykisk belastning. Å bli utsatt for en falsk konflikt med en «framtidig leder» eller se seg selv i et konstruert scenario kan oppleves krenkende og skape utrygghet, særlig i en situasjon der kandidaten allerede er presset.
• Skjev maktbalanse og diskriminering. Bedriften kontrollerer både scenarioet og tolkningen av reaksjonene. Vurderingen kan bli mindre gjennomsiktig og vanskelig å etterprøve, og testen kan gi dårligere resultat for noen grupper, for eksempel personer med angst eller personer som ikke har norsk som morsmål, uten at det sier noe om hvordan de vil gjøre jobben.
• Tillit og omdømme. En bedrift som lærer opp folk til å avsløre deepfakes, men selv bruker dem mot jobbsøkere, sender motstridende signaler. Blir praksisen kjent, kan den skremme bort gode kandidater og svekke tilliten til bedriften. Den bidrar også til å normalisere manipulerte medier.

Konklusjon. Ut fra en konsekvensetisk vurdering kan simulering av arbeidssituasjoner gi bedre ansettelser. Ulempene veier likevel tyngre slik bedriften bruker teknologien i dag, særlig når kandidaten ikke vet om det, og når kandidatens eget ansikt og stemme brukes. Etter min vurdering kan bedriften bare forsvare en slik test hvis kandidaten får vite om den på forhånd, gir et reelt samtykke og kan velge et alternativ uten at det teller negativt. I tillegg bør de simulerte personene være fiktive, ikke kandidaten selv, og alle data om kandidaten bør slettes etter intervjuet. Da kan bedriften få mye av nytten uten å krenke personvernet og tilliten til jobbsøkerne.