Samfunnssikkerhet

Medietilsynet åtvarar: Ikkje tru alt du ser – det er lett å bli "deepfaket"

I ein ny kampanjevideo frå Medietilsynet har Abid Raja frivillig late seg deepfake for å demonstrere kor lett ein kan bli lurt av bilete, lyd og video.

16. august 2023 Endret 16. august 2023

– Målet med videoen er å vise at denne teknologien er utbreidd og lett tilgjengeleg, og at kjeldekritikk derfor er endå viktigare og vanskelegare enn før, seier Mari Velsand, direktør i Medietilsynet.

Deepfake

«Deepfake» blir brukt som eit samleomgrep på bilete, video og lyd framstilt ved hjelp av maskinlæring, altså kunstig intelligens.
Typiske bruksområde er å byte ut ansikt eller å lage syntetiske stemmer som til forveksling liknar personen dei er kopierte frå. Tenk på det som eit Snapchat-filter, berre meir avansert.
For å lage ein truverdig deepfake er kjeldematerialet viktig. Jo meir høgoppøyseleg bilete, video eller lydmateriale du har av personen som skal forfalskast, jo betre utgangspunkt har du for å bygge den digitale modellen.
Når den kunstige intelligensen er trena opp med kjeldematerialet, kan han få instruksjonar og spytte ut eit meir eller mindre truverdig resultat, avhengig av kvaliteten på teknologien.

Kilde: telenor.no

Faren er at vi resignerer, og sluttar å tru at noko er sant.

Kan lagast av bestemor

I kampanjevideoen står Abid Raja fram som trønderen Einar frå Byåsen. «Einar» fortel i videoen at Abid Raja berre var ei rolle han tok på seg då han flytta til hovudstaden for å bli kjendis.

Men den som eigentleg blir filma og snakkar er Eskil Sivertsen, spesialrådgivar ved Forsvarets forskingsinstitutt (FFI). Han forskar på propaganda, desinformasjon og påverknad.

– Videoen er laga med programvare som kven som helst kan laste ned frå nett. Du treng ikkje spesielle forkunnskapar. Det var litt av poenget. Det går an å laga betre og meir overtydande deepfakevideoar enn dette, understrekar Sivertsen.

– Vi ønskte å vise kor lett du kan lage noko som er godt nok til å lure nokon på ein mobilskjerm.

På kort tid har kunstig intelligens gitt oss verktøy som gjer det lettare å laga bilete, video og lyd som manipulerer identiteten til andre. I denne episoden av FFis podkast «Ugradert – kort forklart» snakkar spesialrådgivar Eskil Grendahl Sivertsen frå FFI om kva deepfake er og kvifor det er viktig med kjeldekritikk i møte med dagens medieinnhald.

Teknologien kan bli misbrukt

Kampanjevideoen, som skal gå i sosiale medium fram mot valet hausten 2023, er eit samarbeid mellom Medietilsynet og FFI.

Sivertsen seier at teknologien kan bli brukt til å villeie og feilinformere befolkninga. Den kan bidra til å stadfeste fordommar eller forsterke haldningar.

– Vi ser at det bli stadig meir falskt eller AI-generert innhald på internett, som tek plassen til ekte innhald. Det kan vere vanskeleg å sortere kva som er ekte, både for menneske og maskiner, seier Sivertsen.

– Vi ser mellom anna at falsk innhald har byrja å dukka opp i søkjemotorar viss du søkjer på personar eller omgrep. Dette kan bli ei utfordring på sikt. Faren er at vi resignerer, og sluttar å tru at noko er sant.

Les også

Podkast

Kort forklart: Hva er påvirkningsoperasjoner?

Vi blir utsatt for påvirkning hver dag gjennom reklame, markedsføring og sosiale medier. Men hva skjer når dette settes inn i en militær sammenheng?

Lett å bli lurt

Deepfaking kan også gjerast i sanntid. Med deepfake-teknologi kan du ringe nokon i ein videosamtale og sjå ut som nokon andre og høyrast ut som nokon andre. Så korleis skal vi klare å skilje fake frå ekte i ein slik situasjon? Sivertsen meiner det ikkje finst nokon openberre eller enkle løysingar.

– Det blir jobba med reglar for bruk av teknologien, både i EU og andre stader. Men det vil likevel finnast aktører som bruker deepfake og AI-teknologi til å lage falsk innhald utan å bry seg om reglar, seier Sivertsen.

– Berre dei siste månadene er det skjedd utruleg mykje innanfor denne teknologien. Den viktigaste forsvarsmekanismen vi sit att med er vår eigen kjeldekritikk. Ha det som ein ryggmargsrefleks: Ikkje alt treng å vere slik det verkar. Særleg på internett. Det beste rådet når du ser ein video er å stoppe, tenkje og sjekke. Er dette ekte?