Slik kan Forsvaret bruke generativ AI

I podkasten snakker vi om hva generativ AI egentlig er og hva slags forsvarsspesifikke anvendelser som finnes. Vi forsøker også å se litt framover: Hvor gode kan generative modeller egentlig bli? Er det bare en hype? Kan kunstig intelligens i seg selv bli en fiende?

Generativ AI kan brukes til å avsløre generativ AI

Eide har nylig bidratt til en Nato-artikkel om hvordan generativ AI kan brukes i alliansen. Artikkelen trekker blant annet frem cyberforsvar, forsvarsplanlegging og beslutningsstøtte som mulige bruksområder.

– Poenget med artikkelen var å finne områder der teknologien allerede er moden nok til å brukes, se på hvor det kreves tilpasninger og forsvarsspesifikk utvikling, samt å peke på mulige bruksområder litt fram i tid, forteller Eide.

I forbindelse med Nato-artikkelen jobbet Eide spesifikt med hvordan vi kan oppdage AI-generert innhold som er en del av påvirkningsoperasjon.

Påvirkning og «falske» tekster er jo ikke noe nytt, men generativ AI gjør det mulig å lage enorme mengder innhold i ulike varianter til ulike kanaler, forklarer Bynke. Du trenger ikke lenger påvirkningsfabrikker der mennesker sitter og twitrer eller lager innhold manuelt.

Eide så blant annet på nylig forskning der testpersonene har forsøkt å avgjøre om bilder de ser er AI-generert.

– Kraften eller trusselen i en AI-generert påvirkningsoperasjon avhenger blant annet av hvor godt de som vil påvirke klarer å etterligne ekte innhold. Vi ville finne data på hvor langt teknologien egentlig er kommet, forklarer Eide.

– Kort fortalt er vi er kommet dit at folk blir lurt hvis de scroller og ser noe i forbifarta. Men hvis de stopper og ser litt nærmere på innholdet, klarer de fleste å se om noe er AI-generert eller ekte.

Litt avhengig av hvordan forskerne satte opp spillet, klarte mellom 60 og 90 prosent av testpersonene å se at noe var AI-generert.

– Folk er mye flinkere til å avsløre ansikter som er generert enn for eksempel skog eller andre objekter de ikke er så fortrolige med.

Kunnskapen fra arbeidet med Nato-artikkelen er nyttig når vi skal vurdere hvor alvorlig trusselen er, altså faren for å bli lurt, men også når vi skal trene opp modeller som kan detektere generert innhold.

– Kort forklart kan vi bruke generative modeller til å oppdage noe som er skapt av andre generative modeller. De kjenner hverandre, eller kan læres opp til å avsløre hverandre, sier Eide.

En «allvitende» hjelper på kontoret

I følge Bynke og Eide er det ikke egentlig noe veldig klart skille mellom generativ AI og annen AI. Vi kan strengt tatt si at all kunstig intelligens genererer ett eller annet. Den kunstige intelligensen bak en autonom dronesverm generer beslutninger om hvordan dronene skal fly og samarbeide i stedet for tekst.

Forskerne tror den største nytteverdien i generativ AI vil ligge i informasjonsbehandling og informasjonsflyt.

– Lenge før folk begynte å snakke om generativ AI merket vi at det folk fra Forsvaret etterspør, dreier seg om at man klarer ikke å få informasjonsflyten til å fungere godt nok. Informasjonen er ikke digitalisert og tilgjengelig, eller informasjonen er lagret på en uhensiktsmessig måte. Den når ikke personene som trenger den, sier Eide.

Det er et stort univers av forbedringsmuligheter, understreker de to. Ved hjelp av generativ AI, spesifikt språkmodeller, kan du tolke store mengder informasjon, forbedre informasjonsflyt, oversette, oppsummere og sortere. Generativ AI kan hjelpe Forsvaret med å ta bedre beslutninger, forenkle rutiner og på den måten frigjøre mye tid.

– I en så stor organisasjon som Forsvaret vil det alltid finnes informasjon du ikke vet eksisterer. Det kan hende det finnes sensordata eller ferske analyser du ikke vet om, men som er relevant for den beslutningen du skal ta eller den briefen du skal holde. I stedet for å bruke tid på å søke opp denne informasjonen og bearbeide den selv, kan du fortelle språkmodellen hva du ønsker å finne ut, så kan modellen lage en sammenstilling eller gi deg et svar basert på den tilgjengelige informasjonen. Men for at dette skal fungere, må forsvaret bli flinkere til å samle og digitalisere relevante data, understreker Eide.

Kan få uforutsette bruksområder

At modeller som Chat GTP genererer tekst er ikke nødvendigvis det mest interessante med dem, mener forskerne.

– Det spennende er at de er i stand til å generere tekst, at de skjønner språk. Det kan du bruke til å lage en masse filtreringsmekanismer og verktøy, sier Eide.

De to mener det er vanskelig å forutse nøyaktig hva generative modeller kommer til å bli brukt til i framtiden.

– Her har det vært et paradigmeskifte, mener Bynke.

– Tidligere var utgangspunktet for bruk av kunstig intelligens gjerne en spesifikk oppgave vi ville at AI skulle løse. For eksempel å oppdage bestemte objekter i bilder. Så trente du modellen på den oppgaven med maskinlæring.

– Nå er vi gått over til å lage veldig generelle modeller, for eksempel Chat GTP, som genererer tekst, men som kan brukes til veldig mye forskjellig. Det er først etterpå du finner ut hvordan du egentlig kan bruke den, avslutter Bynke.