Tre kunstige intelligensar, Alice, Bob og Eve, har lært seg å skjule informasjon frå kvarandre. NTNU-forskar er ikkje imponert.

mm
Faktaboks

Denne artikkelen er ein del av ei satsing på ny teknologi og etikk, støtta av Fritt Ord. I ein serie med artiklar vil vi gi innsikt og skape diskusjon om korleis teknologiske framsteg utfordrar førestillingane våre om kven vi er og flyttar grensene for kva vi kan og bør gjere. På knaggen tenkologifinn du alle artiklane i satsinga.

Sjå også vår skrivekonkurranse om livet på nett.

LES FAKTALUKK FAKTA

Kan kunstig intelligente maskiner lyge til kvarandre? Kan dei lyge til oss?

For å finne eit svar har amerikanske forskarar testa korleis maskiner lærer å halde informasjon skjult frå kvarandre.

Forskarne Martín Abadi og David G. Andersen, som held til ved Google Brain, gav to kunstige intelligensar, kalla Alice og Bob, i oppgåve å kommunisere med kvarandre ved hjelp av krypterte beskjedar. Ein tredje kunstig intelligens, Eve, fekk i oppgåve å sniklytte til beskjedane.

Dei tre maskinene fekk ingen instruksar for kva for kryptering dei skulle bruke, men måtte lære sjølv ved prøving og feiling. Slike tilnærmingar vert kalla maskinlæring, ein vanleg strategi for å la kunstig intelligens etterlikne nevrale nettverk.

LES OGSÅ: I Westworld er alt lov. Er det greitt?

Alice og Bob mot Eve
I starten hadde Alice og Bob problem med å forstå kvarandre, men etter 10.000 forsøk fann dei to kunstige intelligensane eit system som gjorde at Bob klarte å dekryptere informasjonen frå Alice. Eve klarte også å følge med på beskjedane, men etter totalt 15.000 forsøk oppnådde Alice og Bob målet om å kommunisere utan at Eve forstod kva dei sa.

Noko av det spesielle med desse resultata er at to kunstige intelligensar lærer saman med ein motstandar. Dette gjer studien relevant både for å forstå korleis informasjon kan beskyttast, og for å utforske korleis kunstig intelligens kan nyttast for å angripe kvarandre.

Dette betyr ikkje at Alice og Bob bør brukast til å kryptere andre folk sine beskjedar, skriv Inverse. Kunstige intelligensar som Alice og Bob er vanskelege å forstå, men kan vere sårbare for menneske og program som lærer på andre måtar. Eit døme er forsterka læring, der maskinene blir fortalt kva som er rett og gale i staden for å finne det ut sjølv.

– Glupe 14-åringar hadde klart det same
Professor i kryptografi ved NTNU, Kristian Gjøsteen, er derimot ikkje imponert. Han seier at sjølv om studien kanskje er nyttig for forsking på kunstig intelligens, er det ikkje særleg interessant for forsking på kryptering.

– Eg hadde forventa akkurat det same resultatet om ein plasserte to glupe 14-åringar i et rom og ba dei lage ein måte å kryptere informasjon på. Etter nokre timar eller dagar hadde dei klart å lage noko dei sjølv ikkje kan knekke. Stort sett vert resultatet likevel lett å knekke for andre, seier han.

Gjøsteen (biletet) ser likevel positive sider ved at kunstig intelligens vert stadig smartare.

– I dag handlar kunstig intelligens om at tv-en din forstår deg når du ber den finne ein film. Generelt er eg optimistisk. Eg trur kunstig intelligens vil kunne gi oss datamaskiner som vil vere (endå) meir hjelpsame i framtida, noko som kjem til å gjere framtida (litt) betre enn notida, fortel han.

Les om nettvardar for ny betalingsteknologi her

Problem med personvern
På den andre sida ser han nokre utfordringar med personvern.

– Til dømes treng ein ofte mykje data for å lage gode system, noko som oppmuntrar til å samle inn så mykje data som mogleg (tenk Google), noko som ofte er eit reelt personvernproblem. Eit anna problem vil vere «hype», som kan føre til at folk tek i bruk kunstig intelligens feil og dermed anten kaster bort tid og ressurser eller produserer interessante følgefeil, seier Gjøsteen.

Nokre vil kanskje sjå denne typen forsking som starten på at maskinene tek over verda, ved at kunstig intelligens startar med å lyge til kvarandre, og så lyg til oss menneske. Gjøsteen er ikkje ein av dei.

– Skynet er eg ikkje redd for, avsluttar han.

Forvirra av alle dei vanskelege orda om ny teknologi? Ordlista vår inkluderer alt frå algoritmar til virtuell røyndom

Oppdatert: onsdag 24. mai 2017 16.13

LES OGSÅ

ANNONSE