Regjeringa vil bruke 30 millionar på KI-tryggleik: – Småpengar
KI Ungdom er glad for at staten satsar på KI-tryggleik, men skulle ønske satsinga var fleire gonger større.
I haust la regjeringa fram eit forslag til KI-budsjettet for 2027. Totalt vil Ap bruke 120 millionar kroner på KI-tiltak.
30 millionar skal gå til å styrke arbeidet med tryggleik og evaluering av KI-modellar.
Emilie Moldestad, styreleiar i KI Ungdom, fortel at ungdomsorganisasjonen var i gang med å førebu seg til å demonstrere for betre KI-tryggleik framfor Stortinget då nyheita vart kunngjort.
– Så vi er glade for at det kjem pengar til nettopp dette. Men vi synest forslaget i seg sjølv viser prioriteringa: Det vert gitt betydeleg meir pengar til implementering enn tryggleik, seier ho.
Til dømes vil regjeringa bruke over 20 millionar på å implementere KI i departementa og 20 millionar på å opprette ein chatbot for helsetenester.
Slik satsar regjeringa på KI:
Regjeringa vil bruke 120 millionar kroner på KI-tiltak:
- Utvikle ein «felles offentleg grunnmur» for generativ AI i offentleg sektor (25 millionar kroner)
- Styrke arbeidet med tryggleik og modellevaluering i KI Noreg (30 millionar)
- Styrke arbeidet med å forhandle KI-avtalar i staten (5 millionar)
- Auka løyving til implementering og bruk av KI i departementa (21,3 millionar)
- Etablere ein KI-chatbot for helsetenester (20 millionar)
- Bruke generativ AI i konsesjonsprosessar i Noregs vassdrags- og energidirektorat (NVE) (20 millionar)
Regjeringa vil dessutan gi KI Noreg eit nytt mandat om å samarbeide tettare om KI-tryggleik med andre land, og gi Statistisk sentralbyrå (SSB) i oppdrag å greie ut moglegheita til å utvikle statistikk om bruk av kunstig intelligens.
Organisasjonen KI Ungdom vart stifta for to år sidan. Moldestad fortel at føremålet er å følge med på utviklinga og risikoen med kunstig intelligens. Medlemsmassen består i stor grad av studentar, til dømes innanfor maskinlæring og samfunnsøkonomi. Nokre er også aktive i ungdomspolitikken.
– Vi har fokus på demokrati og ytringsfridom. Vi vil ha demokratisk kontroll over systema, og ser ei utvikling som eg ikkje liker veldig godt, seier ho.
– Småpengar
I sommar og haust har tek-bransjen sjølv åtvara om at kunstig intelligens kan verte ein eksistensiell trugsel. Samstundes har fleire problematisert Noreg og Europas avhengnad av tek-oligarkane i Silicon Valley. I Noreg har vi også hatt fleire KI-skandalar som følge av ukritisk bruk av teknologien.
KI Ungdom meiner risikoane knytte til kunstig intelligens må takast på alvor.
– Viss du ser på kva regjeringa brukar på cybertryggleik eller rassikring, er det ikkje snakk om millionar, men milliardar. 30 millionar vert småpengar i forhold, seier Moldestad.
Ho trur KI-risiko er eit langsiktig problem som det er vanskeleg å ta på alvor umiddelbart, på lik line med klimakrisa.
– Må tenke kritisk
Medan ho er kritisk til fordelinga, meiner Moldestad det er bra at regjeringa tek i bruk kunstig intelligens, så lenge ein anerkjenner kva styrker og svakheiter teknologien har.
– Det er ganske openbert at vi må bruke KI for å henge med og få auka produksjon, seier ho.
– Vi har sett fleire KI-skandalar i Noreg. Kan vi stole på at staten klarar å implementere bruk av KI på ein fornuftig måte?
– Det krev to ting. For det første må vi vere klar over kva modellane kan og ikkje kan. Når modellane skal integrerast i system, må dei ha den informasjonen dei skal ha. Og så må ein følge personvernreglementet.
– Det andre aspektet er at ein alltid må tenke kritisk. Det er noko alle seier, men det er så vanvitig viktig. Om vi skal stole på systema, krev det at vi får eit presist bilete av kva dei kan og ikkje kan. Om systema ikkje kan det vi treng at dei skal kunne, tar vi dei ikkje i bruk, seier ho.
Meir internasjonalt samarbeid
Ei anna kampsak for KI Ungdom, som organisasjonen hadde planlagt å demonstrere for, var at Noreg må ta initiativ til internasjonalt samarbeid om KI. Også der kom regjeringa dei i forkjøpet då statsminister Jonas Gahr Støre i haust gjorde nettopp det, under høgnivåveka i FN.
Saman med Finlands president Alexander Stubb tok Støre til orde for eit internasjonalt samarbeid med felles standardar for KI. Dei uttala også at selskap bak kunstig intelligens må ha ansvar for det dei produserer og ha rutinar for kontroll og varsling.
Moldestad fortel at ho vart veldig glad då ho høyrde nyheita.
– Eg følte på litt håp, rett og slett, seier ho.
Likevel påpeiker ho at det er eit opprop som ikkje er juridisk bindande. Det krev at fleire melder seg på for å få verknad. Viss ikkje er ein like langt.
– Eg heiar på Støre for å sette det i gang, og så treng vi verkeleg at det fører fram til noko, seier ho.
– Må bremse
Moldestad understrekar tydinga av at Noreg tar del i eit internasjonalt KI-samarbeid:
– Det kan bli veldig viktig for Europa å ha eigen teknologi i framtida. Verda beveger seg meir mot stormakter som får meir og meir makt. Då kan ein som eit lite land ende opp i ein situasjon kor vi ikkje har noko makt. Men då må vi stille spørsmåla: Kva vil vi at teknologien skal gjere, og kva plass skal KI få i livet til folk?
Ho meiner regjeringa kunne ha vore endå meir frampå internasjonalt for å sikre tryggleik.
– Det er mange ting som hadde vore enklare viss utviklinga ikkje hadde gått så fort. Mange tar til orde for å bremse utviklinga, men vi treng at det skjer, seier ho.
