«Tenkekassa»: Asker kommune får verstingprisen for KI-tabbe
Asker kommune får tildelt Tenkekassa til Humanistisk Ungdom for å bruke KI på ukritisk vis.
– Saka illustrerer svært tydeleg kva som kan skje når KI vert brukt utan tilstrekkeleg kritisk kontroll. Kommunen brukte ein KI-generert dom som grunnlag i ei reell politisk sak, sjølv om dommen ikkje eksisterte, står det i grunngjevinga frå Humanistisk Ungdom (HU).
Prisen vart delt ut i Frivillighetens hus i Oslo måndag føremiddag. Asker kommune vann med 40 prosent av røystene. Representantar frå kommunen var til stades for å motta den symbolske verktøykassa.
– Vi i Humanistisk Ungdom meiner at dette er eit godt eksempel på kvifor kritisk tenking og kjeldekritikk må vere ein føresetnad for KI-bruk, ikkje noko ein gjer dersom ein tilfeldigvis får tid. Tenkekassa handlar ikkje om å seie at menneska som gjer slike feil, er dumme. Vi brukar konkrete feil som skrekkeksempel på kva som kan gå gale, og som eit høve til å bli betre, seier HU-nestleiar Stein Taha Eide.
Falsk dom
Asker kommune vart nominert for å ha brukt KI i sakshandsaming då miljøaktivistar okkuperte eit kommunalt bygg i protest mot å bygge ein sprengstoffabrikk. KI hadde referert til ein dom som ikkje eksisterte.
Jon Bakkerud, kommunikasjonssjef i Asker kommune, var til stades under utdelinga for å ta imot prisen. Han takka HU for å rette søkelyset på kritisk tenking og kjeldekritikk i møte med KI.
– Veldig kul pris! sa han frå scena.
– Vi dumma oss ut den gongen, og det er svært beklageleg. Kommunedirektøren vår seier at vi kan gjere fem feil i året, men ikkje dei same feila. Vi har lært av feilen som vi gjorde i april, sa han, og opplyste om at kommunen har begynt å rulle ut nye retningsliner for bruk av generativ KI.
Dei nye retningslinene inneber mellom anna at ein skal ha menneskeleg kontroll og kvalitetssikring, og grep for å beskytte teiepliktige og konfidensielle opplysingar.
– Vi må sikre ein bruk som ivaretar krav til rettstryggleik og underbygger tilliten til kommunen. Kommunen må ha tillit, understreka han.
Til Framtida seier Bakkerud at prisen er ei viktig påminning for Asker og mange andre offentlege og private organisasjonarn om at ein må vere kritiske til korleis ein brukar KI.
– Kvifor møtte de opp til utdelinga i dag?
– Hovudgrunnen er at det er eit viktig tema. Når aktive, medvitne og engasjerte ungdommar gjer eit poeng ut av dette, er det svært viktig at ein stiller opp og berømmer det arbeidet, seier han.
– I tillegg har dei påpeikt noko som vi heilt klart dumma oss ut på. Då må vi stå rakrygga og ta imot, og vise at vi prøver å lære av feila våre. Det toler vi heilt fint.
Han trekker fram HU si klargjering om at målet med prisen ikkje er å henge nokon ut, men å peike på eit viktig poeng, og Bakkerud opplever at HU deler ut Tenkekassa med eit glimt i auge.
– Difor tar vi også imot prisen med både eit alvor og eit glimt i auget, seier han.
Tenkekassa vart sist delt ut i 2017. Bakkerud meiner HU med rak rygg kan halde fram med å dele han ut, om dei finn gode kandidatar.
– Ikkje overraskande
HU meiner det mest alvorlege med saka er at Asker kommune brukte det KI-genererte svaret utan at feilen vart oppdaga, og deretter heldt vedtaket ved like.
– At ein språkmodell kan generere ei overtydande, men falsk kjelde, er ikkje i seg sjølv overraskande. Det er nettopp ein av grunnane til at vi må vere kritiske til korleis ein brukar slike verktøy. Ein språkmodell har ikkje ansvar for om ein dom eksisterer eller ein juridisk påstand er rett. Det ansvaret ligg hos menneska som brukar informasjonen, seier Eide.
Vidare understreker dei at ein ikkje kan behandle eit KI-svar som ei kjelde på line med ein verifisert dom eller eit juridisk dokument, og at HU difor er imot bruk av generativ KI i offentleg sektor.
Oljefondssjef Nicolai Tangen og digitaliseringsminister Karianne Tung var dei to andre nominerte. Dei var ikkje til stades under utdelinga.
