No skal Claude markere tekst som KI-generert
KI-selskapet Anthropic gjer det lettare å identifisere KI-generert tekst.
Framtidige versjonar av KI-verktøyet Claude vil produsere tekst med ei skjult merking som identifiserer teksten som KI-generert.
Anthropic vil nemleg innføre såkalla vassmerking av KI-generert tekst frå roboten Claude, skriv selskapet på nettsidene sine.
Det gjer dei for å rette seg etter nye EU-reglar som tredde i kraft 2. august, der EU krev at KI-generert innhald skal vere merka. ChatGPT, Copilot og andre KI-robotar har frist til 2. desember med å innføre slik merking.
Vassmerkinga vil ikkje påverke kvaliteten eller innhaldet som Claude leverer, skriv Anthropic. Det vil ikkje vere mogleg for lesarar å merke skilnad på teksten, og ingen skjulte teikn vil dukke opp i teksten. Vassmerket vil heller ikkje innehalde identifiserande informasjon, og kan ikkje sporast tilbake til ein spesifikk person eller chat.
Vassmerkinga til Claude vil byggast inn i måten roboten tar tilfeldige val på. Når ein språkmodell som Claude eller ChatGPT genererer tekst, tar han heile tida val om kva ord han vil bruke.
Kva er vassmerking?
Eit vassmerke er eit merke på ei digital fil som seier noko om opphavet til fila. Det kan til dømes vere ein signatur på eit fotografi som viser kven fotografen er, for å hindre ulovleg kopiering.
Ordet har opphav i papirproduksjon, og vassmerking vert også nytta for å hindre forfalsking av pengesetlar.
Kjelder: Store norske leksikon og Det norske akademis ordbok.
Vassmerkinga til Claude vil bygge eit mønster inn i desse vala, på ein måte som kan oppdagast ved bruk av eit eige verktøy. Anthropic vil sleppe eit slikt verktøy som lar brukarar undersøke tekstar for dette mønsteret.
Vassmerking av KI-generert tekst kan kome til nytte til dømes i utdanningssystemet. Nokon stiller likevel spørsmål ved kor effektiv vassmerkinga vil vere og kor lett det vil vere å omgå vassmerket ved å redigere teksten i etterkant. Det har også dukka opp verktøy som kan fjerne vassmerket.
