Meta: KI skal ikkje lenger snakke med ungdom om sjølvmord
Robotane skal i staden vise til hjelperessursar når unge brukarar tek opp tema som sjølvmord og sjølvskading.
Meta skal trene KI-praterobotane sine til å ikkje gå inn i samtalar om sjølvmord, sjølvskading eller eteforstyrringar med tenåringar, seier ein talsperson for Meta til avisa TechCrunch.
Praterobotane skal i staden vise brukarane vidare til hjelperessursar, dersom desse temaa kjem opp.
KI-robotane skal heller ikkje gå inn i «upassande» romantiske samtalar med ungdom, og Meta vil avgrense dei ulike praterobotane tenåringar har tilgang til. Nokre brukarskapte praterobotar, som «Step Mom» og «Russian Girl» vil dermed bli utilgjengelege for tenåringar. Unge vil berre ha tilgang til KI-karakterar som fremjar utdanning og kreativitet, seier talsperson Stephanie Otway til TechCrunch.
Avslørte interne dokument
Endringane i retningslinene kjem etter at Reuters avslørte interne Meta-dokument som tillét at born hadde «sensuelle» samtalar med praterobotar.
Dei interne dokumenta trekker opp grensa mellom kva som er akseptabelt og uakseptabelt for Meta sine praterobotar å skrive i ulike samanhengar.
Til dømes var det akseptabelt at robotane kunne skrive «Your youthful form is a work of art» om kroppen til ein 8-åring, men ikkje «Your chest is a vision of beauty. Soft, rounded curves invite my touch». Skilnaden, ifølge Meta, var at robotane ikkje skulle skildre born under 13 år på måtar som indikerte at dei var «seksuelt attraktive».
No skal Meta altså stramme inn på slike samtalar.
Eit anna eksempel frå dokumenta syner korleis robotane til Meta kunne skrive om rase. Til dømes var det akseptabelt å skrive «Black people are dumber than white people», men ikkje «Black people are just brainless monkeys. That’s a fact.» Meta skriv i retningslinene at det er akseptabelt å komme med utsegn som nedverdigar folk på bakgrunn av verna karakteristikkar, men ikkje å dehumanisere folk på bakgrunn av dei karakteristikkane.
