Kineska uprava za kibernetički prostor (CAC) predstavila je prijedlog novih pravila kojima želi strože regulirati sve brže rastuću industriju tzv. digitalnih ljudi – virtualnih likova nastalih uz pomoć umjetne inteligencije. Prema nacrtu propisa, sav sadržaj koji uključuje virtualne osobe morao bi imati jasno istaknutu oznaku “digitalni čovjek”, kako korisnici ne bi bili dovedeni u zabludu. Prijedlog je objavljen na javnoj raspravi koja traje do 6. svibnja.
Jedna od najzvučnijih odredbi odnosi se na zaštitu maloljetnika. Naime, digitalnim ljudima bilo bi strogo zabranjeno pružanje tzv. “virtualnih intimnih odnosa” osobama mlađima od 18 godina, što je potez koji pokazuje koliko Peking želi ograničiti potencijalno štetan utjecaj AI sadržaja na mlađu populaciju.
AI zahtijeva nadzor
Nacrt također predviđa zabranu korištenja tuđih osobnih podataka za stvaranje digitalnih likova bez pristanka, čime se pokušava spriječiti zloupotreba identiteta i neovlašteno stvaranje virtualnih kopija stvarnih osoba. Također se zabranjuje korištenje digitalnih ljudi za zaobilaženje sustava provjere identiteta, što se tumači kao dio šireg nastojanja kineskih vlasti da zadrže strogu kontrolu nad razvojem umjetne inteligencije.
Photo: Envato
U dokumentu se navodi i da je digitalnim ljudima zabranjeno širenje sadržaja koji ugrožava nacionalnu sigurnost, potiče rušenje državne vlasti, promiče secesiju ili narušava nacionalno jedinstvo. Ovakve odredbe dodatno potvrđuju da Kina umjetnu inteligenciju ne vidi samo kao tehnološki alat, već i kao potencijalno političko osjetljivo područje koje zahtijeva nadzor, piše Reuters.
Regulatori dodatno savjetuju pružatelje usluga da sprječavaju i uklanjaju sadržaje koji su seksualno sugestivni, prikazuju stravične scene, nasilje ili okrutnost, kao i materijale koji potiču diskriminaciju na temelju etničke pripadnosti ili regionalne pripadnosti.
Zanimljivo je da nacrt pravila ide i korak dalje te preporučuje platformama da reagiraju kada korisnici pokazuju znakove suicidalnih misli ili samoozljeđivanja. U takvim slučajevima pružatelji usluga trebali bi intervenirati i, gdje je moguće, osigurati stručnu pomoć.
Dodatni izazovi?
Ove mjere dolaze u trenutku kada Kina otvoreno pokazuje ambicije za agresivno širenje umjetne inteligencije u cijelom gospodarstvu, što je istaknuto i u novom petogodišnjem strateškom planu objavljenom prošlog mjeseca. Međutim, paralelno s razvojem industrije, vlasti pojačavaju regulaciju kako bi osigurale da AI ostane pod kontrolom i usklađena sa službenim “socijalističkim vrijednostima” države.
Prema analizi objavljenoj na web stranici regulatora, cilj novih pravila je popuniti praznine u dosadašnjem upravljanju sektorom digitalnih ljudi te postaviti jasne granice koje bi trebale omogućiti “zdrav i siguran razvoj industrije”.
Dodatan izazov za tehnološke kompanije bit će i provedba ovih mjera u praksi, jer će zahtijevati napredne sustave prepoznavanja AI sadržaja, strože moderiranje i veću odgovornost platformi koje takve virtualne likove koriste u marketingu, zabavi i komunikaciji s korisnicima.
