OpenAI je najavio da će tekstove koje generira ChatGPT označavati skrivenim vodenim žigovima. Oznaka se ne vidi golim okom, nego počiva na sitnim pomacima u izboru riječi, a trebala bi pomoći da se utvrdi je li tekst napisao čovjek ili jezični model.
Tvrtka u tome nije sama. Od početka kolovoza vrijedi nova odredba Akta EU-a o umjetnoj inteligenciji prema kojoj sadržaj nastao umjetnom inteligencijom mora nositi strojno čitljiv vodeni žig. Anthropic i Google također su najavili takve oznake ili ih već dijelom primjenjuju.
Chatbotovi danas sastavljaju opise proizvoda, molbe za posao, studentske radove, pa i političke izjave. Mnogi korisnici interneta zato svaki dan čitaju tekstove umjetne inteligencije, a da to i ne znaju.
Kako se žig skriva u rečenicama
Postupak se oslanja na jednu osobinu jezika: istu misao gotovo uvijek možemo izreći na nekoliko načina. Rečenica „Danas idem u kino” znači otprilike isto što i „Danas želim ići u kino”, a upravo u tom prostoru izbora model može neprimjetno usmjeravati tekst.
Jezični model inače za svaku moguću sljedeću riječ izračuna vjerojatnost, a onda jednu od njih nasumično odabere. Kad se dodaje vodeni žig, taj se izbor lagano pomiče. Neke zamjenske riječi koje ne mijenjaju smisao dobiju malu prednost, druge mali nedostatak. Tako nastaje statistički obrazac koji čitatelj ne može primijetiti.
Budući da se pomak računa za svaku riječ posebno, promjena ostaje skrivena u cijelom tekstu. Ni ljudi ni računala ne mogu je otkriti, čak ni temeljitom analizom, ako ne znaju tajni ključ, odnosno pravilo po kojem je izbor riječi usmjeravan.
Waldemar Berchtold, voditelj skupine za multimedijsku sigurnost na Fraunhoferovu institutu za sigurnosnu informacijsku tehnologiju u Darmstadtu, objašnjava zašto taj ključ ne smije postati javan: „Ako ga svi mogu razumjeti, mogu ukloniti vodeni žig, odnosno poništiti ga, a mogu i sami stvoriti vodeni žig.”
Kratki i prerađeni tekstovi izmiču
Berchtold navodi i dva ograničenja. Metoda traži dovoljno dug tekst, pa se žig može uspješno sakriti i pronaći tek u tekstovima od otprilike 200 do 300 riječi naviše. Drugi problem nastaje kad netko generirani tekst preradi. „Kada promijenim izlaz i ponovno unesem vlastiti stil, zapravo zamagljujem trag generatora umjetne inteligencije – vodeni žig”, kaže istraživač.
Prednost je ovog pristupa što je oznaka skrivena u samom tekstu. Istodobno svaka izmjena teksta mijenja i žig. Zato provjera nikad ne daje potpunu sigurnost, nego samo procjenu koliko je vjerojatno da je žig prisutan.
Proizvođači imaju i vlastiti interes
Benno Stein, profesor računarstva na Bauhausovu sveučilištu u Weimaru, smatra da tvrtke žigove ne uvode samo zbog europskih pravila. I njima samima koristi kad mogu prepoznati tekstove koje su napisali njihovi modeli. „Ako razvijate jezični model, morate ga stalno opskrbljivati kvalitetnim tekstovima. Razvijateljima jezičnih modela u interesu je prepoznavati vlastite tekstove. Ta se korist često zanemaruje”, objašnjava Stein.
Pružatelji usluga umjetne inteligencije ubuduće bi trebali ponuditi i alate kojima će potrošači i ustanove provjeravati podrijetlo teksta. Takav bi alat mogao dati procjenu da je neki tekst s 80-postotnom vjerojatnošću napisao određeni model umjetne inteligencije, piše tportal.hr.
