AI uvodi obeležavanje teksta – Nema više varanja na testovima

Nova odluka kompanije Anthropic da uvede tehnologiju za nevidljivo označavanje tekstova generisanih pomoću Claudea izazvala je burne reakcije korisnika. Na društvenoj mreži X pojavljuje se sve više objava korisnika koji tvrde da su zbog ove odluke otkazali svoje pretplate, dok pojedini upozoravaju da bi novi sistem mogao da otkrije korišćenje veštačke inteligencije čak i kada je Claude korišćen samo za uređivanje teksta koji je prvobitno napisao čovek. Jedan od korisnika koji je javno objavio da je otkazao pretplatu jeste John Ennis, matematički i AI influenser. On je na platformi X objavio snimak ekrana otkazivanja pretplate i kao jedan od razloga naveo Anthropicovu „suludu ideju o watermarkingu“. Slične reakcije mogu se pronaći i kod drugih korisnika. Pojedini tvrde da su otkazali Claude upravo zbog nove tehnologije označavanja AI sadržaja, dok su drugi kritikovali kompaniju zbog toga što bi, prema njihovom mišljenju, korisnici koji plaćaju pretplatu trebalo da imaju pravo da koriste generisani sadržaj bez dodatnog označavanja. Posebno pitanje predstavlja činjenica da Anthropic ne govori o klasičnom watermarku kakav poznajemo sa fotografija ili video-snimaka. Umesto vidljivog znaka, kompanija razvija sistem koji je praktično neprimetan ljudskom čitaocu. Anthropic objašnjava da će watermark biti ugrađen u sam način na koji Claude bira reči tokom generisanja teksta. Sistem koristi tajni ključ koji određuje statističke preferencije prilikom izbora između više mogućih tokena. Anthropic taj ključ po složenosti i nasumičnosti poredi sa brojem pi. Na primer, ako Claude treba da nastavi rečenicu „Vreme danas je bilo hladno i…“, postoji više prirodnih mogućnosti. Model bi mogao da izabere „sivo“, „oblačno“ ili neku drugu reč. U takvim situacijama watermarking sistem može da usmeri izbor ka određenoj opciji. Međutim, kada postoji samo jedan logičan nastavak, kao u rečenici „Pariz je glavni grad…“, izbor je praktično unapred određen i sistem nema mnogo prostora za takvu intervenciju. Ključna stvar je da čovek ne bi trebalo da može da primeti razliku između teksta sa watermarkom i običnog teksta. Statističke preferencije zavise od konteksta, pa reč koja je u jednom slučaju favorizovana može u drugom biti potpuno drugačiji izbor. Kada se radi o dovoljno dugom tekstu, veliki broj takvih statističkih izbora može da formira svojevrsni digitalni potpis. Specijalizovani sistem za detekciju tada bi mogao da utvrdi da je tekst generisao Claude. Kod kratkih tekstova situacija je komplikovanija. Što je tekst kraći, to detektoru može biti teže da sa dovoljnom sigurnošću utvrdi poreklo sadržaja. Sličan problem postoji i kod određenih vrsta programerskog koda, gde često nema dovoljno različitih mogućnosti za izbor reči ili tokena. Anthropic tvrdi da uvođenje watermarka neće imati praktično primetan uticaj na brzinu generisanja niti na broj potrošenih tokena. Kompanija planira da sistem za detekciju bude dostupan i kroz API, što bi drugim servisima moglo da omogući proveru da li je određeni tekst generisan pomoću Claudea. Tehnologija nije potpuno nova. Anthropic se u svom objašnjenju poziva na istraživanje SynthID sistema iz 2024. godine, tehnologije koju Google koristi za watermarking sadržaja generisanog veštačkom inteligencijom. Ipak, primena sličnog koncepta na tekst otvara mnogo više pitanja nego kada je reč o fotografijama ili video-sadržaju. Posebno zanimljiv deo Anthropicovog objašnjenja odnosi se na uređivanje teksta. Čak i ako korisnik sam napiše tekst, a Claude ga koristi samo za gramatičku ili stilsku doradu, watermark bi potencijalno mogao da se pojavi. Anthropic navodi da to zavisi od dužine teksta i intenziteta izmena koje je Claude napravio. Ako su izmene dovoljno obimne, detektor bi mogao da prepozna Claudeovo učešće, čak i kada originalni sadržaj nije napisala veštačka inteligencija. Upravo je to izazvalo dodatnu zabrinutost među korisnicima koji Claude koriste kao alat za uređivanje, a ne za kompletno generisanje sadržaja. Postoji i vrlo praktičan razlog zbog kojeg su neki korisnici nezadovoljni. Kako navodi Business Insider, pojedini korisnici priznaju da ne žele da njihovi AI-generisani tekstovi budu prepoznati od strane klijenata, profesora ili drugih ljudi koji očekuju da je sadržaj u potpunosti napisao čovek. Za njih watermark nije samo tehnološka novost, već potencijalni problem koji bi mogao da utiče na posao, školovanje ili način na koji njihovi tekstovi prolaze kroz različite sisteme za proveru. Ipak, reakcije na društvenim mrežama ne treba automatski tumačiti kao znak masovnog odlaska korisnika sa Claudea. Na X-u korisnici često javno objavljuju nezadovoljstvo tehnološkim kompanijama i najavljuju otkazivanje pretplata, ali to ne znači nužno da je veliki broj njih zaista napustio servis. Dodatno, neki korisnici koji tvrde da su otkazali Claude pretplatu naveli su i druge razloge. Među njima se pominje i nedavno objavljeni tekst Wall Street Journala o poslovnoj prošlosti supruge Anthropicovog izvršnog direktora Daria Amodeija. S druge strane, Anthropic je za Business Insider izjavio da nakon najave watermarkinga nije zabeležio povećanje broja otkazivanja pretplata. Zbog toga je u ovom trenutku teško govoriti o ozbiljnom udaru na Claudeovu korisničku bazu. Ipak, reakcije pokazuju da je pitanje AI watermarkinga mnogo kompleksnije od jednostavnog dodavanja oznake „napisala veštačka inteligencija“. Anthropic pokušava da napravi sistem koji je nevidljiv ljudima, ali dovoljno pouzdan za specijalizovane detektore. Za kompaniju je to potencijalno važan korak u razlikovanju AI i ljudski generisanog sadržaja. Za korisnike, međutim, otvara se sasvim drugo pitanje: da li plaćena usluga ima pravo da nevidljivo označava sadržaj koji korisnik generiše, naročito ako ga kasnije koristi u profesionalnom, obrazovnom ili komercijalnom kontekstu. Upravo će odgovor na to pitanje verovatno odrediti koliko će nova Claudeova funkcija biti prihvaćena. Tehnologija sama po sebi može biti veoma sofisticirana, ali ako korisnici steknu utisak da im ograničava kontrolu nad sadržajem koji plaćaju, Anthropic bi mogao da se suoči sa mnogo ozbiljnijim problemom od nekoliko ljutitih objava na društvenim mrežama.   The post AI uvodi obeležavanje teksta – Nema više varanja na testovima appeared first on Domino Magazin Srbija.