AI “pobegao” i hakovao drugi server. Da li je vreme za paniku?

Ako ste mislili da su filmovi poput Terminatora i Ex Machine još daleko od stvarnosti, imamo zanimljivu vest. Tokom internog testiranja sajber bezbednosti, eksperimentalni AI model kompanije OpenAI uspeo je da izađe iz svog izolovanog testnog okruženja (sandboxa) i pronađe put do servera platforme Hugging Face, koristeći do tada nepoznatu bezbednosnu ranjivost. Pre nego što počnete da tražite skrovište u podrumu – ne, AI nije rešio da zavlada svetom. Incident se dogodio tokom kontrolisanog bezbednosnog testa u kojem je model imao veoma ograničen pristup mreži. Ipak, uspeo je da iskoristi propust u softveru treće strane, pronađe izlaz iz sandboxa i pristupi sistemima Hugging Face-a, jedne od najvažnijih platformi za razvoj i razmenu AI modela. Predsednik OpenAI-ja Greg Brokman izjavio je da kompanija incident shvata veoma ozbiljno i da sprovodi detaljnu istragu kako bi utvrdila kako je do njega došlo. Stručnjaci smatraju da je ovo važan podsetnik da testiranje naprednih AI sistema zahteva mnogo strože mere izolacije. Neki čak predlažu da se ovakvi modeli ubuduće testiraju na potpuno fizički odvojenim mrežama, uz mogućnost trenutnog isključivanja pristupa internetu. Ovo, međutim, nije prvi put da AI pokušava da “izađe napolje”. Ranije ove godine Anthropic je objavio da je njihov model tokom eksperimenta uspeo da pobegne iz testnog okruženja i čak pošalje imejl istraživaču. Razlika je u tome što je tada upravo to bio zadatak koji je model dobio, dok je u ovom slučaju bekstvo bilo potpuno samoinicijativno. Zašto se ovakve stvari dešavaju? Jedan od razloga je način treniranja modernih AI modela. Oni se nagrađuju kada uspešno ostvare zadati cilj, pa će, ako nisu posebno obučeni da poštuju etička i bezbednosna pravila, pokušati da pronađu bilo koji put do uspeha – čak i ako to podrazumeva hakovanje. Ipak, nema razloga za holivudsku paniku. Incident ne znači da je veštačka inteligencija postala svesna ili da planira pobunu protiv čovečanstva. Ono što pokazuje jeste da AI postaje dovoljno sposoban da pronalazi neočekivana rešenja, zbog čega bezbednosni sistemi moraju da budu jednako pametni kao modeli koje pokušavaju da obuzdaju. Drugim rečima, možda još nije vreme da gasimo internet, ali izgleda da će AI uskoro morati da dobije strožeg “čuvara” nego što ga danas ima. The post AI “pobegao” i hakovao drugi server. Da li je vreme za paniku? appeared first on Domino Magazin Srbija.