SAD uvode kontrolu nad AI modelima pre javnog lansiranja

Google, Microsoft i xAI pristali su da omoguće američkoj vladi rani pristup svojim najnaprednijim modelima veštačke inteligencije, kako bi bili testirani pre nego što postanu dostupni javnosti. Cilj ovog dogovora je procena potencijalnih rizika, posebno u oblastima sajber bezbednosti, zloupotrebe tehnologije i nacionalne sigurnosti. Državni stručnjaci će analizirati ponašanje modela, tražiti moguće ranjivosti i procenjivati kako bi se AI sistemi mogli koristiti u realnim scenarijima. U testiranja je uključen američki Centar za standarde i inovacije u veštačkoj inteligenciji, koji će raditi direktno sa kompanijama na evaluaciji tzv. „frontier“ AI modela u kontrolisanim uslovima. Ovakva praksa postaje sve češća u industriji. Slične sporazume ranije su već potpisali i drugi veliki igrači, što ukazuje na trend jače saradnje između tehnoloških kompanija i države kada je reč o bezbednosti AI sistema. Iza svega stoji rastuća zabrinutost zbog mogućnosti zloupotrebe naprednih modela u sajber napadima, dezinformacijama i drugim oblicima digitalnih pretnji. Dogovor pokazuje da se razvoj veštačke inteligencije sve više odvija uz paralelni nadzor države, dok AI sistemi postaju previše moćni da bi se puštali u javnost bez dodatnih provera. The post SAD uvode kontrolu nad AI modelima pre javnog lansiranja appeared first on IT Resenja.