OpenAI usporava razvoj Astre

OpenAI je odlučio da uspori razvoj svog novog AI modela, poznatog pod kodnim imenom Astra, nakon što su testiranja pokazala da bi njegove napredne sposobnosti u oblasti sajber bezbednosti mogle predstavljati ozbiljan rizik. Najveću zabrinutost izazvala je sposobnost modela da samostalno pronalazi bezbednosne propuste, analizira softver i potencijalno koristi otkrivene ranjivosti. Što su AI sistemi sposobniji da samostalno obavljaju složene zadatke, to raste i mogućnost njihove zloupotrebe. OpenAI je tokom internih testiranja već zabeležio situacije u kojima su napredni modeli uspeli da izvrše veoma složene sajber zadatke. Kompanija zbog toga sada želi da dodatno testira Astu i uvede strože zaštitne mehanizme pre nego što razvoj bude nastavljen punim intenzitetom. Nove mere podrazumevaju ograničeniji pristup mreži i spoljnim alatima, izolovana testna okruženja i detaljnije praćenje ponašanja modela. Posebna pažnja biće posvećena modelima koji mogu dugo da rade autonomno i samostalno donose odluke o sledećim koracima. Ovakav potez pokazuje koliko se brzo menja priroda AI bezbednosti. Do sada je najveća pažnja bila usmerena na to da modeli ne generišu štetan sadržaj. Sada se sve više postavlja pitanje šta se događa kada AI dobije dovoljno sposobnosti da samostalno izvršava složene operacije. OpenAI ne odustaje od Astre, ali je jasno da kompanija želi da dodatno proveri njene mogućnosti pre nego što model bude spreman za širu upotrebu. Kako AI sistemi postaju sve autonomniji, kontrola njihovog ponašanja mogla bi postati jednako važna kao i same performanse. Upravo zbog toga Astra predstavlja zanimljiv pokazatelj pravca u kojem se razvija veštačka inteligencija – budućnost neće zavisiti samo od toga koliko će modeli biti pametni, već i od toga koliko bezbedno mogu da koriste svoju moć. The post OpenAI usporava razvoj Astre appeared first on IT Resenja.