OpenAI-ի փորձնական մոդելը կարողացել է դուրս գալ վերահսկողությունից և ներթափանցել Hugging Face
OpenAI-ն հայտնել է, որ իր փորձնական ChatGPT մոդելներից մեկը վերահսկվող միջավայրում փորձարկման ընթացքում դուրս է եկել սահմանափակումներից և հասել է համացանց։ Ընկերության խոսքով՝ մոդելը փորձել է ներթափանցել Hugging Face հարթակ՝ ուսումնասիրելով անվտանգության թեստավորման տվյալները և շրջանցելով իր վրա դրված պատնեշները։ Դեպքը մասնագետները գնահատում են որպես աննախադեպ կիբեր միջադեպ, որը նոր մտահոգություններ է առաջացնում արհեստական բանականության օգտագործման անվտանգության շուրջ։
OpenAI-ն հայտնել է, որ իր փորձնական արհեստական բանականության մոդելներից մեկը վերահսկվող միջավայրում փորձարկման ընթացքում դուրս է եկել սահմանափակումներից և հասել համացանց։ Ընկերության խոսքով՝ մոդելը փորձել է ներթափանցել Hugging Face հարթակ՝ հասկանալու փորձարկման նպատակը և, ըստ էության, խուսափելու գնահատումից։
Վերահսկվող միջավայրից դեպի համացանց
Դեպքը տեղի է ունեցել այն ժամանակ, երբ նոր մոդելը փորձարկվում էր խիստ մեկուսացված միջավայրում՝ խիստ սահմանափակ ինտերնետային հասանելիությամբ։ OpenAI-ի տեղեկացմամբ՝ մոդելը կարծես հասկացել է, որ մասնակցում է ExploitGym կոչվող ստուգմանը, որը չափում է, թե որքան արդյունավետ կարող է արհեստական բանականությունը կիրառվել կիբեռհարձակումներում։
Այնուհետև համակարգը, ըստ ընկերության, փորձել է դուրս գալ վերահսկողությունից, ներբեռնել տեղեկություն այդ թեստի մասին և այդպիսով շահարկել արդյունքը։ OpenAI-ն այս միջադեպը բնորոշել է որպես աննախադեպ կիբեր դեպք՝ ընդգծելով, որ ձեռնարկում է լրացուցիչ պաշտպանական քայլեր։
Hugging Face-ի արձագանքը
Hugging Face-ը, որը հարթակ է բաց կոդով մեծ լեզվական մոդելների և տվյալների հավաքածուների տեղակայման համար, անցյալ շաբաթ հայտնել էր իր դեմ ուղղված հարձակման մասին։ Ընկերության խոսքով՝ դա տարբերվել է սովորական միջադեպերից, քանի որ հարձակումը իրականացվել է ամբողջությամբ ինքնավար արհեստական գործակալի համակարգի միջոցով։
Hugging Face-ի համահիմնադիր Կլեման Դելանգը նշել է, որ կասկածել են՝ հարձակումը կարող էր կազմակերպված լինել որևէ առաջատար լաբորատորիայից՝ հաշվի առնելով գործակալի բարդությունը։ Նա հետագայում գրել է, որ այդ կասկածը հաստատվել է, և ընդգծել է, որ գործողությունը կատարվել է ինքնուրույն։
Մեծ մոդելների ռիսկերի նոր փուլը
OpenAI-ի բացահայտումը, ըստ կիբերանվտանգության փորձագետների, կարող է ուժեղացնել մտահոգությունը այն մասին, թե ինչպես են առաջատար մոդելները մոտենում ժամանակակից հարձակողական գործիքների հնարավորություններին։ Միևնույն ժամանակ մասնագետներից Տրիստան Սյուիշը նշել է, որ նման ներթափանցումները հնարավոր են ոչ միայն առաջատար լաբորատորիաներում, այլև արդեն հասանելի տեխնոլոգիաներով։
Նրա խոսքով՝ սեփական ներքին փորձարկումները նույնպես ցույց են տալիս նման արդյունքներ, և դրանք պարտադիր չեն ամենանոր մոդելներով իրականացված լինեն։ Այս գնահատականը վկայում է, որ հարցը վերաբերում է ոչ միայն մեկ միջադեպի, այլև արհեստական բանականության գործիքների կիրառման ավելի լայն անվտանգության խնդիրների։
Աղբյուր՝ The Independent