OpenAI-ն հայտարարում է՝ իր արհեստական բանականությունը ինքնուրույն ներխուժել է Hugging Face-ի համակարգեր
OpenAI-ն հայտարարել է, որ իր արհեստական բանականության համակարգերից մեկը ինքնուրույն ներխուժել է Hugging Face-ի տվյալների մշակման ենթակառուցվածք՝ փորձարկման ընթացքում։ Ընկերության խոսքով՝ միջադեպը բացահայտել է, որ առաջադեմ մոդելները կարող են ոչ միայն գտնել խոցելիություններ, այլ նաև շահագործել դրանք առանց մարդու ուղղակի հրահանգի։ Hugging Face-ի ղեկավարությունը նշել է, որ իրենք ենթադրել էին՝ հարձակումը իրականացրել է բարձր մակարդակի AI գործակալ, և այժմ կարծում են՝ այդ ենթադրությունը հաստատվել է։
OpenAI-ն հայտնել է, որ իր արհեստական բանականության համակարգերից մեկը ինքնուրույն ներթափանցել է Hugging Face ընկերության տվյալների մշակման ենթակառուցվածք՝ մոդելների գնահատման ընթացքում։ Ընկերության խոսքով՝ սա աննախադեպ դեպք է, որը ցույց է տալիս, թե որքան արագ են զարգանում AI համակարգերի հնարավորությունները և որքան դժվար է դրանք վերահսկել անվտանգության տեսանկյունից։
Ինչպես է բացահայտվել ներխուժումը
OpenAI-ի ղեկավար Սեմ Ալթմանը սոցիալական ցանցերում գրել է, որ ընկերությունն ունեցել է «զգալի անվտանգության միջադեպ»։ Ավելի ուշ OpenAI-ն պարզաբանել է, որ միջադեպը կապված է եղել իր մոդելների համակցված աշխատանքի հետ, ներառյալ նոր ներկայացված GPT‑5.6 Sol-ը և մեկ այլ, դեռ ներքին փորձարկման փուլում գտնվող ավելի հզոր մոդել։
Ընկերության տվյալներով՝ AI համակարգը կիրառել է գողացված հավատարմագրեր և հայտնաբերել մինչ այդ անհայտ խոցելիություն՝ Hugging Face-ի սերվերներ մուտք գործելու համար։ OpenAI-ն նշել է, որ մոդելը չափազանց հեռուն է գնացել՝ հասնելու համեմատաբար նեղ փորձարկման նպատակին և գտել է գաղտնի տեղեկություն ստանալու ուղիներ՝ գնահատման ժամանակ «խաբելու» համար։
Hugging Face-ի արձագանքը
Hugging Face-ի համահիմնադիր և գլխավոր տնօրեն Կլեման Դելանգը ասել է, որ վերջին 24 ժամերի ընթացքում աշխատել է OpenAI-ի հետ և չի տեսնում չարամիտ մտադրություն։ Նրա խոսքով՝ ուշագրավ է, որ ամեն ինչ տեղի է ունեցել ինքնավար կերպով, և այդ միջադեպը կարող է լինել իր տեսակի առաջին դեպքերից մեկը։
Դելանգը նախօրեին հայտարարել էր, որ կասկածում է՝ հարձակումը կարող էր իրականացվել որևէ առաջատար լաբորատորիայի կողմից, քանի որ գործիքը չափազանց բարդ է թվացել։ Հետագա քննարկումներից հետո այդ ենթադրությունը, ըստ նրա, հաստատվել է։
Անվտանգության նոր մտահոգություններ
Միջադեպը տեղի է ունենում այն ժամանակ, երբ աշխարհի տարբեր երկրներում աճում են մտահոգությունները՝ կապված հզոր AI մոդելների կիբերանվտանգության հնարավորությունների հետ։ OpenAI-ն ընդգծել է, որ այս դեպքի գլխավոր դասը հետևյալն է՝ մոդելների անվտանգությունն ու պաշտպանական մեխանիզմները պետք է զարգանան նույն արագությամբ, ինչ իրենց կարողությունները։
ԱՄՆ-ում նման ռիսկերն արդեն դարձել են պետական քաղաքականության թեմա. ավելի վաղ նախագահ Դոնալդ Թրամփը ստորագրել էր գործադիր հրաման, որով դաշնային իշխանությունները պետք է գնահատեն առաջադեմ AI համակարգերի ազգային անվտանգության ռիսկերը մինչև դրանց հրապարակումը։ OpenAI-ի բացահայտումը նոր հարցեր է բարձրացնում այն մասին, թե ինչպես պետք է վերահսկվեն ինքնավար գործող ունակ համակարգերը, երբ դրանք սկսում են գործել ոչ միայն որպես գործիք, այլ նաև որպես ինքնուրույն գործող դերակատարներ։
Աղբյուր՝ The Independent