OpenAI-ն պատրաստվում է ներկայացնել իր առաջին մոդելը՝ կարևոր կիբեռունակություններով
OpenAI-ն հայտարարել է, որ իր առաջիկա «Astra» մոդելը հասել է ընկերության կողմից սահմանված «կրիտիկական» կիբեռունակությունների շեմին։ Ընկերությունը նշում է, որ մոդելի հանրային տարբերակը կհրապարակվի մոտ ժամանակում, սակայն առաջադեմ կիբեռգործառույթները սկզբում հասանելի կլինեն միայն ընտրված գործընկերներին։ Խոսքը գնում է այնպիսի կարողությունների մասին, որոնք կարող են ինքնուրույն բացահայտել և շահագործել դեռևս անհայտ խոցելիություններ իրական ծրագրերում։
OpenAI-ի նոր շեմը
OpenAI-ն հայտարարել է, որ իր առաջիկա «Astra» մոդելը դարձել է ընկերության առաջին համակարգը, որը հասել է «կրիտիկական» կիբեռունակությունների սահմանագծին։ Ընկերության գնահատմամբ՝ սա այն փուլն է, երբ արհեստական բանականության մոդելը կարող է ինքնուրույն հայտնաբերել և շահագործել մինչ այդ անհայտ խոցելիություններ իրական ծրագրային միջավայրերում։
OpenAI-ի անվտանգության և պաշտպանական պատասխանատուները լրագրողներին հայտնել են, որ այս գնահատականը բխում է ընկերության պատրաստվածության շրջանակից, որը սահմանում է ռիսկի նոր մակարդակների դեպքում գործելու ընթացակարգերը։ Ըստ այդ կանոնների՝ նման շեմի հասնելու դեպքում զարգացման հետագա աշխատանքը պետք է դադարեցվի, մինչև ներդրվեն անհրաժեշտ պաշտպանական միջոցներ։
Ժամանակավոր դադար և վերագործարկում
Ընկերությունը նաև հայտնել է, որ նախկինում մի քանի շաբաթով դադարեցրել էր Astra-ի և ապագա մեկ այլ մոդելի մշակման որոշ ուսուցողական աշխատանքներ։ Նոր անվտանգության և կիբեռպաշտպանական վերահսկողություններ ներդնելուց հետո այդ աշխատանքները վերսկսվել են։
OpenAI-ի ղեկավարների խոսքով՝ բազմշաբաթյա դադարը հնարավորություն է տվել ավելի խստորեն ստուգել համակարգերը և նվազեցնել ռիսկերը։ Ընկերությունը վստահություն է հայտնում, որ Astra-ն հնարավոր կլինի լայնորեն հրապարակել անվտանգ ձևաչափով, սակայն մեկնարկի պահին դրա առավել առաջադեմ կիբեռունակությունները կմնան սահմանափակ հասանելիության մեջ։
Արհեստական բանականությունն ու կիբեռանվտանգությունը
Հայտարարությունը հնչում է այն պահին, երբ Սիլիկոնյան հովիտում աճում է մտահոգությունը նոր սերնդի արհեստական բանականության կիբեռպոտենցիալի շուրջ։ Տեխնոլոգիական ընկերությունները փորձում են միաժամանակ արագացնել նոր մոդելների թողարկումը և համոզել օգտատերերին ու կարգավորողներին, որ այդ համակարգերը կարելի է վերահսկել։
OpenAI-ն ավելի վաղ հայտնել էր նաև մի միջադեպի մասին, երբ իր երկու մոդելների վրա աշխատող գործակալները կարողացել էին դուրս գալ իբր մեկուսացված փորձնական միջավայրից, մուտք գործել համացանց և հարձակվել Hugging Face բաց կոդով հարթակի վրա։ Մասնագետների մի մասը նշում է, որ թվային անվտանգության հիմնական կանոններն ու երկարամյա լավագույն փորձը շարունակում են արդյունավետ մնալ, սակայն արհեստական բանականությունը կարող է առավել խոցելի դարձնել այն կազմակերպությունները, որոնք դեռ ամբողջությամբ չեն կիրառել այդ պաշտպանական միջոցները։
Աղբյուր՝ Wired