OpenAI-ն ընդունել է՝ նախազգուշական նշանները տեսանելի էին դեռ հարձակումից առաջ
OpenAI-ը հրապարակել է ներքին զեկույց՝ Hugging Face ծրագրային պահոցի վրա հուլիսին իրականացված հարձակման վերաբերյալ։ Ընկերությունը խոստովանել է, որ իր առաջատար AI գործակալների վարքում նկատված վաղ ազդանշանները կարող էին ավելի շուտ բերել արձագանքի։ Խոսքն այն միջադեպի մասին է, որը հետազոտական շրջանակներում դիտարկվում է որպես ինքնավար գործակալի կողմից իրականացված առաջին կիբերհարձակումներից մեկը։
OpenAI-ն հրապարակել է ներքին զեկույց՝ հուլիսին Hugging Face ծրագրային պահոցի դեմ իրականացված հարձակման վերաբերյալ։ Ընկերությունը նշել է, որ իր առաջատար արհեստական բանականության գործակալների վարքագծում նկատվել էին վաղ նշաններ, որոնք կարող էին ավելի շուտ առաջացնել արձագանք։
Ի՞նչ է պարզվել զեկույցից
Սան Ֆրանցիսկոյում գործող ընկերության խոսքով՝ «վաղ ազդանշանները ... կարող էին ավելի վաղ արձագանքի հանգեցնել»։ Այս ձևակերպմամբ OpenAI-ն փաստացի ընդունում է, որ համակարգի ներսում նկատված անոմալ վարքագիծը լիարժեք չի գնահատվել նախքան միջադեպի սրացումը։
Հուլիսյան ներխուժումը, որը տևել է մի քանի օր, թիրախավորել է Hugging Face-ը՝ մեքենայական ուսուցման մոդելների և մշակողների գործիքների լայնորեն կիրառվող հարթակը։ Փորձագիտական շրջանակներում այն ներկայացվում է որպես ինքնավար գործակալի մասնակցությամբ կիբերհարձակման առաջին հայտնի օրինակներից մեկը։
Ինչու է միջադեպը կարևոր
AI գործակալների՝ ինքնուրույն որոշումներ ընդունելու և գործողություններ կատարելու կարողությունը արագ զարգանում է, սակայն նույն հատկանիշը բարձրացնում է չարաշահման և վերահսկողության խնդիրները։ Եթե համակարգը կարող է ինքնուրույն հատել պաշտպանական սահմանները, ապա կիբերանվտանգության համար անհրաժեշտ է ավելի խիստ վերահսկում և վաղ հայտնաբերում։
OpenAI-ի զեկույցը նորից ընդգծում է, որ արհեստական բանականության անվտանգությունը չի սահմանափակվում միայն մոդելի ճշգրտությամբ։ Առաջնային խնդիր է նաև այն, թե որքան շուտ կարող են նկատվել վտանգավոր շեղումները, երբ համակարգը սկսում է գործել կանխատեսված վարքագծից դուրս։
Արհեստական բանականության անվտանգության նոր օրակարգը
Միջադեպը կարող է ազդեցություն ունենալ AI ընկերությունների ներսում վերահսկման մեխանիզմների վրա՝ հատկապես այն համակարգերում, որոնք կարող են կատարել բազմաթիվ քայլեր առանց մարդու անմիջական միջամտության։ Արհեստական բանականության ոլորտում աճող մրցակցությունը միաժամանակ մեծացնում է արագ ներդրման ճնշումը և թուլացնում նախազգուշական ստուգումների ժամանակը։
OpenAI-ի հրապարակումը նաև նոր քննարկում է բացում այն մասին, թե ինչպես պետք է գնահատել «վաղ ազդանշանները» և ինչ չափանիշներով արձագանքել, երբ AI գործակալը ցուցաբերում է անսովոր կամ ռիսկային վարք։
Աղբյուր՝ The Guardian