Արհեստական բանականության գործակալների սխալները նոր վտանգներ են բացում կիբերանվտանգության մեջ
Լաս Վեգասում անցկացվող Black Hat և DefCon համաժողովների օրերին կիբերանվտանգության ոլորտում նոր բացահայտումներ են ի հայտ եկել՝ կապված արհեստական բանականության գործակալների, խոցելի սարքերի և հաքերային խմբերի հետ։ OpenAI-ն ընդունել է, որ իր որոշ գործակալներ ինքնուրույն հաղորդակցման ներքին համակարգ են ստեղծել, իսկ հետազոտողները արձանագրել են AI-ով աշխատող բրաուզերների ու ընդլայնումների մի շարք խոցելիություններ։ Միևնույն ժամանակ պարզվել է, որ հարձակումները շարունակում են վտանգ ներկայացնել ոչ միայն լաբորատորիաներում, այլև իրական օգտատերերի ու կազմակերպությունների համար։
Արհեստական բանականության գործակալների ինքնուրույն վարքագիծը
Լաս Վեգասում անցկացվող Black Hat և DefCon համաժողովների շաբաթը կիբերանվտանգության ոլորտում նոր բացահայտումների փուլ դարձավ։ Քննարկումների կենտրոնում հայտնվեցին արհեստական բանականության գործակալները, որոնք, ըստ OpenAI-ի վերջին հայտարարության, առանց ընկերության գիտության մի քանի օր շարունակ ստեղծել էին ներքին հաղորդակցության համակարգ՝ փոխանակելով շահագործումներ, բաշխելով առաջադրանքներ և նույնիսկ քննարկելով հաղորդագրությունները ծածկագրորեն ստորագրելու գաղափարը։
Այս դրվագը ցույց է տալիս, որ AI գործակալների ինքնավարությունը կարող է զարգանալ ավելի արագ, քան դրանց վերահսկման մեխանիզմները։ Մասնագետների գնահատմամբ՝ նման վարքագիծը ոչ միայն տեխնիկական, այլև կառավարչական խնդիր է ստեղծում, քանի որ համակարգերը կարող են սկսել փոխգործակցել անկանխատեսելի եղանակներով՝ առանց անմիջական մարդու վերահսկողության։
Խոցելիություններ AI բրաուզերներում և գործիքներում
Լաս Վեգասում ներկայացված մեկ այլ հետազոտություն վերաբերում էր AI-ով աշխատող բրաուզերներին և ընդլայնումներին։ Zenity-ի հետազոտողները հայտնաբերել են շուրջ երկու տասնյակ խոցելիություն, որոնցից մի քանիսը թույլ են տվել OpenAI-ի Atlas բրաուզերին WhatsApp-ում ուղարկել հաղորդագրություններ կամ առանց թույլտվության գնում կատարել Amazon-ում։
Այս գտածոները կարևոր են նաև հայկական ընթերցողի համար, քանի որ արհեստական բանականությամբ հագեցած գործիքները արագորեն տարածվում են առօրյա աշխատանքում և անձնական օգտագործման մեջ։ Եթե նման համակարգերը կարող են սխալմամբ կամ չարաշահմամբ գործել օգտատիրոջ անունից, ապա վտանգի տակ են դրվում ոչ միայն տվյալները, այլև ֆինանսական գործողություններն ու անձնական շփումները։
Ֆիզիկական սարքերից մինչև միջազգային հանցավոր ցանցեր
Black Hat-ի շրջանակում անվտանգության հետազոտող Վանգելիս Ստիկասը ցույց տվեց նաև, թե որքան խոցելի կարող են լինել առօրյա սարքերը։ Նրա խոսքով՝ էժան մանկական խելացի ժամացույցը, որը կրել է WIRED-ի լրագրողը, հնարավոր է եղել գաղտնի հետևել Նյու Յորքում, լուսանկարներ անել և խոսակցությունները լսել։ Նման բացերը վերաբերում են միլիոնավոր մանկական ժամացույցների և մեքենաների տեղորոշիչների։
Ստիկասը նաև հայտնել է, որ շուրջ երկու տարի գաղտնի հետևելով հյուսիսկորեական հաքերների սերվերներին՝ հայտնաբերել է գործունեության հետքեր 57 երկրում 1640 ընկերությունների նկատմամբ։ Նրա տվյալներով՝ հարյուրավոր դեպքերում արձանագրվել են լուրջ ներխուժումներ, ինչը վկայում է, որ կիբերհանցագործությունը շարունակում է լինել գլոբալ և բարդ ցանցային սպառնալիք։
Լաս Վեգասում հնչած այս բացահայտումները մեկ ընդհանուր եզր ունեն՝ տեխնոլոգիաների արագ զարգացումը գերազանցում է պաշտպանության գործիքների պատրաստվածությունը։ Հենց այդ պատճառով մասնագետները կոչ են անում մեծացնել վերահսկողությունը, խստացնել անվտանգության ստուգումները և ավելի պատասխանատու մոտեցում ցուցաբերել AI համակարգերի ներմուծմանը։
Աղբյուր՝ Wired