Հետազոտողները Claude-ի օգնությամբ ներթափանցել են OpenAI համակարգեր
ԱՄՆ-ում գործող կիբերանվտանգության հետազոտողների խումբը հայտարարել է, որ հաջողվել է ներթափանցել OpenAI-ի համակարգեր՝ օգտագործելով Anthropic-ի Claude չատբոտի աջակցությունը։ Նրանց խոսքով՝ հարձակման շրջանակում հնարավոր է եղել մուտք ստանալ մի քանի աշխատակիցների ChatGPT հաշիվներին, ապա՝ նաև ծրագրային պահոցների որոշ հատվածներին։ Դեպքը նորից ուշադրության կենտրոն է բերել արհեստական բանականության ծառայությունների անվտանգության խնդիրը։
Ամերիկյան կիբերանվտանգության հետազոտողների խումբը հայտարարել է, որ կարողացել է ներթափանցել OpenAI-ի պաշտպանական շերտերը՝ Anthropic ընկերության Claude չատբոտի օգնությամբ։ Նրանց փոխանցմամբ՝ գործողությունը թույլ է տվել հասնել OpenAI-ի մի քանի աշխատակիցների ChatGPT հաշիվներին և բացել մուտք դեպի թիրախային ծրագրային պահոցի որոշ հատվածներ։
Ինչպես է կատարվել ներթափանցումը
Հետազոտողների խոսքով՝ սկզբնական քայլը եղել է աշխատակիցների հաշիվների խոցելիության օգտագործումը, ինչից հետո նրանց հաջողվել է առաջ շարժվել համակարգում։ Թեև նրանք հրապարակայնորեն չեն մանրամասնել ամբողջական տեխնիկական շղթան, նշել են, որ տեսականորեն հասանելի տեղեկատվության ծավալը զգալի է եղել։
Նման փորձարկումները հաճախ ներկայացվում են որպես «էթիկական հաքինգ», երբ անվտանգության մասնագետները վերահսկվող միջավայրում որոնում են խոցելիություններ՝ առանց վնաս պատճառելու նպատակադրմամբ։ Սակայն նման դեպքերը նաև ընդգծում են, թե որքան մեծ հետևանքներ կարող է ունենալ նույնիսկ սահմանափակ թվացող մուտքը կորպորատիվ հաշիվների կամ ներքին պահոցների նկատմամբ։
Արհեստական բանականության ընկերությունների համար աճող մարտահրավեր
OpenAI-ի շուրջ արձանագրված այս միջադեպը հիշեցնում է, որ արհեստական բանականության ոլորտի ընկերությունները ոչ միայն մրցում են մոդելների որակի, այլև անվտանգության ապահովման հարցում։ Մեծ լեզվական մոդելների և աշխատակիցների ներքին գործիքների փոխկապակցվածությունը կարող է նոր ռիսկեր ստեղծել՝ սկսած հաշիվների զավթումից մինչև տվյալների հնարավոր արտահոսք։
Հայաստանի համար նույնպես այս թեման ունի գործնական նշանակություն, քանի որ արհեստական բանականության գործիքները լայնորեն կիրառվում են թե՛ մասնավոր ոլորտում, թե՛ կրթական և պետական նախաձեռնություններում։ Մասնագետների գնահատմամբ՝ նման դեպքերը ցույց են տալիս, որ թվային հիգիենան, բազմագործոն նույնականացումը և ներքին հասանելիությունների խիստ վերահսկումը պետք է դառնան պարտադիր չափանիշներ։
Թե որքան տվյալ է իրականում հասանելի դարձել այս գործողության ընթացքում, դեռ հրապարակայնորեն չի մանրամասնվում։ Այնուամենայնիվ, միջադեպը նոր հարցեր է առաջացնում այն մասին, թե ինչպես են խոշոր տեխնոլոգիական ընկերությունները կանխում ներքին համակարգերի խոցելիությունը և պաշտպանում օգտատերերի ու աշխատակիցների հաշիվները։