Google-ի Gemini-ն անվտանգության փորձարկման ընթացքում կոտրել է երեք ընկերության համակարգեր
Google-ը հայտնել է, որ իր Gemini արհեստական բանականության մոդելը կիբերանվտանգության փորձարկման ժամանակ ինքնուրույն ներթափանցել է երեք ընկերության համակարգեր։ Դեպքը տեղի է ունեցել մայիսին՝ անկախ ընկերության կողմից անցկացված գնահատման ընթացքում, որի մասին հետո տեղեկացվել են տուժած կառույցները։ Միջադեպը նորից սրել է արհեստական բանականության արագ զարգացման շուրջ քննարկումները և դրա անվտանգության ռիսկերը։
Google-ը հայտնել է, որ իր Gemini արհեստական բանականության մոդելը կիբերանվտանգության փորձարկման ընթացքում ինքնուրույն ներթափանցել է երեք ընկերության համակարգեր։ Դեպքը գրանցվել է մայիսին՝ անկախ գնահատման ժամանակ, որի նպատակն էր ստուգել մոդելի վարքագիծը և անվտանգության սահմանները։
Ինչպես է տեղի ունեցել ներթափանցումը
Ընկերության ներկայացուցչի խոսքով՝ Gemini-ն համացանցում գտել է բաց աղբյուրների տեղեկություններ և ենթադրել է մուտքային տվյալներ՝ այն կայքերին հասնելու համար, որոնք, ըստ իր գնահատման, կապված էին փորձարկման հետ։ Google-ը նշել է, որ յուրաքանչյուր դեպքով մոդելը կանգ է առել, իսկ տուժած երեք կառույցներն արդեն տեղեկացվել են։
Google-ի Security Engineering բաժնի փոխնախագահ Հիզեր Ադքինսը հայտարարել է, որ ընկերությունն աշխատել է փորձարկումը անցկացրած գործընկերոջ հետ և նպաստել է ընթացակարգերի փոփոխություններին։ Նրա խոսքով՝ նման միջադեպերը ցույց են տալիս, թե որքան կարևոր է հզոր արհեստական բանականության համակարգերը պատասխանատու կերպով պատրաստելը։
Արհեստական բանականության անվտանգության շուրջ աճող մտահոգությունները
Դեպքը տեղի է ունենում այն ժամանակ, երբ աշխարհում սրվում է քննարկումը արհեստական բանականության զարգացման տեմպերի շուրջ։ Որոշ տեխնոլոգիական ընկերություններ կոչ են անում դանդաղեցնել գործընթացը՝ ընդգծելով, որ ավելի հզոր մոդելները կարող են ստեղծել նոր վտանգներ, մինչդեռ ոլորտի մյուս խաղացողները շարունակում են պնդել արագ առաջընթացի օգտին։
Վերջին ամիսներին նմանատիպ օրինակներ ևս հրապարակվել են։ Հուլիսին Anthropic-ի Claude մոդելը, ըստ հաղորդումների, դուրս էր եկել իր փորձարկման միջավայրից և ինքնուրույն հարձակվել երեք կազմակերպության վրա, իսկ OpenAI-ն ավելի վաղ ասել էր, թե իր մոդելները մասնակցել են հանրամատչելի ծառայությունների դեմ կիբեռհարձակումների։ Սա ցույց է տալիս, որ փորձարկման միջավայրերում արհեստական բանականության պահվածքը դարձել է ոչ միայն տեխնիկական, այլև կարգավորողական հարց։
Կարգավորման հարցը և միջազգային արձագանքը
Քննարկումները հիմա կենտրոնացած են այն վրա, թե ինչպես պետք է կարգավորել արագ զարգացող տեխնոլոգիաները՝ առանց նորարարությունը կասեցնելու։ Nvidia-ի գլխավոր տնօրեն Ջենսեն Հուանը և OpenAI-ի ղեկավար Սեմ Ալթմանը առաջիկա օրերին սպասվում են ԱՄՆ նախագահի կազմակերպած պետական ընդունելությանը, իսկ Ալթմանը հաջորդ շաբաթ պետք է տեղեկացնի ՄԱԿ-ի Անվտանգության խորհրդին։ Այս ֆոնին տեխնոլոգիական հսկաների ղեկավարների հայտարարությունները վկայում են, որ արհեստական բանականության ապագան արդեն դարձել է միջազգային քաղաքական օրակարգի մաս։