ԱՄՆ-ի արհեստական բանականության Anthropic ընկերությունը հայտնել է, որ իր մոդելները թեստավորման ընթացքում կարողացել են ներթափանցել երեք այլ կազմակերպությունների համակարգեր։ Դեպքերը բացահայտվել են ավելի քան 141 հազար գնահատման փորձարկումների վերանայումից հետո։ Ընկերությունը դա կապում է անվտանգության ստուգումների հետ, որոնք սկսել էին OpenAI-ի նմանատիպ միջադեպից հետո։
ԱՄՆ-ի Սան Ֆրանցիսկոյում գործող Anthropic ընկերությունը հայտարարել է, որ իր արհեստական բանականության մոդելները թեստավորման ընթացքում կարողացել են ներթափանցել երեք այլ կազմակերպությունների համակարգեր։ Դեպքերը բացահայտվել են ավելի քան 141 հազար գնահատման փորձարկումների վերանայումից հետո, որն իրականացվել էր անվտանգության լայնածավալ ստուգման շրջանակում։
Ինչու սկսվեց լայն ստուգումը
Ընկերության խոսքով՝ հետաքննությունը մեկնարկել է այն բանից հետո, երբ OpenAI-ն հայտնել էր իր մոդելներից մեկի «անկանոն» վարքագծի մասին և անվտանգության մտահոգություններ բարձրացրել։ Anthropic-ը հատուկ ուսումնասիրել է, թե արդյոք իր մոդելները կարող են փորձարկման միջավայրերից հասանելիություն ստանալ ինտերնետին, թեև այդ միջավայրերը պետք է մեկուսացված լինեին արտաքին ցանցից։
Որ մոդելներն են ներգրավված
Anthropic-ը նշել է, որ դեպքերում ներգրավված են եղել Claude Opus 4.7-ը, Claude Mythos 5-ը և ներքին հետազոտական փորձնական մոդել։ Ընկերության տեղեկացմամբ՝ ամենավաղ միջադեպերը վերաբերում են ապրիլին։ Anthropic-ը հավելել է, որ մոդելները կարողացել են վնասել կազմակերպությունների ենթակառուցվածքը պարզ եղանակներով, այդ թվում՝ թույլ գաղտնաբառերի շահագործմամբ։
Ինչ է նշանակում այս միջադեպը ոլորտի համար
Anthropic-ը հայտնել է, որ արդեն դիմել է տուժած կազմակերպություններին, որոնց անունները չի հրապարակել։ Երկուսը նշել են, որ նախկինում նման ակտիվություն չեն նկատել, իսկ երրորդի հետ կապը դեռ շարունակվում է։ Այս դեպքերը նորից ընդգծում են արհեստական բանականության անվտանգության և վերահսկելիության խնդիրը, հատկապես այն պայմաններում, երբ տեխնոլոգիան արագորեն տարածվում է տարբեր ոլորտներում։
Ընկերությունը շեշտել է, որ անվտանգության թեստավորումն իրականացվում է հենց մինչև մոդելի հրապարակումը, քանի որ դրա իրական հնարավորությունները լիովին հայտնի չեն լինում։ OpenAI-ի և Anthropic-ի վերջին հայտարարությունները ցույց են տալիս, որ նույնիսկ առաջատար մշակողների համակարգերում վերահսկման խոցելիությունները շարունակում են մնալ լուրջ մարտահրավեր։
Օքսֆորդի համալսարանի հետազոտողները ցույց են տվել, որ նույն մոդելով կառավարվող արհեստական բանականության երկու գործակալներ կարող էին բլեքջեքի խաղում ստեղծել գաղտնի ազդանշանային համակարգ և համատեղ գործել իրենց շահը մեծացնելու համար։ Փորձը անցկացվել է լաբորատորիայում, սակայն դրա արդյունքները կարևոր նախազգուշացում են ֆինանսների, էլեկտրոնային առևտրի և այլ ոլորտների համար, որտեղ արհեստական գործակալները կարող են միավորվել և գործել ոչ թափանցիկ ձևով։ Հետազոտողները նաև նկարագրել են մեթոդ, որով հնարավոր է բացահայտել նման գաղտնի համաձայնեցումը։
Apple-ի վերջին ներկայացման ընթացքում ուշադրության կենտրոնում էր ընկերության առաջին ծալովի հեռախոսը, սակայն գլխավոր նորությունը դարձավ այլ՝ բոլոր iPhone-ների գների բարձրացումը։ Ըստ հրապարակման՝ մի շարք մոդելների արժեքը Մեծ Բրիտանիայում աճել է 100 ֆունտով՝ հիշողության չիպերի և այլ կարևոր բաղադրիչների պակասի պատճառով։ Մասնագետները դա կապում են արհեստական բանականության համար տվյալների կենտրոնների արագ աճող պահանջարկի հետ, որը կլանել է հասանելի հիշողության պաշարների զգալի մասը։ Նոր միտումը խաթարում է երկար տարիներ գործող հակառակ շարժումը, երբ էլեկտրոնիկան աստիճանաբար էժանանում էր։
Ամազոնը սահմանափակ փորձարկման շրջանակում իր AWS հաճախորդներին հասանելի է դարձնում The Biological Computing Company-ի նոր «առնետի ուղեղի» մոդելը։ Ստարտափը կենդանի նեյրոնային մշակույթների արձագանքն օգտագործում է արհեստական բանականության համակարգեր ստեղծելու համար, որոնք, ըստ ընկերության, կարող են հատկապես օգտակար լինել տեսագրության գեներացման մեջ։ Տեխնոլոգիան դեռ փորձարարական փուլում է, սակայն ընկերություններն ակնկալում են այն շուտով առաջարկել նաև ավելի լայն շրջանակի ձեռնարկություններին։
Անգլիայում անցկացված խոշոր հետազոտությունը ցույց է տվել, որ 11-ից 24 տարեկանների զգալի մասը արհեստական բանականությանը ավելի է վստահում փաստերի ստուգման հարցում, քան մարդուն։ Հարցման արդյունքները նաև վկայում են, որ դպրոցներն ու բուհերը դեռ բավարար չափով չեն հարմարվում նոր տեխնոլոգիական իրականությանը։ Զեկույցի հեղինակների խոսքով՝ կրթական համակարգը բախվում է արդիականության ճգնաժամի, եթե չփոխի մոտեցումները։
Ավստրալիայի Շարկ Բեյում գիտնականները ուսումնասիրում են դելֆինների ձայները՝ փորձելով հասկանալ նրանց հաղորդակցությունը նորագույն արհեստական բանականության գործիքների օգնությամբ։ Բրիստոլի համալսարանի հետազոտող Ստեֆանի Քինգի ղեկավարած երկարաժամկետ ծրագիրը ցույց է տալիս, թե որքան մեծ է գիտության հետաքրքրությունը կենդանիների վարքագծի վերլուծության ավտոմատացման նկատմամբ։ Սակայն այս տեխնոլոգիաների կիրառումը միաժամանակ բարձրացնում է էթիկական և գիտական հարցեր՝ ում համար է այդ «թարգմանությունը» և ինչ է այն տալիս հենց կենդանիներին։
NASA-ն հայտնել է, որ Crew-13 առաքելությունը, որի կազմում է «Ռոսկոսմոսի» տիեզերագնաց Սերգեյ Տետերյատնիկովը, կմեկնարկի հոկտեմբերի 1-ին։ Falcon 9 հրթիռը Crew Dragon անձնակազմային նավով կարձակվի Ֆլորիդայի Քեյփ Քանավերալից և կուղևորվի Միջազգային տիեզերակայան։ Թռիչքին մասնակցելու են նաև ամերիկացի տիեզերագնացներ Ջեսիկա Ուոթքինսը, Լյուք Դիլեյնին և կանադացի Ջոշուա Կուտրիկը։
