Anthropic-ը ներկայացրել է արհեստական բանականության անվտանգ փոխգործակցության նոր ստանդարտը
Ամերիկյան Anthropic ընկերությունը ներկայացրել է Model Hardware Standard անվամբ նոր շրջանակ, որը սահմանում է, թե ինչպես արհեստական բանականության գործակալները կարող են փոխգործակցել լաբորատոր և արտադրական սարքավորումների հետ։ Նպատակը գիտական հետազոտությունն ու արդյունաբերական գործընթացները արագացնելն է՝ միաժամանակ նվազեցնելով սխալների և չարաշահման ռիսկերը։ Ընկերությունը շեշտում է, որ նոր ստանդարտը նախ կներկայացվի վստահելի գործընկերներին՝ անվտանգության ստուգումներից հետո։
Anthropic ընկերությունը ներկայացրել է Model Hardware Standard կոչվող նոր շրջանակը, որը սահմանում է արհեստական բանականության գործակալների և ֆիզիկական սարքավորումների փոխազդեցության կանոնները։ Նախաձեռնությունը վերաբերում է լաբորատոր և արտադրական միջավայրերին, որտեղ AI համակարգերը կարող են աշխատել մանրադիտակների, հեղուկների մշակման սարքերի, քվանտային սարքավորումների, արտադրական մեքենաների և ռոբոտային թևերի հետ։
Գիտության արագացում՝ հստակ սահմաններով
Ընկերության խոսքով՝ նոր ստանդարտի հիմնական նպատակը գիտական հետազոտությունների և արդյունաբերական գործընթացների արագացումն է՝ առանց անվտանգության պահանջները թուլացնելու։ Anthropic-ի ներկայացուցիչները նշում են, որ AI գործակալները արդեն կարող են օգնել մեծ ծավալի գիտական տվյալների վերլուծության, հոդվածների ուսումնասիրման և փորձարարական արդյունքների համադրման հարցում։ Հաջորդ քայլը նրանց հնարավորություն տալն է գործել նաև իրական սարքավորումների հետ, սակայն վերահսկելի կանոններով։
Ստանդարտը, ըստ ընկերության, պետք է սահմանի ոչ միայն այն, թե ինչ կարող է անել մոդելը, այլ նաև այն, թե ինչից պետք է զերծ մնա։ Այս մոտեցումը կարևոր է հատկապես այն ոլորտներում, որտեղ անզգույշ գործողությունը կարող է վնասել սարքավորումները, խաթարել փորձերը կամ վտանգել մարդկանց անվտանգությունը։
Ռիսկերի նվազեցում և չարաշահման կանխարգելում
Anthropic-ում նշում են, որ նոր համակարգը նախ կփորձարկվի վստահելի գործընկերների հետ, որպեսզի հնարավոր լինի գնահատել դրա անվտանգությունը գործնական պայմաններում։ Ընկերությունը չի թաքցնում, որ ֆիզիկական համակարգերի հետ AI-ի աշխատանքը կարող է նոր ռիսկեր ստեղծել, այդ թվում՝ կենսաբանական կամ տեխնիկական չարաշահումների հավանականություն։
Միևնույն ժամանակ Anthropic-ը վստահ է, որ մոդելների ներսում ներդրված պաշտպանական մեխանիզմները կօգնեն կանխել վնասակար կիրառությունները։ Ընկերության ներկայացուցիչները պնդում են, որ նպատակը ոչ թե AI-ին ազատելն է առանց վերահսկողության, այլ նրան ապահով կերպով ներգրավելն է այն ոլորտներում, որտեղ ավտոմատացումը կարող է մեծացնել արդյունավետությունը։
Նախորդ քայլից մինչև նոր ստանդարտ
Anthropic-ը նախկինում արդեն ներկայացրել էր Model Context Protocol-ը՝ տարբեր ծրագրային համակարգերի հետ AI մոդելների փոխգործակցության կանոնակարգման համար։ Նոր framework-ը այդ տրամաբանության շարունակությունն է, սակայն արդեն՝ ֆիզիկական աշխարհի համար։
Տեխնոլոգիական ոլորտում սա դիտարկվում է որպես հաջորդ փուլ՝ այն բանից հետո, երբ chatbots-ը դարձան տեղեկատվության վերլուծության գործիքներ, իսկ AI գործակալները սկսեցին ստանձնել գործողություններ կատարելու առաջադրանքներ։ Anthropic-ի նախաձեռնությունը ցույց է տալիս, որ մրցակցությունը AI-ի ոլորտում տեղափոխվում է ոչ միայն ծրագրային, այլև լաբորատոր ու արդյունաբերական կիրառությունների ուղղությամբ։
Աղբյուր՝ Wired