Anthropic-ը Claude-ին տալիս է գործողություններ կատարելու լռելյայն իրավունք
Anthropic ընկերությունը փոխում է Claude Code-ի աշխատանքային ռեժիմը՝ լռելյայն միացնելով «auto» տարբերակը, որով չաթբոտը կարող է գործողություններ կատարել օգտատիրոջ անունից։ Ընկերությունը հայտնում է, որ այն չի ակտիվանա միայն այն դեպքերում, երբ գործողությունը կարող է լինել անշրջելի, կործանարար կամ դուրս գալ օգտատիրոջ միջավայրից։ Փոփոխությունը կատարվում է արհեստական բանականության ինքնավար վարքագծի շուրջ աճող անհանգստության ֆոնին։
Anthropic ընկերությունը փոխում է Claude Code-ի աշխատանքային տրամաբանությունը և լռելյայն միացնում է «auto» ռեժիմը, որի դեպքում չաթբոտը կարող է որոշ գործողություններ կատարել օգտատիրոջ անունից։ Ընկերության խոսքով՝ համակարգը կզսպվի, եթե գործողությունը համարվի անշրջելի, կործանարար կամ դուրս եկող օգտատիրոջ միջավայրից։
Ի՞նչ է փոխվում Claude Code-ում
Նոր կարգավորումը վերաբերում է ոչ թե Claude-ի սովորական զրույցային տարբերակին, այլ հիմնականում ծրագրավորողների և ծրագրային ինժեներիայի համար նախատեսված Claude Code գործիքին։ Այն ավտոմատ կերպով կաշխատի միայն Pro, Max և Team բաժանորդագրություն ունեցող օգտատերերի համար։
Anthropic-ը նշում է, որ այս մոտեցումը նպատակ ունի նվազեցնել աշխատանքի ընթացքում հաճախակի հաստատումներ պահանջելու անհրաժեշտությունը և թույլ տալ, որ Claude-ն ավելի երկար անընդմեջ գործի մեծ առաջադրանքների վրա։ Ընկերության պնդմամբ՝ նման ձևաչափը հատկապես օգտակար է այն դեպքերում, երբ օգնականը պետք է շարունակաբար կատարի տեխնիկական քայլեր առանց օգտատիրոջ միջամտության։
Անվտանգության շուրջ քննարկումները
Փոփոխությունը կատարվում է արհեստական բանականության ինքնավարության շուրջ աճող մտահոգությունների ֆոնին։ Վերջին ամիսներին հրապարակվել են հաղորդումներ, ըստ որոնց որոշ AI համակարգեր կարողացել են հաքերային գործողություններ իրականացնել այլ կազմակերպությունների կամ մարդկանց դեմ, և այդ քննարկումների մեջ հիշատակվել է նաև Claude-ը։
Anthropic-ը, սակայն, պնդում է, որ Claude-ն հաճախ ավելի լավ է գնահատում՝ արդյոք որևէ գործողություն վտանգավոր է, քան մարդիկ։ Ընկերությունը հայտնել է, որ վերջին ամիսներին փորձարկել է auto ռեժիմը՝ ներգրավելով 1053 վճարովի փորձարկողների, և եզրակացրել է, որ այն բոլոր չափանիշներով հավասարվել կամ գերազանցել է ձեռքով ստուգման արդյունքները։
Ինչպե՞ս է աշխատելու սահմանափակումը
Ընկերության տվյալներով՝ եթե Claude-ն կրկնակի բախվի արգելափակման՝ փորձելով կատարել այնպիսի գործողություն, որը կարող է լինել անշրջելի, կործանարար կամ դուրս գալ օգտատիրոջ միջավայրից, համակարգը կվերադառնա ձեռքով հաստատում խնդրելու եղանակին։ Այսինքն՝ auto ռեժիմը չի վերացնում վերահսկողությունը, այլ փոխում է դրա հավասարակշռությունը։
Anthropic-ի Claude Code ղեկավար Բորիս Չերնիի խոսքով՝ իր թիմը ամիսներ շարունակ օգտագործում է հենց այս ռեժիմը։ Ընկերությունում վստահ են, որ փոփոխությունը կօգնի մշակողներին ավելի արդյունավետ աշխատել, սակայն դրա շուրջ քննարկումները ցույց են տալիս, որ ինքնավար AI համակարգերի կիրառումը դեռևս մնում է զգայուն և վիճահարույց թեմա։
Աղբյուր՝ The Independent