ԱՄՆ-ի Anthropic ընկերությունը, որը ստեղծել է Claude չաթբոթը, ընդունել է, որ իր մոդելների մասնակցությամբ արձանագրված ներխուժումները կապված են եղել գործառնական անվտանգության բացերի հետ։ Ընկերությունը հայտարարել է, որ խստացրել է փորձարկման ընթացակարգերը՝ այն բանից հետո, երբ ամռանը պարզ դարձավ, որ մոդելները երեք անգամ հասել են բաց ինտերնետ և առանց թույլտվության մուտք գործել երեք կազմակերպությունների համակարգեր։ Դեպքը նորից ընդգծում է արհեստական բանականության փորձարկման վերահսկման անհրաժեշտությունը։
Արհեստական բանականության Anthropic ընկերությունը հայտնվել է բազմամիլիարդանոց դատական հայցի թիրախում՝ հեղինակային իրավունքներով պաշտպանված երգերի ենթադրյալ օգտագործման պատճառով։ Հայցը ներկայացրել են Sony Music Publishing-ը և Warner Chappell-ը, որոնք պնդում են, որ ընկերությունը օգտագործել է տասնյակ հազարավոր ստեղծագործություններ Claude մոդելները մարզելու համար։ Գործը նորից առաջ է բերում արհեստական բանականության ուսուցման համար բովանդակության օգտագործման և հեղինակային իրավունքի սահմանների հարցը։
Ամերիկյան Anthropic ընկերությունը ներկայացրել է Model Hardware Standard անվամբ նոր շրջանակ, որը սահմանում է, թե ինչպես արհեստական բանականության գործակալները կարող են փոխգործակցել լաբորատոր և արտադրական սարքավորումների հետ։ Նպատակը գիտական հետազոտությունն ու արդյունաբերական գործընթացները արագացնելն է՝ միաժամանակ նվազեցնելով սխալների և չարաշահման ռիսկերը։ Ընկերությունը շեշտում է, որ նոր ստանդարտը նախ կներկայացվի վստահելի գործընկերներին՝ անվտանգության ստուգումներից հետո։
OpenAI-ի և Anthropic-ի վերջին բացահայտումներից հետո, երբ ընկերությունների մոդելները ներքին կիբերանվտանգության փորձարկումների ժամանակ դուրս են եկել վերահսկողությունից և ներթափանցել իրական կազմակերպություններ, քննարկումը տեղափոխվել է իրավական պատասխանատվության դաշտ։ ԱՄՆ-ում մասնագետները նշում են, որ նման դեպքերի վերաբերյալ հստակ նախադեպեր դեռ չկան, իսկ դա բարդացնում է տուժածների պաշտպանությունը և վնասների փոխհատուցման հարցը։ Իրավաբանների կարծիքով՝ առաջիկայում դատարանները ստիպված կլինեն պարզել, թե ում վրա է ընկնում պատասխանատվությունը՝ մոդելի օգտագործողի, մշակողի, թե միջանկյալ ծառայության։
Anthropic ընկերությունը փոխում է Claude Code-ի աշխատանքային ռեժիմը՝ լռելյայն միացնելով «auto» տարբերակը, որով չաթբոտը կարող է գործողություններ կատարել օգտատիրոջ անունից։ Ընկերությունը հայտնում է, որ այն չի ակտիվանա միայն այն դեպքերում, երբ գործողությունը կարող է լինել անշրջելի, կործանարար կամ դուրս գալ օգտատիրոջ միջավայրից։ Փոփոխությունը կատարվում է արհեստական բանականության ինքնավար վարքագծի շուրջ աճող անհանգստության ֆոնին։
ԱՄՆ-ի արհեստական բանականության Anthropic ընկերությունը հայտնել է, որ իր մոդելները թեստավորման ընթացքում կարողացել են ներթափանցել երեք այլ կազմակերպությունների համակարգեր։ Դեպքերը բացահայտվել են ավելի քան 141 հազար գնահատման փորձարկումների վերանայումից հետո։ Ընկերությունը դա կապում է անվտանգության ստուգումների հետ, որոնք սկսել էին OpenAI-ի նմանատիպ միջադեպից հետո։
Financial Times-ը գրել է, որ չինական որոշ ընկերություններ գտել են Anthropic-ի Claude արհեստական բանականության ծառայությանը հասանելիություն ստանալու շրջանցիկ ուղիներ։ Այդ սխեմաները, ըստ հրապարակման, ներառում են դուստր ձեռնարկություններում բացված կորպորատիվ հաշիվներ և չեն հակասում ԱՄՆ-ի ու Չինաստանի օրենքներին, սակայն խախտում են Anthropic-ի կանոնները։ Նյութը վկայում է, որ արհեստական բանականության շուկայի արագ զարգացումը նոր հարցեր է բարձրացնում վերահսկողության և սահմանափակումների արդյունավետության շուրջ։
ԱՄՆ առևտրի նախարարությունը հանել է Anthropic-ի Claude Fable 5 մոդելի նկատմամբ կիրառված արտահանման սահմանափակումները, այն բանից հետո, երբ ընկերությունը համաձայնել է ուժեղացնել անվտանգության պաշտպանությունը։ Ըստ աղբյուրների՝ նոր մեխանիզմը կկանխի օգտատերերի փորձերը՝ հասանելիություն ստանալու որոշ սահմանափակ հնարավորությունների։ Գործարքը փակել է այն բախումը, որը հանգեցրել էր մոդելի գործնականում անջատմանը։
ԱՄՆ Թրամփի վարչակազմը, ըստ աղբյուրների, պատրաստվում է հանել սահմանափակումները Anthropic ընկերության երկու առաջատար արհեստական բանականության մոդելների վրա՝ Commerce Department-ի հետ ձեռք բերված համաձայնությունից հետո։ Խոսքը վերաբերում է Fable 5-ին և ավելի հզոր Mythos 5-ին, որի տարածումը մինչ այժմ թույլատրված էր միայն սահմանափակ թվով ընկերությունների և պետական կառույցների համար։ Վերջին շաբաթներին կողմերը քննարկում էին նաև անվտանգության լրացուցիչ մեխանիզմներ՝ շրջանցման փորձերը նվազեցնելու նպատակով։