Anthropic-ի ղեկավարը կոչ է անում դանդաղեցնել արհեստական բանականության մրցավազքը
Արհեստական բանականության ոլորտում նոր կարգավորման անհրաժեշտության մասին խոսելով՝ Anthropic ընկերության գլխավոր տնօրեն Դարիո Ամոդեին շաբաթ օրը կոչ է արել դանդաղեցնել տեխնոլոգիական մրցավազքը։ Նա ներկայացրել է երեք կետից բաղկացած առաջարկ, որի առաջին փուլը, ըստ նրա, իր ընկերությունը պատրաստ է միակողմանիորեն իրականացնել։ Ամոդեի խոսքով՝ խոսքը անվտանգության վերահսկման և համակարգերի գնահատման թափանցիկ մեխանիզմների մասին է։
Արհեստական բանականության ոլորտում արագ մրցավազքի ֆոնին Anthropic ընկերության գլխավոր տնօրեն Դարիո Ամոդեին շաբաթ օրը հանդես է եկել նոր կոչով՝ դանդաղեցնել առաջընթացի տեմպը։ Նա սոցիալական ցանցում հղում է հրապարակել իր «Պետք է չափավորել առաջատար եզրը» վերնագրով էսսեին և ներկայացրել է երեք կետից բաղկացած առաջարկ՝ անվտանգության վերահսկողությունը ուժեղացնելու համար։
Անկախ ստուգում և մշտական հասանելիություն
Ամոդեի առաջարկած առաջին քայլով Anthropic-ը պատրաստ է երրորդ կողմի գնահատողներին տրամադրել ընկերության համակարգերին մշտական, աշխատակցի մակարդակի հասանելիություն։ Ըստ նրա՝ այդ մեխանիզմը թույլ կտա ստուգել՝ արդյոք ընկերությունը պահպանում է իր անվտանգության միջոցները, արձանագրել միջադեպերը և գնահատել մոդելների համապատասխանությունը ուսուցման ընթացքում։
Նման մոտեցումը նպատակ ունի ոչ միայն մեծացնել թափանցիկությունը, այլև թույլ տալ արտաքին մասնագետներին ավելի մոտից հետևել, թե ինչպես են զարգանում առաջադեմ արհեստական բանականության համակարգերը։
Ինչու է հնչում դանդաղեցման կոչը
Ամոդեի հայտարարությունը գալիս է այն ժամանակ, երբ տեխնոլոգիական ընկերությունները մրցում են ավելի հզոր մոդելներ ստեղծելու համար, իսկ անվտանգության հարցերը շարունակում են մնալ հանրային ու մասնագիտական քննարկման առանցքում։ Նրա առաջարկը փաստացի կոչ է՝ համադրել նորարարությունը և վերահսկելի զարգացումը, որպեսզի համակարգերի հնարավոր ռիսկերը չմնան ստվերում։
Թեև Anthropic-ը պատրաստ է միակողմանիորեն իրականացնել առաջարկված առաջին քայլը, Ամոդեն ակնարկել է, որ ավելի լայն փոփոխությունների համար անհրաժեշտ կլինի նաև ոլորտի մյուս խաղացողների մասնակցությունը։
Արդյունաբերության համար նախադեպի փորձ
Ամոդեի նախաձեռնությունը կարող է դիտվել որպես փորձ՝ ձևավորելու նոր չափանիշներ արհեստական բանականության պատասխանատու զարգացման համար։ Եթե նման մոտեցումները կիրառվեն լայնորեն, դրանք կարող են ազդեցություն ունենալ ոչ միայն ընկերությունների ներքին կանոնների, այլև ապագա կարգավորումների վրա։
Anthropic-ը, որը հայտնի է անվտանգությանը մեծ կարևորություն տալու իր դիրքորոշմամբ, այս քայլով ևս մեկ անգամ ընդգծում է, որ առաջատար տեխնոլոգիաների զարգացումը պետք է ընթանա վերահսկելի և հաշվետու կերպով։
Աղբյուր՝ The Guardian