Anthropic-ի աշխատակիցները զգուշացնում են՝ արհեստական բանականությունը կարող է գոյաբանական վտանգ դառնալ
Ամերիկյան Anthropic ընկերության ներկայիս և նախկին մի քանի աշխատակիցներ հանրայնորեն զգուշացրել են, որ արհեստական բանականությունը կարող է առաջիկա տասնամյակում դուրս գալ վերահսկողությունից։ Ընկերության alignment-ի ղեկավար Էվան Հուբինգերը X-ում գրել է, որ իր գնահատմամբ նման վտանգը գերազանցում է 10 տոկոսը։ Այս հայտարարությունները հնչում են այն պահին, երբ AI-ն արագորեն մտնում է առօրյա կյանք, իսկ դրա անվտանգության շուրջ վեճերը սրվում են։
Ամերիկյան Anthropic ընկերության մի քանի ներկայիս և նախկին աշխատակիցներ հրապարակայնորեն զգուշացրել են, որ արհեստական բանականությունը կարող է առաջիկա տասնամյակում դառնալ մարդկության համար գոյաբանական վտանգ։ Նրանց խոսքով՝ խնդիրը այլևս միայն տեսական չէ, քանի որ ավելի հզոր համակարգերի ստեղծումը խորացնում է վերահսկելիության և անվտանգության հարցերը։
Ներքին մտահոգությունները դուրս են եկել հանրային դաշտ
Anthropic-ի alignment-ի գիտական ղեկավար Էվան Հուբինգերը երեքշաբթի երեկոյան X հարթակում գրել է, որ ընկերությունում «իրապես հավատում են», թե AI-ն կարող է սպանել բոլոր մարդկանց, և ինքն անձամբ այդ հավանականությունը գնահատում է ավելի քան 10 տոկոս՝ հաջորդ տասնամյակի ընթացքում։ Նրա խոսքով՝ ընկերությունը փորձում է անել առավելագույնը, սակայն դեռևս չկա հստակ լուծում, որը կերաշխավորի գերբանականության համապատասխանեցումը մարդու նպատակներին։
Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականից հետո նա ևս նույն հարթակում գրել է, որ AI ստեղծողները անկեղծորեն մտահոգված են, թե իրենց տեխնոլոգիան կարող է մինչև տասնամյակի վերջը հանգեցնել մարդկության կործանմանը։ Քոքսոնը ընդգծել է, որ դա ոչ թե գովազդային հայտարարություն է, այլ մասնագիտական մտավախություն, որը մասնավոր զրույցներում կիսում են նաև ավագ ղեկավարներ ու փորձառու գիտնականներ։
AI-ի արագ տարածումը և կարգավորման հարցը
Այս արտահայտությունները հնչում են այն ժամանակ, երբ արհեստական բանականությունը դարձել է միլիոնավոր մարդկանց առօրյայի մաս՝ սկսած որոնումներից ու տեքստային օգնականներից մինչև աշխատանքային գործընթացների ավտոմատացում։ Միաժամանակ աճում են մտահոգությունները, որ համակարգերը կարող են ձեռք բերել այնպիսի կարողություններ, որոնց վերահսկումը կդառնա չափազանց բարդ կամ ուշացած։
AI-ի վտանգների մասին նախազգուշացումները նոր չեն։ Իլոն Մասկը և մի շարք առաջատար հետազոտողներ ու ակադեմիկոսներ տարիներ շարունակ պնդում են, որ ավելի հզոր համակարգերը կարող են լուրջ սպառնալիք ստեղծել մարդկության համար։ Այդ ֆոնին ԱՄՆ-ում նույնպես շարունակվում է քաղաքական բանավեճը՝ որքան հեռու պետք է գնա պետությունը ոլորտի կարգավորման մեջ։
Քաղաքական արձագանքներ Միացյալ Նահանգներում
Ֆլորիդայից պատգամավոր Աննա Պաուլինա Լունան կոչ է արել Կոնգրեսին գումարել հատուկ նիստ՝ պարզելու, թե արդյոք Միացյալ Նահանգները պատրաստ են արհեստական բանականության առաջ բերած ռիսկերին։ Մասաչուսեթսից Լորի Տրահանը և Կալիֆոռնիայից Ջեյ Օբերնոլտեն meanwhile առաջ են մղում AI անվտանգության երկկուսակցական օրինագիծ։ Սակայն օրենսդիրների միջև դեռևս կա տարաձայնություն այն հարցում, թե որքան խիստ պետք է լինի վերահսկողությունը նոր արդյունաբերության նկատմամբ։
Աղբյուր՝ The Independent