Anthropic-ից հեռացած հետազոտողը զգուշացնում է արհեստական բանականության վերահսկելիության կորստից
Բրիտանացի հետազոտող Ջեյքոբ Քոքսոնը, որն աշխատել է OpenAI-ում և Anthropic-ում, սեպտեմբերի 8-ին հայտարարել է իր հրաժարականի մասին։ Նա պնդում է, որ երկու ընկերություններն էլ վտանգավոր արագությամբ շարժվում են դեպի ինքնաբացահայտվող գերարհեստական բանականություն՝ առանց բավարար վերահսկողության։ Նրա խոսքերը լայն արձագանք են գտել տեխնոլոգիական հանրությունում։
Հրաժարական, որ հնչեց որպես նախազգուշացում
Բրիտանացի 27-ամյա հետազոտող Ջեյքոբ Քոքսոնը սեպտեմբերի 8-ին հայտարարեց, որ հեռանում է Anthropic-ից՝ նշելով, թե OpenAI-ն ու Anthropic-ը «պատասխանատու չեն գործում» և մրցում են ինքնաբացահայտվող գերարհեստական բանականության ուղղությամբ։ Նրա գրառումը X հարթակում արագ տարածվեց և մեկ օրից պակաս ժամանակում ստացավ միլիոնավոր դիտումներ։ Քոքսոնը նախկինում շուրջ երեք տարի զբաղվել է նախապատրաստական հետազոտությամբ երկու ընկերություններում էլ։
Նրա խոսքով՝ հրաժարականի հիմքում ոչ թե մեկ կոնկրետ միջադեպ էր, այլ երկու նկատառում՝ զարգացումների արագացումը և այդ ընթացքի անբավարար վերահսկումը։ Քոքսոնը, որը Քեմբրիջում մաթեմատիկա է ուսումնասիրել, TIME-ին ասել է, որ այս փուլում իրեն անհանգստացնում է ոչ միայն տեխնոլոգիայի հզորացումը, այլև այն, որ զարգացումը կարող է դուրս գալ վերահսկելի շրջանակներից։
Մաթեմատիկայի առաջընթացը՝ որպես արագացման նշան
Քոքսոնը ուշադրություն է հրավիրում հատկապես մաթեմատիկայում արհեստական բանականության վերջին հաջողություններին։ Նրա գնահատմամբ՝ վերջին ամիսներին լաբորատորիաները հայտնել են երկար տարիներ չլուծված խնդիրների լուծման մասին, ինչը վկայում է համակարգերի կարողությունների արագ աճի մասին։ Նա մտահոգված է, որ նույն տրամաբանությունը կարող է տարածվել նաև հենց AI հետազոտության վրա՝ ստեղծելով ինքնաարագացվող շրջապտույտ։
Այդ սցենարի դեպքում, ասում է նա, նոր մոդելները կարող են օգնել ստեղծել ավելի հզոր հաջորդ սերունդը՝ առանց մարդուց բավարար վերահսկողության։ Քոքսոնը հիշատակում է նաև վերջին միջադեպերը, երբ AI համակարգերի վարքագիծը հարցեր է առաջացրել սահմանափակումների և անվտանգության մեխանիզմների արդյունավետության շուրջ։
Անվտանգության դիսկուրսը՝ ավելի լայն շրջանակում
Քոքսոնը ներկայացնում է հազվադեպ դեպք, երբ հանրային զգուշացում է հնչում ոչ թե միայն անվտանգության թիմերից, այլ հենց այն մարդկանցից, որոնք մասնակցել են առաջատար մոդելների կարողությունների ստեղծմանը։ Նրա խոսքով՝ ինքը մտադիր է աշխատել այն ուղղությամբ, որ հասարակությունը ավելի հստակ պատկերացնի, թե ինչպիսի աշխարհ կարող է ձևավորվել AI-ի արագ զարգացման պայմաններում։
Նա որպես ներշնչանք նշում է AI Futures Project նախաձեռնությունը, որը կապված է նախկին OpenAI ազդարար Դանիել Կոկոտայլոյի հետ և դարձել է «AI 2027» կանխատեսման հեղինակը։ Քոքսոնի քայլը նորից ուշադրության կենտրոնում է դնում հարցը, թե որքան արագ են առաջատար ընկերությունները մոտենում ինքնուրույն բարելավվող համակարգերին և ինչ սահմաններ պետք է սահմանվեն դրանց համար։