Անտրոպիքից հեռացած հետազոտողը զգուշացնում է՝ արհեստական բանականության համար վճռորոշ փուլ է սկսվել
Արհեստական բանականության հետազոտող Ջեյքոբ Քոքսոնը հայտարարել է Anthropic-ից իր հրաժարականի մասին և զգուշացրել, որ ոլորտի ընթացիկ մրցավազքը կարող է սպառնալ մարդկանց անվտանգությանը։ Նրա խոսքով՝ առաջիկա մեկ-երկու տարին վճռորոշ է լինելու այն հարցում, թե որքան անվտանգ կմշակվեն AI համակարգերը։ Մեկնաբանությունը մեծ արձագանք է ստացել Սիլիկոնյան հովտում, որտեղ միաժամանակ սրվում են անվտանգության, ներդրումային և մրցակցային հարցերը։
Արհեստական բանականության հետազոտող Ջեյքոբ Քոքսոնը հայտարարել է Anthropic-ից իր հրաժարականի մասին և միաժամանակ զգուշացրել, որ ոլորտում ընթացող մրցավազքը կարող է վտանգել մարդկային անվտանգությունը։ Նրա հայտարարությունը լայն արձագանք է ստացել Սիլիկոնյան հովտում և դուրսը՝ հատկապես այն պահին, երբ խոշոր ընկերությունները փորձում են համատեղել արագ զարգացումը և անվտանգության ապահովումը։
Վճռորոշ ժամանակաշրջան՝ ըստ ոլորտի ներսի մարդկանց
Քոքսոնը, որը զբաղվել է արհեստական բանականության նախնական ուսուցման փուլով, ասել է, թե իր գործընկերների մի մասը նույն մտահոգություններն ունի։ Նրա խոսքով՝ տարածված կարծիք կա, որ առաջիկա մեկ-երկու տարին կարող են դառնալ մարդկության համար վճռորոշ փուլ՝ այն հարցում, թե ինչպես են կառուցվում ու կիրառվում AI համակարգերը։
Նա նշել է, որ Anthropic-ում և այլ ընկերություններում աշխատող մասնագետները երբեմն օգտագործում են այնպիսի բնորոշումներ, ինչպիսիք են «վերջնական փուլ» կամ «ճգնաժամային ժամանակ»։ Այդ խոսքերը, ըստ նրա, արտահայտում են համոզմունք, որ ներկայիս տեխնոլոգիական մրցակցությունը ոչ միայն տնտեսական, այլև քաղաքակրթական նշանակություն ունի։
Անվտանգության հարցը՝ ներդրումային ճնշման ֆոնին
Քոքսոնի հայտարարությունն արվել է այն պահին, երբ Սիլիկոնյան հովտում ուժեղացել են բարձրակարգ AI մոդելների անվտանգության ու պաշտպանության շուրջ քննարկումները։ OpenAI-ն վերջերս արձագանքել է անվտանգության միջադեպի, որի ընթացքում նրա գործակալները կարողացել էին ներթափանցել Hugging Face հարթակ։ Միևնույն ժամանակ Anthropic-ը փորձում է ներդրողներին համոզել, որ ունի այս մտահոգությունները վերահսկելու բավարար մեխանիզմներ, մինչդեռ մամուլում շրջանառվում են տեղեկություններ ընկերության հնարավոր խոշոր բաժնետոմսային տեղաբաշխման մասին։
Այս իրավիճակը ցույց է տալիս, որ AI ոլորտում մրցակցությունը գնալով սրում է ոչ միայն տեխնոլոգիական, այլև գործարար ու կարգավորիչ հարցերը։ Ընկերությունները մի կողմից ձգտում են արագացնել նոր մոդելների ստեղծումը, մյուս կողմից ստիպված են պատասխանել այն մտահոգություններին, որ չափազանց հզոր համակարգերը կարող են առաջացնել չնախատեսված հետևանքներ։
Արդյո՞ք սա գիտաֆանտաստիկա է, թե իրական վտանգ
Քոքսոնի ելույթի շուրջ արձագանքներից պարզ է դարձել, որ նման մտահոգություններն ամբողջովին մեկուսացված չեն։ Anthropic-ի AI alignment բաժնի ղեկավար Իվան Հյուբինգերը X-ում գրել է, որ իր գնահատմամբ կա ավելի քան տասը տոկոս հավանականություն, որ առաջիկա տասնամյակում AI-ն կարող է սպանել բոլոր մարդկանց։ Նրա գրառումը վերահրապարակել են OpenAI-ի ու Anthropic-ի գործող և նախկին հետազոտողներ, որոնք նշել են, որ նման անհանգստությունը տարածված է ոլորտում։
Միևնույն ժամանակ մնում է բաց հարցը, թե ինչպես կարող են այդ վտանգները իրականում դրսևորվել և ինչ պետք է անի աշխարհը։ Քոքսոնի խոսքում շեշտված է, որ շատ մասնագետներ անկեղծորեն հավատում են՝ եթե վերահսկողությունը բավարար չլինի, առաջադեմ համակարգերը կարող են դուրս գալ մարդկային վերահսկողությունից։ Այդ մտահոգությունը հաճախ հիշեցնում է գիտաֆանտաստիկ սյուժեներ, սակայն ոլորտի ներսում այն ներկայացվում է ոչ թե որպես հորինվածք, այլ որպես իրական ռիսկ, որի գնահատումը այժմ դարձել է առաջնահերթություն։
Աղբյուր՝ Wired