Արհեստական բանականության աճի տեմպը մարդկության համար վտանգավոր է, ասում է Anthropic-ի նախկին հետազոտողը
Արհեստական բանականության ոլորտում աշխատող մասնագետները «իսկական վախ» ունեն տեխնոլոգիայի արագ զարգացման և դրա հետևանքների առնչությամբ, BBC-ին ասել է Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնը։ Նա զգուշացրել է, որ առաջընթացի ներկայիս տեմպը չդանդաղեցնելու դեպքում մարդկության համար կարող են լուրջ վտանգներ առաջանալ։ Նրա խոսքով՝ անհրաժեշտ են միջազգային կարգավորում և հատկապես Միացյալ Նահանգների ու Չինաստանի միջև համակարգված մոտեցում։
Արհեստական բանականության ոլորտից հեռացած հետազոտող Ջեյքոբ Քոքսոնը BBC-ին ասել է, որ այս տեխնոլոգիայի շուրջ աշխատող մարդիկ «իրականում վախեցած են» դրա զարգացման արագությունից և հնարավոր հետևանքներից։ Նրա խոսքով՝ եթե ընթացիկ տեմպը չդանդաղեցվի, մարդկության համար կարող են ծագել չափազանց ծանր սպառնալիքներ։
Զգուշացումներ արագացող մրցավազքից
Քոքսոնը, որը նախկինում աշխատել է OpenAI-ում, ապա միացել Anthropic-ին, նշել է, որ ոլորտի ընկերությունների ներսում կարգավորման մասին պահանջները լուրջ են և բխում են ոչ թե ձևական նկատառումներից, այլ մրցավազքի պայմաններում հայտնվելու մտահոգությունից։ Նա ընդգծել է, որ շատ մասնագետներ մտահոգված են ոչ միայն տեխնիկական սխալներով, այլ նաև այն հանգամանքով, թե ինչ կարող է տեղի ունենալ, եթե առաջընթացը վերահսկողությունից դուրս գա։
Նրա գնահատմամբ՝ արհեստական բանականության «աղետալի» տարբերակը դեռ դժվար է պատկերացնել, սակայն առկա են սցենարներ, որոնցից մեկը կարող է լինել բոտերի զանգվածային ցանց, որն ի վիճակի կլինի ազդեցություն ունենալ համացանցի վրա։ Այդպիսի վտանգների մասին վերջին օրերին խոսել է նաև Anthropic-ի ղեկավար Դարիո Ամոդեյը՝ կոչ անելով դանդաղեցնել զարգացումը և ժամանակ տալ կառավարություններին ու ընկերություններին՝ ռիսկերը գնահատելու համար։
Միջազգային համակարգման անհրաժեշտությունը
Քոքսոնը ողջունել է դանդաղեցման գաղափարը, սակայն նշել է, որ այն արդյունավետ կարող է լինել միայն միջազգային համաձայնեցման դեպքում։ Նրա համոզմամբ՝ հատկապես անհրաժեշտ է Չինաստանի հետ համակարգված մոտեցում, որպեսզի ոլորտը չդառնա համաշխարհային մրցակցության նոր դաշտ։
Նա նաև ասել է, որ մեծ տեխնոլոգիական ընկերություններում աշխատողները «չափազանց լուրջ» են վերաբերվում կարգավորման պահանջին, քանի որ զգում են, թե իրենք էլ են հայտնվել մրցավազքի մեջ, որի վերջնարդյունքը կարող է անորոշ լինել։ Այդ ֆոնին OpenAI-ի ղեկավար Սեմ Օլթմանը և xAI-ի հիմնադիր Իլոն Մասկը նույնպես համաձայնություն են հայտնել դանդաղեցման և անկախ վերահսկողության գաղափարների հետ։
Արդյունաբերության շուրջ աճող ճնշումը
Anthropic-ը, ըստ տեղեկությունների, պատրաստվում է բաժնետոմսերի հնարավոր խոշոր առաջնային տեղաբաշխման, մինչդեռ OpenAI-ի ղեկավարությունը հայտարարել է, որ այս տարի նման քայլ չի նախատեսվում՝ պատճառաբանելով անվտանգության հետ կապված մտահոգությունները։ Այս հայտարարությունները ցույց են տալիս, որ արհեստական բանականության զարգացումը գնալով դառնում է ոչ միայն տեխնոլոգիական, այլ նաև քաղաքական ու կարգավորող հարց։
Քոքսոնի խոսքերը միանում են վերջին ամիսներին ուժեղացող քննարկումներին՝ արդյոք ոլորտը պետք է շարունակի արագ ընդլայնվել, թե առաջին հերթին կենտրոնանա անվտանգության չափանիշների վրա։ Մասնագետների մի մասը կարծում է, որ առանց հստակ կանոնների և միջազգային վերահսկողության տեխնոլոգիայի օգուտները կարող են ուղեկցվել ծանր ռիսկերով։
Աղբյուր՝ BBC World