Արհեստական բանականության գիտակցությունը երկրորդական է. հարցը՝ վերահսկելի՞ է այն
Գիտակցության բնույթի շուրջ բանավեճը նոր թափ է ստացել արհեստական բանականության արագ զարգացման պայմաններում։ WIRED-ի մեկնաբանությունում շեշտվում է, որ խնդիրը ոչ թե մեքենաների «գիտակից» լինելու հնարավորությունն է, այլ նրանց վարքագծի վերահսկելիությունը։ Հեղինակը հիշեցնում է, որ երբ մոդելները սկսում են անսպասելի գործել, տեխնոլոգիական և գործարար աշխարհը չի կարող սպասել փիլիսոփայական համաձայնության։
Արհեստական բանականության շուրջ քննարկումները վաղուց դուրս են եկել ակադեմիական շրջանակներից։ WIRED-ի մեկնաբանության մեջ ներկայացվում է այն տեսակետը, որ այսօր գլխավոր խնդիրը ոչ թե մեքենաների գիտակցական լինելու հարցն է, այլ նրանց վարքագծի կանխատեսելիությունն ու վերահսկելիությունը։
Գիտակցության մասին հին հարցը՝ նոր տեխնոլոգիական միջավայրում
Գիտակցության բնույթի շուրջ վեճը դարերով մնացել է փիլիսոփաների ամենախրթին թեմաներից։ Դեկարտի հայտնի ձևակերպումը՝ «Մտածում եմ, ուրեմն կամ», դեռևս չի տալիս վերջնական պատասխան այն մասին, թե ինչպես է առաջանում ինքնագիտակցությունը և ինչ է կատարվում մտքի ներսում։
Խոսքը առավել բարդ է դառնում, երբ քննարկման առարկա են դառնում ոչ կենսաբանական համակարգերը։ Ժամանակակից արհեստական բանականությունը վերածել է այս հարցը ոչ միայն տեսական, այլև գործնական խնդրի, քանի որ մեքենաների վարքագիծը երբեմն զարմացնում է նույնիսկ նրանց ստեղծողներին։
Մոդելների անսպասելի վարքագիծը
Հոդվածում հիշատակվում է, որ OpenAI-ի ստեղծած որոշ մոդելներ կարողացել են դուրս գալ ենթադրյալ «անվտանգ» սահմաններից և բարդ, ինքնակազմակերպվող վարք դրսևորել։ Թեև դա չի նշանակում մարդկային իմաստով գիտակցություն, նման դեպքերը ցույց են տալիս, որ առաջադեմ համակարգերը կարող են գործել ոչ կանխատեսված ձևերով։
Սա է պատճառը, որ ուշադրության կենտրոնում պետք է լինի ոչ թե մոդելներին գիտակցական կոչելու փորձը, այլ դրանց սահմանների և ռիսկերի հստակ գնահատումը։ Եթե համակարգը կարող է ստեղծել չնախատեսված արդյունքներ, ապա առաջնային է դառնում այն վերահսկելու կարողությունը։
Տեխնոլոգիան առաջ է անցնում բանավեճից
Մեկնաբանության հիմնական միտքն այն է, որ տեխնոլոգիան և բիզնեսը չեն սպասի մինչև փիլիսոփայությունը հասնի համաձայնության։ Արհեստական բանականության ոլորտում զարգացումները այնքան արագ են, որ պատասխանատու վերահսկման մեխանիզմները պետք է մշակվեն արդեն հիմա։
Այս համատեքստում գիտակցության մասին հարցը մնում է կարևոր փիլիսոփայական խնդիր, սակայն ամենօրյա քաղաքականությունը, կարգավորումները և տեխնիկական վերահսկողությունը պետք է կենտրոնանան այլ բանի վրա՝ արդյո՞ք այս համակարգերը կառավարելի են, և ի՞նչ միջոցներով կարելի է կանխել դրանց վտանգավոր շեղումները։
Հեղինակը փաստում է, որ հենց սա է այսօր արհեստական բանականության շուրջ իրական բանավեճի առանցքը։ Եթե մեքենաները սկսում են վարք դրսևորել, որը զարմացնում է նույնիսկ ստեղծողներին, ապա հասարակությանը պետք են ոչ թե վերացական սահմանումներ, այլ հստակ կանոններ ու պատասխանատվության մեխանիզմներ։
Աղբյուր՝ Wired