Արհեստական բանականության վտանգների շուրջ նոր հակադրությունները սրվում են
Այս շաբաթ WIRED-ի «Uncanny Valley» փոդքասթում քննարկվել է հարցը, թե իրականում ինչ տեսք կարող է ունենալ արհեստական բանականության առաջացրած աղետը։ Հաղորդման հեղինակները ներկայացրել են փորձագետների կողմից ամենահաճախ հիշատակվող երեք սցենարները՝ ջրամատակարարման ներթափանցում, կենսաբանական զենքերի ստեղծում և ինքնավար ռոբոտների վտանգներ։ Զուգահեռաբար նրանց զրույցը ծավալվել է AI անվտանգության շուրջ տեխնոլոգիական առաջնորդների ու քաղաքական գործիչների տարաձայնությունների մասին, որոնք հասել են նաև ԱՄՆ քաղաքական դաշտ։
WIRED-ի «Uncanny Valley» փոդքասթի այս շաբաթվա թողարկումը կենտրոնացել է մի հարցի վրա, որն ավելի հաճախ է հնչում տեխնոլոգիական և քաղաքական շրջանակներում՝ ինչպիսի՞ն կարող է լինել արհեստական բանականության առաջացրած իրական աղետը։ Հաղորդման հեղինակները փորձել են դուրս գալ ընդհանուր կանխատեսումներից և ներկայացրել են այն սցենարները, որոնք մասնագետներն առավել հավանական ու վտանգավոր են համարում։
Երեք սցենար, որոնք առավել մտահոգում են մասնագետներին
Քննարկման մեջ առանձնացվել են երեք հիմնական վտանգներ՝ ջրամատակարարման համակարգերի կոտրում, կենսաբանական սպառնալիքների ստեղծում և ինքնավար ռոբոտների ոչ վերահսկելի կիրառություն։ Այս սցենարները տարբեր բնույթի են, սակայն բոլորի հիմքում նույն մտահոգությունն է՝ բարձր մակարդակի ավտոմատացումը կարող է խոցելի դարձնել կենսական ենթակառուցվածքները և արագացնել վնասի տարածումը։
Հատկապես ուշադրության կենտրոնում են այն համակարգերը, որոնք կապված են հանրային անվտանգության հետ։ Ջրի մատակարարման, լաբորատոր վերահսկման կամ արտադրական գործընթացների խախտումը կարող է հետևանքներ ունենալ ոչ միայն առանձին հաստատությունների, այլև ամբողջ համայնքների համար։
Տեխնոլոգիական ղեկավարները և անվտանգության հարցը
Զրույցի մյուս առանցքը տեխնոլոգիական ընկերությունների ղեկավարների դիրքորոշումներն էին։ Հաղորդման ընթացքում անդրադարձ կատարվեց Salesforce-ի ամենամյա համաժողովին, որտեղ OpenAI-ի ղեկավար Սեմ Ալտմանը և Anthropic-ի ղեկավար Դարիո Ամոդեյը պաշտպանել են իրենց մոտեցումները արհեստական բանականության անվտանգության հարցում։ Նրանց հակադիր շեշտադրումները նորից ցույց են տվել, որ ոլորտում չկա միացյալ պատկերացում, թե ինչպես պետք է հավասարակշռել նորարարությունն ու վերահսկողությունը։
Ըստ հաղորդման մասնակիցների՝ Anthropic-ը նույնպես ունեցել է բարձրաձայնված միջադեպ, ինչը հիշեցրել է, որ նույնիսկ անվտանգության մասին առավել բարձրաձայն խոսող ընկերությունները լիովին զերծ չեն ռիսկերից։ Այդ պատճառով էլ անվտանգության վերաբերյալ բանավեճը շարունակում է մնալ ոչ միայն տեսական, այլև գործնական խնդիր։
AI-ի շուրջ հակազդեցությունը՝ որպես քաղաքական հարց
Փոդքասթում նաև ընդգծվել է, որ արհեստական բանականության նկատմամբ աճող անվստահությունը դարձել է հազվադեպ երկկուսակցական հարց ԱՄՆ քաղաքականության մեջ։ Ըստ հաղորդման հեղինակների՝ թեման այնքան է սրվել, որ այս շաբաթ նույն բեմում հայտնվել են անգամ Բեռնի Սանդերսն ու Սթիվ Բենոնը՝ տարբեր քաղաքական բևեռներ ներկայացնող գործիչներ, որոնք համաձայնվել են քննարկել AI-ի վտանգները։
Այս զարգացումները վկայում են, որ արհեստական բանականությունը վաղուց արդեն միայն տեխնիկական նորարարության խնդիր չէ։ Այն վերածվում է հանրային անվտանգության, պետական կարգավորման և քաղաքական պատասխանատվության հարցի, որի շուրջ քննարկումները, ըստ ամենայնի, միայն կուժեղանան առաջիկա ամիսներին։