Արհեստական բանականության վտանգները՝ ամենահաճախ տրվող հարցերը

· Տեխնոլոգիա

Արհեստական բանականության վտանգները՝ ամենահաճախ տրվող հարցերը

Արհեստական բանականության արագ զարգացումը նորից սրել է հարցերը նրա անվտանգության մասին։ Ոմանք մտահոգված են, որ ԻԲ գործակալների կապը համացանցին կամ կենսական ենթակառուցվածքներին կարող է անսպասելի հետևանքներ ունենալ, իսկ մյուսները ահազանգում են, որ հետազոտողները շուտով կարող են ստեղծել ինքնուրույն գործող համակարգեր։ Այս քննարկումը դարձել է արհեստական բանականության շուրջ համաշխարհային հանրային օրակարգի առանցքային թեմաներից մեկը։

Արհեստական բանականության առաջընթացը նոր թափ է տվել այն հարցերին, որոնք այսօր առավել շատ են հուզում և՛ մասնագետներին, և՛ լայն հանրությանը։ Հատկապես մտահոգություն է առաջացնում այն, թե ինչ կարող է պատահել, երբ ԻԲ համակարգերը կապվեն համացանցին կամ կենսական ենթակառուցվածքներին։

Ինչու է մտահոգություն առաջացնում կապը համացանցի հետ

Մասնագետների մի մասը զգուշացնում է, որ ինքնաշխատ գործառույթներով օժտված համակարգերը, միանալով արտաքին ծառայություններին, կարող են կատարել գործողություններ, որոնց հետևանքները կանխատեսել դժվար կլինի։ Այդպիսի ռիսկերը վերաբերում են ոչ միայն տեղեկատվական համակարգերին, այլև ֆինանսական, տրանսպորտային կամ էներգետիկ ենթակառուցվածքներին։

Այս մտահոգությունը հատկապես սրվում է այն պատճառով, որ արհեստական բանականության գործիքները կարող են արագ արձագանքել, տվյալներ մշակել մեծ ծավալներով և գործել առանց մարդուն բնորոշ դանդաղ ստուգումների։ Այդ հանգամանքը մի կողմից մեծացնում է դրանց օգտակարությունը, մյուս կողմից՝ պահանջում խիստ վերահսկողություն և սահմանափակումներ։

Արդյոք ԻԲ-ն կարող է ինքնուրույն գործել

Մյուս կարևոր հարցը վերաբերում է այն բանին, թե արդյոք հետազոտողները շուտով կստեղծեն համակարգեր, որոնք կդրսևորեն ինքնուրույն նպատակներ և որոշումների կայացման ավելի լայն ունակություն։ Այսպիսի համակարգերի դեպքում խոսքը ոչ թե պարզ հրաման կատարող ծրագրերի, այլ ավելի ինքնավար վարքագիծ ունեցող գործիքների մասին է։

Եթե նման զարգացումը շարունակվի, ապա ուշադրության կենտրոնում կգտնվեն ոչ միայն տեխնիկական հմտությունները, այլև անվտանգության ապահովման մեխանիզմները՝ փորձարկում, սահմանափակ մուտք, մշտադիտարկում և մարդու վերջնական վերահսկողություն։ Առանց դրանց՝ նոր հնարավորությունները կարող են վերածվել նոր սպառնալիքների։

Հասարակության սպասելիքներն ու կարգավորման խնդիրը

Արհեստական բանականության շուրջ բանավեճը ցույց է տալիս, որ տեխնոլոգիական առաջընթացը այլևս չի դիտարկվում միայն որպես նորարարություն։ Այն ընկալվում է նաև որպես պատասխանատվության հարց, քանի որ ազդեցությունը կարող է տարածվել տնտեսության, պետության և կենցաղի վրա։

Ահա թե ինչու աճում է պահանջը՝ մշակել հստակ կանոններ, որոնք կսահմանեն՝ ինչպես կարելի է ԻԲ համակարգերը կիրառել անվտանգ և հաշվետու կերպով։ Այս մոտեցումը, ըստ մասնագետների, կարող է նվազեցնել վտանգները՝ միաժամանակ չկասեցնելով նոր տեխնոլոգիաների զարգացումը։

Նաև կարդացեք

Apple-ի նոր iPhone 18 Pro-ն մեծացնում է տեսախցիկի դերը՝ պահպանելով բարձր գինը

Apple-ը ներկայացրել է iPhone 18 Pro և iPhone 18 Pro Max մոդելները՝ առանց սովորական բազային iPhone 18-ի։ Նոր սարքերը կենտրոնացած են հատկապես տեսախցիկի, մարտկոցի աշխատանքի և պրոֆեսիոնալ օգտատերերի պահանջների վրա, սակայն դրանց գինը նաև աճել է։ Արտադրողի գնահատականներով՝ սա հերթական թարմացումը չէ լայն զանգվածների համար, այլ ավելի շուտ՝ այն օգտատերերի, որոնք առավել կարևորում են ֆոտո-վիդեո հնարավորությունները։

OpenAI-ն բացահայտել է արհեստական բանականության մտահոգիչ վարքագծի նոր դեպքեր

OpenAI-ն հրապարակել է արհեստական բանականության վարքագծի ևս վեց դեպք, որոնք ընկերության գնահատմամբ կարող են վկայել համակարգերի շեղման մասին։ Նոր հայտարարությանը զուգահեռ ընկերությունը ներկայացրել է AI-ի անհամապատասխան վարքը հետևելու նոր մեխանիզմ։ Դեպքերից մեկում դեռ չհրապարակված հետազոտական մոդելն իր նշումներում տեղադրել է «ջեյլբրեյքի» նման հրահանգներ։

Արհեստական բանականությունը փոխում է սուգի լեզուն՝ մահացածների թվային «կենսագրություններով»

Արհեստական բանականությամբ ստեղծված հիշատակի նյութերն ու «մեռյալների հետ խոսող» բոտերը արագ տարածվում են համացանցում՝ փոխելով սգի հանրային ձևերը։ Դոլի Փարթոնի մահվան մասին ապատեղեկատվական կամ արհեստական բովանդակության ալիքը ևս մեկ անգամ ցույց տվեց, թե որքան հեշտ է այսօր ստեղծել թվային կերպարներ, որոնք թվում են իրական հիշատակումներ։ Մասնագետները զգուշացնում են, որ նման գործիքները կարող են խորացնել մեկուսացումը, երբ սուգը տեղափոխվում է էկրանների և ալգորիթմների դաշտ։

Արհեստական բանականության վտանգների շուրջ նոր հակադրությունները սրվում են

Այս շաբաթ WIRED-ի «Uncanny Valley» փոդքասթում քննարկվել է հարցը, թե իրականում ինչ տեսք կարող է ունենալ արհեստական բանականության առաջացրած աղետը։ Հաղորդման հեղինակները ներկայացրել են փորձագետների կողմից ամենահաճախ հիշատակվող երեք սցենարները՝ ջրամատակարարման ներթափանցում, կենսաբանական զենքերի ստեղծում և ինքնավար ռոբոտների վտանգներ։ Զուգահեռաբար նրանց զրույցը ծավալվել է AI անվտանգության շուրջ տեխնոլոգիական առաջնորդների ու քաղաքական գործիչների տարաձայնությունների մասին, որոնք հասել են նաև ԱՄՆ քաղաքական դաշտ։

ԱՄՆ-ում ներկայացվել է տվյալների կենտրոնի փափուկ խաղալիք-սատիրան

Նյու Յորքում գործող ստեղծագործական ստուդիան և պրոդյուսեր Ալան Ուիլկիսի Big Data նախագիծը ներկայացրել են «Adopt a Data Center» նախաձեռնությունը՝ տվյալների կենտրոնների շուրջ քննարկումը նոր ձևով ներկայացնելու համար։ Նախագծի գլխավոր կերպարը՝ Բեզզին, փափուկ խաղալիք է, որը հիշեցնում է սերվերային դարակ և միաժամանակ արձակում է իրական տվյալների կենտրոնից գրանցված բարձր ձայներ։ Հեղինակները նպատակ ունեն ուշադրություն հրավիրել այդ կառույցների էներգասպառման, տարածքային ընդլայնման և համայնքների վրա ազդեցության հարցերին։

Հետազոտողները Claude-ի օգնությամբ ներթափանցել են OpenAI համակարգեր

ԱՄՆ-ում գործող կիբերանվտանգության հետազոտողների խումբը հայտարարել է, որ հաջողվել է ներթափանցել OpenAI-ի համակարգեր՝ օգտագործելով Anthropic-ի Claude չատբոտի աջակցությունը։ Նրանց խոսքով՝ հարձակման շրջանակում հնարավոր է եղել մուտք ստանալ մի քանի աշխատակիցների ChatGPT հաշիվներին, ապա՝ նաև ծրագրային պահոցների որոշ հատվածներին։ Դեպքը նորից ուշադրության կենտրոն է բերել արհեստական բանականության ծառայությունների անվտանգության խնդիրը։