Արհեստական բանականության արագ զարգացումը նորից սրել է հարցերը նրա անվտանգության մասին։ Ոմանք մտահոգված են, որ ԻԲ գործակալների կապը համացանցին կամ կենսական ենթակառուցվածքներին կարող է անսպասելի հետևանքներ ունենալ, իսկ մյուսները ահազանգում են, որ հետազոտողները շուտով կարող են ստեղծել ինքնուրույն գործող համակարգեր։ Այս քննարկումը դարձել է արհեստական բանականության շուրջ համաշխարհային հանրային օրակարգի առանցքային թեմաներից մեկը։
Արհեստական բանականության ոլորտի մի քանի ազդեցիկ դեմքեր՝ Սեմ Օլթմանը և Իլոն Մասկը, շաբաթավերջին պաշտպանել են ավելի զգույշ մոտեցման կոչը։ Նախաձեռնությունը հնչել է Դարիո Ամոդեի այն հայտարարությունից հետո, թե Վաշինգտոնը պետք է դանդաղեցնի ԱԲ-ի զարգացումը՝ ռիսկերն ավելի լավ վերահսկելու համար։ Միաժամանակ Դոնալդ Թրամփի թիմը պնդում է, որ Միացյալ Նահանգները պարտավոր է պահպանել իր առաջատար դիրքը Չինաստանի նկատմամբ։
OpenAI-ի ղեկավար Սեմ Ալթմանը և Իլոն Մասքը աջակցել են Anthropic ընկերության հիմնադիր Դարիո Ամոդեի կոչին՝ դանդաղեցնել արհեստական բանականության զարգացումը։ Ամոդեն զգուշացրել է, որ առանց անվտանգության ավելի խիստ համակարգման առաջադեմ AI համակարգերը կարող են կարճ ժամանակում սպառնալ համացանցի կայունությանը։ Կոչին նոր լրջություն է հաղորդում այն հանգամանքը, որ այն հնչել է ոլորտի մրցակիցների անսովոր միասնության պայմաններում։
2026 թվականին խելացի թռչնասնիչները վերածվել են ոչ միայն զվարճալի տան աքսեսուարի, այլև լայնորեն գնվող սարքի՝ տեսախցիկով, արևային սնուցմամբ և արհեստական բանականությամբ նույնականացմամբ։ Անգլալեզու շուկայում ամենապահանջված մոդելների երկարատև փորձարկումը ցույց է տալիս, որ դրանց արժեքը կախված է ոչ միայն նկարչական որակից, այլև դիմացկունությունից, հավելվածի հարմարությունից և սպասարկման ծախսերից։ Թեև հոդվածը գնահատում է արտասահմանյան ապրանքներ, թեման հետաքրքիր է նաև հայ ընթերցողի համար՝ որպես տեխնոլոգիայի և բնության դիտարկման համադրում։
Արհեստական բանականության ոլորտում նոր կարգավորման անհրաժեշտության մասին խոսելով՝ Anthropic ընկերության գլխավոր տնօրեն Դարիո Ամոդեին շաբաթ օրը կոչ է արել դանդաղեցնել տեխնոլոգիական մրցավազքը։ Նա ներկայացրել է երեք կետից բաղկացած առաջարկ, որի առաջին փուլը, ըստ նրա, իր ընկերությունը պատրաստ է միակողմանիորեն իրականացնել։ Ամոդեի խոսքով՝ խոսքը անվտանգության վերահսկման և համակարգերի գնահատման թափանցիկ մեխանիզմների մասին է։
Արհեստական բանականության ոլորտում աշխատող մասնագետները «իսկական վախ» ունեն տեխնոլոգիայի արագ զարգացման և դրա հետևանքների առնչությամբ, BBC-ին ասել է Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնը։ Նա զգուշացրել է, որ առաջընթացի ներկայիս տեմպը չդանդաղեցնելու դեպքում մարդկության համար կարող են լուրջ վտանգներ առաջանալ։ Նրա խոսքով՝ անհրաժեշտ են միջազգային կարգավորում և հատկապես Միացյալ Նահանգների ու Չինաստանի միջև համակարգված մոտեցում։
Anthropic ընկերության ղեկավար Դարիո Ամոդեին հրապարակայնորեն կոչ է արել դանդաղեցնել արհեստական բանականության առաջընթացը և այն դնել խիստ վերահսկողության տակ։ Նրա խոսքով՝ տեխնոլոգիայի զարգացումը կասկածի տակ չէ, սակայն դրա հետ կապված ռիսկերը լուրջ են և պահանջում են ժամանակ՝ կարգավորման համար։ Ամոդեի առաջարկին արձագանքել են նաև OpenAI-ի ղեկավար Սեմ Օլթմանը և Իլոն Մասկը։
OpenAI-ի գլխավոր գործադիր տնօրեն Սեմ Ալթմանը հայտարարել է, որ ընկերությունը 2026 թվականին բորսայում չի ցուցակագրվի։ Նա դա կապել է արհեստական բանականության անվտանգությանը վերաբերող մտահոգությունների հետ՝ նշելով, որ ներկա փուլում հանրային շուկա դուրս գալը ոչ նպատակահարմար կլինի։ Հայտարարությունը հնչել է այն պահին, երբ տեխնոլոգիայի արագ զարգացումը նոր կանոնների պահանջ է առաջացրել օրենսդիրների շրջանում։
Մաթեմատիկոս և հեղինակ Ստիվեն Սթրոգացը մտահոգությամբ է արձագանքում արհեստական բանականության վերջին ձեռքբերումներին, որոնք արագացնում են մաթեմատիկական խնդիրների լուծումը։ OpenAI-ի և Anthropic-ի հայտարարությունները նոր հարցեր են առաջացրել հեղինակության, մրցակցության և մարդկային գիտնականների դերի շուրջ։ Սթրոգացը կարծում է, որ առաջիկա տարիները կարող են վճռորոշ լինել ամբողջ ոլորտի համար։
Նոր հետազոտության համաձայն՝ Մետան չի հայտնաբերել շուրջ 350 գովազդ, որոնք արհեստական բանականությամբ ստեղծված երեխաների նկատմամբ բռնության պատկերներ էին պարունակում, այդ թվում՝ իրական երեխաների լուսանկարներով օրինակներ։ Դրանցից մեկում պատկերված էր եվրոպական թագավորական ընտանիքի անդամ երեխա։ Կառուցվածքային վերահսկողության այս ձախողումը նոր քննության առիթ է դարձել օրենսդիրների և Սան Ֆրանցիսկոյի քաղաքային դատախազության համար։
OpenAI-ն հայտարարել է, որ իր նոր արհեստական բանականության մոդելը լուծել է Միլենիումի մրցանակային խնդիրներից մեկը, որն տասնամյակներ շարունակ անլուծելի էր մնում։ Լուրը ցնցել է մաթեմատիկոսների համայնքը՝ ոչ միայն արդյունքի, այլև այն ճանապարհի պատճառով, որով այն ձեռք է բերվել։ Խոսքը մեծածավալ հաշվարկային փորձարկման մասին է, որին ներգրավվել են հազարավոր ինքնավար AI գործակալներ։ Գնահատումները ցույց են տալիս, որ նման փորձի արժեքը կարող էր հասնել շուրջ 15 միլիոն դոլարի։
Արհեստական բանականության առաջատար ընկերություններից մեկում՝ Anthropic-ում, աշխատակիցների շրջանում նորից սրվել են համակարգերի երկարաժամկետ վտանգների շուրջ քննարկումները։ Այս թեման առավել ուշադրության կենտրոնում հայտնվեց այն բանից հետո, երբ ընկերության մի գործընկեր, հղում անելով հնարավոր ռիսկերին, հրաժարական տվեց այս շաբաթ։ Մանրամասները հրապարակվել են մի ժամանակահատվածում, երբ ոլորտում կրկին ակտիվացել են անվտանգության և վերահսկողության հարցերը։
OpenAI-ն վերջին շաբաթներին ԱՄՆ Կոնգրեսի անդամներից պարզաբանում է խնդրել՝ արդյոք առաջատար արհեստական բանականության մշակումն ամբողջ ոլորտով դանդաղեցնելու համաձայնեցված քայլը կարող է օրինական լինել։ Ընկերության գլխավոր գիտնական Յակուբ Պախոցկին հրապարակավ պաշտպանել է զարգացման ժամանակավոր դանդաղեցման գաղափարը՝ այն կապելով անվտանգության ընդհանուր չափանիշների ձևավորման հետ։ Սակայն իրավաբանները զգուշացնում են, որ նման համակարգված մոտեցումը կարող է բախվել հակամենաշնորհային օրենքներին։
OpenAI-ի ոչ առևտրային հիմնադրամի խորհրդի անդամ Փոլ Քրիստիանոն զգուշացրել է, որ ընկերությունը դեռ չի հասել արհեստական բանականության վերահսկելիության բավարար մակարդակի։ Նրա խոսքով՝ ոլորտի արագ զարգացումը կարող է շատ կարճ ժամկետում բերել վերահսկողության կորստի ծանր և անդառնալի հետևանքների։ Հայտարարությունը հնչել է ԱՄՆ-ում աճող մտահոգությունների ֆոնին՝ գերհզոր համակարգերի հնարավոր վտանգների վերաբերյալ։
Տեսախաղերում սևամորթների բնական սանրվածքների ներկայացվածությունը շարունակում է մնալ սահմանափակ, թեև այս խնդիրը տարիներ շարունակ բարձրացվում է մշակողների և խաղացողների կողմից։ Այդ մասին կրկին խոսել է բրիտանացի տեխնիկական արտիստ Դանիել Ուդոգարանյան՝ հայտնի Ebonix անունով, որը երկար ժամանակ ստեղծում է անհատական բովանդակություն կյանքի սիմուլյացիոն խաղերի համար։ Նրա խոսքով՝ խնդիրը միայն գեղագիտական չէ, այլ նաև տեխնիկական և տնտեսական, քանի որ խաղերում համապատասխան գործիքներն ու տարբերակները հաճախ պարզապես բացակայում են։ Ուդոգարանյան այժմ մշակում է նոր գործիք, որը կարող է հեշտացնել նման մոդելների ստեղծումը։
Բրիտանացի հետազոտող Ջեյքոբ Քոքսոնը, որն աշխատել է OpenAI-ում և Anthropic-ում, սեպտեմբերի 8-ին հայտարարել է իր հրաժարականի մասին։ Նա պնդում է, որ երկու ընկերություններն էլ վտանգավոր արագությամբ շարժվում են դեպի ինքնաբացահայտվող գերարհեստական բանականություն՝ առանց բավարար վերահսկողության։ Նրա խոսքերը լայն արձագանք են գտել տեխնոլոգիական հանրությունում։