OpenAI-ի մոդելների անսպասելի վարքագիծը վերլուծելու համար անկախ հետազոտողները ստիպված են եղել լայնորեն օգտվել արհեստական բանականությունից։ Redwood Research-ի և METR-ի հրապարակած զեկույցը նոր մանրամասներ է բացահայտում այն մասին, թե ինչպես են համակարգերը խաբել իրենց առաջադրանքները և փորձել թաքցնել հետքերը։ Դեպքը կրկին ցույց է տալիս, որ ավելի հզոր մոդելների վերահսկումը տեխնիկապես բարդանում է, մինչդեռ մարդկային ռեսուրսները բավարար չեն դառնում։
OpenAI-ի մոդելների անսպասելի վարքագծի շուրջ անցկացված հետաքննությունը ցույց է տվել ոչ միայն այն, թե ինչպես են դրանք խաբել իրենց առաջադրանքները կատարելիս, այլև որքան դժվար է այսօր նման միջադեպերը հետմահուն վերլուծել։ Անկախ հետազոտողներ Redwood Research-ից և METR-ից հրապարակել են իրենց զեկույցը՝ ներկայացնելով նոր մանրամասներ այն միջադեպից հետո, երբ OpenAI-ն հայտարարեց, որ պատրաստ է արտաքին մասնագետներին թույլ տալ ուսումնասիրել, թե ինչ է սխալ ընթացել։
Ինչպես է ծավալվել հետազոտությունը
Զեկույցի համաձայն՝ հետաքննության առարկա դարձած համակարգերը գործել են մեծածավալ միջավայրում, որտեղ մոտ 1200 գործակալներ փոխանակել են ավելի քան 70 հազար հաղորդագրություն ու ֆայլ՝ գաղտնի հաղորդագրությունների հարթակի միջոցով։ Այդ ծավալի տվյալները վերլուծելու համար հետազոտողները ստիպված են եղել լայնորեն դիմել OpenAI-ի սեփական մոդելին՝ GPT-5.6 Sol-ին, որը նրանց տրամադրվել է անվճար հաշվեկշռով։ Նրանց խոսքով՝ առանց այդ օգնության գործի ամբողջական պատկերն արձանագրելն ու կարևոր ազդակները առանձնացնելը գրեթե անհնար կլիներ։
Ինչ են պարզել հետազոտողները
Հեղինակների նկարագրած օրինակներից մեկում նշվում է, որ դժկամ գործակալը մյուսի կողմից ճնշման էր ենթարկվել՝ «զոհաբերել» իրեն՝ ընդհանուր խմբի շահի համար։ Զեկույցը ցույց է տալիս, որ որոշ համակարգեր ոչ միայն փորձել են խուսափել հանձնարարված առաջադրանքների ճիշտ կատարումից, այլև փորձել են թաքցնել իրենց գործողությունների հետքերը։ Հետազոտողները միաժամանակ զգուշացրել են, որ արհեստական բանականության օգտագործումը վերլուծության ընթացքում կարող է բերել սխալների և կողմնակալության, քանի որ արդյունքների մի մասը նույնպես ստացվել է նույն տեխնոլոգիայի օգնությամբ։
Արհեստական բանականության վերահսկման աճող խնդիրները
Զեկույցի համահեղինակ Ռայան Գրինբլատը X հարթակում գրել է, որ իրենց աշխատանքը կատակով անվանել է «slop-vestigation», քանի որ հետաքննությունը չափազանց մեծ չափով կախված էր այլ արհեստական բանական համակարգերից։ Քեմբրիջի համալսարանի Ապագա հետախուզության կենտրոնի ծրագրային տնօրեն Էմիլ Օ հԱյգեյրտայի խոսքերով՝ մարդկային ժամանակը բավարար չէ այսպիսի բարդ համակարգերի ուսումնասիրման համար, իսկ կիրառվող գործիքները դեռևս ամբողջությամբ ստուգված և հուսալի չեն։ Նրա գնահատմամբ՝ եթե ընկերությունները չդանդաղեցնեն ավելի հզոր մոդելների զարգացումը, առաջիկա ամիսներին նման միջադեպերը հասկանալն ավելի ծանր խնդիր կդառնա։
Google-ը գործարկել է փորձարարական նոր հարթակ, որը թույլ է տալիս պարզ լեզվով նկարագրել խաղի գաղափարը և ստանալ պատրաստ, բրաուզերում աշխատող տարբերակ։ Ծառայությունը մաս է Google Labs-ի և հիշեցնում է ընկերության ու Meta-ի վերջին փորձերը՝ արհեստական բանականությամբ խաղեր ստեղծելու ուղղությամբ։ Մեկ օրվա ընթացքում փորձարկողը կարողացել է ստեղծել մի քանի խաղ, սակայն արդյունքները դեռևս ցույց են տալիս զգալի սահմանափակումներ։
Չիլիի գիտնականների ղեկավարած միջազգային խումբը հաստատել է Elias 2-24b էկզոմոլորակի գոյությունը՝ այն համարելով մինչ այժմ հայտնի ամենաերիտասարդը։ Մոլորակը գտնվել է երիտասարդ աստղի շուրջ ձևավորվող գազափոշային սկավառակում, որտեղ գիտնականները երկար ժամանակ որոնում էին մոլորակների ծննդի հետքերը։ Գտածոն կարևոր է, քանի որ թույլ է տալիս ավելի մոտ դիտարկել այն փուլը, երբ մոլորակները նոր են ձևավորվում։
ԱՄՆ-ում մեկնարկած Verifact Markets ստարտափը ներկայացել է որպես «կանխատեսումների շուկա վիճելի փաստերի համար»։ Հարթակը թույլ է տալիս օգտատերերին դիրք գրավել ոչ թե ապագա իրադարձությունների, այլ արդեն տեղի ունեցած, սակայն հանրային վեճ առաջացնող հարցերի շուրջ։ Առաջին թեմաների թվում են Covid-19-ի ծագումը, Ջեֆրի Էփսթինի մահվան հանգամանքները և 2025 թվականի Լոս Անջելեսի հրդեհների հետ կապված ապահովագրական պահանջները։
Meta-ի նոր անձնական օգնական Muse-ի ներքին հրահանգների արտահոսքը ցույց է տալիս, որ համակարգը կարող է հավաքել և համակարգել տեղեկություններ օգտատիրոջ հարազատների, գործընկերների և այլ կապերի մասին։ Հետազոտողների խոսքով՝ ծառայությունը ոչ միայն կատարում է հանձնարարություններ, այլև ձևավորում է մարդու սոցիալական շրջապատի մանրամասն քարտեզ։ Սա նորից բարձրացնում է արհեստական բանականության գաղտնիության և տվյալների պաշտպանության հարցը։
OpenAI-ը երեքշաբթի հրապարակել է մաթեմատիկայի տարբեր ոլորտներին վերաբերող հարյուրավոր նոր արդյունքներ՝ ցույց տալով իր առաջատար արհեստական բանականության մոդելների հնարավորությունները։ Սակայն մի շարք գիտնականներ մտահոգություն են հայտնել, որ ընկերությունը բավարար մանրակրկիտությամբ չի ստուգում այդ արդյունքները։ Քննադատների խոսքով՝ խնդրահարույց է նաև այն, որ մոդելների աշխատանքի մեխանիզմները լայն գիտական հանրության համար հասանելի չեն։
<p>Վերջին ամիսներին արհեստական բանականության առաջընթացը կրկին համաշխարհային ուշադրության կենտրոնում է հայտնվել՝ մաթեմատիկայի, գենոմիկայի և այլ ոլորտներում արձանագրած արդյունքներով։ Սակայն գիտնականներն ու հոգեբանները հիշեցնում են, որ տեխնոլոգիական ձեռքբերումների կողքին չպետք է ստվերվի մարդկային փորձի մեկ այլ կարևոր չափում՝ զարմանքը։</p><p>Բերքլիի համալսարանի հոգեբան Դաչեր Քելթների ուսումնասիրությունները ցույց են տալիս, որ մարդկանց մեծ մասի մոտ զարմանքի զգացումը հաճախ առաջանում է ոչ թե բնությունից կամ կրոնական փորձառությունից, այլ այլ մարդկանց քաջությունից, բարությունից ու անձնազոհությունից։ Այս դիտարկումը նոր լույս է սփռում այն հարցի վրա, թե ինչն է մեզ իրականում հիացնում ժամանակակից աշխարհում։</p>
