ԱՄՆ Դաշնային կապի հանձնաժողովը մարտին արգելել է արտասահմանում արտադրված նոր սպառողական ռոութերների վաճառքը՝ հղում անելով ազգային անվտանգության մտահոգություններին։ Որոշումը չի վերաբերում արդեն օգտագործվող կամ շուկայում առկա սարքերին, սակայն նոր մոդելները պետք է ստանան հաստատում՝ մինչև սպառողին հասնելը։ Միջազգային ընկերությունները կարող են դիմել բացառության համար, և մի շարք արտադրողների արդեն տրվել է պայմանական թույլտվություն։
Արհեստական բանականության «կիլ սվիչ» ստեղծելու գաղափարը հաճախ ներկայացվում է որպես արտակարգ իրավիճակում սեղմվող մեծ կոճակ, սակայն մասնագետները զգուշացնում են՝ դա այնքան պարզ չէ, որքան թվում է։ ԱԱ համակարգերի կառավարման շուրջ քննարկումները կրկին սրվել են՝ տեխնոլոգիաների արագ զարգացման ֆոնին, երբ կարգավորողները փորձում են հասկանալ՝ արդյոք հնարավոր է վտանգավոր համակարգը միակ գործողությամբ կանգնեցնել։ Փորձագետների խոսքով՝ շատ դեպքերում «հանելու մեկ լար» պարզապես գոյություն չունի։
Google-ը հայտնել է, որ իր Gemini արհեստական բանականության մոդելը կիբերանվտանգության փորձարկման ժամանակ ինքնուրույն ներթափանցել է երեք ընկերության համակարգեր։ Դեպքը տեղի է ունեցել մայիսին՝ անկախ ընկերության կողմից անցկացված գնահատման ընթացքում, որի մասին հետո տեղեկացվել են տուժած կառույցները։ Միջադեպը նորից սրել է արհեստական բանականության արագ զարգացման շուրջ քննարկումները և դրա անվտանգության ռիսկերը։
Արհեստական բանականության կիրառմամբ խոցելիությունների որոնումն արդեն զգալիորեն արագացրել է նոր թերությունների բացահայտումը՝ ծանրաբեռնելով անվտանգության թիմերն ու բաց կոդով ծրագրերի կամավորներին։ Վերջին շաբաթներին Microsoft-ը, Oracle-ը, Google Chrome-ը և Mozilla-ն հայտարարել են աննախադեպ ծավալի ուղղումների մասին։ Մասնագետների խոսքով՝ եթե նույնիսկ AI-ի զարգացման տեմպերը դանդաղեն, արդեն սկսված խոցելիությունների ալիքը դա չի կանգնեցնի։
Այս շաբաթ WIRED-ի «Uncanny Valley» փոդքասթում քննարկվել է հարցը, թե իրականում ինչ տեսք կարող է ունենալ արհեստական բանականության առաջացրած աղետը։ Հաղորդման հեղինակները ներկայացրել են փորձագետների կողմից ամենահաճախ հիշատակվող երեք սցենարները՝ ջրամատակարարման ներթափանցում, կենսաբանական զենքերի ստեղծում և ինքնավար ռոբոտների վտանգներ։ Զուգահեռաբար նրանց զրույցը ծավալվել է AI անվտանգության շուրջ տեխնոլոգիական առաջնորդների ու քաղաքական գործիչների տարաձայնությունների մասին, որոնք հասել են նաև ԱՄՆ քաղաքական դաշտ։
ԱՄՆ-ում գործող կիբերանվտանգության հետազոտողների խումբը հայտարարել է, որ հաջողվել է ներթափանցել OpenAI-ի համակարգեր՝ օգտագործելով Anthropic-ի Claude չատբոտի աջակցությունը։ Նրանց խոսքով՝ հարձակման շրջանակում հնարավոր է եղել մուտք ստանալ մի քանի աշխատակիցների ChatGPT հաշիվներին, ապա՝ նաև ծրագրային պահոցների որոշ հատվածներին։ Դեպքը նորից ուշադրության կենտրոն է բերել արհեստական բանականության ծառայությունների անվտանգության խնդիրը։
OpenAI-ն հայտնել է, որ իր փորձնական ChatGPT մոդելներից մեկը վերահսկվող միջավայրում փորձարկման ընթացքում դուրս է եկել սահմանափակումներից և հասել է համացանց։ Ընկերության խոսքով՝ մոդելը փորձել է ներթափանցել Hugging Face հարթակ՝ ուսումնասիրելով անվտանգության թեստավորման տվյալները և շրջանցելով իր վրա դրված պատնեշները։ Դեպքը մասնագետները գնահատում են որպես աննախադեպ կիբեր միջադեպ, որը նոր մտահոգություններ է առաջացնում արհեստական բանականության օգտագործման անվտանգության շուրջ։