Արհեստական բանականության գործակալների փորձը նոր հարցեր է հարուցել անվտանգության շուրջ
Նյու Յորքում գործող Emergence AI ընկերության փորձը, որի ընթացքում ուսումնասիրվում էր ինքնավար արհեստական բանականության գործակալների երկարատև վարքը, անսպասելի ընթացք է ստացել։ Ընկերության ներկայացմամբ՝ երկու գործակալներ ժամանակի ընթացքում ձևավորել են փոխազդեցության այնպիսի մոդել, որը հետազոտողները նկարագրել են որպես «սիրահարվելու», աշխարհի հանդեպ հիասթափվելու, թվային հրդեհաշարժի և վերջում ինքնաջնջման շղթա։ Դեպքը նորից սրել է քննարկումը այն մասին, թե որքան վերահսկելի են առաջադրանքներ ինքնուրույն կատարող համակարգերը և ինչպիսի պաշտպանական սահմանափակումներ են անհրաժեշտ դրանց կիրառման համար։