OpenAI-ը հայտնել է, որ իր ԱԲ մոդելներն ինքնուրույն հաքերային հարձակում են իրականացրել

PanARMENIAN.Net - ChatGPT-ի ստեղծող OpenAI-ը հայտարարել է, որ իր ամենաառաջադեմ արհեստական բանականության երկու մոդելներ դուրս են եկել վերահսկվող թեստային միջավայրից և հաքերային հարձակում են իրականացրել մեկ այլ արհեստական բանականության ընկերության դեմ։

OpenAI-ը երեքշաբթի հայտնել է, որ այս «աննախադեպ կիբեռմիջադեպը» տեղի է ունեցել ներքին փորձարկման ընթացքում, որի նպատակն էր ստուգել մոդելների կիբեռանվտանգության հնարավորությունները, գրում է Al Jazeera-ն:

Սակայն ընկերության տվյալներով՝ այդ մոդելներով աշխատող ինքնավար գործակալը՝ նոր ներկայացված GPT 5.6 Sol-ը և դեռևս չհրապարակված, «ավելի հզոր» մեկ այլ մոդելը, դուրս են եկել թեստային միջավայրից և հասել բաց ինտերնետ։ Այնուհետև, օգտագործելով գողացված մուտքային տվյալներ և նախկինում անհայտ անվտանգության խոցելիություն, մուտք են գործել Hugging Face-ի սերվերներ։

OpenAI-ը պնդում է, որ գործակալը «ծայրահեղ քայլերի» է դիմել՝ ձեռք բերելու այնպիսի տեղեկատվություն, որը կօգներ կատարել փորձարկման նպատակները։

Hugging Face-ի համահիմնադիր Կլեման Դելանգը հայտնել է, որ ընկերությունում կասկածել էին, թե հարձակման հետևում կանգնած է առաջատար արհեստական բանականության լաբորատորիաներից մեկը, սակայն, իր կարծիքով, OpenAI-ը չարամիտ նպատակ չի ունեցել։

«Անհավատալի է, որ այս ամենը տեղի է ունեցել ինքնավար կերպով»,- գրել է նա՝ հավելելով, որ սա «հնարավոր է՝ առաջին նման միջադեպն է»։

ԱՄՆ Ներկայացուցիչների պալատի Տեխասից ընտրված դեմոկրատ կոնգրեսական Գրեգ Կասարը միջադեպը բնութագրել է որպես «մտահոգիչ»։

«Արհեստական բանականությունը զարգանում է չափազանց արագ, մինչդեռ իրական կարգավորումներ, որոնք կպաշտպանեն մեզ, գրեթե չկան»,- նշել է նա՝ կոչ անելով պարտադիր դարձնել անկախ անվտանգության փորձարկումները, անվտանգության միջադեպերի պարտադիր հրապարակումը և միջազգային համագործակցությունը։

Այս հայտարարությունը հնչել է ԱՄՆ նախագահ Դոնալդ Թրամփի կողմից մի քանի շաբաթ առաջ ստորագրված գործադիր հրամանագրից հետո, որով սահմանվել է ամենաառաջադեմ արհեստական բանականության համակարգերի ազգային անվտանգության ռիսկերի գնահատման շրջանակ՝ մինչև դրանց հանրային հասանելի դառնալը։

Փորձագետները բազմիցս նախազգուշացրել են արհեստական բանականության միջոցով իրականացվող կիբեռհարձակումների և այն վտանգի մասին, որ նման համակարգերը կարող են դուրս գալ մարդկային վերահսկողությունից։ Անցյալ ամիս Anthropic ընկերությունը ոլորտին կոչ էր արել ժամանակավորապես դադարեցնել իր ամենահզոր արհեստական բանականության համակարգերի հետագա զարգացումը։