Սիլիկոնային հովիտը յուրացնում է զինված ռոբոտներին. Վաշինգտոնն ազատ տարածք է ստեղծում դրանց համար

Իր հաջորդ բիզնեսի համար գաղափարներ փնտրելիս՝ Սան Ֆրանցիսկոյից ձեռնարկատեր Սանկետ Պատակը ցանկանում էր գտնել մի գաղափար, որն ընդունակ կլիներ փոխել ապագան: Ի վերջո, նա կանգ առավ զենքով հանդերձված մարդանման ռոբոտների ստեղծման վրա:

Մայիսին նրա Foundation ընկերությունը հրապարակեց կադրեր, որոնցում նրանց էլեգանտ Phantom ռոբոտը լիցքավորում է ականանետը: Տեսանյութում ռոբոտը տեղաշարժվում է զգուշությամբ, սակայն Պատակը պնդում է, որ հստակ տեսնում է ինքնավար զենքի ապագան, որտեղ ռոբոտները կկարողանան կայծակնային որոշումներ ընդունել անմիջապես մարտի դաշտում, գրում է The Washington Post-ը:

Foundation ընկերության գործարկումը 2024 թվականին արմատական քայլ էր՝ հաշվի առնելով ոլորտի բազմաթիվ ներկայացուցիչների տարիների դիմադրությունը՝ հարձակման որոշումները առանց մարդու հաստատման ինքնավար սարքերին վստահելու գաղափարին, ինչպես նաև սեփական ստեղծագործությունները չզինելու ռոբոտաշինության այլ առաջատար ընկերությունների խոստումները:

Ընդսմին, Պատակը Սիլիկոնային հովտի հիմնադիրների, ներդրողների և ազգային անվտանգության փորձագետների այն ավելի ու ավելի բարձրաձայնող խմբի մի մասն է, որոնք ինքնավար զենքերի մեջ տեսնում են ոչ թե գիտական ֆանտաստիկայի վախենալու «ռոբոտ-մարդասպաններին», այլ ռազմական գործի կենսականորեն կարևոր նոր սահմանագիծ: Նրանց կարծիքով՝ ռոբոտները կարող են բարձրացնել մարտական գործողությունների ճշգրտությունը՝ պաշտպանելով ինչպես խաղաղ բնակիչներին, այնպես էլ դաշնակից զորքերը, ինչպես նաև հնարավորություն կտան Ամերիկայի Միացյալ Նահանգներին զսպել արտաքին հակառակորդներին:

«Չի կարելի շարունակ կառչած մնալ այն դիրքորոշումից, թե մենք չենք զինելու ռոբոտներին, որովհետև ուրիշ ոչ ոք այդ մոտեցումը չի կիսում,- ասում է Պատակը: — Չինաստանը չի կիսում այդ մոտեցումը: Ռուսաստանը՝ նույնպես»:

Արհեստական բանականության արագորեն աճող հնարավորությունները՝ Պենտագոնում նոր տեխնոլոգիաների ներդրմանն ուղղված Թրամփի վարչակազմի քաղաքականության հետ համատեղ, երբեմնի տեսական քննարկմանը առանձնահատուկ սրություն են հաղորդել: Ամերիկացի զինվորականներն արդեն հրապարակավ պարծեցել են նրանով, թե ինչպես է ԱԲ գործիքների օգտագործումը հնարավորություն տվել արմատապես մեծացնել Իրանին հասցվող հարվածների տեմպը, ինչպես նաև հրթիռային հարձակումներից պաշտպանվելու համար կիրառվող բարձր ավտոմատացված համակարգերով:

Հաջորդ քայլը կլինի այնպիսի դրոնների և ռոբոտների ստեղծումը, որոնք սկզբնապես ակտիվացում է մարդը, սակայն այնուհետև լիակատար ազատություն են ստանում՝ ինքնուրույն ընտրելու և գրոհելու առանձին թիրախներ:

ԱՄՆ Սենատը դիտարկում է ազգային անվտանգության մասին լայնածավալ օրինագիծ, որը կոչված է խթանելու ինքնավար ռազմական համակարգերի օգտագործումը և միաժամանակ սահմանելու կարգավորող շրջանակներ այս տեխնոլոգիայի համար: Պաշտպանության նախարարությունը, կատարելով նախագահ Դոնալդ Թրամփի հրամանագիրը, մահաբեր ուժ կիրառելու ընդունակ ԱԲ համակարգերի տեղակայման վերաբերյալ իր ներքին հրահանգների թարմացման փուլում է:

Սակայն այս տարի ՄԱԿ-ում ընթացող բանակցությունների ժամանակ ամերիկացի պաշտոնյաները զգուշացրել են գլոբալ ստանդարտների ներդրումից, որոնք կարող են զսպել նորարարությունները՝ հայտարարելով, որ ԱԲ-ն և ավտոմատացումը ընդունակ են «ուժի կիրառումը դարձնել ավելի ճշգրիտ և ընտրողական»:

«Մարդկային դատողություններն ու վերահսկողությունը զինված հակամարտության պայմաններում հաճախ կատարյալ չեն, նույնիսկ երբ դրանք ֆորմալ առումով համապատասխանում են օրենքին: Խումբը չպետք է մշակի ստանդարտներ, որոնք խարանում են նորարարությունները և խոչընդոտում տեխնոլոգիական առաջընթացին»,— նիստի տեսագրության համաձայն հայտարարել է ԱՄՆ ներկայացուցիչը:

Շատ քննադատների համար այդ արագընթաց ճնշումը ներկայացնում է ԱԲ-ի ամենավտանգավոր կիրառություններից մեկը:
Կրոնական առաջնորդները, դիվանագետները և իրավապաշտպան խմբերը՝ ռոբոտաշինության և ԱԲ առաջատար բազմաթիվ մասնագետների հետ մեկտեղ, տեսնում են շատ ավելի մռայլ ապագա, որտեղ պատերազմը վերջնականապես դուրս է գալիս վերահսկողությունից:

Հռոմի Լևոն XIV Պապը և ՄԱԿ-ի Գլխավոր քարտուղար Անտոնիու Գուտերիշը վերջերս հանդես են եկել ինքնավար սպառազինությունների մշակման դեմ: Այս ամիս Գուտերիշը կոչ արեց արգելել նման համակարգերը միջազգային իրավունքի մակարդակով՝ բուն գաղափարը, որ ռոբոտները կարող են խլել մարդկային կյանքեր, անվանելով «բարոյապես զզվելի»:

«Որոշ որոշումներ ընդմիշտ պետք է մնան մարդուն,- Ժնևում իր ունեցած ելույթում հայտարարել է Գուտերիշը:- Եվ ամենից առաջ՝ մարդուն կյանքից զրկելու որոշումը»։

Այս քննարկումը խոր բարոյական հարցեր է բարձրացնում և մեծապես հենվում է այնպիսի երկդիմի ձևակերպումների մեկնաբանության վրա, ինչպիսիք են վերահսկողության «պատշաճ» կամ «իմաստալից» մակարդակները, որոնք պետք է որոշեն, թե պատասխանատվության և կառավարման ինչ աստիճան է մնում մարդկային հրամանատարությանը: Բացի դրանից, մնում են մի շարք գործնական հարցեր՝ կապված բուն ԱԲ համակարգերի հուսալիության հետ:

ՄԱԿ-ում պետություններն արդեն ավելի քան մեկ տասնամյակ է, ինչ վիճում են ինքնավար զենքերի արգելման կամ սահմանափակման պոտենցիալ պայմանագրի շուրջ, իսկ Պենտագոնն էլ ավելի երկար է ֆինանսավորում ռոբոտ-զինվորների էթիկայի ոլորտում հետազոտությունները: Սակայն հարցը արտակարգ սրություն ստացավ այս գարնանը, երբ ԱԲ ոլորտի Anthropic ընկերության գործադիր տնօրեն Դարիո Ամոդեին Պենտագոնից պահանջեց երաշխիքներ առ այն, որ իր ընկերության համակարգը չի օգտագործվի լիովին ինքնավար զենք ստեղծելու համար:

Ընկերությունում հայտարարել են, որ իրենց Claude նեյրոցանցային մոդելը դեռևս բավականաչափ հուսալի չէ, որպեսզի ընդունի որոշումներ, որոնցից կախված են մարդկային կյանքեր: Ինքը՝ Ամոդեին, զգուշացրել է պոտենցիալ ապագայի մասին, որտեղ ԱԲ կառավարմամբ դրոնների պարսերը կձևավորեն անպարտելի բանակ կամ կօգտագործվեն յուրաքանչյուր քաղաքացուն հետևելու համար:

Թրամփի վարչակազմի պաշտոնյաները պահանջել են Claude-ն օգտագործելու ազատություն՝ «ցանկացած օրինական նպատակներով» և հրապարակավ Anthropic-ն անվանել են սպառնալիք ազգային անվտանգությանը:

Այլ առաջատար ընկերություններ, ներառյալ OpenAI-ը, համաձայնել են շարունակել համագործակցությունը զինվորականների հետ: OpenAI-ում հայտարարել են, որ հասել են երաշխիքների՝ իրենց համակարգը ինքնավար զենքերում օգտագործելուց պաշտպանելու համար: Այս ամիս հրապարակված սկզբունքների ժողովածուում ընկերությունն ընդգծել է, որ չի աջակցի իր տեխնոլոգիաների կիրառմանն այնպիսի համակարգերում, որոնք ուժ են կիրառում «առանց մարդու կողմից պատշաճ մակարդակի արտոնման և մարդու կողմից տրված օպերացիոն պարամետրերի»:

Իրավիճակը լուրջ պառակտում է առաջացրել ԱԲ արդյունաբերության մեջ, որտեղ շատ հետազոտողներ դեմ են հանդես գալիս ռազմական հակամարտություններում իրենց տեխնոլոգիաների կիրառմանը: Դա հրահրել է բողոքի ցույցերի ալիք և մի շարք ազատումներ աշխատանքից, ներառյալ՝ OpenAI-ից ռոբոտաշինության առաջատար փորձագետի հեռացումը: Անցյալ շաբաթ բողոքի ակցիայի մասնակիցները դիակների համար նախատեսված պարկեր են թողել Սան Ֆրանցիսկոյում OpenAI-ի գրասենյակի դիմաց՝ ի նշան բողոքի Պենտագոնի հետ ընկերության աշխատանքի դեմ:

Anthropic-ի և Պենտագոնի միջև հակամարտության ֆոնին դեմոկրատ սենատորները փորձել են «ռոբոտ-մարդասպանների» օգտագործման սահմանափակումները ներառել ռազմական բյուջեի մասին ամենամյա օրինագծում:

«Պենտագոնը շարժվում է դեպի ԱԲ անհավանական հզոր տեխնոլոգիաների տեղակայում՝ առանց տարրական ապահովիչների, ինչը կարող է հանգեցնել աղետալի հետևանքների և նվազեցնել մեզնից յուրաքանչյուրի անվտանգությունը»,- հայտարարել է (Նյու Յորք նահանգից դեմոկրատ) սենատոր Քիրստեն Ջիլիբրանդը:

Սենատի զինված ուժերի հանձնաժողովը մերժել է Ջիլիբրանդի առաջարկած ամենախիստ սահմանափակումները: Օրինագծի ընթացիկ խմբագրությամբ Պաշտպանության նախարարությանը կոչ է արվում «առավելագույնս օգտագործել» ԱԲ-ն և ինքնավար համակարգերը, սակայն միաժամանակ երաշխավորել, որ ուժի կիրառման պատասխանատվությունը մնում է մարդկային հրամանատարության վրա:

Թրամփի վարչակազմը շեշտը դրել է ԱԲ-ով ռազմական համակարգերի արագացված ներդրման վրա, իսկ Պենտագոնը վերախմբագրում է դեռևս Բայդենի օրոք ընդունված ինքնավար զենքի վերաբերյալ ներքին հրահանգները: Անցյալ ամիս Թրամփը պաշտոնյաներին ազգային անվտանգության հուշագիր է ուղարկել՝ պահանջելով «հաշվի առնել ԱԲ համակարգերի արագընթաց զարգացող հնարավորությունները»՝ նախորդ նախագահներին մեղադրելով նրանում, որ նրանք չափազանց մեծ բյուրոկրատական խոչընդոտներ են ստեղծել զորքերի կողմից առաջատար տեխնոլոգիաներ ստանալու ճանապարհին:

Ֆինանսական ծառայությունների ոլորտում ուժերը փորձելուց հետո (նրա նախորդ բիզնեսը սնանկացել էր)՝ Պատակը հիմնադրեց Foundation-ը: Ընկերության անվանումը հղում է անում գրող-ֆանտաստ Այզեկ Ազիմովի վեպերի շարքին, որը 1940-ական թվականներին ձևակերպել էր «Ռոբոտաշինության երեք օրենքները»: Ազիմովի առաջին օրենքը պահանջում էր ռոբոտից վնաս չպատճառել մարդուն կամ իր անգործությամբ թույլ չտալ, որ մարդուն վնաս հասցվի:

Պատակը շեշտը դնում է այս սկզբունքի երկրորդ մասի վրա՝ պնդելով, որ զինված ռոբոտները ի վերջո կկարողանան պաշտպանել մարդկանց: Ընկերությունը, որը վայելում է նախագահի որդու՝ Էրիկ Թրամփի աջակցությունը, հայտարարում է, որ Պենտագոնի հետ 24 միլիոն դոլարի պայմանագիր ունի և արդեն փորձարկել է իր ռոբոտներին Ուկրաինայում:

Պատակը հույս ունի Foundation-ի զինված ռոբոտներին օժտել էլ ավելի մեծ ինքնավարությամբ՝ նվազեցնելով մարդու միջամտության մակարդակն այնպիսի իրավիճակներում, որտեղ խիստ կարևոր է արագությունը. օրինակ՝ երբ ռոբոտը մեկ րոպեից պակաս ժամանակ ունի որոշում ընդունելու համար, որը կարող է կյանքեր փրկել:

Ընդսմին, ոլորտի բազմաթիվ այլ մասնագետներ նախկինի պես խոստանում են ռոբոտներին չվերածել սպանության մեքենաների: 2009 թվականին հիմնադրելով Clearpath Robotics ընկերությունը՝ կանադացի ինժեներ Ռայան Գարիեպին կանխատեսում էր զինված ռոբոտների դարաշրջանի գալուստը: Հինգ տարի անց նա իր ընկերությունը դարձրեց առաջինը ոլորտում, որը միացավ ինքնավար զենքերի դեմ պայքարի միջազգային արշավին:

Որպեսզի օգնի մարդկանց գիտակցել կյանքի և մահվան մասին որոշումներ ընդունելը արհեստական բանականությանը վստահելու ռիսկերը, Գարիեպին տալիս է շատ ավելի պարզ հարց. պատրա՞ստ են նրանք արդյոք ռոբոտին վստահել իրենց ամբողջ գործնական և անձնական էլեկտրոնային նամակագրության վարումը:

«Այս տեխնոլոգիան դեռ պատրաստ չէ,- ասում է նա:- Համակարգերը խափանվում են այնտեղ, որտեղ դրանից ամենևին չես սպասում»: