Мазмұны
ӨҚТАҚЖ және оларды пайдалану мәселелері
Өлім қаупін туғызатын автономды қару жүйесі (бұдан әрі — ӨҚТАҚЖ) деп берілген кеңістік-уақыт шеңберлері негізінде адам тарапынан елеулі бақылаусыз мақсатты іздестіруді және зақымдауды жүзеге асыратын дербес әскери жүйе түрі түсініледі. Автономия әскери ұшақтардың ұшуын, қонуын және жанармай құюын, жер үсті кеңістігімен соқтығысуды болдырмау жүйесін, бомбаларды жою жүйесін, зымыранға қарсы қорғаныс жүйелерін және т.б. реттейтін көптеген әскери қосымшаларда бар.
ӨҚТАҚЖ қолдану тек сарапшылар мен үкіметтердің ғана емес, бүкіл халықаралық қоғамдастықтың алаңдаушылығын тудыратын құқықтық, этикалық және моральдық мәселелерді шешеді. Көптеген мемлекеттер халықаралық қауіпсіздікке қауіп төндіруге байланысты ӨҚТАҚЖ-ға тыйым салуды жақтайды, ал басқалары болашақта соғыс қалай жүргізілетіндігінің ықтимал пайдасын атап өтеді және құқықтық реттеудің кез-келген нұсқаларын ертерек болады деп санайды.
2017 жылы Женевада ӨҚТАҚЖ бойынша үкіметтік сарапшылар тобы (ҮСТ) қарапайым қарудың нақты түрлері туралы Конвенцияның (КҚК) қамқорлығымен кеңес өткізді, ол өз кезегінде 2014-2016 жылдар аралығында өткен сарапшылардың үш бейресми жиналысына негізделді. ҮСТ сөз сөйлеуі аясында ӨҚТАҚЖ соғыстың сипатын түбегейлі өзгерте алады деген қорқынышты ой жеткізілді. ӨҚТАҚЖ өзінің табиғатына байланысты этикалық емес болады, өйткені оларда жанашырлық жоқ. Олардың болуы құпия операциялар мен халықаралық гуманитарлық құқықты (ХГҚ) қасақана бұзу қаупін арттырады, бұл асимметриялық соғыс қимылдарының өршуіне және жауапкершілікті белгілеудің мүмкін еместігіне байланысты жазасыздыққа әкеледі. Сондай-ақ, ӨҚТАҚЖ қаруды таратудың жаңа тәуекелдерін тудырады және жаңа қару жарысына әсер етуі мүмкін деген алаңдаушылық айтылды.
Күш қолдануды адамның маңызды бақылауын сақтау этикалық императив, заңды қажеттілік және моральдық міндеттеме болып табылады. 2013 жылдан бастап Human Rights Watch құқық қорғау ұйымы және басқа да үкіметтік емес ұйымдар толығымен автономды қару-жарақ жүйелерін қолдану мәселесін көтеріп, өлтіруші-роботтарға тыйым салу науқанын бастады.
Кейбір мемлекеттер ӨҚТАҚЖ-ды халықаралық гуманитарлық құқықтың негізгі принциптеріне қайшы келеді деп санайды және оларды қолдануға тыйым салуды көздейтін заңды міндетті құжатты тез арада әзірлеуге шақырады. Мұндай тыйым ӨҚТАҚЖ-дың әзірлеуін, сатып алуын, сатуын және орналастыруын қамтиды. Алғашқы қадам ретінде үкіметтік сарапшылар тобы өзінің бірінші сессиясында ХГҚ-тың барлық қару-жарақтарға, соның ішінде дербес қару-жарақ жүйелерін ықтимал әзірлеуге және қолдануға қатысты екенін растады, оларды қолдану үшін жауапкершілік әлі де мемлекеттерге жүктелген болып келеді.
ӨҚТАҚЖ соғыс ережелерінің парадигмасының өзгеруіне әкелуі мүмкін. Бет-әлпетті тану және автономды навигация сияқты технологияның жетістіктерінің арқасында ӨҚТАҚЖ танктер мен кемелерден бастап кішігірім коммерциялық ұшқышсыз ұшақтарға дейін әртүрлі активтерде қолдануға болады. Олар сізге іске қосқаннан кейін басқаруға немесе кері қайтаруға болмайтын, майданда жоғары детальды жүйелерді орналастыруға мүмкіндік береді.Басқа қарулардан айырмашылығы, ӨҚТАҚЖ жас, жыныс, этникалық сияқты параметрлерге негізделген белгілі бір топқа бағытталуы мүмкін (егер мұндай ақпарат бағдарлама алгоритміне жүктелген болса).
ӨҚТАҚЖ қызметкерлердің құнын едәуір төмендететіндіктен және оны арзан бағамен оңай алуға болатындықтан (кішкентай ұшқышсыз ұшақтардағыдай), тіпті аз адамдар тобы да пропорционалды емес зиян келтіруі мүмкін, бұл ӨҚТАҚЖ-ды жаппай қырып-жоятын қарудың жаңа класына айналдырады. Өлімге әкелетін автономды қарудың мұндай класы оның таралу қаупі жоғары болғандықтан терең тұрақсыздандыруы мүмкін, өйткені бұл жүйелерді кез — келген мемлекеттік немесе мемлекеттік емес субъектілер-мысалы, террористік топтар құра алады.
ӨҚТАҚЖ-дың ең танымал түрлерінің бірі — ұшқышсыз ұшу аппараты (ҰҰА). ҰҰА деп ұшқыш ұшпайтын барлық ұшу аппараттарын, оның ішінде ұшуы жерде алдын ала бағдарламаланған және оны орындау процесінде оператор түзете алмайтын ұшу аппараттарын білдіреді. Қашықтан басқарылатын аппараттар борттық есептеуіштің жадына алдын ала енгізілген маршрутпен, оператордың түзетуші командалары бойынша да ұша алады.
Арнайы құралдардың, қару-жарақ пен әскери техниканың осы түрін қолданумен байланысты алаңдаушылықты Сириядағы әскери нысандарға белгісіз террористік топтардың ұшқышсыз ұшу аппараттарының жаппай шабуылының соңғы жағдайлары қолдайды. Тағы бір танымал жағдай — Таулы Қарабақта Түрік Bayraktar TB2 соққысын қолдануы. Baykar компаниясы жасаған дронды Түркия мен Сирияда 2020 жылдың ақпан айында «Көктемгі қалқан» операциясы кезінде қолданған. Ол Ливиядағы Хафтар армиясына қарсы да қолданылды. Ал 2021 жылы Украина Қарулы Күштері Донбаста Bayraktar TB2 алғашқы әскери әрекеті туралы хабарлады. Бұл типтегі дрон оператордың бақылауымен немесе өздігінен әрекет ете алады, оны барлау, бақылау немесе соққы беру үшін қолдануға болады. Соңғы жағдай бойынша ол Roketsan Roket Sanayii ve Ticaret A. S. шығарған MAM (Mini Akıllı Mühimmat — «Ақылды кішкентай-оқ-қарулар») лазерлік басқарылатын әуе бомбаларын алып жүреді.
Ка Мырза
Ұшқышсыз жүйелер саласындағы маман Денис Федутиновтың пікірінше, «Борттық оптикоэлектрониканың жеткіліксіз рұқсат ету қабілеті мақсаттарды дұрыс анықтауға мүмкіндік бермеуі мүмкін. Үлгіні тану алгоритмдері анықталған азаматтық нысандарды әскери деп қате жіктеуі мүмкін».
Осылайша, екі негізгі пікір пайда болды: кейбіреулер автономды қару-жарақ жауынгерлерге шабуылда дәлірек болуы арқылы соғысты ізгілендіру және бейбіт тұрғындардың шығынын азайту мүмкіндігіне ие деп санайды; басқалары бұл қарулардың лаңкестердің қолына түсу қаупіне алаңдайды.
Қауіпсіз болашақты қалыптастырудағы маңызды міндет неғұрлым қуатты жасанды интеллекттің қауіпсіз болуын және адам құқықтары мен адамгершілікті сақтау қағидаттарына сәйкес келуін қамтамасыз ету болып табылады.
Өлтіруші-роботтар адамдар мен технологиялар арасындағы қарым-қатынасты өзгертеді, өмірді сақтау немесе алып тастау туралы шешім қабылдауды машиналарға береді. Олар күш қолдану арқылы адамның бақылауына қарсы. Дегенмен, технологияны адамдар өздері жасайды.
Үкіметтер мен компаниялар жаңа технологиялар мен жасанды интеллектті қолдана отырып, дербес қару-жарақ жүйелерін тез дамытуда. «Өлтіруші-роботтарды» қақтығыс аймақтарында, полиция мен шекараны бақылауда қолдануға болады. Бірақ машинаға адамның өмірі немесе өлімі туралы шешім қабылдауға рұқсат етілмеуі керек. БҰҰ сарапшылары Қауіпсіздік Кеңесіне Ливиядағы қақтығыста «өлімге әкелетін автономды қаруды» жақында қолдану туралы баяндады. Бұл оқ-дәрілердің қалай жұмыс істейтініне немесе қолданылуына ешқандай шектеусіз қолдану, жаңа халықаралық келісімнің қажеттілігі қазіргі заманғы сынақтарға жауап беру үшін шұғыл шара екенін көрсетеді.
Халықаралық стандарттар
Автономды қару жүйелеріне қатысты арнайы ереже жоқ. Дегенмен, заңда мемлекеттер кейбір немесе барлық жағдайларда олар әзірлеген немесе алған кез келген жаңа қару түрін немесе соғыс құралын сонымен қатар әдісін қолдануға халықаралық құқықпен тыйым салынбағанын анықтауы керек делінген. Бұл талап 1977 жылғы Женева конвенцияларына қосымша I хаттамада қамтылған. 36-бапта заңдарға алдын ала тыйым салуды жүзеге асыруға болатын механизм бар. Осы баптың мазмұны қарудың, құралдардың немесе соғыс әдістерінің жаңа түрлерін зерттеу, әзірлеу, сатып алу немесе қабылдау кезінде Жоғары Уағдаласушы Тарап оларды пайдалану кейбір немесе барлық жағдайларда осы Заңда қамтылған тыйымдарға, осы хаттамада немесе жоғары уағдаласушы тарапқа қолданылатын халықаралық құқықтың кез келген басқа нормаларына сәйкес келетінін анықтауға міндетті екенін анықтайды.
Халықаралық гуманитарлық құқыққа сәйкес жоғарыда сипатталған материалдық-құқықтық нормалар процедуралық нормамен толықтырылады. Кез келген басқа қарулар, соғыс жүргізу құралдары немесе әдістері сияқты мемлекеттер де кез келген дербес қару-жарақ жүйесін зерделеу, әзірлеу, сатып алу немесе қабылдау кезінде оларды қолдану қазіргі халықаралық құқыққа қайшы келетін-келмейтіндігін айқындауға оң міндеттеме алады. Осыған байланысты, Женева конвенцияларына қосымша хаттаманың 36-бабында көрсетілгендей, заңды шолулар жүргізу міндеті жоғарыда аталған міндеттемелерге сәйкес келмейтін жаңа қару түрлерін әзірлеу мен қолдануды болдырмауда немесе шектеуде маңызды элемент болып табылады. Бұдан басқа, барабар сынақтар мен техникалық шолулар мемлекеттердің жауапкершілік деңгейін, оның ішінде бекітілген Дербес қару-жарақ жүйелерінің ақаулығы айқындау үшін де маңызды болуы мүмкін.
100-ге жуық мемлекет адамның күш қолдануды бақылауының маңыздылығын мойындады. Жүздеген технологиялық компаниялар ешқашан дербес қару-жарақ жүйелерін әзірлеуге, өндіруге немесе пайдалануға қатыспауға немесе қолдау көрсетпеуге уәде берді. Жасанды интеллект және робототехника бойынша мыңдаған сарапшылар ӨҚТАҚЖ-қа қарсы ескерту жасап, Біріккен Ұлттар Ұйымын шара қолдануға шақырды. БҰҰ Бас хатшысы Антониу Гутерриш автономды қару-жарақ жүйелерінің қауіптілігін атап өтті:
Мақсатты өз бетінше таңдай алатын және оны таңдандыратын машиналардың болуы мен қолданылуы саяси тұрғыдан қолайсыз және моральдық тұрғыдан жиіркенішті. Оларға Халықаралық құқық тыйым салуы керек.
Халықаралық Қызыл крест Комитеті автономды қару-жарақ жүйелерінің мәселесін шешу үшін жаңа заң қажет екенін айтты және тыйымдар мен ережелерді біріктіретін бірыңғай құжат құруға шақырды.
Егер әлемдік қоғамдастық адамдарды адам өмірінен айыру туралы шешім қабылдаудан шеттету және қаруды басқаруды автономды алгоритмдерге беру туралы шешім қабылданатын норманы белгілесе, адамның осындай алгоритмдерді жасау үшін жауапкершілігіне байланысты мәселелердің қаншалықты өткір болатынын елестету қиын емес. Қазірдің өзінде сот немесе медицина саласындағы рәсімдерді жеңілдету үшін ЖИ-ді пайдалануға көбірек өкілеттіктер берілуде.
Сонымен қатар, ӨҚТАҚЖ-мен байланысты маңызды әлеуметтік, техникалық және этикалық қауіптер бар, олар өлімге әкелетін алгоритм енгізу туралы шешімді адамның бақылауынан тыс қалдырады. Мұндай қару-жарақ жүйелері сенімсіз болуы мүмкін, өйткені соғыстың динамикалық және болжанбайтын жағдайларына аздап бейімделе алатын кез-келген оқу кешенін елестету қиын.
Болашақта «сенімділік» мәселесі күшейе түседі, онда соғысушы тараптардың өлімге әкелетін автономды қару-жарақ жүйелері бір-бірімен өзара әрекеттеседі. Жүйелер қарсыластың қарсы шараларына жауап беру үшін алдын-ала болжанбайтын етіп жасалады.
Колорадо университетінің компьютерлік технологиялар саласындағы маманы Кристофер Хекманның айтуынша, оның қызметін DARPA (АҚШ Қорғаныс Министрлігі жанындағы перспективалық қару — жарақты дамыту агенттігі) қаржыландырады, іске асырылатын жалғыз нұсқа-осы саладағы барлық зерттеулерді бағалайтын ұлттық деңгейдегі өзін-өзі реттейтін қадағалау ұйымдары. Бұл жағдайда сарапшы өлтіруші-роботтарды дамытуға категориялық және жалпы тыйым салуды жақтамайды-оның көзқарасы білікті бақылауды қамтамасыз етуге дейін азаяды.
Автономды роботтардың жаңа буыны бейбіт тұрғындардың жаппай жойылуына әкелуі мүмкін, деп ескертеді бұрынғы Google инженері Лора Нолан. Әскери келісімшарттарға наразылық білдіріп, олардың мазмұнымен жеке танысып, ол компаниядан кеткен болатын. Google Лораға 2017-де АҚШ армиясына арналған жасанды интеллект басқаратын Әскери дрон технологиясы Maven жобасында жұмыс істеуді ұсынды. Осы уақытқа дейін ол компанияда төрт жыл жұмыс істеді және Ирландиядағы Google-дің жетекші бағдарламалық инженерлерінің бірі болды. Алайда, Нолан АҚШ Қорғаныс министрлігі жобаның этикасына қатты күмәнданып, оның міндеті дрондарға арналған суретті тануды тездету болды.
Георгий Голованов
Компания 3000 қызметкер Google-дің осындай әзірлемелерге қатысуына қарсы петицияға қол қойғаннан кейін Maven жобасын жабуға мәжбүр болды. Кейіннен Лаура Нолан өлтіруші роботтарға тыйым салу науқанына қосылып, БҰҰ-ның Нью-Йорк пен Женевадағы дипломаттарына автономды қару-жарақтың қауіптілігі туралы хабарлады.
БҰҰ Бас хатшысының 2020 жылғы қарулы қақтығыстар кезінде азаматтық тұлғаларды қорғау тақырыбына арналған баяндамасына сәйкес, аса маңызды объектілер мен инфрақұрылымға бағытталған кибершабуылдарды қоса алғанда, цифрлық технологияларды зиянды пайдаланудың ықтимал нысандары белгіленді. Атап айтқанда, Денсаулық сақтау және энергетика сияқты секторларда цифрлық технологияларды белсенді пайдалану оларды мақсатты кибершабуылдарға ерекше осал етеді. Сонымен, COVID-19 пандемиясы кезінде бірқатар елдердегі көптеген медициналық мекемелер ауыр кибершабуылдарға ұшырады. ДДҰ сонымен қатар кибершабуылдар тобының қатысуымен көптеген кибершабуылдар мен оқиғаларға тап болды. Сол сияқты, қарулы қақтығыс жағдайында электр энергетикасы мен сумен жабдықтау инфрақұрылымының жұмысына әсер ететін кибершабуылдар азаматтық тұрғындарға айтарлықтай зиян келтіруі мүмкін.
Жаһандық өзара байланыстың өсуі мұндай шабуылдардың жиілігі мен олардың салдарларының ауқымы бір уақытта көптеген жүйелерге немесе желілерге әсер етуі мүмкін дегенді білдіреді. Осы шабуылдарға жауап ретінде қабылданған шаралар бейбіт тұрғындар үшін қазіргі қауіптің артуына әкелуі мүмкін. Кибершабуылдардың артында кім тұрғанын және осы адамдардың ниеттері қандай екенін анықтауға байланысты проблемалар киберкеңістіктегі мемлекеттік және мемлекеттік емес субъектілерді нақты ажыратуға байланысты қиындықтармен күрделене түседі. Көптеген мемлекеттер халықаралық гуманитарлық құқық нормалары қарулы қақтығыстар кезінде киберкеңістіктегі операцияларға қолданылатынын мойындайды. Осыған қарамастан, мұндай операциялар нәтижесінде адамның ықтимал шығындарын азайту жолдарын анықтау және халықаралық гуманитарлық құқық нормаларын түсіндіруге қатысты консенсус жасау үшін осы мәселені қарастыруды жалғастыру қажет.
Қазақстандағы бүгінгі жағдай
Қазақстан жаһандық қарусыздану үдерісінің жауапты және белсенді жақтаушысы болып табылады. ӨҚТАҚЖ-ның алдын ала тыйым салуы Қазақстан Республикасы Қауіпсіздік Кеңесінің бұрынғы төрағасы Нұрсұлтан Назарбаев ұсынған таратпау режимін және халықаралық қауіпсіздікті нығайту үшін шаралардың 6-тармағына толық көлемде сәйкес келеді. Президент Қасым-Жомарт Тоқаев 2019 жылғы 24 қыркүйекте БҰҰ Бас Ассамблеясының 74-ші сессиясының жалпы пікірталастарында сөйлеген сөзінде шешілмеген қақтығыстар мен шиеленістердің күшеюі цифрлық технологиялар мен жасанды интеллект саласындағы қарқынды бәсекелестікке байланысты екенін атап өтті.
Сондай-ақ Қазақстан Республикасының 2020-2030 жылдарға арналған сыртқы саясат тұжырымдамасында «[Қазақстанның] кәдімгі және жаңа қару түрлерінің жарысын болдырмау жөніндегі халықаралық күш-жігерге қатысуы, әдеттегі және жаңа қару түрлерін бақылаудың халықаралық режимдерін сақтау және ілгерілету жөніндегі шараларды қолдау» айтылады. Қазақстан Республикасының әуе кеңістігінде ұшқышсыз ұшу аппараттарын пайдалану қағидаларына сәйкес ҰҰА — бұл бортында ұшқышсыз (экипажсыз) ұшуды орындайтын және ұшуда оператор басқару пунктінен автоматты түрде немесе көрсетілген тәсілдерді үйлестіре отырып басқаратын әуе кемесі. Қазақстан Алжир, Аргентина, Австрия, Боливия, Бразилия, Чили, Қытай (тек қана пайдалану), Колумбия, Коста-Рика, Куба, Джибути, Эквадор, Сальвадор, Египет, Гана, Гватемала, Ватикан, Ирак, Иордания, Мексика, Марокко, Намибия, Никарагуа, Пәкістан, Панама, Перу, Палестина Мемлекеті, Уганда, Венесуэла, Зимбабве автономды қару-жарақ жүйелеріне тыйым салуды қолдайды.
Егер сіз ішкі НҚА-ны таңдауына назар аударатын болсаңыз, онда олар арнайы құралдар, қару-жарақ және әскери техника туралы көбірек айтады. «Қазақстан Республикасының Ұлттық қауіпсіздік органдары туралы»заңда Ұлттық қауіпсіздік органдарының қызметкерлері мен әскери қызметшілерінің дене күшін, арнайы құралдарды, қару мен әскери техниканы қолдануы туралы тарауда Ұлттық қауіпсіздік органдары объектілерінің үстінен ұшқышсыз ұшу аппараттарының әуе кеңістігін бұзуына жол бермеу үшін дене күшін, арнайы құралдарды, қару мен әскери техниканы қолдану шарттары мен шектері туралы ереже көзделген. Қазақстан Республикасының бұл түзетуі 2020 жылғы 25 маусымдағы «Цифрлық технологияларды реттеу мәселелері жөніндегі» заңмен енгізілді, ол жасанды интеллектті пайдалану нормаларына маңызды өзгерістер енгізді. Сондай-ақ, Қазақстан Республикасы Индустрия және инфрақұрылымдық даму министрінің міндетін атқарушының 2020 жылғы 31 желтоқсандағы № 706 бұйрығымен Қазақстан Республикасының әуе кеңістігінде ұшкышсыз ұшу аппараттарын пайдалану қағидалары бекітілді. Осы бұйрықпен заңнамаға енгізілген өзгерістер ұшқышсыз ұшу аппараттарын пайдалану процесін реттеу, атап айтқанда сертификаттау рәсімдерін енгізу, қашықтықтан сәйкестендіруге қойылатын талаптарды белгілеу және оларды пайдалану аймақтарын анықтау нормаларын анықтады. Сондай-ақ, ұшқышсыз ұшу режимін шектейтін ережелер жасалды:
1) ұшып көтерілу және қону кезінде — кез келген адамнан (ҰҰА-ны басқаратын адамды қоспағанда), басқа көлік құралынан, ғимараттан немесе құрылыстан көлденеңінен 50 метр қашықтықта жақын жерде болуы;
2) ұшу кезінде — кез келген адамнан (ҰҰА-ны басқаратын адамды қоспағанда), басқа көлік құралынан, ғимараттан немесе құрылыстан көлденеңінен 100 метр қашықтықта жақын жерде болуы;
3) барлық жағдайларда адамдар көп жиналатын жерден және (немесе) көлік құралдарынан көлденеңінен 150 метр жақын болуы тиіс;
4) ұшуға тыйым салынған және қауіпті аймақтарда, ұшуға шектеу қойылған аймақтарда (осындай аймақтарды белгілейтін тұлғалардың мүддесіндегі ұшуларды қоспағанда) жүзеге асырылады.
Бұдан басқа, ұшқышсыз ұшу аппаратын есепке алу тізілімі (есепке алу күніне ұшқышсыз ұшу аппараты туралы ақпарат) бекітілді.
Қорытындылар
Өлімге әкелетін автономды қару жүйелеріне профилактикалық тыйым салу үшін құқықтық міндетті халықаралық құжатты әзірлеу және қабылдау қажет. Мәселе көптеген даулы мәселелерді қамтиды. Нәтижелерге қол жеткізу қиын болады, өйткені барлық мемлекеттердің консенсусы мен әмбебап көзқарасы қажет. 2014 жылдан бері осы мәселені талқылап келе жатқан Кәдімгі қарулар туралы конвенцияға (КҚК) жаңа хаттама түрінде әмбебап заңды міндеттеуші құрал әзірленуі мүмкін немесе 1997 жылы жаяу әскерге қарсы миналар және 2008 жылы кассеталық бомбалар сәтті тыйым салынған бастамалардың бөлігі ретінде келіссөздер жүргізілген шартпен тыйым салынуы мүмкін.
Адамның бақылауының жоқтығы қару қолданушылардың өз әрекеттерінің салдарына толық қатысы жоқтығын білдіреді. Майдан даласында болсын, наразылық шеруінде болсын, машиналар қатал этикалық таңдау жасай алмайды, адам өмірінің құндылығын түсіне алмайды. Осылайша, автономды жүйе контекстті және/немесе салдарды дұрыс түсінбеу салдарынан айырмашылық принципін бұзуы мүмкін деген қорытынды жасауға болады. Түсіну — адамның қабілеті, бұл түсініксіз моральдық жауапкершіліктің мәні жойылып, қолданыстағы құқықтық нормаларға нұқсан келеді.
Тіпті қарапайым автономды жүйелер де проблема тудырады. Женева конвенцияларына сәйкес, әскери қолбасшылар шабуылдың қажеттілігі мен пропорционалдылығын бағалап, бейбіт тұрғындар мен заңды әскери нысандарды ажырата білуі керек. Бұл қару жүйесін түсініп қана қоймай, оны қолдануға болатын мазмұнды түсінуді білдіреді. Кеңірек аумақта немесе ұзақ уақыт бойы «мазмұны» барған сайын күрделене түседі — жағдай барған сайын болжау мүмкін емес. Бұл болжаусыздықты шектейтін және маңызды адамдық бақылауды қамтамасыз ететін жаңа құқықтық реттеулер қажет.
Әскери жасанды интеллект технологияларының өте қарқынды дамуымен құқықтық реттеудегі олқылықтар халықаралық бейбітшілік пен қауіпсіздікті қамтамасыз ету мүмкіндігіне қауіп төндіреді, сондай-ақ күш қолдануды адам бақылауының жоғалуына әкелуі мүмкін. Мұндай технологияларды қолданудың қарапайымдылығы мүдделі тараптарға белгілі бір аумақтарда соғыс жағдайын сақтауға мүмкіндік беретін факторлардың бірі болуы мүмкін. Бұл жағдайлар осы қару-жарақ жүйелерін нақты халықаралық-құқықтық реттеу сұранысын растайды.
Ұсынымдар
- КҚК шеңберінде қару-жарақтың кез келген жаңа жүйесін әзірлеу, өрістету және пайдалану үшін жауапкершілік қолданылатын халықаралық құқыққа сәйкес, оның ішінде адам тарапынан басқару мен бақылаудың жауапты тізбегі шеңберінде осындай жүйелердің жұмыс істеуі арқылы қамтамасыз етілуге тиіс.
- Қазақстан Республикасының халықаралық қауіпсіздікті нығайту салаларындағы стратегиялық бастамаларын одан әрі ілгерілетуді, атап айтқанда, қарудың жаңа түрлерін жасау мен таратуға бақылауды күшейтуді күшейту керек.
- Өлімге әкелетін қарудың автономды жүйелерін құруға, сынауға және дамытуға тыйым салатын халықаралық құқықтық құралды құру да өзекті.
- Тәуекелдерді бағалау және зардаптарды жұмсарту шаралары кез келген қару-жарақ жүйелерінде жаңа технологияларды жобалаудың, әзірлеудің, тестілеудің және өрістетудің ажырамас бөлігі болуға тиіс.
- Шешім қабылдау кезінде мынадай компоненттер ескерілуі тиіс: адам-оператор жүйенің қалай жұмыс істейтіні; операциялық ортаны түсіну; және талқылау үшін қанша уақыт жеткіліктігі туралы түсінікке ие болуы тиіс.
- Мемлекеттер жоғарыда егжей-тегжейлі сипатталған шеңберлер негізінде заңды міндетті құжат бойынша жедел келіссөздер жүргізуге мандат қабылдауы керек. Мемлекеттер КҚК автономды қару-жарақ жүйелерін реттеуге қол жеткізу үшін тиісті құжат болып қала беретінін көрсетуі қажет.
Photo from Getty Images
