Mashinani qotilning sharpasi davom etmoqda. Prezident Putin nimaga ishonadi?

Harbiy robotlar tarafdorlari (1) avtomatlashtirilgan qurollar inson hayotini himoya qilish uchun ko'proq imkoniyatlarni taqdim etishini ta'kidlaydilar. Mashinalar askarlarga qaraganda dushmanga yaqinlasha oladi va tahdidni to'g'ri baholaydi. Va his-tuyg'ular ba'zan to'g'ri qaror qabul qilish qobiliyatini falaj qiladi.

Qotil robotlarning ko'p tarafdorlari urushlarni kamroq qonli qilishiga aminlar, chunki kamroq askarlar halok bo'ladi. Ularning qayd etishicha, robotlar rahm-shafqat his qilmasalar ham, vahima, g‘azab va qasos kabi salbiy insoniy his-tuyg‘ularga qarshi immunitetga ega, bu esa ko‘pincha urush jinoyatlariga olib keladi.

Huquq himoyachilari, shuningdek, so‘nggi yarim asrda harbiylar tinch aholi qurbonlari sonining sezilarli darajada kamayishiga olib keldi, armiyani robotlashtirish esa urush qonunlarini yanada qattiqroq qo‘llash mexanizmini yaratish imkonini beradi, degan argumentdan ham foydalanadi. Ularning ta'kidlashicha, mashinalar ularni urush qonunlariga bo'ysunishga majbur qiladigan dasturiy ta'minot bilan jihozlanganida axloqiy bo'ladi.

Albatta, ko'p odamlar, shu jumladan juda mashhurlar, yillar davomida bu fikrga qo'shilmaydi. 2013 yil aprel oyida (2) shiori ostida xalqaro kampaniya boshlandi. Uning doirasida nodavlat tashkilotlar avtonom qurollardan foydalanishni butunlay taqiqlashni talab qilmoqda. 2014-yil may oyida Jenevada boʻlib oʻtgan BMTning qurolsizlanish boʻyicha konferensiyasida koʻplab mamlakatlar ekspertlari ushbu mavzuni muhokama qilish uchun birinchi boʻlib oʻtirishdi. Bir necha oy o'tgach, Human Rights Watch va Garvard universiteti olimlari tomonidan e'lon qilingan hisobotda aytilishicha, avtonomlar juda xavfli bo'ladi - ular o'z nishonlarini tanlab, odamlarni o'ldirishgan. Shu bilan birga, kim javobgarlikka tortilishi kerakligi juda aniq emas.

2. “Qotil robotlarni to‘xtating” aksiyasi doirasida namoyish

Kichik dronlar to'dasi nima qila oladi

Qotil robotlar (ROU) atrofidagi bahslar yillar davomida davom etib kelmoqda va yo'qolmaydi. So'nggi oylar harbiy robotlarni to'xtatish bo'yicha yangi urinishlar va ushbu turdagi yangi loyihalar haqida xabarlar to'lqinini keltirdi, ularning ba'zilari hatto haqiqiy jangovar sharoitlarda sinovdan o'tkazilmoqda.

2017 yil noyabr oyida video namoyish etildi mini-dronlarning halokatli to'dalari ., dahshatli harakatda. Tomoshabinlar bizga endi ommaviy va pulemyotlar bilan o'ldirish uchun yirtqichlar tomonidan tashlangan og'ir jangovar mashinalar, tanklar yoki raketalar kerak emasligini ko'rdi. Bosh direktor, Berklidagi sun'iy intellekt professori Styuart Rassell shunday deydi:

-

O'tgan bahor ellik nafar professor Dunyoning yetakchi universitetlari Koreya ilg‘or fan va texnologiyalar instituti (KAIST) va uning hamkori Hanwha Systems kompaniyasiga murojaatni imzoladi. ular universitet bilan hamkorlik qilmasliklarini va KAIST mehmonlarini qabul qilishlarini e'lon qilishdi. Sababi ikkala muassasa tomonidan amalga oshirilgan "avtonom qurollar" qurilishi edi. KAIST OAV xabarlarini rad etdi.

Ko'p o'tmay, AQShda 3 dan ortiq Google xodimlari kompaniyaning harbiylar uchun qilgan ishiga norozilik bildirdi. Ular Google Maven kod nomidagi hukumat loyihasi bilan hamkorlik qilayotganidan xavotirda edilar, u harbiy dron videolarida ob'ektlar va yuzlarni tanib olish uchun sun'iy intellektdan foydalanishga qaratilgan. Kompaniya rahbariyati Mavenning maqsadi hayotni saqlab qolish va odamlarni tajovuzkorlikdan emas, zerikarli ishlardan qutqarish ekanini ta'kidlamoqda. Namoyishchilar bunga ishonmadilar.

Jangning keyingi qismi deklaratsiya edi sun'iy intellekt bo'yicha mutaxassislar, shu jumladan Google loyihasi ustida ishlash va Ilon Mask. Ular robotlarni ishlab chiqmaslikka va'da berishadi. Shuningdek, ular hukumatlarni ushbu qurollarni tartibga solish va cheklash bo'yicha sa'y-harakatlarni kuchaytirishga chaqirmoqda.

Bayonotda, qisman aytilishicha, "inson hayotiga qasd qilish qarori hech qachon mashina tomonidan qabul qilinmasligi kerak". Garchi dunyo armiyalari ko'plab avtomatik qurilmalar bilan jihozlangan bo'lsa-da, ba'zan yuqori darajadagi avtonomiyaga ega bo'lsa-da, ko'plab mutaxassislar kelajakda bu texnologiya to'liq avtonom bo'lib, odamni operator va qo'mondon ishtirokisiz o'ldirishga imkon berishidan qo'rqishadi.

Mutaxassislarning ogohlantirishicha, avtonom o‘ldirish mashinalari “yadroviy, kimyoviy va biologik qurollardan” ham xavfliroq bo‘lishi mumkin, chunki ular osongina nazoratdan chiqib ketishi mumkin. Umuman olganda, o'tgan yilning iyul oyida Future of Life Institute (FGI) homiyligidagi xat 170 tashkilot va 2464 shaxs tomonidan imzolangan. 2019 yilning dastlabki oylarida FLIga aloqador bir guruh tibbiyot olimlari yana sun'iy intellekt (AI) tomonidan boshqariladigan qurollarni ishlab chiqishni taqiqlash uchun yangi xat yozishni talab qilishdi.

Harbiy "qotil robotlar" ning mumkin bo'lgan huquqiy tartibga solinishi bo'yicha o'tgan yilgi BMTning Gnevodagi avgust yig'ilishi muvaffaqiyat bilan yakunlandi ... mashinalar. Bir guruh davlatlar, shu jumladan AQSh, Rossiya va Isroil ushbu qurollarga xalqaro taqiqni joriy etish bo'yicha keyingi ishlarga to'sqinlik qildilar (ayrim oddiy qurollardan foydalanishni taqiqlash yoki cheklash to'g'risidagi konventsiya loyihasi, CCW). Bu mamlakatlar avtonom va robotli qurollarning ilg‘or tizimlari ustida ish olib borishi bilan tanilgani bejiz emas.

Rossiya jangovar robotlarga e'tibor qaratmoqda

Prezident Vladimir Putin harbiy AI tizimlari va jangovar robotlar haqida tez-tez iqtibos keltiradi:

-.

avtonom qurollarni ishlab chiqish haqida ochiq gapiradi. Qurolli kuchlar Bosh shtabi boshlig'i general Valeriy Gerasimov yaqinda Interfaks-AVN harbiy axborot agentligiga robotlardan foydalanish kelajakdagi urushlarning asosiy xususiyatlaridan biri bo'lishini aytdi. Uning qo‘shimcha qilishicha, Rossiya harakat qilmoqda jang maydonini to'liq avtomatlashtirish. Xuddi shunday izohlarni bosh vazir o‘rinbosari Dmitriy Rogozin va mudofaa vaziri Sergey Shoygu ham bildirgan. Federatsiya Kengashining Mudofaa va xavfsizlik bo'yicha qo'mitasi raisi Viktor Bondarev Rossiya rivojlanishga intilayotganini aytdi. Roju texnologiyalaribu dron tarmoqlarining yagona ob'ekt sifatida ishlashiga imkon beradi.

Birinchi teletanklar Sovet Ittifoqida 30-yillarda ishlab chiqilganligini eslasak, bu ajablanarli emas. Ular Ikkinchi Jahon urushi boshida ishlatilgan. Bugun Rossiya ham yaratmoqda tank robotlari tobora avtonom bo'lib qoladi.

Putin davlati yaqinda Suriyaga o'zinikini yubordi Uran-9 uchuvchisiz jangovar transport vositasi (3). qurilma yerdagi boshqaruv punktlari bilan aloqani yo‘qotdi, osma tizimida muammolarga duch keldi va uning qurollari mukammal ishlamadi va harakatlanuvchi nishonlarga tegmadi. Bu unchalik jiddiy eshitilmaydi, lekin ko'pchilik Suriya ro'molini ruslarga mashinani yaxshilash imkonini beradigan yaxshi jangovar sinov deb hisoblaydi.

Roskosmos joriy yilning avgustigacha Xalqaro kosmik stansiyaga ikkita robot jo‘natish bo‘yicha dastlabki rejani tasdiqladi. Fedor (4) uchuvchisiz ittifoqda. Yuk kabi emas, lekin. RoboCop filmida bo'lgani kabi, Fedor qurolni qo'llaydi va otish mashqlari paytida halokatli otishmani namoyish etadi.

Savol shundaki, kosmosdagi robot nima uchun qurollangan bo'ladi? Gap faqat yerga tegishli ilovalarda emas, degan shubhalar bor. Ayni paytda er yuzida rus qurol ishlab chiqaruvchisi Kalashnikov vizualizatsiyani namoyish etdi qul IgorekBu ko'p kulgiga sabab bo'lsa-da, kompaniya avtonom jangovar mashinalar ustida jiddiy ishlayotganidan dalolat beradi. 2018-yil iyul oyida Kalashnikov “otish yoki otmaslik” qarorlarini qabul qilish uchun qurol yaratayotganini e’lon qildi.

Ushbu ma'lumotlarga rossiyalik qurol ustasi Digtyarev kichik qurol ishlab chiqqanligi haqidagi xabarlarni qo'shish kerak avtonom tank Nerext o'z-o'zidan nishonga qarab jimgina harakatlana oladigan va keyin boshqa yoki butun binolarni yo'q qilish uchun kuchli kuch bilan portlashi mumkin. Shuningdek Tank T14 Armata , Rossiya qurolli kuchlarining faxri, mumkin bo'lgan masofadan boshqarish va uchuvchisiz haydash uchun mo'ljallangan. Sputnikning taʼkidlashicha, rossiyalik harbiy muhandislar T-14ni toʻliq avtonom zirhli mashinaga aylantirish ustida ishlamoqda.

E'tiroz bildirish direktivasi

AQSh armiyasining o'zi qurollarining avtonomligi darajasiga aniq chegara qo'ygan. 2012-yilda AQSh Mudofaa vazirligi 3000.09-sonli Direktivni chiqardi, unda odamlar qurolli robotlarning harakatlariga e'tiroz bildirish huquqiga ega bo'lishi kerakligi ta'kidlangan. (ba'zi istisnolar bo'lishi mumkin). Ushbu ko'rsatma o'z kuchini saqlab qoladi. Pentagonning hozirgi siyosati shundan iboratki, quroldan foydalanishda hal qiluvchi omil har doim shaxs bo'lishi kerak va bunday hukm bo'lishi kerak. urush qonunlariga mos keladi.

Garchi amerikaliklar uchuvchi, Predator, Reaper va boshqa ko'plab supermashinalardan o'nlab yillar davomida foydalanishgan bo'lsa-da, ular avtonom modellar bo'lmagan va emas. Ular operatorlar tomonidan masofadan turib, ba'zan bir necha ming kilometr masofadan boshqariladi. Ushbu turdagi mashinalarning avtonomligi haqidagi qizg'in munozara prototipning premerasi bilan boshlandi. X-47B dron (5), u nafaqat mustaqil ravishda uchib, balki samolyot tashuvchisidan uchib, unga qo'nishi va havoda yoqilg'i quyishi mumkin edi. Ma'nosi ham inson aralashuvisiz otish yoki bomba tashlashdir. Biroq, loyiha hali ham sinov va ko'rib chiqish bosqichida.

5. Amerika samolyot tashuvchisida uchuvchisiz X-47B sinovlari

2003 yilda Mudofaa vazirligi tankga o'xshash kichik robot bilan tajriba o'tkaza boshladi. SPOLAR pulemyot bilan jihozlangan. 2007 yilda Iroqqa jo'natildi. biroq, robot o‘zini tartibsiz tuta boshlagan, miltig‘ini tartibsiz harakatlantirgandan so‘ng dastur tugadi. Natijada, AQSh armiyasi uzoq yillar davomida qurolli yerdagi robotlar bo'yicha tadqiqotlardan voz kechdi.

Shu bilan birga, AQSh armiyasi 20-yildagi 2014 million dollardan 156-yilda 2018 million dollargacha operatsiyalarga sarflagan xarajatlarini oshirdi. 2019 yilda bu byudjet allaqachon 327 million dollarga oshgan. Bu bir necha yil ichida jami 1823% ga oshgan. Mutaxassislarning fikricha, 2025-yildayoq AQSh armiyasi jang maydoniga ega bo‘lishi mumkin robot askarlar odamlardan ko'ra ko'proq.

So'nggi paytlarda AQSh armiyasi tomonidan juda ko'p bahs-munozaralar yuzaga keldi va e'lon qilindi ATLAS loyihasi () - avtomatik. Ommaviy axborot vositalarida bu yuqorida qayd etilgan 3000.09. direktivaning buzilishi sifatida baholandi. Biroq, AQSh harbiylari qaror qabul qilish siklidan shaxsni chetlashtirish haqida gap bo'lishi mumkin emasligini inkor etadi va ishontiradi.

AI akulalar va tinch aholini taniydi

Biroq, avtonom qurollar himoyachilari yangi dalillarga ega. prof. Jorjiya texnologiya instituti robototexnikasi Ronald Arkin o'z nashrlarida shunday deydi Zamonaviy urushda aqlli qurollar fuqarolarning qurbon bo'lishiga yo'l qo'ymaslik uchun zarurdir, chunki mashinani o'rganish usullari jangchilar va tinch aholini, muhim va ahamiyatsiz nishonlarni samarali ajratishga yordam beradi.

Bunday AI ko'nikmalariga misol Avstraliya plyajlarida patrullik qilishdir. dronlar Little RipperSidney Texnologiya Universiteti tomonidan ishlab chiqilgan SharkSpotter tizimi bilan jihozlangan. Ushbu tizim avtomatik ravishda suvda akulalar bor-yo‘qligini tekshiradi va xavfli biror narsani ko‘rganda operatorni ogohlantiradi. (6) U odamlarni, delfinlarni, qayiqlarni, sörf taxtalarini va suvdagi narsalarni akulalardan farqlash uchun aniqlay oladi. U o‘n oltiga yaqin turni yuqori aniqlik bilan aniqlashi va aniqlashi mumkin.

6. SharkSpotter tizimida tanilgan akulalar

Mashinani o'rganishning ushbu ilg'or usullari havo razvedkasining aniqligini 90% dan ortiq oshiradi. Taqqoslash uchun, xuddi shunday vaziyatda bo'lgan inson operatori aerofotosuratlardagi ob'ektlarning 20-30 foizini aniq taniydi. Bundan tashqari, identifikatsiya hali ham signaldan oldin odam tomonidan tekshiriladi.

Jang maydonida operator ekrandagi tasvirni ko'rib, erdagi odamlar qo'llarida AK-47 rusumli jangchilarmi yoki, masalan, pikeli fermerlarmi, aniqlay olmaydi. Arkinning ta'kidlashicha, odamlar, ayniqsa, stressli vaziyatlarda "ko'rishni xohlagan narsani ko'rishga" moyil. Bu ta'sir 1987 yilda USS Vincennes tomonidan Eron samolyotining tasodifiy urib tushirilishiga yordam berdi. Albatta, uning fikriga ko'ra, sun'iy intellekt tomonidan boshqariladigan qurollar aslida sezgir bo'lmagan hozirgi "aqlli bombalar" dan yaxshiroq bo'lar edi. O‘tgan yilning avgust oyida Saudiya Arabistonining lazer yordamida boshqariladigan raketasi Yamanda maktab o‘quvchilari bilan to‘la avtobusni urib, qirq bola halok bo‘lgan edi.

"Agar maktab avtobusi to'g'ri yorliqlangan bo'lsa, uni avtonom tizimda aniqlash nisbatan oson bo'lishi mumkin", deydi Arkin "Ommaviy mexanikada".

Biroq, bu dalillar kampaniyachilarni avtomatik qotillarga qarshi ishontirmaydi. Qotil robotlar tahdididan tashqari, yana bir muhim holatni hisobga olish kerak. Hatto "yaxshi" va "diqqatli" tizim ham juda yomon odamlar tomonidan buzilgan va egallab olinishi mumkin. Keyin harbiy texnikani himoya qilish bo'yicha barcha dalillar o'z kuchini yo'qotadi.