Dahshatlar kabineti
texnologiya

Dahshatlar kabineti

Mashinalarning ko'tarilishi va sun'iy intellekt tomonidan hokimiyatni egallab olish. Umumiy kuzatuv va ijtimoiy nazorat dunyosi. Yadro urushi va tsivilizatsiya degeneratsiyasi. Ko'p yillar oldin chizilgan kelajak haqidagi ko'plab qorong'u tasavvurlar bugun sodir bo'lishi kerak edi. Ayni paytda biz orqaga qaraymiz va ular u erda yo'qdek tuyuladi. Ishonchingiz komilmi?

Ommaboplarning juda stereotipik repertuari mavjud distopik bashoratlar (kelajakning qora ko'rinishi haqida). Tabiiy muhit va resurslarni yo'q qilish bilan bog'liq eng keng tarqalganlardan tashqari, eng yangi texnologiyalar shaxslararo muloqotga, munosabatlarga va jamiyatga zarar etkazmoqda, degan fikr keng tarqalgan.

Virtual makon aldamchi tarzda dunyodagi haqiqiy ishtirokni almashtiradi. Boshqa distopik qarashlar texnologik rivojlanishni ijtimoiy tengsizlikni kuchaytirish, kuch va boylikni kichik guruhlar qo'lida to'plash usuli sifatida ko'radi. Zamonaviy texnologiyalarning yuqori talablari bilim va ko'nikmalarni imtiyozli shaxslarning tor doiralarida jamlaydi, odamlarning nazoratini kuchaytiradi va shaxsiy hayotni buzadi.

Ko'pgina futuristlarning fikriga ko'ra, yuqori mahsuldorlik va ko'zga ko'rinadigan tanlov stressni keltirib chiqarishi, ish joylarini xavf ostiga qo'yish va bizni dunyoga borgan sari materialistik qilish orqali inson hayoti sifatiga zarar etkazishi mumkin.

Mashhur texnologik "distopiyachilar"dan biri, Jeyms Gleyk, televizorning masofadan boshqarish pultining klassik ixtiro sifatida ahamiyatsiz ko'ringan misolini keltiradi, u bitta muhim muammoni hal qilmaydi va ko'plab yangilarini keltirib chiqaradi. Gleick, texnik tarixchidan iqtibos keltirgan holda Edvard Tenner, deb yozadi masofadan boshqarish pulti yordamida kanallarni almashtirish imkoniyati va soddaligi birinchi navbatda tomoshabinni tobora ko'proq chalg'itishga xizmat qiladi.

Odamlar qoniqish o'rniga ko'rgan kanallaridan ko'proq norozi bo'lishmoqda. Ehtiyojlarni qondirish o'rniga cheksiz umidsizlik hissi paydo bo'ladi.

Avtomobillar bizni bron qilishda ushlab turadimi?

Biz muqarrar va ehtimol yaqin orada keladigan bu narsani nazorat qila olamizmi? Sun'iy intellektdan ortiqmi? Agar shunday bo'lsa, ko'plab distopik vahiylar e'lon qilganidek, yo'q. (1).

Bizdan ko'p marta kuchliroq narsani boshqarish qiyin. vazifalar sonining ko'payishi bilan. Yigirma yil oldin, ular odamning ovozi va yuzidagi his-tuyg'ularni o'zimizdan ko'ra aniqroq o'qiy olishiga hech kim ishonmagan bo'lardi. Ayni paytda, hozirda o'qitilgan algoritmlar buni amalga oshirishga qodir, yuz ifodalarini, tembrni va gapirish uslubimizni tahlil qiladi.

Kompyuterlar rasm chizadi, musiqa yozadi va ulardan biri hatto Yaponiyadagi she'riyat tanlovida g'olib chiqdi. Ular uzoq vaqtdan beri shaxmatda odamlarni mag'lub etib, o'yinni noldan o'rganishadi. Xuddi shu narsa Go'ning ancha murakkab o'yiniga ham tegishli.

u yanada tez tezlanish qonunlariga bo'ysunadi. So'nggi o'n yilliklar ichida insoniyat yordamida AI erishgan narsa kelgusi bir necha yil ichida ikki baravar ko'payadi, ehtimol bir necha oy, keyin esa haftalar, kunlar, soniyalar kerak bo'ladi ...

Yaqinda ma'lum bo'lishicha, smartfonlarda yoki aeroportlarda hamma joyda joylashgan kameralardan olingan fotosuratlarni tahlil qilish uchun ishlatiladigan algoritmlar nafaqat kimnidir turli kadrlarda tanibgina qolmay, balki faqat intim psixologik xususiyatlarni ham aniqlay oladi. Bu maxfiylik uchun katta xavf deb aytish hech narsa demaslik bilan barobar. Bu oddiy kuzatuv, har bir qadamni kuzatish haqida emas, balki insonning tashqi ko'rinishi, uning yashirin istaklari va shaxsiy imtiyozlari natijasida paydo bo'ladigan ma'lumotlar haqida. 

Algoritmlar buni yuz minglab holatlarni tahlil qilish orqali nisbatan tez o'rganishi mumkin, bu hatto eng aqlli odam ham umri davomida ko'ra oladigan darajadan ancha ko'pdir. Bunday boy tajriba bilan qurollanib, ular hatto eng tajribali psixolog, tana tili va imo-ishora tahlilchisidan ham odamni aniqroq skanerlashi mumkin.

Shunday qilib, haqiqiy sovuq distopiya kompyuterlarning shaxmat o'ynashi yoki bizga qarshi borishi emas, balki ular bizning ruhimizni o'zimizdan boshqa har qanday odamdan ko'ra chuqurroq ko'ra olishlarida, u yoki boshqa moyilliklarni tan olishda taqiqlar va to'siqlarga to'la.

Elon Mask AI tizimlari tobora ortib borayotgan miqyosda o'rganishni va fikrlashni boshlashi bilan, "aql" biron bir joyda rivojlanishi mumkin, deb hisoblaydi chuqur veb-qatlamlarda, biz uchun sezilmas.

2016 yilda chop etilgan Amerika tadqiqotiga ko'ra, keyingi 45 yil ichida sun'iy intellekt barcha vazifalarda odamlardan 50 foizga o'zib ketish imkoniyatiga ega. Sinoptiklarning aytishicha, ha, sun'iy intellekt saraton kasalligini hal qiladi, iqtisodiyotni yaxshilaydi va tezlashtiradi, o'yin-kulgini ta'minlaydi, hayot sifati va davomiyligini yaxshilaydi, bizni usiz yashay olmasligimiz uchun o'rgatadi, lekin bir kun kelib, ularsiz ham bo'lishi mumkin. nafrat, faqat mantiqiy hisob-kitoblarga asoslanib, bizni faqat olib tashlaydi. Ehtimol, jismonan bu ishlamaydi, chunki har bir tizimda "bir kun kelib yordam berishi mumkin bo'lgan" resurslarni saqlash, arxivlash va saqlashga arziydi. Ha, bu AI uchun biz bo'lishimiz mumkin bo'lgan manba. Himoyalangan ishchi kuchi?

Optimistlar har doim rozetkadan vilkasini tortib olish imkoniyati mavjudligi bilan o'zlarini taskinlashadi. Biroq, hamma narsa juda oddiy emas. Zotan, inson hayoti kompyuterlarga shunchalik bog'liq bo'lib qoldiki, ularga qarshi radikal qadam biz uchun falokat bo'ladi.

Axir, biz tobora ko'proq sun'iy intellektga asoslangan qaror qabul qilish tizimini yaratmoqdamiz, ularga samolyotlarda uchish, foiz stavkalarini belgilash, elektr stantsiyalarini boshqarish huquqini beramiz - biz algoritmlar buni bizdan ko'ra yaxshiroq qilishini bilamiz. Shu bilan birga, biz ushbu raqamli qarorlar qanday qabul qilinishini to'liq tushunmayapmiz.

"Tirbandlikni kamaytirish" kabi super aqlli buyruq tizimlari ularni ishni bajarishning yagona samarali yo'li... aholi sonini uchdan bir yoki hatto yarmiga qisqartirish degan xulosaga kelishi mumkin, degan xavotirlar bor.

Ha, mashinaga “Avvalo, inson hayotini asrang!” kabi eng muhim ko'rsatmani berishga arziydi. Ammo, kim biladi, raqamli mantiq insoniyatning qamoqqa olinishiga olib keladimi yoki biz xavfsiz bo'lishimiz mumkin bo'lgan omborxona ostida, lekin, albatta, ozod emas.

Kiberjinoyat xizmat sifatida

Ilgari adabiyot va kinoda apokaliptik dunyoning distopiyalari va obrazlari odatda post-yadroviy davrda qo‘yilgan. Bugungi kunda yadroviy yo'q qilish biz tasavvur qilgandek bo'lmasa-da, biz bilgan dunyoning falokat va vayron bo'lishi uchun zarur emasdek tuyuladi. , "Terminator" filmidagidek dunyoni yo'q qilish dargumon, u erda u yadroviy yo'q qilish bilan birlashtirilgan. Agar u shunday qilsa, u o'ta aqlli emas, balki ibtidoiy kuch bo'lar edi. Axir hatto insoniyat halokatli yadroviy mojaroning global stsenariysini hali anglab yetmagan.

Haqiqiy mashina apokalipsisi kamroq ta'sirchan bo'lishi mumkin.

Kiber urush, virus hujumlari, tizimni buzish va to'lov dasturi, ransomware (2) bizning dunyomizni bombalardan kam bo'lmagan darajada falaj qiladi va yo'q qiladi. Agar ularning ko'lami kengaysa, biz umumiy urush bosqichiga kirishimiz mumkin, unda biz mashinalarning qurboni va garoviga aylanamiz, garchi ular avtonom harakat qilishlari shart emas va odamlar hali ham hamma narsaning orqasida qolishi mumkin.

O'tgan yozda AQSh Kiber va infratuzilma xavfsizligi agentligi (CISA) to'lov dasturi hujumlarini "eng ko'rinadigan kiberxavfsizlik tahdidi" deb atadi.

CISA ta'kidlashicha, kiberjinoyatchi shaxs yoki tashkilot ma'lumotlarini ushlagan va shifrlagan va keyin to'lov talab qiladigan ko'plab harakatlar hech qachon xabar qilinmaydi, chunki jabrlanuvchi kiberjinoyatchilarga pul to'laydi va ularning xavfsiz tizimlari bilan bog'liq muammolarni e'lon qilishni istamaydi. Mikro darajada kiberjinoyatchilar ko'pincha Internetdagi halol va insofsiz kontentni farqlashda qiynalayotgan keksa odamlarni nishonga olishadi. Ular buni elektron pochta ilovasiga yoki virusli veb-saytdagi qalqib chiquvchi oynaga o'rnatilgan zararli dastur yordamida amalga oshiradilar. Ayni paytda yirik korporatsiyalar, shifoxonalar, davlat idoralari va hukumatlarga hujumlar kuchaymoqda.

Ikkinchisi, ayniqsa, maxfiy ma'lumotlari va katta to'lovlarni to'lash qobiliyati tufayli nishonga olingan.

Ba'zi ma'lumotlar, masalan, sog'liq haqidagi ma'lumotlar egasi uchun boshqalardan ko'ra qimmatroq va jinoyatchilarga ko'proq pul keltirishi mumkin. O'g'rilar test natijalari yoki dori ma'lumotlari kabi bemorlarni parvarish qilish uchun muhim bo'lgan katta klinik ma'lumotlar bloklarini ushlab qolishi yoki karantinga qo'yishi mumkin. Hayot xavf ostida bo'lsa, kasalxonada muzokaralar olib borish uchun joy yo'q. Amerika shifoxonalaridan biri oʻtgan yilning noyabr oyida avgustdagi teraktdan soʻng butunlay yopilgan edi.

Vaqt o'tishi bilan bu faqat yomonlashadi. 2017-yilda AQSh Ichki xavfsizlik departamenti kiberhujumlar suv taʼminoti kabi muhim infratuzilmalarga yoʻnaltirilishi mumkinligini eʼlon qildi. Va bunday harakatlarni amalga oshirish uchun zarur bo'lgan vositalar kichikroq operatorlar uchun tobora ko'proq mavjud bo'lib, ular Cerber va Petya dasturlari kabi to'lov dasturlari paketlarini sotadilar va muvaffaqiyatli hujumlardan so'ng to'lov uchun to'lov oladilar. Xizmat sifatida kiber jinoyatga asoslangan.

Genomdagi xavfli buzilish

Distopiyaning mashhur mavzularidan biri bu genetika, DNKni manipulyatsiya qilish va odamlarni ko'paytirish - bundan tashqari, to'g'ri yo'l bilan "dasturlashtirilgan" (hokimiyat, korporatsiyalar, harbiylar).

Ushbu tashvishlarning zamonaviy timsolidir - ommalashtirish usuli CRISPR genini tahrirlash (3). Undagi mexanizmlar birinchi navbatda tashvishga soladi. kerakli funktsiyalarni majburlash keyingi avlodlarda va ularning salohiyati butun aholiga tarqaldi. Ushbu texnikaning ixtirochilaridan biri, Jennifer Doudna, hatto yaqinda potentsial halokatli oqibatlar tufayli bunday "germ-line" tahrirlash usullariga moratoriy chaqirdi.

Eslatib o'tamiz, bir necha oy oldin xitoylik olim Xe Jiankui inson embrionlari genlarini OITS virusiga qarshi immunizatsiya qilish uchun tahrir qilgani uchun keng tanqid qilingan. Sababi, u amalga oshirgan o'zgarishlar oldindan aytib bo'lmaydigan oqibatlar bilan avloddan-avlodga o'tishi mumkin edi.

D (genni qayta yozish, gen haydovchisi) deb ataladigan narsalar alohida tashvishga soladi, ya'ni. ma'lum bir shaxsning DNKidagi tahrirlash tizimini kodlaydigan genetik muhandislik mexanizmi CRISPR/CAS9 genomi kiruvchi genning ushbu variantini tahrirlash uchun sozlash bilan. Shu sababli, avlodlar avtomatik ravishda (genetiklar ishtirokisiz) kiruvchi gen variantini kerakli variantga yozadilar.

Biroq, istalmagan gen variantini avlodlar o'zgartirilmagan boshqa ota-onadan "sovg'a sifatida" olishlari mumkin. Shunday qilib, gen diskini buzamiz Irsiyatning Mendel qonunlariBu dominant genlarning yarmi ota-onadan avlodga o'tishini aytadi. Muxtasar qilib aytganda, bu oxir-oqibatda ko'rib chiqilayotgan gen variantining butun populyatsiyaga tarqalishiga olib keladi.

Stenford universiteti biologi Kristina Smolke, 2016 yilda genetik muhandislik bo'yicha panelda bu mexanizm zararli va o'ta og'ir holatlarda dahshatli oqibatlarga olib kelishi mumkinligi haqida ogohlantirgan. Gen drayveri avloddan-avlodga o'tishi bilan mutatsiyaga uchragan va gemofiliya yoki gemofiliya kabi genetik kasalliklarni keltirib chiqarishi mumkin.

Riversayd shtatidagi Kaliforniya universiteti tadqiqotchilari tomonidan Nature Reviews jurnalida chop etilgan maqolada o'qiganimizdek, haydovchi organizmning bir populyatsiyasida mo'ljallangan tarzda ishlasa ham, xuddi shu irsiy xususiyat, agar u qandaydir tarzda boshqasiga kiritilgan bo'lsa, zararli bo'lishi mumkin. . bir xil ko'rinish.

Olimlar yopiq eshiklar ortida va ekspertlar tekshiruvisiz gen drayverlarini yaratish xavfi ham mavjud. Agar kimdir qasddan yoki bilmagan holda inson genomiga zararli gen drayverini kiritsa, masalan, grippga chidamliligimizni yo'q qiladigan bo'lsa, bu hatto homo sapiens turlarining tugashini anglatishi mumkin ...

Kuzatuv kapitalizmi

Ilmiy-fantastik yozuvchilarning xayoliga ham kelmagan distopiya versiyasi bu Internet va ayniqsa, ijtimoiy tarmoqlarning haqiqati, odamlarning shaxsiy hayoti, munosabatlari va psixologik yaxlitligini buzadigan keng tasvirlangan ta'sirlari bilan.

Bu dunyo faqat yangi badiiy spektakllarda tasvirlangan, masalan, biz 2016 yilgi "The Sho'ng'in" (4) epizodidagi "Qora oyna" seriyasida ko'rishimiz mumkin bo'lgan narsalar. Shoshana Zuboff, Garvard iqtisodchisi, bu haqiqatni butunlay ijtimoiy o'zini o'zi tasdiqlashga bog'liq va butunlay "mahrum" deb ataydi. kuzatuv kapitalizmi (), va shu bilan birga Google va Facebookning toj ishi.

4. "Qora oyna" dan sahna - "Suvga sho'ng'in" epizodi

Zuboffning so'zlariga ko'ra, Google birinchi ixtirochidir. Bundan tashqari, u doimiy ravishda kuzatuv faoliyatini kengaytirmoqda, masalan, begunoh ko'ringan "aqlli shahar" loyihalari orqali. Masalan, Google’ning sho‘ba korxonasi Sidewalk Labsning “Dunyodagi eng innovatsion mahalla” loyihasi. iskala Torontoda.

Google sohil bo'yi aholisining hayoti, ularning harakati va hatto nafas olishi haqidagi eng kichik ma'lumotlarni hamma joyda kuzatuvchi sensorlar yordamida to'plashni rejalashtirmoqda.

Bundan tashqari, Facebookda gap bo'lmagan internet distopiyasini tanlash qiyin. Kuzatuv kapitalizmi Google tomonidan ixtiro qilingan bo'lishi mumkin, ammo uni butunlay yangi bosqichga olib chiqqan Facebook edi. Bu ijtimoiy va emotsional virus mexanizmlari va hatto Zukerberg platformasidan foydalanuvchi bo'lmaganlarni shafqatsiz ta'qib qilish orqali amalga oshirildi.

Himoyalangan sun'iy intellekt, virtual haqiqatga botiriladi, UBI bilan yashaydi

Ko'pgina futuristlarning fikriga ko'ra, dunyo va texnologiya kelajagi beshta qisqartma - AI, AR, VR, BC va UBI bilan belgilanadi.

"MT" o'quvchilari, ehtimol, ularning nima ekanligini va birinchi uchtasi nimadan iboratligini yaxshi bilishadi. Biz nima haqida ekanligini tushunganimizda, tanish ham to'rtinchi, "BC" bo'lib chiqadi. Va beshinchisi? UBD - bu kontseptsiyaning qisqartmasi bo'lib, "universal asosiy daromad » (5). Bu boshqa texnologiyalar, ayniqsa sun'iy intellekt rivojlanishi natijasida ishdan bo'shatilgan har bir kishiga vaqti-vaqti bilan e'lon qilingan ijtimoiy imtiyozdir.

5. Universal asosiy daromad - UBI

Shveytsariya hatto o‘tgan yili bu g‘oyani referendumga ham qo‘ygan, biroq uning fuqarolari kafolatlangan daromadning joriy etilishi muhojirlar oqimiga olib kelishidan qo‘rqib, uni rad etgan edi. UBI, shuningdek, bir qator boshqa xavflarni, jumladan, mavjud ijtimoiy tengsizliklarni davom ettirish xavfini ham olib keladi.

Qisqartma ortidagi texnologik inqiloblarning har biri (shuningdek qarang:) - agar u kutilgan yo'nalishda tarqalsa va rivojlansa - insoniyat va bizning dunyomiz uchun juda katta oqibatlarga olib keladi, shu jumladan, albatta, distopiyaning katta dozasi. Misol uchun, u to'rt yillik saylov tsikllarini almashtirishi va ko'plab masalalar bo'yicha referendumlarga olib kelishi mumkin, deb ishoniladi.

Virtual haqiqat, o'z navbatida, insoniyatning bir qismini real dunyodan "cheklab" qo'yishga qodir. Masalan, koreyalik Jang Ji Sung bilan, u 2016 yilda qizi davolab bo'lmaydigan kasallikdan vafot etganidan so'ng, o'z avatarini VR-da uchratgan. Virtual makon shuningdek, yangi turdagi muammolarni keltirib chiqaradi yoki aslida barcha eski ma'lum muammolarni "yangi" dunyoga yoki hatto boshqa ko'plab dunyolarga o'tkazadi. Qaysidir ma'noda biz buni ijtimoiy tarmoqlarda ko'rishimiz mumkin, bu erda postlarda juda kam yoqtirishlar ruhiy tushkunlik va o'z joniga qasd qilishga olib keladi.

Payg'ambarlik ertaklari ozmi-ko'pmi

Axir, distopik tasavvurlarni yaratish tarixi ham bashoratlarni shakllantirishda ehtiyotkorlikni o'rgatadi.

6. "Tarmoqdagi orollar" muqovasi

O'tgan yili suratga olingan Ridli Skottning mashhur ilmiy-fantastik asari ediAndroid ovchisi» 1982 yildan beri. Ko'pgina o'ziga xos elementlarning bajarilishi yoki bajarilmasligini muhokama qilish mumkin, ammo bizning zamonamizda odamlardan ko'p jihatdan ustun bo'lgan aqlli, insonsimon androidlar mavjudligi haqidagi eng muhim bashorat hali haqiqatga aylanmagani shubhasizdir.

Biz yana ko'plab bashoratli zarbalarga toqat qilishga tayyormiz."Neyromanserlar»ya'ni romanlar Uilyam Gibson 1984 yildan beri "kiber makon" tushunchasini ommalashtirgan.

Biroq, o'sha o'n yillikda bir oz kamroq taniqli kitob paydo bo'ldi (deyarli butunlay bizning mamlakatimizda, chunki u polyak tiliga tarjima qilinmagan), bugungi kunni ancha aniqroq bashorat qilgan. Men romantika haqida gapiryapmanInternetdagi orollar"(6) Bryus Sterling 1988 yildan beri, 2023 yilda o'rnatilgan. U "veb" deb nomlanuvchi Internetga o'xshash narsaga botgan dunyoni taqdim etadi. U yirik xalqaro korporatsiyalar tomonidan nazorat qilinadi. "Tarmoqdagi orollar" go'yoki bepul Internetni nazorat qilish, kuzatish va monopollashtirishni ta'minlashi bilan diqqatga sazovordir.

Onlayn qaroqchilar/terrorchilarga qarshi uchuvchisiz uchish apparatlari (dronlar) yordamida olib boriladigan jangovar operatsiyalarni oldindan bilish ham qiziq. Minglab mil uzoqlikdagi operatorlar xavfsiz ish stollari bilan - buni qanday bilamiz? Kitob islom terrorizmi bilan cheksiz to‘qnashuv haqida emas, balki globallashuvga qarshi bo‘lgan kuchlarga qarshi kurash haqida. Tarmoqdagi orollar dunyosi, shuningdek, aqlli soatlar va aqlli sport poyabzallariga o'xshash iste'molchi qurilmalari bilan to'ldirilgan.

80-yillarning yana bir kitobi bor, u ba'zi voqealar fantastikroq ko'rinsa-da, bizning zamonaviy distopiya qo'rquvimizni tasvirlashda yaxshi ish qiladi. Bu "Georadar dasturiy ta'minot", Tarix Rudy Ruker2020 yilda belgilangan. Dunyo, jamiyatning ahvoli va uning mojarolari bugungi kunda biz bilan shug'ullanayotgan narsaga juda o'xshash. O'z-o'zini anglab yetgan va Oydagi shaharlarga qochib ketgan boppers deb nomlanuvchi robotlar ham bor. Bu element hali amalga oshmagan, ammo mashinalarning qo'zg'oloni qora bashoratlarning doimiy rad etilishiga aylanmoqda.

Kitoblardagi bizning zamonamizning tasavvurlari ham ko'p jihatdan hayratlanarli darajada aniq. Oktavia Butler, ayniqsa, ichidaEkuvchi haqidagi masallar» (1993). Aksiya 2024-yilda Los-Anjelesda boshlanadi va iqlim oʻzgarishi oqibatida suv toshqini, boʻron va qurgʻoqchilikdan vayron boʻlgan Kaliforniyada boʻlib oʻtadi. O'rta va ishchi sinf oilalari yopiq jamoalarda uchrashishadi, chunki ular giyohvand moddalar va virtual haqiqat to'plamlari bilan tashqi dunyodan qochishga harakat qilishadi. Yangi dinlar va fitna nazariyalari paydo bo'lmoqda. Qochqinlar karvoni ekologik va ijtimoiy inqirozdan qochish uchun shimolga qarab boradi. “Amerikani yana buyuk qiling” (bu Donald Trampning shiori) saylovoldi shioridan foydalanadigan prezident hokimiyatga keladi ...

Butlerning ikkinchi kitobi "Iste'dodlar haqidagi masalyangi diniy kult a'zolari Alpha Centauri mustamlaka qilish uchun kosmik kemada Yerni qanday tark etishini aytadi.

***

Bir necha o'n yillar oldin bizning kundalik hayotimizga oid bashoratlar va vahiylarning keng qamrovli tadqiqoti qanday saboq beradi?

Ehtimol, haqiqat shundaki, distopiyalar tez-tez sodir bo'ladi, lekin ko'pincha qisman.

a Izoh qo'shish