Mushukchangizga ichingizda nima deb o'ylayotganingizni ayting - qora quti effekti

Ilg‘or AI algoritmlari qora qutiga (1) o‘xshab, natija qanday paydo bo‘lganini oshkor qilmasdan, uloqtirib yuborayotgani kimnidir xavotirga soladi, kimnidir esa g‘azablantiradi.

2015 yilda Nyu-Yorkdagi Mount Sinay kasalxonasida tadqiqot guruhiga mahalliy bemorlarning keng ma'lumotlar bazasini tahlil qilish uchun ushbu usuldan foydalanish so'ralgan (2). Ushbu ulkan to'plamda bemorlar haqidagi ma'lumotlar, test natijalari, shifokor retseptlari va boshqalar mavjud.

Olimlar ish jarayonida ishlab chiqilgan analitik dasturni chaqirishdi. U taxminan 700 XNUMX kishining ma'lumotlari bo'yicha trening o'tkazdi. inson va yangi registrlarda sinovdan o'tkazilganda, u kasallikni bashorat qilishda juda samarali ekanligi isbotlangan. Inson mutaxassislari yordamisiz u kasalxona yozuvlarida qaysi bemor jigar saratoni kabi kasallikka yo'lda ekanligini ko'rsatadigan naqshlarni topdi. Mutaxassislarning fikriga ko'ra, tizimning prognostik va diagnostika samaradorligi boshqa ma'lum usullardan ancha yuqori edi.

2. Bemor ma'lumotlar bazasiga asoslangan tibbiy sun'iy intellekt tizimi

Shu bilan birga, tadqiqotchilar uning sirli tarzda ishlashini payqashdi. Masalan, u uchun ideal ekanligi ma'lum bo'ldi ruhiy kasalliklarni tan olishshifokorlar uchun juda qiyin bo'lgan shizofreniya kabi. Bu hayratlanarli edi, ayniqsa, hech kim AI tizimi ruhiy kasalliklarni faqat bemorning tibbiy yozuvlariga asoslangan holda qanday qilib yaxshi ko'rishi haqida hech qanday tasavvurga ega emas edi. Ha, mutaxassislar bunday samarali mashina diagnostikasi yordamidan juda mamnun edilar, ammo agar ular AI qanday xulosaga kelishini tushunsalar, ko'proq mamnun bo'lishadi.

Sun'iy neyronlarning qatlamlari

Eng boshidan, ya'ni sun'iy intellekt tushunchasi ma'lum bo'lgan paytdan boshlab, sun'iy intellektga nisbatan ikki nuqtai nazar mavjud edi. Birinchisi, ma'lum tamoyillar va inson mantig'iga muvofiq fikr yuritadigan, ularning ichki ishini hamma uchun shaffof qiladigan mashinalarni yaratish eng oqilona bo'lishini taklif qildi. Boshqalar, agar mashinalar kuzatish va takroriy tajribalar orqali o'rganilsa, razvedka osonroq paydo bo'ladi, deb ishonishgan.

Ikkinchisi odatiy kompyuter dasturlashni o'zgartirishni anglatadi. Dasturchi muammoni hal qilish uchun buyruq yozish o'rniga, dastur yaratadi o'z algoritmi namuna ma'lumotlari va kerakli natijaga asoslangan. Keyinchalik bugungi kunda ma'lum bo'lgan eng kuchli AI tizimlariga aylangan mashinani o'rganish usullari, aslida, mashinaning o'zi dasturlaydi.

Ushbu yondashuv 60-70-yillarda AI tizimlari tadqiqotlari chegarasida qoldi. Faqat oldingi o'n yillikning boshida, ba'zi kashshof o'zgarishlar va yaxshilanishlardan so'ng, "Chuqur" neyron tarmoqlari avtomatlashtirilgan idrok etish imkoniyatlarining tubdan yaxshilanganligini namoyish qila boshladi. 

Mashinani chuqur o'rganish kompyuterlarga og'zaki so'zlarni deyarli inson kabi aniq bilish kabi ajoyib qobiliyatlarni berdi. Bu oldindan dasturlash uchun juda murakkab mahorat. Mashina tomonidan o'z "dasturini" yaratish imkoniyatiga ega bo'lishi kerak katta ma'lumotlar to'plamlari bo'yicha trening.

Chuqur o'rganish, shuningdek, kompyuter tasvirini aniqlashni o'zgartirdi va mashina tarjimasi sifatini sezilarli darajada yaxshiladi. Bugungi kunda u tibbiyot, moliya, ishlab chiqarish va boshqa sohalarda har xil asosiy qarorlarni qabul qilish uchun ishlatiladi.

Biroq, bularning barchasi bilan "ichki" qanday ishlashini ko'rish uchun chuqur neyron tarmoqqa nazar tashlab bo'lmaydi. Tarmoq mulohaza yuritish jarayonlari o'nlab yoki hatto yuzlab murakkab o'zaro bog'langan qatlamlarga tashkil etilgan minglab simulyatsiya qilingan neyronlarning xatti-harakatlariga kiritilgan..

Birinchi qatlamdagi neyronlarning har biri tasvirdagi piksel intensivligi kabi kirishni oladi va keyin chiqishni chiqarishdan oldin hisob-kitoblarni amalga oshiradi. Ular murakkab tarmoqda keyingi qatlamning neyronlariga uzatiladi - va hokazo, yakuniy chiqish signaligacha. Bundan tashqari, ta'lim tarmog'i kerakli natijani keltirib chiqarishi uchun individual neyronlar tomonidan amalga oshirilgan hisob-kitoblarni sozlash deb nomlanuvchi jarayon mavjud.

It tasvirini aniqlash bilan bog'liq tez-tez keltirilgan misolda, AIning pastki darajalari shakl yoki rang kabi oddiy xususiyatlarni tahlil qiladi. Yuqori bo'lganlar mo'yna yoki ko'zlar kabi murakkabroq masalalar bilan shug'ullanadi. Faqatgina yuqori qatlam barcha ma'lumotlar to'plamini it sifatida aniqlab, barchasini birlashtiradi.

Xuddi shu yondashuv mashinaning o'zini o'zi o'rganishiga yordam beradigan boshqa turdagi ma'lumotlarga nisbatan ham qo'llanilishi mumkin: nutqdagi so'zlarni tashkil etuvchi tovushlar, yozma matndagi jumlalarni tashkil etuvchi harflar va so'zlar yoki, masalan, rul. transport vositasini boshqarish uchun zarur bo'lgan harakatlar.

Mashina hech narsani o'tkazib yubormaydi.

Bunday tizimlarda nima sodir bo'lishini tushuntirishga harakat qilinadi. 2015-yilda Google tadqiqotchilari chuqur o‘rganish tasvirni tanib olish algoritmini o‘zgartirdi, shunda u fotosuratlardagi obyektlarni ko‘rish o‘rniga ularni yaratdi yoki o‘zgartirdi. Algoritmni orqaga qarab ishga tushirish orqali ular dastur qushni yoki binoni tanib olish uchun foydalanadigan xususiyatlarni kashf qilishni xohlashdi.

Ommaga nomi sifatida tanilgan ushbu tajribalar (3) grotesk, g'alati hayvonlar, landshaftlar va personajlarning ajoyib tasvirlarini yaratdi. Mashinani idrok etishning ba'zi sirlarini, masalan, ma'lum naqshlarning qayta-qayta qaytarilishi va takrorlanishini ochib berish orqali ular chuqur mashinani o'rganish inson idrokidan qanchalik farq qilishini ko'rsatdi - masalan, biz e'tiborsiz qoldiradigan artefaktlarni kengaytiradi va takrorlaydi. fikrlashsiz idrok qilish jarayonida. .

3. Loyihada yaratilgan tasvir

Ayni paytda, boshqa tomondan, bu tajribalar o'zimizning kognitiv mexanizmlar sirini ochib berdi. Ehtimol, bizning idrokimizda turli xil tushunarsiz komponentlar mavjud bo'lib, ular bizni darhol tushunishga va biror narsani e'tiborsiz qoldirishga majbur qiladi, shu bilan birga mashina sabr-toqat bilan "ahamiyatsiz" ob'ektlarda o'z iteratsiyasini takrorlaydi.

Mashinani "tushunish" uchun boshqa sinovlar va tadqiqotlar o'tkazildi. Jeyson Yosinski u miyaga tiqilib qolgan zond kabi harakat qiladigan, har qanday sun'iy neyronni nishonga oladigan va uni eng kuchli faollashtiradigan tasvirni qidiradigan vositani yaratdi. Oxirgi tajribada tarmoqqa qizil qo‘l bilan “ko‘zdan kechirish” natijasida mavhum tasvirlar paydo bo‘ldi, bu esa tizimda sodir bo‘layotgan jarayonlarni yanada sirli qilib qo‘ydi.

Biroq, ko'plab olimlar uchun bunday tadqiqot noto'g'ri tushunishdir, chunki ularning fikriga ko'ra, tizimni tushunish, murakkab qarorlar qabul qilishning yuqori tartibining qonuniyatlari va mexanizmlarini tan olish uchun, barcha hisoblash shovqinlari chuqur neyron tarmoq ichida. Bu matematik funktsiyalar va o'zgaruvchilarning ulkan labirintidir. Ayni paytda bu biz uchun tushunarsiz.

Kompyuter ishga tushmayaptimi? Nega?

Nega ilg'or sun'iy intellekt tizimlarining qaror qabul qilish mexanizmlarini tushunish muhim? Qaysi mahbuslar shartli ravishda ozod etilishi, kimga kredit berilishi va kimlar ishga joylashishi mumkinligini aniqlash uchun allaqachon matematik modellardan foydalanilmoqda. Qiziq bo'lganlar boshqa qaror emas, nima uchun bunday qaror qabul qilingani, uning asoslari va mexanizmi nimada ekanligini bilishni istaydi.

u 2017 yil aprel oyida MIT Technology Reviewda tan oldi. Tommy Yaakkola, Mashina o'rganish uchun ilovalar ustida ishlayotgan MIT professori. -.

Hatto AI tizimlarining qaror qabul qilish mexanizmini sinchkovlik bilan o'rganish va tushunish qobiliyati insonning asosiy huquqi ekanligi haqidagi huquqiy va siyosiy pozitsiya mavjud.

2018-yildan beri Yevropa Ittifoqi kompaniyalardan o‘z mijozlariga avtomatlashtirilgan tizimlar tomonidan qabul qilingan qarorlar haqida tushuntirishlar berishni talab qilish ustida ishlamoqda. Ma'lum bo'lishicha, buni ba'zan hatto nisbatan oddiy ko'rinadigan tizimlar, masalan, reklamalarni ko'rsatish yoki qo'shiqlarni tavsiya qilish uchun chuqur fandan foydalanadigan ilovalar va veb-saytlar bilan amalga oshirish mumkin emas.

Bu xizmatlarni boshqaradigan kompyuterlar o‘zlari dasturlashadi va ular buni biz tushunib bo‘lmaydigan usullar bilan amalga oshiradilar... Hatto bu ilovalarni yaratuvchi muhandislar ham uning qanday ishlashini to‘liq tushuntirib bera olmaydi.