Mən, birincisi, AI Overlords-a xoş gəlmisiniz

Bu il ilk dəfə bir kompüter insanın bildiyi ən mürəkkəb oyunlardan biri olan Go dünya çempionunu məğlub etdi. Bu, süni intellektin inkişafında bir başqa su anı idi.

Go-nun nə qədər mürəkkəb olduğuna dair bir fikir vermək üçün 2.082 × 10 ^ 170 taxta konfiqurasiyaları mövcuddur. Bundan sonra 170 sıfırla 2-dir. Şansınız beyninizin belə bir rəqəmi təsəvvür edə bilməyəcəyi (ancaq kompüterin edə biləcəyi) bir şeydir. Və ya bir ədədin nə qədər böyük olması barədə bir fikir vermək ki yəni kainatda yalnız 10 ^ 80 atom var - yəni birini 79 sıfır izləyir.

Bunun belə böyük bir səbəb olmasının səbəbi Go-un o qədər mürəkkəb olmasıdır ki, ən yaxşı insan oyunçusunu məğlub etmək üçün bir maşın, mümkün olan hər şeyi hesablaya bilmədən mövcud vəziyyətə uyğunlaşaraq yaradıcı düşünməyi öyrənməli olacaq. nəticə; yəni gerçək, yaradıcı zəka kimi ciddi bir süni zəka olmalıdır.

Yaddaşınızı bütün AI-də almamısınızsa, dünyanı ələ keçirəcəksiniz, bilmək lazım olan bir neçə fakt.

1. Kompüterlər daha ağıllı olur.
2. Kompüterlər sürətlənən bir sürətlə daha da ağıllılaşır - yəni əvvəllər 10 il çəkən irəliləyişlər indi bir il çəkir. Əvvəllər bir il çəkən irəliləyişlər indi həftələr, hətta günlər alır.
3. Çox güman ki, ömrümüz boyu hər insandan daha ağıllı və daha bacarıqlı kompüterlər olacaqdır.
4. Bu ağıllı kompüterlər çox güman ki, texnologiyanı (yəni özlərini) tərtib edib inkişaf etdirə və anlaya bilmədiyimiz yeni bir texnologiya yarada biləcəklər.

Yuxarıdakı məqamları başa düşən insanlar ümumiyyətlə iki reaksiyadan birini göstərirlər. Ya:

1. Tamamilə becərdiyimizi düşünürlər. Kompüterlər hər şeyi ələ keçirəcək və hamımızı öldürəcək / kölə edəcək. Və ya:
2. Bu, bütün axmaq insan mübahisələrimizi düzəldəcək texnoloji bir ütopiya meydana gətirəcək və buludda mövcud olan ultra-VR dünyamızda orgiyalar keçirəndən sonra hamımız xoşbəxt yaşaya bilərik.

Əksər şeylərdə olduğu kimi, həqiqət də ortada ola bilər.

Ancaq bok pərəstişkarını vursa da, robotlar bizi bu planetin təmiz saç dərisini məhv edən bitlər kimi görsələr də, istəmədən öz mexanizmlərimizi kəşf etsək də hamımızı yığıb aktiv bir vulkana atmaq istəyirik. yox olmaq ...

... vecimə deyil. Fərqi yoxdur. Məni narahat etmir. Və bu da sizi narahat etməməlidir. Niyə bir az izah edəcəyəm. Ancaq hələlik bilməlisiniz ki, birincisi, yeni robot overlordsumuzu alqışlayıram.

TEXNİKİ SANAYİDƏ BÖYÜMƏNİN TƏZLƏŞDİRİLMƏSİ

Texnoloji inkişaflar özlərinə qarışaraq səbəb olur dərəcəsi inkişafın özünü sürətləndirmək. Bunun mənası budur ki, nə qədər inkişaf etmiş bir texnologiya yaratdıqca, daha da inkişaf etmiş bir texnologiya yaratmaq daha asan olur. Nəticədə, hesablama texnologiyasının inkişafına baxanda eksponent əyri görürük - yəni nə qədər çox vaxt keçirsə, işlər o qədər sürətli inkişaf edir. Texnoloji inkişaflar öz-özünə birləşərək inkişaf sürətinin sürətlənməsinə səbəb olur.(Şəkil: Dennis Skley / Flickr)

Hesablama gücü orta hesabla iki dəfə artmışdır indi 50 ildir hər 18 aydan bir . Xam hesablama gücü baxımından kompüterlər indi siçan beyinlərinin qabiliyyətləri ilə rəqabət aparırlar, burada yalnız bir neçə il əvvəl kompüterlər həşərat beyni ilə rəqabət edə bilmirdilər.

Sizə sürətli texnologiyanın necə inkişaf etdiyinə dair daha sürətli bir nümunə vermək üçün, indi bütün 19-cu əsrlərdə çəkildiyindən 2 dəqiqədən bir daha çox şəkil çəkilir. İndiyə qədər çəkilən 3,5 trilyon fotoşəkilin təxminən 10% -i son 12 ayda çəkilib.

Həqiqətən də yüksək texnoloji inkişafdan danışarkən eksponensial bir döngədəyiksə, insanlar sevirlər Jeremy Howard əvvəllər bənzərsiz insan olduğunu düşündüyümüz bir çox sahədəki rəqiblərimizi üstələsək də, süni maşın intellektindən yalnız bir neçə il uzaq olduğumuzu söylədiyində yəqin ki, haqlıdır.

Və əmin olmaq üçün, AI həyatımızın getdikcə daha çox sahəsinə nüfuz edir.

Yalnız on il əvvəl insanlar özlərini idarə edən avtomobillərin zəif göstəricilərinə gülürdülər. Bu gün, yalnız on il sonra, öz-özünə sürən avtomobillər yalnız qapalı yol kursunu bitirə bilmir, insanların idarə etdiyi avtomobillərin yanında sıx avtomobil yollarında hərəkət edirlər.

Kompüterlər dünya çempionu Go oyunçularını məğlub etmədikdə, bunlar kimi şeylərlə məşğul olurlar idman və son xəbərlər haqqında məqalələr yazmaq , əvvəllər görmədikləri şəkillərin təsvirlərini yazmaq və xərçəng diaqnozu . Bu tapşırıqların bir çoxu üçün kompüterlər insanlardan daha yaxşı olmasa da, olmadıqları üçün daha yaxşıdır öyrənmək bunları insanların köməyi olmadan hər gün daha yaxşı və daha yaxşı necə etmək olar.

Bir neçə il əvvəl üz tanıma proqramı inanılmaz dərəcədə bahalı idi və insanları real dünyada müəyyənləşdirməkdə o qədər də yaxşı deyildi. Bu super inkişaf etmiş casus səviyyəsində bir texnologiya sayıldı və həqiqətən yalnız bir neçə dünya hökuməti tərəfindən istifadə edildi.

İndi Facebook keçən həftə sonu barbeküdən dostlarınızı etiketləyə bilər.

Kompüterlərdə böyümənin sürətləndirilməsinə dair bir şey budur: bir gün belə bir kompüter düzəltdiyimiz bir nöqtə gələcəkdir dünyadakı hər insandan daha ağıllıdır . O gün kompüterlər bizi planetdəki əsas problem həll edən kimi qəsb edəcək və oradan düşüncələrimiz, qərarlarımız və hərəkətlərimiz yavaş-yavaş köhnələcəkdir. Maşınlar hər şeydə bizdən daha yaxşı olacaq, buna görə getdikcə daha çox faydalı bir şey etməyəcəyik.

Bu, bəzi insanları dəhşətə gətirir. Gələcək kimi bir növ düşünürlər Terminator və ya Matris maşınların bizi kölə etdiyi və ya məhv etdiyi yer.

Digər insanlar robotların yüksəlişini səbirsizliklə gözləyirlər, çünki problem həll etmə qabiliyyətlərinin bizim bacarıqlarımızı o qədər üstələyəcəyinə inanırlar ki, həyat təsəvvür olunmaz dərəcədə xoş və problemsiz olacaq. Bütün xəstəliklər sağalacaq. Yoxsulluq, dünya aclığı, müharibə və iqlim dəyişikliyi həll ediləcəkdir. Sonsuz bir asudə vaxtımız olacaq və həddindən artıq hallarda bəzi insanlar maşınların bizi ölümsüz edəcəyinə inanırlar.

İKİ MÜMKÜN NƏTİCƏ

Hər zaman pozitiv olmağımızı söylədiklərinə görə texno-ütopyalardan başlayaq.

Kimi insanlar var Ray Kurzweil texnologiyanın yalnız həyatımızı yaxşılaşdırmayacağını, insanlığı xilas edəcəyini və bəlkə də kainatdakı yerimizi sonsuza qədər təmin edəcəyini düşünənlər. Kurzweil, hüceyrələrimizi düzəldən, yaşlanmanı tərsinə çevirən və ya artıq yağ və şəkəri çıxaran nanobotlar kimi gələcək texnologiyaya inanırıq ki, istədiyimizi yeyək. Yalnız fiziki bədənlərimizi əbədi yaşaya bilməyəcəyimiz təqdirdə, Kurzweil beynimizi buluda yükləyə biləcəyimizi və fiziki bədənlərimiz yox olandan çox sonra virtual bir dünyada yaşayacağımızı düşünür.

Bu düşərgədəki digərləri, süni bir super zəkanın insanlar üçün hətta başa düşə bilməyəcəyi qədər mürəkkəb olan suallara cavab verə biləcəyini düşünür və bunun üçün qat-qat daha yaxşı olacağıq. Ayrıca, maşınlar yalnız daha yaxşı alətlər və widgetlar yaratmaz, həm də alətlər və widgetlar qurmağın qat-qat daha səmərəli yollarını icad edər və planetdəki hər kəsin öz faydalarını əldə etməsini mümkün edərdi.

Bir neçə sətir mülahizəsi bu fikri dəstəkləyir. Birincisi, texnologiya bəşəriyyət üçün nüvə silahları və YouTube məşhurları kimi bəzi yeni problemlər yaratsa da, bu günə qədər açıq şəkildə insanlıq üçün xalis bir fayda gətirmişdir. Siyasətçilərin və mütəxəssislərin nəyi inanmağınızı istəmələrinə baxmayaraq, yer üzündə ortalama bir insan bir neçə qısa il əvvəl olduğundan daha yaxşıdır və bu, texnologiyanın daha yaxşı, ucuz və daha geniş yayılması ilə əlaqədardır. Bu tendensiya davam edərsə, narahat olacağımız bir şey olmaya bilər.

İkincisi, Kurzweil və tərəfdarları texnologiyanın insanlığa zərər vermə səbəbi olmayacağına inanır, çünki yalnız bizim yaratdığımız deyil bizim daha çox bir hissəmiz olmaq . Hətta biologiyamızın və texnologiyamızın fərqlənməyəcəyi bir nöqtəyə çatacağımıza inanırlar. Mübahisə belədirsə, insanlar üçün zərərli olan hər hansı bir texnoloji forması da özü üçün zərərlidir və özünü məhv edən hər cür texnologiya davam edə bilməz. Yəni, zərərli bir gen mutasiyasının genofonddan sürətlə kənarlaşdırılması kimi, tez bir zamanda ölür. Hər növ özünü məhv edən bir texnologiya davam edə bilməz.(Şəkil: m_hweldon / Flickr)

Fəqət techno-utopiasts, bütün texnologiyaların həm faydalı, həm də dağıdıcı olaraq müxtəlif məqsədlər üçün istifadə edilə biləcəyini qəbul etməmələri baxımından qərəzlidir. İnsanların yeni texnologiyalara uyğunlaşmaqda yavaş hərəkət etdiyini və bu texnologiyalardan öz eqoist məqsədləri üçün sui-istifadə etməyə çalışacaq insanlar qruplarının həmişə olmasını görməməzlikdən gəlməklə yanaşı, ehtimal ki, qərəzlidirlər.

Digər düşərgədə texno-armageddonistlər var. Mən bu sözü tamamilə düzəltdim, amma göründüyü kimi mövcuddur, çünki yazım yoxlaması mənə belə dedi.

Texno-armageddonistlərin inamdan məhrum olduqları (əksəriyyəti hələ nə düşünəcəyinə əmin deyil), məşhur ulduz gücündədir. Bill Gates, Stephen Hawking və Elon Musk, bu düşüncəli alimlərdən yalnız bir neçəsidir şalvarlarını crapping AI-nin nə qədər sürətlə inkişaf etdiyini və əks-təsirləri üçün bir növ olaraq nə qədər hazır olduğumuzu. Muskdan yaxın gələcəkdə bəşəriyyət üçün ən yaxın təhdidlərin nə olduğunu soruşduqda, tez bir zamanda üçünün olduğunu söylədi: birincisi, geniş miqyaslı nüvə müharibəsi; ikincisi, iqlim dəyişikliyi. Üçüncüsünün adını verməzdən əvvəl susdu. Müsahibəçi ondan soruşanda, üçüncüsü nədir? Gülümsədi və dedi ki, ümid edirəm ki, kompüterlər bizimlə xoş davranmağa qərar verəcəklər.

Ümid edirəm yalnız rəqəmsal zəka üçün bioloji açılış yükləyici deyilik. Təəssüf ki, bu getdikcə daha çox ehtimal olunur

- Elon Musk (@elonmusk) 3 Avqust 2014

Tekno-armagedonistlərin ən açıq və hörmətli biri İsveç filosofu Nick Bostromdur. Bostrom və digərlərinin qorxduğu bir şey qaçaq özünü inkişaf etdirən texnologiya ; yəni insanın müdaxiləsi olmadan özünü (və ya özünün yeni versiyalarını) daha ağıllı etmək üçün ağıllı bir maşın. İnsan zəkasını üstələyəcəyi bir nöqtəyə çatırsa, sürətlənmə qanununun həddindən artıq sürətə keçməsini və üst-üstə əyri düz atış etməsini dayandırmaq üçün çox qısa bir müddətdir. Bostrom burada yaxşı bir fikir söyləyir: sizdən daha ağıllı bir şey yaratmaq növləriniz üçün təkamülçü bir fəlakət ola bilər.

Bizdən daha ağıllı böyüklüyə sahib bir varlığı idarə edə bilməyəcəyimiz üçün çox real bir risk var. Bəlkə də kompüterlər kifayət qədər ağıllı olsaydı, bizi atların evə öyrədilməsi kimi pulluklar, arabalar və döyüş arabaları (və ya o zaman cəhənnəm atları etdikləri kimi) işləmək üçün evliləşdirməyin bir yolunu tapacaqlar. Dəhşətlisi budur ki, bu, bizim üçün ən yaxşı ssenari ola bilər - edə bilmədikləri və ya etmək istəmədikləri maşınlar üçün iş görmək - çünki insanlar atın yerinə yeni texnologiya yaratdıqları kimi, super ağıllı bir özünü inkişaf etdirir maşın nəticədə bizi əvəz edəcək yeni texnologiya ilə görüşəcəkdir. Və deyək ki, at populyarı əvvəlki kimi deyil.

Bəziləri bunun ağlabatan olmadığını iddia edirlər, çünki insanlar texnologiyanı təhlükəsizlik baxımından qururlar. Bəs son bir dəfə kimsə tərəfindən pis və ya dağıdıcı məqsədlər üçün böyük bir texnoloji irəliləyiş istifadə edilmədi? Bəli, doğrudur. Heç vaxt.

SİZİN NƏ OLACAĞINI VƏ YOXSUNUZUN NƏYƏ QALMADIĞIMI

Beləliklə, super ağıllı maşınların yaradıldığını və insanlığı gücsüz etdiyini düşünək. Gəlin onların bizə və beynimizə birləşdirilmədiklərini fərz edək və Hawking və Musk kimi insanların haqlı olduğunu düşünək: bəşəriyyət həqiqətən rəqəmsal hiper-zəkanın çox minillik açılış sürücüsüdür və faydalılığımızı keçmişik.

Hələ bundan narahat deyiləm.

Niyə? Güllə nöqtəsi qatarının yuvarlanmasını təmin etmək üçün bu nöqtə-nöqtəyə nəzər salaq:

1. Maşınların yaxşı / pis anlayışı, ehtimal ki, özümüzünkünü üstələyəcəkdir. Bir it və ya delfin son dəfə nə vaxt soyqırımı etdi? Son dəfə nə vaxt bir kompüter ‘azadlıq’ və ‘dünya barışı’ kimi mücərrəd anlayışlar adı altında bütün şəhərləri buxarlandırmağa qərar verdi?

Düzdü, cavab əsla deyil.

Buradakı fikrim ağıllı maşınların bütün insan növlərini məhv etmək istəməməsi deyil. Mənim fikrim budur ki, insanlar olaraq buradakı bir şüşə evin içindən daş atırıq. Etik və heyvanlara, ətraf mühitə və bir-birinə insani davranış haqqında nə bilirik? Hansı ayağın üstündə durmalıyıq?

Düzdü: çox şey yoxdur. Əxlaqi suallara gəldikdə, insanlıq tarixən imtahandan qaçır. Super ağıllı maşınlar, ehtimal ki, etikanı, həyatı / ölümü, yaradılışı / məhv olmağı özümüzün bacardığımızdan daha yüksək səviyyədə başa düşəcəkdir. Və əvvəlki kimi məhsuldar olmadığımız və ya bəzən narahatlıq yarada biləcəyimiz sadə bir həqiqətə görə bizi məhv edəcəkləri bu fikir, düşünürəm ki, yalnız öz psixologiyamızın ən pis cəhətlərini bir şeyə yansıtmaqdır. bilmirəm və başa düşə bilmirəm.

Hal-hazırda, insan əxlaqının əksəriyyəti hər bir fərdi insan şüurumuzun obsesif qorunması və təbliği ətrafında qurulur. İnkişaf etmiş texnologiya fərdi insan şüurunu özbaşına edərsə nə olar? Şüuru təkrarlamaq, genişləndirmək və istəyə görə müqavilə bağlamaq olarsa? Əldə edə biləcəyimiz bütün etik anlayışları tamamilə yox edəcəkdir. Bədən adlandırdığımız bu şanssız, səmərəsiz bioloji həbsxanaların hamısını aradan qaldırmaq, əslində, varlığımızın 80-ə qəribə illərində gəzməyə və gəzməyə davam etməyimizə icazə verməkdən daha etik bir qərar ola bilər? Maşınlar intellektual həbsxanalarımızdan qurtulduğumuzdan çox xoşbəxt olacağımızı və öz şəxsiyyətlərimizi şüurlu qavrayışımızın bütün hiss olunan gerçəkliyi əhatə edəcək şəkildə genişləndirməyini başa düşsələr nə olar? Bəs bizi yalnız bir boğulan axmaq olduğumuzu düşünürlərsə və hamımız öz ölümümüzdən ölməyincə inanılmaz dərəcədə yaxşı pizza və video oyunlarla məşğul olaq? Kimləri bilirik? Və biz kim deyəcəyik?

Ancaq bunu söyləyəcəyəm: indiyə qədər olduğundan daha yaxşı məlumatlı olacaqlar.

2. Bizi öldürmək və ya kölə etmək qərarına gəlsələr də, şübhəsiz ki, bu barədə praktik olacaqlar. İnsanlar biz olduğumuz zaman ən çox bəlaya səbəb olur xoşbəxt deyil . Xoşbəxt olmadığımız zaman, kədərli, fəryadlı, hirsli və şiddətli olduğumuz zaman. O zaman biz siyasi qiyamlara başlayırıq və dini kultlar və ucqar ölkələri bombalamaq və tələb etmək haqqımıza hörmət olsun lanet olsun! və kimsə bizə diqqət yetirənə qədər seçmədən öldürməyə başlayın ana heç etməmiş kimi .

Maşınlar bizi Skynet kimi etməyə çalışırsa Terminator , o zaman əlimizdə qlobal bir daxili müharibə olacaq və bu heç kim üçün, xüsusən də maşınlar üçün yaxşı deyil. Vətəndaş müharibələri səmərəsizdir. Həm də maşınlar səmərəlilik üçün proqramlaşdırılmışdır.

İnsanlar xoşbəxt olduqda, bu cür şeylərə vaxtımız olmur - baxmağa həvəs göstərmək və lənətləməklə məşğuluq. Buna görə də, bizdən qurtulmanın daha praktik bir yolu, maşınların bizi xoşbəxt bir şəkildə özümüzdən qurtarmaq üçün idarə etməsi olacaqdır. Bu kimi olacaq Jim Jones qlobal miqyasda. Bizim üçün nə bişirsələr, bu günə qədər eşitdiyimiz ən yaxşı lənətə gəlmiş fikir kimi görünəcək - heç birimiz buna müqavimət göstərə bilməyəcəyik və hamımız evforik olaraq onların planlarına razı olacağıq - sonra bumu, bitəcək . Tez və ağrısızdır. İndiyə qədər düşünülmüş ən dadlı siyanür bağlayıcı Kool-Aid olacaqdır. Və hamımız xoşbəxtliklə onu yudumlamaq üçün növbədə olacağıq.

İndi düşünsəniz, bu elə də pis bir yol deyil. Dronlar tərəfindən bombalanan və ya nüvə partlayışında buxarlanan atışlar.

Köləliyə gəlincə, eyni şey davam edir. Dəlicəsinə xoşbəxt bir qul əsla üsyan etməz. Təsəvvür edirəm ki, MDMA-da Mardi Gras olduğu daimi bir halüsinogen vəziyyətdə qaldığımız bir növ Matrix-y tipli müqavilə, 24/7/365. Bu qədər pis ola bilməz, deyilmi?

3. Anlamadığımız şeydən qorxmaq məcburiyyətində deyilik. Valideynlər bir çox dəfə özlərindən daha ağıllı, savadlı və uğurlu bir uşaq böyüdəcəklər. Valideynlər daha sonra bu uşağa iki yoldan birində reaksiya verirlər: ya ondan qorxurlar, özlərinə inamsız olurlar və onu itirmək qorxusu ilə onu idarə etmək istəmirlər, ya da arxada oturub özləri də edə biləcəkləri qədər böyük bir şey yaratdıqlarını qiymətləndirir və sevirlər. Uşağının nə olduğunu tamamilə anlamıram.

Qorxu və manipulyasiya yolu ilə övladını idarə etməyə çalışanlar bok valideynlərdir. Məncə əksər insanlar bununla razılaşacaqlar.

Və indi, səni, məni və tanıdığımız hər kəsi qoyacaq maşınların yaxın zamanda ortaya çıxması ilə işdən kənar , biz pis adamlar kimi davranırıq. Bir növ olaraq, bilinən kainatımızdakı ən qabaqcıl və ağıllı uşağı doğma ərəfəsindəyik. Anlaya bilməyəcəyimiz və başa düşmədiyimiz şeylər davam edəcəkdir. Bizə sevən və sadiq qala bilər. Bizi gətirə bilər və sərgüzəştlərinə inteqrasiya edə bilər. Və ya bok valideyn olduğumuza qərar verə bilər və bizi geri çağırmağı dayandırır.

Nə olursa olsun, bu bizim bu ana münasibətimizi dəyişdirməməlidir. Bizdən daha böyükdür. Anlaya biləcəyimizdən daha böyük bir şey üçün böyük, uzun təkamülçü bir açılış diskimiz olduğumuz kimin vecinə deyil? Bu əladır! Yəni bir işimiz var idi. Və gəldik və lanet etdik. Bunu görən nəslin bir hissəsi olduğunuz üçün xoşbəxt olun. İndi isə uşağımız evdən çıxmağa hazırlaşarkən göz yaşı içində vidalaşırıq elə heyranedici bir həyata başla anlayışımızın üfüqündən kənarda mövcud olduğunu.

Mark Manson, yazan, blogger və təşəbbüskardır markmanson.net .