Prieš jus yra antroji straipsnio dalis iš serijos „Palauk, kaip visa tai gali būti tikra, kodėl vis tiek apie tai nekalbama kiekviename kampe“. Ankstesnėje serijoje tapo žinoma, kad žvalgybos sprogimas palaipsniui šliaužia Žemės planetos žmonėms, jis bando išsivystyti iš siaurai sutelkto į visuotinį intelektą ir, galiausiai, dirbtinį intelektą.
„Galbūt susiduriame su itin sunkia problema ir nežinoma, kiek laiko skiriama jos sprendimui, tačiau žmonijos ateitis gali priklausyti nuo jos sprendimo“. - Nikas Bostromas.
Pirmoji straipsnio dalis prasidėjo pakankamai nekaltai. Mes aptarėme siaurai sutelktą dirbtinį intelektą (AI, kuris specializuojasi sprendžiant vieną konkrečią problemą, pavyzdžiui, nustatant maršrutus ar žaidžiant šachmatais), mūsų pasaulyje to yra daug. Tada jie išanalizavo, kodėl taip sunku auginti bendrą kryptinį dirbtinį intelektą (AGI arba AI, kuris, atsižvelgiant į intelektines galimybes, gali palyginti su žmogumi sprendžiant bet kokią problemą), yra toks sunkus. Mes padarėme išvadą, kad eksponentinis technologinės pažangos tempas rodo, kad AGI gali būti visai netrukus. Galų gale nusprendėme, kad kai tik mašinos pasieks žmogaus intelektą, iš karto gali įvykti:
Kaip įprasta, žiūrime į ekraną netikėdami, kad per mūsų gyvenimą gali atsirasti dirbtinis superintelektas (ISI, kuris yra daug protingesnis už bet kurį žmogų), ir pasirenkame emocijas, kurios geriausiai atspindėtų mūsų nuomonę šiuo klausimu.
Prieš pasinerdami į ISI specifiką, priminkime sau, ką reiškia mašina būti superinteligentiška.
Pagrindinis skirtumas yra tarp greito superintelligento ir kokybiško superintelligento. Dažnai pirmas dalykas, kuris ateina į galvą galvojant apie superinteligentišką kompiuterį, yra tai, kad jis gali mąstyti daug greičiau nei žmogus - milijonus kartų greičiau, o per penkias minutes supras, ko žmogui prireiktų dešimt metų. ("Aš žinau kung fu!")
Tai skamba įspūdingai, ir ISI tikrai turėtų galvoti greičiau nei bet kuris kitas žmogus, tačiau pagrindinis skiriamasis bruožas bus jo intelekto kokybė, kuri yra visiškai kitokia. Žmonės yra daug protingesni už beždžiones ne todėl, kad mąsto greičiau, bet todėl, kad jų smegenyse yra daugybė išradingų pažinimo modulių, kurie atlieka sudėtingus kalbinius vaizdus, ilgalaikį planavimą, abstraktų mąstymą, ko beždžionės nesugeba. Jei tūkstantį kartų pagreitinsite beždžionės smegenis, ji netaps protingesnė už mus - net ir po dešimties metų ji nesugebės surinkti konstruktoriaus pagal instrukcijas, o tai žmogui užtruktų daugiausiai porą valandų. Yra dalykų, kurių beždžionė niekada neišmoks, nesvarbu, kiek valandų ji praleidžia ar kaip greitai veikia jos smegenys.
Be to, beždžionė nežino, kaip žmogiškai, nes jos smegenys tiesiog nesugeba suvokti kitų pasaulių egzistavimo - beždžionė gali žinoti, kas yra žmogus ir kas yra dangoraižis, bet niekada nesupras, kad dangoraižį pastatė žmonių. Jos pasaulyje viskas priklauso gamtai, o makaka ne tik negali pastatyti dangoraižio, bet ir supranta, kad jį pastatyti gali bet kas. Ir tai yra nedidelio intelekto kokybės skirtumo rezultatas.
Bendroje intelekto schemoje, apie kurią mes kalbame, arba tiesiog pagal biologinių būtybių standartus, žmonių ir beždžionių intelekto kokybės skirtumas yra mažas. Ankstesniame straipsnyje biologinius pažinimo gebėjimus išdėstėme ant kopėčių:
Kad suprastumėte, kokia rimta bus intelektualioji mašina, padėkite ją dviem įpjovomis aukščiau už tą kopėčią esantį asmenį. Ši mašina gali būti tik šiek tiek superinteligentiška, tačiau jos pranašumas prieš mūsų pažinimo gebėjimus bus toks pat kaip mūsų - prieš beždžiones. Ir kaip šimpanzė niekada nesupras, kad dangoraižis gali būti pastatytas, mes galbūt niekada nesuprasime, ką supras pora laiptelių aukščiau esanti mašina, net jei mašina bandys mums tai paaiškinti. Bet tai tik pora žingsnių. Išmanesnė mašina matys mumyse skruzdėles - ji daugelį metų išmokys mus paprasčiausių dalykų, o šie bandymai bus visiškai beviltiški.
Superžvalgybos tipas, apie kurį šiandien kalbėsime, yra toli už šių laiptų. Tai yra intelekto sprogimas - kai automobilis tampa protingesnis, tuo greičiau jis gali padidinti savo intelektą, palaipsniui didindamas pagreitį. Gali prireikti metų, kol tokia mašina savo intelektu pranoks šimpanzes, bet galbūt porą valandų, kad mus pranoktų porą žingsnių. Nuo to momento automobilis jau gali peršokti keturis žingsnius kas sekundę. Štai kodėl turėtume suprasti, kad netrukus pasirodžius pirmosioms naujienoms, kad mašina pasiekė žmogaus intelekto lygį, galime susidurti su sambūvio Žemėje realybe su tuo, kas bus daug aukščiau už mus ant šių kopėčių (o gal ir milijonus kartų didesnis):
Ir kadangi mes nustatėme, kad visiškai nenaudinga bandyti suprasti mašinos, esančios vos dviem žingsniais virš mūsų, galią, kartą ir visiems laikams apibrėžkime, kad niekaip negalime suprasti, ką ISI darys ir kokios bus to pasekmės tai bus mums. Kiekvienas, teigiantis priešingai, tiesiog nesupranta, ką reiškia superžvalgyba.
Evoliucija lėtai ir palaipsniui vystė biologines smegenis per šimtus milijonų metų, ir jei žmonės sukurs superinteligentišką mašiną, tam tikra prasme mes pranoksime evoliuciją. Arba tai bus evoliucijos dalis - galbūt evoliucija veikia taip, kad intelektas vystosi palaipsniui, kol pasiekia lūžio tašką, kuris skelbia naują visų gyvų dalykų ateitį:
Dėl priežasčių, kurias aptarsime vėliau, didžiulė mokslo bendruomenės dalis mano, kad klausimas kyla ne dėl to, ar pasieksime šį lūžio tašką, bet kada.
Kur po to atsidursime?
Manau, kad niekas šiame pasaulyje, nei aš, nei jūs, negalės pasakyti, kas nutiks, kai pasieksime lūžio tašką. Oksfordo filosofas ir pagrindinis dirbtinio intelekto teoretikas Nickas Bostromas mano, kad visus galimus rezultatus galime suskirstyti į dvi plačias kategorijas.
Pirma, žvelgdami į istoriją, mes žinome apie gyvenimą: rūšys atsiranda, egzistuoja tam tikrą laiką, o tada neišvengiamai nukrenta nuo pusiausvyros spindulio ir išnyksta.
„Visos rūšys išnyksta“buvo tokia pat patikima taisyklė istorijoje kaip „visi žmonės kada nors miršta“. 99,9% rūšių nukrito nuo gyvybės žurnalo, ir visiškai aišku, kad jei rūšis ant šio rąsto kabo per ilgai, natūralaus vėjo gūsis ar staigus asteroidas apvers rąstą. Bostromas išnykimą vadina traukos būsena - vieta, kurioje visos rūšys balansuoja, kad nenukristų ten, kur dar negrįžo nė viena rūšis.
Ir nors dauguma mokslininkų pripažįsta, kad ISI turės galimybę pasmerkti žmones išnykti, daugelis taip pat mano, kad naudojant ISI galimybes individai (ir visa rūšis) galės pasiekti antrąją traukos būseną - rūšių nemirtingumą. Bostromas mano, kad rūšies nemirtingumas yra toks pat traukiantis kaip rūšies išnykimas, tai yra, jei mes tai pasiekiame, būsime pasmerkti amžinai egzistencijai. Taigi, net jei visos rūšys iki šiol nukrito nuo šios lazdos į išnykimo sūkurį, Bostromas mano, kad rąstas turi dvi puses, ir Žemėje tiesiog neatsirado tokio intelekto, kuris suprastų, kaip nukristi į kitą pusę.
Jei Bostromas ir kiti yra teisūs ir, remiantis visa turima informacija, jie gali būti teisingi, turime sutikti su dviem labai šokiruojančiais faktais:
Pirmą kartą ISI atsiradimas atvers kelią rūšiai pasiekti nemirtingumą ir iškristi iš mirtino išnykimo ciklo.
ISI atsiradimas turės tokį neįsivaizduojamai didžiulį poveikį, kuris greičiausiai atstums žmoniją nuo šio žurnalo viena ar kita kryptimi.
Gali būti, kad kai evoliucija pasiekia tokį lūžio tašką, ji visada nutraukia žmonių santykius su gyvenimo srove ir sukuria naują pasaulį, su žmonėmis ar be jų.
Dėl to kyla įdomus klausimas, kurio neklaustų tik žmogus - kada mes pasieksime šį lūžio tašką ir kur jis mus pasieks? Niekas pasaulyje nežino atsakymo į šį dvigubą klausimą, tačiau daugelis protingų žmonių dešimtmečius bandė tai išsiaiškinti. Likusioje straipsnio dalyje išsiaiškinsime, iš kur jie atsirado.
* * *
Pradėkime nuo pirmosios šio klausimo dalies: kada turėtume pasiekti lūžio tašką? Kitaip tariant: kiek laiko liko, kol pirmoji mašina pasieks superžvalgybą?
Kiekvienu atveju nuomonės skiriasi. Daugelis, įskaitant profesorių Vernorą Vinge, mokslininką Beną Herzelį, „Sun Microsystems“įkūrėją Bilą Joy, ateitininką Ray Kurzweil, sutiko su mašinų mokymosi ekspertu Jeremy Howardu, kai „TED Talk“pristatė šią diagramą:
Šie žmonės pritaria nuomonei, kad ISI netrukus - šis eksponentinis augimas, kuris mums šiandien atrodo lėtas, tiesiogine prasme sprogs per artimiausius kelis dešimtmečius.
Kiti, pvz., „Microsoft“įkūrėjas Paulas Allenas, tyrimų psichologas Gary Marcusas, kompiuterių ekspertas Ernestas Davisas ir technologijų verslininkas Mičas Kaporas, mano, kad mąstytojai, tokie kaip Kurzweil, rimtai neįvertina problemos masto ir mano, kad nesame beveik taip arti lūžio taškas.
Kurzweilio stovykla teigia, kad vienintelis neįvertinamas reiškinys yra eksponentinio augimo nepaisymas, o abejojančius galima palyginti su tais, kurie 1985 metais žiūrėjo į lėtai klestintį internetą ir teigė, kad tai neturės jokios įtakos pasauliui artimiausioje ateityje.
Abejotojai gali nesutikti, kad progresui sunkiau žengti kiekvieną sekantį žingsnį, kai kalbama apie eksponentinį intelekto vystymą, o tai neutralizuoja tipišką eksponentinį technologinės pažangos pobūdį. Ir tt
Trečioji stovykla, kurioje yra Nickas Bostromas, nesutinka nei su pirmąja, nei su antrąja, teigdama, kad a) visa tai gali visiškai įvykti artimiausiu metu; ir b) nėra garantijos, kad tai išvis įvyks arba užtruks ilgiau.
Kiti, kaip ir filosofas Hubertas Dreyfusas, mano, kad visos trys grupės naiviai tiki, kad išvis bus lūžio taškas, ir kad greičiausiai niekada nepasieksime ISI.
Kas atsitiks, kai sujungsime visas šias nuomones?
2013 m. Bostromas atliko apklausą, kurios metu jis apklausė šimtus dirbtinio intelekto ekspertų konferencijų serijoje šia tema: „Kokios bus jūsų prognozės norint pasiekti AGI žmonių lygiu?“. ir paprašė mūsų įvardyti optimistiškus metus (kai AGI turėsime 10 proc. tikimybę), realias prielaidas (metus, kai AGI turėsime su 50 proc. tikimybe) ir patikimą prielaidą (ankstyviausi metai, kai AGI pasirodys nuo 90 procentų tikimybės). Štai rezultatai:
* Vidutiniai optimistiniai metai (10%): 2022 m
* Vidutiniai realūs metai (50%): 2040 m
* Vidutiniai pesimistiniai metai (90%): 2075 m
Vidutiniai respondentai mano, kad po 25 metų turėsime AGI, o ne. 90 proc. AGI atsiradimo tikimybė iki 2075 m. Reiškia, kad jei esate dar gana jaunas, tai greičiausiai įvyks jūsų gyvenime.
Atskiras tyrimas, kurį neseniai atliko Jamesas Barrattas (pripažintos ir labai geros knygos „Mūsų naujausias išradimas“autorius, ištraukos iš Pateikiau skaitytojų dėmesiui Hi-News.ru) ir Benas Hertzelis AGI konferencijoje, kasmetinėje AGI konferencijoje, tiesiog parodė žmonių nuomonę apie metus, kuriais mes pasiekiame AGI: 2030, 2050, 2100, vėliau arba niekada. Štai rezultatai:
* 2030 m.: 42% respondentų
* 2050: 25%
* 2100: 20%
Po 2100: 10%
Niekada: 2%
Panašus į Bostromo rezultatus. Barratt apklausoje daugiau nei du trečdaliai apklaustųjų mano, kad AGI bus čia iki 2050 m., Ir mažiau nei pusė mano, kad AGI pasirodys per ateinančius 15 metų. Taip pat stebina tai, kad tik 2% respondentų iš esmės nemato AGI mūsų ateityje.
Tačiau AGI nėra lūžio taškas, kaip ISI. Kada, pasak ekspertų, turėsime ISI?
Bostromas paklausė ekspertų, kada pasieksime ASI: a) praėjus dvejiems metams po to, kai pasieksime AGI (tai yra beveik akimirksniu dėl žvalgybos sprogimo); b) po 30 metų. Rezultatai?
Vidutinė nuomonė yra ta, kad greitas perėjimas nuo AGI prie ISI įvyks su 10% tikimybe, tačiau po 30 ar mažiau metų - su 75% tikimybe.
Remiantis šiais duomenimis, mes nežinome, kurią dieną respondentai vadintų 50 procentų ASI tikimybę, tačiau, remiantis dviem aukščiau pateiktais atsakymais, tarkime, kad tai yra 20 metų. Tai yra, pirmaujantys pasaulio dirbtinio intelekto ekspertai mano, kad lūžis ateis 2060 m. (AGI pasirodys 2040 m. + Perėjimas nuo AGI prie ISI užtruks 20 metų).
Žinoma, visa aukščiau pateikta statistika yra spekuliacinė ir tiesiog atspindi dirbtinio intelekto srities ekspertų nuomonę, tačiau ji taip pat rodo, kad dauguma suinteresuotų žmonių sutinka, kad iki 2060 m. Vos per 45 metus.
Pereikime prie antrojo klausimo. Kai pasieksime lūžio tašką, kuri lemtingo pasirinkimo pusė lems mus?
Superžvalgyba turės galingiausią galią, o mums svarbiausias klausimas bus toks:
Kas ar kas valdys šią galią ir kokia bus jų motyvacija?
Atsakymas į šį klausimą priklausys nuo to, ar ISI vystysis neįtikėtinai galingu, neišmatuojamai bauginančiu vystymusi, ar kažkas tarp jų.
Žinoma, ekspertų bendruomenė taip pat bando atsakyti į šiuos klausimus. Bostromo apklausa analizavo galimų AGI poveikio žmonijai pasekmių tikimybę ir paaiškėjo, kad esant 52 procentų tikimybei viskas klostysis labai gerai, o esant 31 procentų tikimybei viskas klostysis blogai arba itin blogai. Apklausa, pridėta ankstesnės šios temos dalies pabaigoje, atlikta tarp jūsų, mieli „Hi-News“skaitytojai, parodė maždaug tuos pačius rezultatus. Santykinai neutralaus rezultato tikimybė buvo tik 17%. Kitaip tariant, mes visi tikime, kad AGI bus didelis dalykas. Taip pat verta paminėti, kad ši apklausa susijusi su AGI atsiradimu - ISI atveju neutralumo procentas bus mažesnis.
Prieš pradėdami gilintis į geras ir blogas klausimo puses, sujunkime abi klausimo puses - „kada tai atsitiks?“. ir "tai gerai ar blogai?" į lentelę, kurioje pateikiama daugumos ekspertų nuomonė.
Apie pagrindinę stovyklą kalbėsime po minutės, bet pirmiausia nuspręskite dėl savo pozicijos. Tikėtina, kad esate toje pačioje vietoje, kur buvau prieš pradėdamas dirbti šia tema. Yra keletas priežasčių, kodėl žmonės visai negalvoja apie šią temą:
* Kaip minėta pirmoje dalyje, filmai rimtai supainiojo žmones ir faktus, pateikdami nerealius scenarijus su dirbtiniu intelektu, dėl to mes neturėtume rimtai žiūrėti į AI. Jamesas Barrattas šią situaciją palygino su ligų kontrolės centrų (CDC) paskelbtu rimtu įspėjimu apie vampyrus mūsų ateityje.
* Dėl vadinamųjų pažinimo šališkumų mums labai sunku patikėti, kad kažkas yra tikra, kol neturime įrodymų. Galima drąsiai įsivaizduoti 1988 metų kompiuterių mokslininkus, reguliariai diskutuojančius apie tolimesnes interneto pasekmes ir tai, kuo jis galėtų tapti, tačiau žmonės vargu ar tikėjo, kad tai pakeis jų gyvenimą, kol tai iš tikrųjų neįvyks. Tiesiog 1988 metais kompiuteriai nemokėjo to padaryti, o žmonės tiesiog žiūrėjo į savo kompiuterius ir galvojo: „Tikrai? Ar tai pakeis pasaulį? Jų vaizduotę ribojo tai, ko jie išmoko iš asmeninės patirties, jie žinojo, kas yra kompiuteris, ir buvo sunku įsivaizduoti, ką kompiuteris sugebės ateityje. Tas pats vyksta ir su AI. Mes girdėjome, kad tai taps rimtu dalyku, tačiau kadangi dar nesusidūrėme su juo akis į akį ir apskritai stebime gana silpnas AI apraiškas mūsų šiuolaikiniame pasaulyje, mums gana sunku patikėti, kad tai radikaliai pakeisti mūsų gyvenimą. Dauguma ekspertų iš visų stovyklų, taip pat suinteresuoti žmonės prieštarauja šioms išankstinėms nuostatoms, bandydami patraukti mūsų dėmesį per kasdienio kolektyvinio egocentrizmo triukšmą.
* Net jei mes visa tai tikėtume - kiek kartų šiandien galvojote apie tai, kad visą amžinybę praleisite nebūtyje? Šiek tiek, sutikite. Net jei šis faktas yra daug svarbesnis už viską, ką darote diena iš dienos. Taip yra todėl, kad mūsų smegenys dažniausiai yra sutelktos į smulkius, kasdienius dalykus, kad ir kokia iliuzinė situacija būtų. Tiesiog mes esame sukurti.
Vienas iš šio straipsnio tikslų yra ištraukti jus iš stovyklos, pavadintos „Man patinka galvoti apie kitus dalykus“, ir patekti į ekspertų stovyklą, net jei jūs tiesiog stovite sankryžoje tarp dviejų punktyrinių aikštės linijų. aukščiau, visiškai neapsisprendęs.
Tyrimų metu tampa akivaizdu, kad daugumos žmonių nuomonės greitai nukrypsta į „pagrindinę stovyklą“, o trys ketvirtadaliai ekspertų patenka į dvi pagrindinės stovyklos dalis.
Abiejose stovyklose apsilankysime pilnai. Pradėkime nuo linksmybių.
Kodėl ateitis gali būti didžiausia mūsų svajonė?
Tyrinėdami dirbtinio intelekto pasaulį, savo komforto zonoje randame stebėtinai daug žmonių. Viršutinėje dešinėje aikštėje esantys žmonės dūzgia iš susijaudinimo. Jie tiki, kad pateksime į gerą rąsto pusę, taip pat tiki, kad mes to neišvengiamai pasieksime. Jiems ateitis yra tik geriausia, apie ką galima tik pasvajoti.
Šiuos žmones nuo kitų mąstytojų skiria ne tai, kad jie nori būti laimingojoje pusėje, bet tai, kad jie yra tikri, jog būtent ji mūsų laukia.
Šis pasitikėjimas kyla iš ginčų. Kritikai mano, kad tai kyla iš akinančio jaudulio, užgožiančio galimas neigiamas puses. Tačiau šalininkai sako, kad niūrios prognozės visada yra naivios; technologijos tęsiasi ir visada mums padės daugiau nei pakenks.
Jūs galite laisvai pasirinkti bet kurią iš šių nuomonių, tačiau atmeskite skepticizmą ir gerai pažvelkite į laimingąją pusiausvyros sijos pusę, bandydami priimti faktą, kad viskas, apie ką skaitote, jau galėjo įvykti. Jei parodytumėte medžiotojams -rinkėjams mūsų komforto, technologijų ir begalinės gausos pasaulį, jiems tai atrodytų stebuklinga fikcija - o mes elgiamės gana kukliai, negalėdami pripažinti, kad tokia pat nesuprantama transformacija mūsų laukia ir ateityje.
Nickas Bostromas apibūdina tris būdus, kuriais gali nueiti superinteligentiška AI sistema:
* Orakulas, galintis atsakyti į bet kokį tikslų klausimą, įskaitant sudėtingus klausimus, į kuriuos žmonės negali atsakyti, pavyzdžiui, „kaip padaryti automobilio variklį efektyvesnį?“. „Google“yra primityvus „orakulo“tipas.
* Džinas, kuris vykdys bet kokią aukšto lygio komandą - naudodamas molekulinį surinkėją, kad sukurtų naują, efektyvesnę automobilių variklio versiją - ir lauks kitos komandos.
* Valdovas, turintis plačią prieigą ir galimybę laisvai veikti pasaulyje, priimti savo sprendimus ir tobulinti procesą. Jis sugalvos pigesnį, greitesnį ir saugesnį privataus transporto būdą nei automobilis.
Šie klausimai ir užduotys, kurie mums atrodo sunkūs, superintelektualiai sistemai atrodys taip, tarsi kas nors paprašytų pagerinti situaciją „mano pieštukas nukrito nuo stalo“, kuriame jūs tiesiog pakeltumėte jį ir padėtumėte atgal.
Eliezer Yudkowski, amerikiečių dirbtinio intelekto specialistas, gerai pasakė:
„Nėra sunkių problemų, yra tik problemos, kurios yra sunkios tam tikram intelekto lygiui. Pakilkite vienu žingsniu aukščiau (žvalgybos požiūriu), ir kai kurios problemos staiga pereis iš kategorijos „neįmanoma“į „akivaizdžių“stovyklą. Vienas žingsnis aukščiau - ir jie visi taps akivaizdūs “.
Yra daug nekantrių mokslininkų, išradėjų ir verslininkų, kurie pasirinko patikimo komforto zoną iš mūsų stalo, tačiau mums reikia tik vieno vadovo, kad galėtume vaikščioti geriausiame pasaulyje.
Ray Kurzweil yra dviprasmiškas. Kai kurie dievina jo idėjas, kiti jį niekina. Kai kurie lieka viduryje - Douglasas Hofstadteris, diskutuodamas apie Kurzweilio knygų idėjas, iškalbingai pažymėjo, kad „lyg būtum pasiėmęs daug gero maisto ir šiek tiek šunų išmatų, o paskui viską sumaišei taip, kad neįmanoma suprasti kas yra gerai, o kas blogai “.
Nesvarbu, ar jums patinka jo idėjos, ar ne, neįmanoma jų praeiti be interesų šešėlio. Paauglystėje jis pradėjo kurti daiktus, o vėlesniais metais išrado kelis svarbius dalykus, įskaitant pirmąjį plokščiąjį skaitytuvą, pirmąjį skaitytuvą, kuris tekstą pavertė kalba, gerai žinomą Kurzweil muzikos sintezatorių (pirmąjį tikrą elektrinį fortepijoną) ir pirmasis komerciškai sėkmingas kalbos atpažinimo įrenginys. Jis taip pat yra penkių sensacingų knygų autorius. Kurzweilis yra vertinamas už drąsias prognozes, o jo pasiekimai yra gana geri - devintojo dešimtmečio pabaigoje, kai internetas dar buvo pradiniame etape, jis prognozavo, kad iki 2000 -ųjų žiniatinklis taps pasauliniu reiškiniu. „The Wall Street Journal“pavadino Kurzweilį „neramiu genijumi“, o „Forbes“- „pasaulinio mąstymo mašina“, Inc. Žurnalas - „teisėtas Edisono įpėdinis“, Billas Gatesas - „geriausias iš tų, kurie prognozuoja dirbtinio intelekto ateitį“. 2012 m. „Google“įkūrėjas Larry Page'as pakvietė Kurzweilą eiti CTO pareigas. 2011 m. Jis įkūrė „Singularity University“, kuriam vadovauja NASA ir iš dalies remia „Google“.
Jo biografija yra svarbi. Kai Kurzweilis kalba apie savo ateities viziją, tai skamba kaip beprotiškai beprotiška, tačiau iš tikrųjų beprotiška yra tai, kad jis toli gražu nėra beprotis - jis yra neįtikėtinai protingas, išsilavinęs ir sveiko proto žmogus. Galbūt manote, kad jis klysta savo prognozėse, bet jis nėra kvailys. Kurzweilio prognozėms pritaria daugelis komforto zonos ekspertų - Peteris Diamandisas ir Benas Herzelis. Tai, jo manymu, įvyks.
Chronologija
Kurzweilis mano, kad kompiuteriai pasieks bendro dirbtinio intelekto (AGI) lygį iki 2029 m., O iki 2045 m. Turėsime ne tik dirbtinį superintelligenciją, bet ir visiškai naują pasaulį - vadinamojo išskirtinumo laiką. Jos dirbtinio intelekto chronologija vis dar laikoma nepaprastai perdėta, tačiau per pastaruosius 15 metų sparti labai koncentruoto dirbtinio intelekto (AI) sistemų plėtra privertė daugelį ekspertų atsisakyti Kurzweilio. Jo prognozės vis dar yra ambicingesnės nei Bostromo apklausoje (AGI iki 2040 m., ISI iki 2060 m.), Bet ne per daug.
Kurzweilio teigimu, 2045 metų išskirtinumą lemia trys vienu metu vykstančios biotechnologijų, nanotechnologijų ir, dar svarbiau, AI revoliucijos. Tačiau prieš tęsdami - o nanotechnologijos atidžiai seka dirbtinį intelektą - šiek tiek pakalbėkime apie nanotechnologijas.
Keletas žodžių apie nanotechnologijas
Paprastai mes vadiname nanotechnologijų technologijas, kurios yra susijusios su 1-100 nanometrų diapazono medžiagų manipuliavimu. Nanometras yra viena milijardoji metro dalis arba milijonoji milimetro dalis; 1–100 nanometrų diapazone gali būti laikomi virusai (100 nm skersmens), DNR (10 nm pločio), hemoglobino molekulės (5 nm), gliukozė (1 nm) ir kiti. Jei nanotechnologijos kada nors taps mums pavaldžios, kitas žingsnis bus manipuliuoti atskirais atomais, kurių dydis yra mažesnis nei viena (~ 1 nm).
Norėdami suprasti, kur žmonės susiduria su problemomis, bandydami manipuliuoti medžiaga tokiu mastu, pereikime prie didesnio masto. Tarptautinė kosminė stotis yra 481 kilometrų aukštyje virš Žemės. Jei žmonės būtų milžinai ir smūgiuotų galva į TKS, jie būtų 250 000 kartų didesni nei dabar. Jei 250 000 kartų padidinsite nuo 1 iki 100 nanometrų, gausite 2,5 centimetro. Nanotechnologijos yra lygiavertis žmogui, skriejančiam aplink TKS, bandančiam manipuliuoti smėlio grūdelio ar akies obuolio dydžio daiktais. Norėdami patekti į kitą lygį - atskirų atomų valdymą - milžinas turės atsargiai išdėstyti 1/40 milimetro skersmens objektus. Paprastiems žmonėms juos pamatyti reikės mikroskopo.
Pirmą kartą Richardas Feynmanas apie nanotechnologijas kalbėjo 1959 m. Tada jis pasakė: „Fizikos principai, kiek aš galiu pasakyti, neprieštarauja galimybei valdyti daiktus atomais. Iš esmės fizikas gali susintetinti bet kokią cheminę medžiagą, kurią užrašė chemikas. Kaip? Įdėdami atomus ten, kur chemikas sako gauti medžiagą “. Tai yra visas paprastumas. Jei žinote, kaip perkelti atskiras molekules ar atomus, galite padaryti beveik viską.
Nanotechnologijos tapo rimta mokslo sritimi 1986 m., Kai inžinierius Ericas Drexleris savo pagrindinėje knygoje „Machines of Creation“pristatė savo pagrindus, tačiau pats Drexleris mano, kad norintys daugiau sužinoti apie šiuolaikines nanotechnologijų idėjas turėtų perskaityti jo 2013 m. Knygą. „Full Abundance“Gausa).
Keletas žodžių apie „pilką gėlę“
Mes gilinamės į nanotechnologijas. Visų pirma „pilkojo“tema yra viena iš nelabai malonių temų nanotechnologijų srityje, kurios negalima ignoruoti. Senesnės nanotechnologijų teorijos versijos pasiūlė nano surinkimo metodą, apimantį trilijonų mažų nanorobotų, kurie kartu sukurtų kažką, sukūrimą. Vienas iš būdų sukurti trilijonus nanorobotų yra sukurti tokį, kuris galėtų savarankiškai daugintis, tai yra nuo vieno iki dviejų, nuo dviejų iki keturių ir pan. Per dieną atsiras keli trilijonai nanorobotų. Tai yra eksponentinio augimo galia. Juokinga, ar ne?
Tai juokinga, bet tiksliai tol, kol tai veda į apokalipsę. Problema ta, kad dėl eksponentinio augimo galios, kuri yra gana patogus būdas greitai sukurti trilijoną nanobotų, ilgainiui savęs replikacija tampa bauginančiu dalyku. Ką daryti, jei sistema sugenda, o užuot sustabdę replikaciją už porą trilijonų, nanobotai toliau veisiasi? Ką daryti, jei visas šis procesas priklauso nuo anglies? Žemės biomasėje yra 10 ^ 45 anglies atomų. Nanobotas turėtų būti maždaug 10 ^ 6 anglies atomų, taigi 10 ^ 39 nanobotų sunaudos visą gyvybę Žemėje vos 130 kartų. Planetą užplūs nanobotų („pilkasis“) vandenynas. Mokslininkai mano, kad nanobotai gali pakartoti per 100 sekundžių, o tai reiškia, kad paprasta klaida gali nužudyti visą gyvybę Žemėje vos per 3,5 valandos.
Tai gali būti dar blogiau - jei teroristai ir nepalankūs specialistai pasieks nanotechnologijų rankas. Jie galėtų sukurti kelis trilijonus nanobotų ir užprogramuoti juos po poros savaičių tyliai pasklisti po pasaulį. Tada, vos vieno mygtuko paspaudimu, vos per 90 minučių jie suvalgys viską, be jokių šansų.
Nors ši siaubo istorija buvo plačiai aptariama daugelį metų, gera žinia yra ta, kad tai tik siaubo istorija. Ericas Drexleris, sugalvojęs terminą „pilkas goo“, neseniai pasakė: „Žmonės mėgsta siaubo istorijas, ir tai yra viena iš zombių siaubo istorijų. Ši idėja savaime jau ėda smegenis “.
Kai pasiekiame nanotechnologijų esmę, galime ją panaudoti kurdami techninius prietaisus, drabužius, maistą, bioproduktus - kraujo ląsteles, kovotojus su virusais ir vėžiu, raumenų audinius ir pan. Ir pasaulyje, kuriame naudojamos nanotechnologijos, medžiagos kaina nebebus susieta su jos trūkumu ar gamybos proceso sudėtingumu, o su atominės struktūros sudėtingumu. Nanotechnologijų pasaulyje deimantas gali būti pigesnis nei trintukas.
Mes dar net ne arti. Ir nėra visiškai aišku, ar nuvertiname, ar pervertiname šio kelio sudėtingumą. Tačiau viskas eina į tašką, kad nanotechnologijos nėra toli. Kurzweil daro prielaidą, kad iki 2020 -ųjų mes juos turėsime. Pasaulio valstybės žino, kad nanotechnologijos gali žadėti didelę ateitį, todėl jos į jas investuoja daug milijardų.
Tik įsivaizduokite, kokias galimybes gautų superinteligentiškas kompiuteris, jei jis gautų patikimą nanomalės surinkėją. Tačiau nanotechnologijos yra mūsų idėja, ir mes bandome ja važiuoti, mums tai sunku. O kas, jei jie yra tik pokštas ISI sistemai, o pati ISI sugalvoja technologijas, kurios bus daug kartų galingesnės už viską, ką mes iš principo galime manyti? Sutarėme: niekas neįsivaizduoja, ką sugebės dirbtinis superintelektas? Manoma, kad mūsų smegenys negali nuspėti net to, kas nutiks.
Ką AI galėtų mums padaryti?
Apsiginklavęs superžvalgyba ir visomis technologijomis, kurias galėtų sukurti superžvalgyba, ISI tikriausiai sugebės išspręsti visas žmonijos problemas. Visuotinis atšilimas? ISI pirmiausia sustabdys anglies dvideginio išmetimą, išradusi daugybę efektyvių energijos gamybos būdų, nesusijusių su iškastiniu kuru. Tada jis sugalvos veiksmingą, novatorišką būdą pašalinti CO2 perteklių iš atmosferos. Vėžys ir kitos ligos? Ne problema - sveikatos priežiūra ir medicina pasikeis neįsivaizduojamais būdais. Pasaulio badas? ISI panaudos nanotechnologijas, kad sukurtų mėsą, identišką natūraliai, nuo nulio, tikrai mėsai.
Nanotechnologijos galės paversti šiukšlių krūvą į šviežios mėsos ar kito maisto indą (nebūtinai net įprastu pavidalu - įsivaizduokite milžinišką obuolių kubelį) ir paskirstyti visą šį maistą visame pasaulyje naudodami pažangias transporto sistemas. Žinoma, tai puikiai tiks gyvūnams, kuriems nebereikia mirti dėl maisto. ISI taip pat gali padaryti daug kitų dalykų, pavyzdžiui, išsaugoti nykstančias rūšis ar net sugrąžinti išnykusias iš saugomos DNR. ISI gali išspręsti sunkiausias mūsų makroekonomines problemas - sunkiausias ekonomines diskusijas, etines ir filosofines problemas, pasaulinę prekybą - visa tai bus skausmingai akivaizdu ISI.
Tačiau yra kažkas labai ypatingo, ką ISI galėtų padaryti dėl mūsų. Viliojantis ir gundantis, kad viskas pasikeistų: ISI gali padėti mums susidoroti su mirtingumu … Palaipsniui suvokdami AI galimybes, galbūt persvarstysite visas savo mintis apie mirtį.
Nebuvo jokios priežasties evoliucijai pratęsti mūsų gyvenimo trukmę ilgiau nei dabar. Jei gyvename pakankamai ilgai, kad galėtume pagimdyti ir užauginti vaikus tiek, kad jie galėtų apsiginti, pakanka evoliucijos. Evoliucijos požiūriu vystymuisi pakanka 30 ir daugiau metų, ir nėra jokios priežasties mutacijoms pratęsti gyvenimą ir sumažinti natūralios atrankos vertę. Williamas Butleris Yatesas mūsų rūšį pavadino „siela, prisirišus prie mirštančio gyvūno“. Nelabai smagu.
Ir kadangi mes visi kada nors mirsime, gyvename su mintimi, kad mirtis yra neišvengiama. Laikui bėgant galvojame apie senėjimą - toliau judame į priekį ir negalime sustabdyti šio proceso. Tačiau mintis apie mirtį yra klastinga: jos užfiksuoti mes pamirštame gyventi. Richardas Feynmanas rašė:
„Biologijoje yra nuostabus dalykas: šiame moksle nėra nieko, kas kalbėtų apie mirties būtinybę. Jei norime sukurti amžiną judesio mašiną, suprantame, kad fizikoje radome pakankamai įstatymų, kurie rodo, kad tai neįmanoma, arba kad įstatymai yra neteisingi. Tačiau biologijoje nėra nieko, kas rodytų mirties neišvengiamumą. Tai verčia manyti, kad tai nėra taip neišvengiama, ir tik laiko klausimas, kada biologai atras šios problemos, šios baisios visuotinės ligos, priežastį “.
Faktas yra tas, kad senėjimas neturi nieko bendra su laiku. Senėjimas yra tada, kai susidėvi fizinės kūno medžiagos. Automobilių dalys taip pat blogėja - bet ar senėjimas neišvengiamas? Jei remontuosite automobilį, kai dalys nusidėvės, jis tarnaus amžinai. Žmogaus kūnas nesiskiria - tik sudėtingesnis.
Kurzweilis kalba apie protingus, „Wi-Fi“ryšiu sujungtus nanobotus kraujotakoje, kurie galėtų atlikti daugybę užduočių žmonių sveikatai, įskaitant reguliariai taisyti ar keisti susidėvėjusias ląsteles bet kurioje kūno vietoje. Patobulinus šį procesą (arba suradus protingesnės ASI pasiūlytą alternatyvą), kūnas ne tik išliks sveikas, bet ir gali pakeisti senėjimą. Skirtumas tarp 60-mečio ir 30-mečio kūno yra keletas fizinių problemų, kurias būtų galima ištaisyti naudojant tinkamas technologijas. ISI galėtų sukurti automobilį, į kurį žmogus įvažiuotų sulaukęs 60 metų ir išvažiuotų sulaukęs 30 metų.
Net degradavusios smegenys gali būti atnaujintos. ISI tikrai žinotų, kaip tai padaryti nepažeidžiant smegenų duomenų (asmenybės, prisiminimų ir kt.). 90 metų vyras, kenčiantis nuo visiško smegenų degradacijos, gali būti persikvalifikuotas, atnaujintas ir grįžęs į savo gyvenimo pradžią. Tai gali atrodyti absurdiška, tačiau kūnas yra saujelė atomų, ir ISI tikrai galėtų lengvai jais manipuliuoti, bet kokiomis atominėmis struktūromis. Tai nėra toks absurdas.
Kurzweilis taip pat mano, kad dirbtinės medžiagos laikui bėgant vis labiau integruosis į kūną. Pradžiai vargonai galėtų būti pakeisti itin pažangiomis mašinų versijomis, kurios tarnautų amžinai ir niekada nesugestų. Tada galėtume atlikti viso kūno pertvarkymą, pakeisdami raudonuosius kraujo kūnelius tobulais nanobotais, kurie juda savarankiškai, visiškai pašalindami širdies poreikį. Taip pat galėtume pagerinti savo pažinimo gebėjimus, pradėti mąstyti milijardus kartų greičiau ir pasiekti visą žmonijai prieinamą informaciją per debesį.
Galimybės suvokti naujus horizontus būtų tikrai beribės. Žmonėms pavyko suteikti seksui naują tikslą, jie tai daro savo malonumui, o ne tik reprodukcijai. Kurzweilis mano, kad tą patį galime padaryti ir su maistu. Nanobotai galėtų tiekti idealią mitybą tiesiai į kūno ląsteles, leisdami nesveikoms medžiagoms patekti per kūną. Nanotechnologijų teoretikas Robertas Freitas jau sukūrė kraujo ląstelių pakaitalą, kuris, įdiegtas žmogaus organizme, gali leisti jam nekvėpuoti 15 minučių - ir tai sugalvojo žmogus. Įsivaizduokite, kada ISI įgis galią.
Juk Kurzweilis mano, kad žmonės pasieks tašką, kai taps visiškai dirbtini; laikas, kai žiūrime į biologines medžiagas ir galvojame, kokios jos buvo primityvios; laikas, kai perskaitysime apie ankstyvąsias žmonijos istorijos stadijas, nustebsime, kaip mikrobai, nelaimingi atsitikimai, ligos ar tiesiog senatvė gali nužudyti žmogų prieš jo valią. Galų gale žmonės nugalės savo biologiją ir taps amžini - tai kelias į laimingą pusiausvyros spindulio pusę, apie kurią kalbėjome nuo pat pradžių. Žmonės, kurie tuo tiki, taip pat yra tikri, kad tokia ateitis mūsų laukia labai labai greitai.
Tikriausiai nenustebsite, kad Kurzweilio idėjos sulaukė stiprios kritikos. Jo išskirtinumas 2045 m. Ir vėlesnis amžinasis gyvenimas žmonėms buvo vadinamas „nerdų pakilimu“arba „protingu žmonių, kurių IQ yra 140, kūrimu“. Kiti suabejojo optimistišku laiko grafiku, žmogaus kūno ir smegenų supratimu, priminė Moore'o dėsnį, kuris dar neišnyko. Kiekvienam ekspertui, kuris tiki Kurzweilio idėjomis, yra trys, kurie mano, kad jis klysta.
Tačiau įdomiausia tai, kad dauguma su juo nesutinkančių ekspertų apskritai nesako, kad tai neįmanoma. Užuot sakę „nesąmonė, to niekada neįvyks“, jie sako kažką panašaus į „visa tai atsitiks, jei pateksime į ISI, bet tai yra problema“. Bostromas, vienas iš pripažintų AI ekspertų, įspėjantis apie AI pavojus, taip pat pripažįsta:
„Vargu ar yra likę problemų, kurių superžvalgyba negalėtų išspręsti ar net padėti mums išspręsti. Ligos, skurdas, aplinkos niokojimas, visų rūšių kančios - visa ši superintelekcija, padedama nanotechnologijų, gali išspręsti akimirksniu. „Superintelligence“taip pat gali mums suteikti neribotą gyvenimo trukmę, sustabdydamas ir pakeisdamas senėjimo procesą naudodamas nanomediciną arba galimybę įkelti mus į debesį. Superintelligencija taip pat gali sudaryti galimybes begaliniam intelektinių ir emocinių galimybių didinimui; jis gali padėti mums sukurti pasaulį, kuriame gyvensime džiaugsmingai ir supratingai, artėdami prie savo idealų ir reguliariai įgyvendindami savo svajones “.
Tačiau tai citata iš vieno iš Kurzweilio kritikų, kuris pripažįsta, kad visa tai įmanoma, jei galime sukurti saugią ASI. Kurzweilis tiesiog apibrėžė, koks turėtų būti dirbtinis superintelektas, jei tai įmanoma. O jei jis geras dievas.
Akivaizdžiausia komforto zonos šalininkų kritika yra ta, kad jie gali būti pasmerkti neteisingai, kai vertina ISI ateitį. Kurzweil savo knygoje „Singularity“skyrė 20 puslapių iš 700 galimų ISI grėsmių. Klausimas ne tada, kai pateksime į ISI, o klausimas, kokia bus jo motyvacija. Kurzweilis į šį klausimą atsako atsargiai: „ISI kyla iš daugybės skirtingų pastangų ir bus giliai integruota į mūsų civilizacijos infrastruktūrą. Tiesą sakant, jis bus glaudžiai įtrauktas į mūsų kūną ir smegenis. Jis atspindės mūsų vertybes, nes bus vienas su mumis “.
Bet jei atsakymas yra, kodėl tiek daug protingų žmonių šiame pasaulyje nerimauja dėl dirbtinio intelekto ateities? Kodėl Stephenas Hawkingas sako, kad ISI plėtra „gali reikšti žmonių rasės pabaigą“? Billas Gatesas sako „nesuprantantis žmonių, kuriems tai nerūpi“. Elonas Muskas bijo, kad mes „iškviečiame demoną“. Kodėl daugelis ekspertų mano, kad ISI yra didžiausia grėsmė žmonijai?
Apie tai kalbėsime kitą kartą.
