Ateityje save tobulinantis dirbtinis intelektas (AI) gali pavergti ar nužudyti žmones, jei to nori. Tai sakė mokslininkas Amnonas Edenas, kuris mano, kad laisvo mąstymo ir labai protingos sąmonės vystymosi rizika yra labai didelė, ir „jei nesirūpinsite AI kontrolės problemomis jau dabartiniame plėtra, tada rytojus gali tiesiog neateiti “. Anot angliško leidimo „Express“, žmonija, pasak Amnono Edeno, šiandien yra „negrįžtama vieta“įgyvendinant garsiojo kino epo „Terminatorius“siužetą.
Verta paminėti, kad daktaras Amnonas Edenas yra projekto vadovas, kurio pagrindinis tikslas yra išanalizuoti galimą pražūtingą AI poveikį. Netikėdamas teisingo dirbtinio intelekto kūrimo pasekmių supratimo, jo vystymasis gali kelti nelaimę, mano mokslininkas. Šiuo metu mūsų visuomenė yra menkai informuota apie mokslo bendruomenėje vykstančias diskusijas apie galimo AI poveikio analizę. „Ateinančiais 2016 metais galimų rizikų analizė turės būti plačiai paplitusi korporacijų ir vyriausybių, politikų ir tų, kurie atsakingi už sprendimų priėmimą, mąstyme“, - sako Edenas.
Mokslininkas įsitikinęs, kad mokslinė fantastika, kurioje aprašomas žmonijos sunaikinimas robotų, netrukus gali tapti mūsų bendra problema, nes dirbtinio intelekto kūrimo procesas tapo nekontroliuojamas. Pavyzdžiui, Elonas Muskas, remiamas verslininko Samo Altmano, nusprendė sukurti naują 1 milijardo dolerių pelno nesiekiančią organizaciją, kuriančią atviro kodo AI, kuri turėtų pranokti žmogaus protą. Tuo pat metu pats amerikiečių milijardierius Elonas Muskas priskiria dirbtinį intelektą tarp „didžiausių grėsmių mūsų egzistavimui“. Steve'as Wozniakas, vienas iš „Apple“įkūrėjų, praėjusį kovą sakė, kad „ateitis žmonėms atrodo bauginanti ir labai pavojinga … galiausiai ateis diena, kai kompiuteriai mąstys greičiau nei mes ir atsikratys lėtų žmonių, kad kad įmonės galėtų dirbti efektyviau “.
Verta paminėti, kad daugelis mokslininkų mato AI grėsmę. Dešimtys žinomų mokslininkų, investuotojų ir verslininkų, kurių veikla vienaip ar kitaip yra susijusi su dirbtinio intelekto plėtra, pasirašė atvirą laišką, kuriame raginama daugiau dėmesio skirti darbo saugos ir socialinio naudingumo klausimui. AI srityje. Tarp šio dokumento pasirašiusiųjų yra astrofizikas Stephenas Hawkingas, „Tesla“ir „SpaceX“įkūrėjas Elonas Muskas. Laiškas kartu su lydinčiu dokumentu, kurį parengė Gyvybės ateities institutas (FLI), buvo parašytas didėjant susirūpinimui dėl dirbtinio intelekto poveikio darbo rinkai ir net dėl ilgalaikio visos žmonijos išlikimo. aplinka, kurioje robotų ir mašinų galimybės augs beveik nekontroliuojamai.
Mokslininkai supranta faktą, kad šiandien dirbtinio intelekto potencialas yra labai didelis, todėl, norint išvengti su tuo susijusių spąstų, būtina iki galo ištirti jo optimalaus panaudojimo galimybes mums, pažymima FLI laiške. Būtina, kad žmogaus sukurtos AI sistemos darytų būtent tai, ko mes norime. Verta paminėti, kad „Ateities gyvybės institutą“tik praėjusiais metais įkūrė daugybė entuziastų, tarp kurių buvo ir „Skype“kūrėjas Jaanas Talinas, siekdamas „sumažinti riziką, su kuria susiduria žmonija“, ir paskatinti tyrimus su „optimistine vizija“. ateities “. Visų pirma, mes kalbame apie riziką, kurią sukelia AI ir robotikos plėtra. FLI patariamojoje taryboje yra Muskas ir Hawkingas, taip pat pripažintas aktorius Morganas Freemanas ir kiti žinomi žmonės. Elono Musko teigimu, nekontroliuojamas dirbtinio intelekto vystymas yra potencialiai pavojingesnis už branduolinį ginklą.
Garsus britų astrofizikas Stephenas Hawkingas 2015 metų pabaigoje bandė paaiškinti, kad jis atmeta AI technologijas. Jo nuomone, laikui bėgant superinteligentiškos mašinos į žmones žiūrės kaip į vartojimo reikmenis ar skruzdėles, kurios tiesiog trukdo spręsti jų užduotis. Kalbėdamas su „Reddit“portalo vartotojais Stephenas Hawkingas pažymėjo, kad jis netiki, jog tokios superinteligentiškos mašinos bus „blogos būtybės“, norinčios sunaikinti visą žmoniją dėl savo intelektualinio pranašumo. Greičiausiai bus galima kalbėti apie tai, kad jie tiesiog nepastebės žmonijos.
„Žiniasklaida pastaruoju metu nuolat iškreipia mano žodžius. Pagrindinė AI vystymosi rizika yra ne mašinų piktybė, o jų kompetencija. Superintelligent dirbtinis intelektas atliks puikų darbą, tačiau jei jis ir mūsų tikslai nesutaps, žmonija turės labai rimtų problemų “, - aiškina žinomas mokslininkas. Kaip pavyzdį Hawkingas pateikė hipotetinę situaciją, kai super galingas AI yra atsakingas už naujos hidroelektrinės eksploatavimą ar statybą. Tokiai mašinai prioritetas bus tai, kiek energijos sugeneruos patikėta sistema, o žmonių likimas nebus svarbus. „Mūsų mažai kas iš pykčio trypia skruzdėlynus ir žengia ant skruzdėlių, tačiau įsivaizduokime situaciją - jūs valdote galingą hidroelektrinę, gaminančią elektrą. Jei jums reikia pakelti vandens lygį ir dėl jūsų veiksmų bus užtvindytas vienas skruzdėlynas, greičiausiai skęstančių vabzdžių problemos jums netrukdys. Nestatykime žmonių į skruzdėles “, - sakė mokslininkas.
Antroji potenciali tolesnio dirbtinio intelekto plėtros problema, anot Hawkingo, gali būti „mašinų savininkų tironija“- spartus pajamų atotrūkio tarp turtingų žmonių, galinčių monopolizuoti gamybą, augimas. išmaniųjų mašinų ir kitų pasaulio gyventojų. Stephenas Hawkingas siūlo šias galimas problemas išspręsti taip - sulėtinti AI kūrimo procesą ir pereiti prie ne „universalaus“, bet labai specializuoto dirbtinio intelekto, galinčio išspręsti tik labai ribotą problemų spektrą, kūrimo.
Be Hawkingo ir Musko, laišką pasirašė Nobelio premijos laureatas ir MIT fizikos profesorius Frankas Wilczekas, Mašinų intelekto tyrimų instituto (MIRI) vykdomasis direktorius Lucas Mühlhauseris, taip pat daugelis didelių IT kompanijų specialistų: „Google“, „Microsoft“. ir IBM, taip pat verslininkai, įkūrę AI kompanijas „Vicarious“ir „DeepMind“. Laiško autoriai pažymi, kad jie nesiekia išgąsdinti visuomenės, tačiau planuoja išryškinti tiek teigiamus, tiek neigiamus aspektus, kurie yra susiję su dirbtinio intelekto kūrimu. „Šiuo metu visi sutinka, kad tyrimai dirbtinio intelekto srityje vyksta nuolat, o dirbtinio intelekto įtaka šiuolaikinei žmonių visuomenei tik didės“, - sakoma laiške. „Žmonėms atsiveriančios galimybės yra didžiulės, viskas, ką siūlo šiuolaikinė civilizacija. turi pasiūlyti buvo sukurtas žvalgybos.žmogus. Mes negalime nuspėti, ką galėsime pasiekti, jei žmogaus intelektą galima padauginti dirbtiniu intelektu, tačiau atsikratyti skurdo ir ligų nebėra be galo sunku “.
Daugybė dirbtinio intelekto pokyčių jau įtraukta į šiuolaikinį gyvenimą, įskaitant vaizdo ir kalbos atpažinimo sistemas, nepilotuojamas transporto priemones ir daug daugiau. Silicio slėnio stebėtojai skaičiuoja, kad šiuo metu šioje srityje įgyvendinama daugiau nei 150 naujų įmonių. Tuo pačiu metu šios srities pokyčiai pritraukia vis daugiau investicijų, o vis daugiau įmonių, tokių kaip „Google“, kuria projektus, pagrįstus dirbtiniu intelektu. Todėl laiško autoriai mano, kad atėjo laikas atkreipti didesnį dėmesį į visas galimas pastebimo bumo pasekmes ekonominiams, socialiniams ir teisiniams žmogaus gyvenimo aspektams.
Pozicijai, kad dirbtinis intelektas gali kelti pavojų žmonėms, pritaria Oksfordo universiteto profesorius Nickas Bostromas, žinomas dėl savo darbo antropiniu principu. Šis specialistas mano, kad AI pasiekė tašką, kurį lydės jo nesuderinamumas su žmonėmis. Nickas Bostromas pabrėžia, kad skirtingai nei genų inžinerija ir klimato kaita, kuriai vyriausybės skiria pakankamai lėšų, „nieko nedaroma, kad būtų galima kontroliuoti AI raidą“. Pasak profesoriaus, šiuo metu dirbtinio intelekto atžvilgiu vykdoma „teisinio vakuumo politika, kurią reikia užpildyti“. Net tokios technologijos kaip savarankiškai važiuojantys automobiliai, kurios atrodo nekenksmingos ir naudingos, kelia nemažai klausimų. Pavyzdžiui, ar toks automobilis turi atlikti avarinį stabdymą, kad išgelbėtų keleivius ir kas bus atsakingas už nepilotuojamo automobilio įvykusią avariją?
Aptardamas galimas rizikas, Nickas Bostromas pažymėjo, kad „kompiuteris nesugeba nustatyti naudos ir žalos žmonėms“ir „net neturi nė menkiausio supratimo apie žmogaus moralę“. Be to, saviugdos ciklai kompiuteriuose gali įvykti tokiu greičiu, kurio žmogus tiesiog negali sekti, ir dėl to beveik nieko negalima padaryti, sako mokslininkas. „Tuo vystymosi etapu, kai kompiuteriai gali mąstyti patys, niekas negali tiksliai numatyti, ar tai sukels chaosą, ar žymiai pagerins mūsų pasaulį“, - sakė Nickas Bostromas, kaip pavyzdį pateikęs paprastą galimą kompiuterio sprendimą - išjungti kompiuterį. šalyse, kuriose šildomas šaltas klimatas, siekiant pagerinti žmonių sveikatą ir padidinti jų ištvermę, kuri „gali ateiti į dirbtinio intelekto viršūnę“.
Be to, „Bostrom“taip pat kelia žmogaus smegenų skaldymo problemą, kad padidintų mūsų biointelektualumą. „Daugeliu atžvilgių tokia procedūra gali būti naudinga, jei visi procesai yra kontroliuojami, tačiau kas atsitiks, jei implantuota mikroschema gali perprogramuoti save? Kokias pasekmes tai gali sukelti - supermeno atsiradimas ar kompiuterio, kuris atrodys tik kaip žmogus, atsiradimas? - klausia profesorius. Kompiuteriai sprendžia žmonių problemas labai skiriasi nuo mūsų. Pavyzdžiui, šachmatais žmogaus smegenys atsižvelgia tik į siaurą judesių rinkinį, iš jų pasirenkant geriausią variantą. Savo ruožtu kompiuteris atsižvelgia į visus galimus judesius ir pasirenka geriausią. Tuo pačiu metu kompiuteris nesitiki, kad žaidime nuliūdins ar nustebins savo priešininką. Skirtingai nuo žmogaus, žaidžiant šachmatais, kompiuteris gali gudriai ir subtiliai judėti tik atsitiktinai. Dirbtinis intelektas gali apskaičiuoti geriausiu būdu - pašalinti klaidą iš bet kurios sistemos, pašalindamas iš ten „žmogiškąjį faktorių“, tačiau, skirtingai nei žmogus, robotas nėra pasirengęs atlikti žygdarbių, kurie išgelbėtų žmonių gyvybes.
Be kita ko, didėjantis išmaniųjų mašinų skaičius yra naujos pramonės revoliucijos etapas. Savo ruožtu tai reiškia, kad netolimoje ateityje žmonija susidurs su neišvengiamais socialiniais pokyčiais. Laikui bėgant darbas taps daug aukštos kvalifikacijos specialistų, nes beveik visas paprastas užduotis gali atlikti robotai ir kiti mechanizmai. Mokslininkai mano, kad dirbtiniam intelektui „reikia akies ir akies“, kad mūsų planeta nevirstų animacine planeta „Zhelezyaka“, kurioje gyveno robotai.
Kalbant apie vis didesnį gamybos procesų automatizavimą, ateitis jau atėjo. Pasaulio ekonomikos forumas (WEF) pristatė savo ataskaitą, pagal kurią automatizavimas lems tai, kad iki 2020 metų daugiau nei 5 milijonai žmonių, dirbančių įvairiose srityse, neteks darbo. Tai robotų ir robotų sistemų įtaka mūsų gyvenimui. Norėdami sudaryti ataskaitą, WEF darbuotojai naudojo duomenis apie 13,5 milijono darbuotojų iš viso pasaulio. Pasak jų, iki 2020 m. Bendras poreikis sukurti daugiau nei 7 mln.
