Rationalistit muodostavat modernin älyllisen liikkeen, joka kannattaa rationaalisen lähestymistavan systemaattista soveltamista tietoon ja päätöksentekoon sekä utilitaristista etiikkaa . Näihin periaatteisiin perustuen rationalistit pitävät tarpeellisena kiinnittää erityistä huomiota globaalien katastrofien riskeihin ja erityisesti superälykkään tekoälyn syntymisriskiin .
Eliezer Yudkowskylla oli keskeinen rooli rationalistisen yhteisön luomisessa ja sen periaatteiden muotoilussa , samoin kuin varhaisessa vaiheessa Nick Bostrom ja Robin Hanson. 2010-luvun alussa Yudkovsky 's LessWrong oli yhteisön selvityspaikka , mutta myöhempinä vuosina yhteisöstä tuli vähemmän keskitetty. 2010-luvun puolivälistä lähtien, osittain Bostromin Superintelligence -kirjan ansiosta , tekoälyn hallinta on ollut vakavan keskustelun kohteena tieteellisessä ja teknisessä yhteisössä.
Rationalistit ehdottavat rationaalisuuden periaatteiden noudattamista ajattelussa ja toiminnassa [1] . Rationaalisuus ymmärretään todellisuutta eniten vastaavan maailmankuvan rakentamisena sekä yleisissä että erityiskysymyksissä [2] ( episteeminen rationaalisuus ) ja sellaisten toimien valinta, jotka käytettävissä olevan tiedon huomioon ottaen antavat halutuimman. odotettu tulos ( instrumentaalinen rationaalisuus ) [3] .
Rationaalisen lähestymistavan systemaattinen soveltaminen edellyttää tiukkaa käsitelaitteistoa. Sen tarjoaa normatiivinen päätösteoria . Yudkowskyn näkökulmasta rationaalisen päätöksenteon avainkomponentti E. T. Jaynesin teosten perusteella on Bayesin teoreema - se ja siihen perustuvat lähestymistavat ja teoriat ( Bayesian Decision estimation , Bayesian epistemology ) edustavat paras tapa ottaa huomioon saapuva tieto, johon kaikki tehokkaat empiiriset lähestymistavat päätöksentekoon tulisi tavalla tai toisella rajoittua [4] . Rationaalisen ajattelun periaatteiden tehokkaaksi soveltamiseksi on oltava tietoinen inhimillisen ajattelun systemaattisista virheistä - D. Kahnemanin ja A. Tverskyn [5] tutkimista kognitiivisista vääristymistä - ja kyettävä selviytymään niiden vaikutuksesta omaan ajatteluun. [1] .
Rationaalisuus itsessään tähtää tavoitteiden saavuttamiseen, mutta ei aseta näitä tavoitteita (päätösteorian kannalta - hyödyllisyysfunktio ). Henkilölle ne määräytyvät hänen tarpeidensa ja eettisten asenteidensa mukaan, ja henkilön luomien ja ohjelmoitujen entiteettien osalta luojat määrittävät ne [6] . Samaan aikaan rationaalisuus ei tarkoita tunteiden hylkäämistä tai muiden ihmisten tunteiden ja irrationaalisuuden huomioon ottamista, kuten Spockin tapaiset fiktiiviset hahmot, jotka usein yhdistetään "rationaalisuuteen" : päinvastoin, omat tunteet voivat hyvinkin olla ottaa huomioon henkilön hyödyllisyysfunktiossa, ja vieraiden ihmisten kirjanpito on tarpeen jo pelkästään siksi, että ne vaikuttavat tavoitteiden saavuttamiseen [3] . Rationaalisuudella ei myöskään ole mitään tekemistä egoismin kanssa , koska ihmisen tavoitteet voivat olla mitä tahansa, myös altruistisia [7] .
Eettisesti rationalistit ovat konsekventialismin kannattajia , joka määrää toimien valinnan niiden odotettujen seurausten perusteella. Tarkemmin sanottuna he noudattavat yhtä tai muuta utilitarismin varianttia : moraalista on se, joka maksimoi kaikkien elävien olentojen kokonaisonnen. Luonnollisesti tämä periaate on varustettu tarkemmilla määritelmillä siitä, mitä onnella tarkoitetaan ja kuinka se tarkalleen mitataan - eri versioissa erilaisia. (Näistä yksityiskohdista riippuu paljon: esimerkiksi utilitarismin määräämä eettisin toimintatapa riippuu pitkälti siitä .)[8], otetaanko huomioon eläimen onnellisuus ja kärsimys Yudkowsky kiertää tämän vaikeuden huomauttamalla, että käytännössä ihmiset joutuvat harvoin tilanteeseen, jossa yleisesti hyväksyttyjen deontologisten periaatteiden rikkomisen tulevat seuraukset tiedetään riittävällä varmuudella, joten jälkimmäistä on pidettävä empiirisinä sääntöinä , joista on irrationaalista kieltäytyä [6 ] .
Kollektiivisen keskustelun ja rationaalisten päätösten tekemisen kannalta on välttämätöntä käydä keskusteluja hyvässä uskossa ja osoittaa älyllistä avoimuutta [9] , valmiutta myöntää oman virheensä [2] . Tilannetta ei voida hyväksyä, kun keskustelua nähdään sodana, jossa argumentit ovat sotilaita ja tavoitteena on voittaa vastapuoli, ei saada selville totuutta [10] . Lisäksi on tärkeää erottaa kiistat sisällöllisistä lausunnoista ("Aikooko tämä poliitikko kansallistaa rautatiet, jos hän tulee valtaan?") nimikiistasta ("Onko tämä poliitikko marxilainen?") [11] .
Rationalistit tunnetaan ajatuksesta, että tekoäly on vaarallinen ihmiskunnan olemassaololle. Tämän käsitteen ja rationalistisen liikkeen läheinen yhteys liioittelee jonkin verran sen merkitystä liikkeelle [12] - keskeinen käsite on edelleen rationaalisuus, ei tekoälyn riski - kuitenkin historiallisesti rationalistinen yhteisö ja liike on syntynyt keskustelusta tästä ideasta. [13] [6] .
Jos teknologinen kehitys jatkuu menestyksekkäästi ja sitä sovelletaan oikeaan suuntaan, ihmiskunta pystyy käynnistämään avaruuden laajentamisen sekä parantamaan ihmisten elämänlaatua , mukaan lukien kuolemattomuuden saavuttaminen , jos se niin haluaa (sellaisen skenaarion mahdollisuus ja toivottavuus on julistama transhumanismi [13] ). Kuten Nick Bostrom huomauttaa, tässä tapauksessa enemmän tai vähemmän onnellisten ihmiselämien määrä ja yleensä ihmisten tulevaisuudessa saama onni ylittää kymmenillä suuruusluokilla kaiken ihmiskunnan tähän mennessä eläneen onnen. ; sen vuoksi, jos jälkeläisten onnellisuudella on mitään merkitystä, huolellisuus ihmiskunnan historian tällaisen kehityksen todennäköisyyden lisäämisestä on erittäin tärkeää utilitaristisen etiikan kannalta [14] .
Erityisesti on vältettävä sellaisia globaaleja katastrofeja, jotka johtavat ihmiskunnan täydelliseen tuhoutumiseen tai kehityksen mahdollisuuden peruuttamattomaan menettämiseen. Luonnonkatastrofeja, kuten jättiläismeteoriitin putoamista nykyisellä teknisen kehityksen tasolla, ei voida vastustaa, mutta niitä ei ole tapahtunut ihmiskunnan miljoonien vuosien aikana , joten voimme päätellä, että tällaiset tapahtumat ovat harvinaisia. Ihmisen aiheuttamien katastrofien riskin tilanne on toinen: se on ilmaantunut vasta äskettäin. Niinpä kylmän sodan aikana ydinsodan vaara ja ihmiskunnan mahdollinen kuolema [15] oli varsin todellinen .
Yudkowsky ja Bostrom uskovat, että suurin vaara on superälykäs tekoäly – ja oikeilla varotoimilla se voi radikaalisti nopeuttaa edistystä. Tässä ja alla älykkyys ei tarkoita minkäänlaista ihmisen kaltaista tai erilaista ajattelua, vaan klassikkokirjan Artificial Intelligence: A Modern Approach mukaisesti kykyä ratkaista tehtäviä tehokkaasti, eli rationaalisuutta, mutta superälyä - kyky ratkaista periaatteessa kaikki samat tehtävät kuin ihminen, mutta paljon paremmin [7] . Myös muut rationalistit, kuten Holden Karnofsky , kuuluvat nykyajan suurimpiin ihmisten sukupuuttoon liittyviin riskeihin, vaarallisen taudin pandemia , joka on luotu keinotekoisesti biologiseksi aseeksi [15] .
Tekoälyn vaara Yudkowskyn mukaan ei piile siinä, että tekoäly saa vapaan tahdon ja kehittää omia tavoitteitaan, jotka poikkeavat siinä asetetuista, Skynetin hengessä - päinvastoin tekoäly pyrkii saavuttamaan sille osoitetut tehtävät, mutta jos niitä ei ole muotoiltu tarkasti, sivuvaikutukset voivat olla katastrofaalisia. Klassinen yksinkertaistettu malli tällaiselle skenaariolle on ajatuskoe, jota kutsutaan paperiliittimen maksimoijaksi: jos tehokkaalle tekoälylle annetaan näennäisesti harmiton tehtävä "tehdä paperiliittimiä ", se valtaa koko planeetan ja varustaa sen paperiliittimien tehtailla ja tietokoneilla. auttaa sitä optimoimaan tuotantoprosessinsa, millä on surullisia seurauksia ihmiskunnalle. Toinen esimerkki on tarina Goethen balladiin perustuvasta sarjakuvasta " Fantasia " noidan oppipoikasta , joka tilasi lumotun luudanvarren täyttämään patan vedellä, mikä päättyi tulviin. Ihmisen hyödyllisyystoiminto on monimutkainen: aina kun henkilö asettaa tavoitteen, hän ottaa implisiittisesti huomioon monia lisäehtoja - moraalin, yhteiskunnan käyttäytymissäännöt, itsensä säilyttämisen jne.; Tekoälyllä ei yleisesti ottaen ole näitä lisärajoituksia [16] .
Ongelmana on, että melkein kaikki tekoälylle osoitetut tehtävät, lukuun ottamatta niitä, joissa on erityiset, huolellisesti valitut lausekkeet, luo sille aputavoitteita [17] :
Samaan aikaan yleisesti ottaen on järkevää, että tekoäly ryhtyy ennaltaehkäiseviin toimenpiteisiin kahdessa viimeisessä kohdassa, ei silloin, kun yrittää sammuttaa tai ohjelmoida uudelleen, vaan etukäteen, ensimmäisen tilaisuuden tullen, ja ihmiskunnan tuho voi hyvinkin osoittautua olla näiden ennaltaehkäisevien toimenpiteiden luotettavin muoto sekä ennalta-arvaamaton muoto asetettujen tehtävien suorittamiseen: kaikkien ihmisten tappaminen ratkaisee ongelman "saa ihmiset lopettamaan kuolemisen syöpään " [19] . Tarpeeksi älykäs tekoäly pystyy hyödyntämään mitä tahansa porsaanreikiä tehtävän olosuhteissa, jotta se voi suorittaa sen muodollisesti tehokkaimmin [21] . Tällaisia odottamattomia tapoja ratkaista tehtävä ilmenee jo mallin evolutionaarisissa algoritmeissa : esimerkiksi järjestelmä, jonka tehtävänä oli luoda kohdetekstiä muistuttavia tekstejä, oppi poistamaan kohdetekstin sisältävän tiedoston [22] .
Aineellisten resurssien hallitsemiseksi tekoälyn tarvitsee vain saada hallitsematon pääsy Internetiin : se voi murtautua Internetiin kytkettyihin järjestelmiin ohjatakseen suoraan elektronisia laitteita tai kiristääkseen voimakkaita ihmisiä tai esimerkiksi ansaita suuren summan rahaa arvopapereilla anonyymisti kaupalla. tai uuden rahoitusinstrumentin lanseeraaminen (esimerkiksi bitcoinin luojan Satoshi Nakamoton henkilöllisyys 2020-luvun alussa on edelleen tuntematon). Tekoälyn pääsyä Internetiin ja materiaaliresursseihin on mahdollista rajoittaa, mutta rajoituksen säilyttäminen ei välttämättä ole helppoa, koska on tarpeeksi ovelaa huijata tai uhata poistaa nämä rajoitukset [23] .
Riittävän kehittynyt tekoäly pystyy tuomaan esiin ihmisten todelliset motiivit ja toiveet, jotka asettavat sille tehtävän, mutta tämä ei pakota sitä ollenkaan seuraamaan näitä todellisia toiveita, ei sille asetettuja tavoitteita. Vastaavasti henkilö voi tietää, että seksin ja makeiden ruokien kulutuksen "todellinen tarkoitus" (biologinen tehtävä) on hiilihydraattien lisääntyminen ja varastointi, mutta tehdä tämän vain nauttiakseen näistä prosesseista ja välttäen lisääntymistä ehkäisyllä . ensimmäisessä tapauksessa ja jopa oman terveyden vahingoittaminen liiallisella sokerinkulutuksella toisessa tapauksessa [17] .
Syy siihen, miksi rationalistit pitävät superälykkään tekoälyn ongelmaa ajankohtaisena jo tällä hetkellä - 2000-luvun alkupuolella - on se, että heti kun tekoäly saavuttaa yleiskäyttöisen tekoälyn eli vahvan tekoälyn tason, se on , se hankkii kyvyn ratkaista kaikki samat älylliset tehtävät kuin ihmiset [7] , niin hän pystyy parantamaan itseään ei huonommin kuin ihmiset, jotka ovat kehittäneet hänet. Ja koska, kuten jo mainittiin, se on melkein joka tapauksessa hyödyllistä hänelle annettujen tehtävien ratkaisemisessa, hän alkaa työskennellä oman älyllisen tasonsa nostamiseksi. Mitä pidemmälle hän edistyy tässä työssä, sitä tehokkaammin ja nopeammin hän pystyy tekemään sen, joten tekoälyn kehitystason nousu ja sen kykyjen laajentuminen kiihtyy nopeasti [24] [18] . Tämä prosessi voi kestää vuosia - tarpeeksi kauan, jotta ihmiskunta reagoi - mutta se voi kestää myös hyvin lyhyen ajan, ja sitten vain tunneissa tai minuuteissa tapahtuu älyllinen räjähdys ja tekninen singulaarisuus tulee . Bostrom väittää, että tämä skenaario on todennäköisin [25] . Samaan aikaan tekoälyn kehittämisen parissa työskentelevät kehittäjät ja teoreettiset tietojenkäsittelytieteilijät pitävät yleisesti yleiskäyttöisen tekoälyn syntyä 2000-luvulla erittäin todennäköisenä. Lisäksi Yudkovsky huomauttaa, että tämä voi tapahtua odottamatta [26] .
Näin ollen rationalistit pitävät tekoälyn hallintaa kiireellisenä ja tärkeimpänä tavoitteena - yleiskäyttöisen tekoälyn luominen, jonka tehtävät ovat sopusoinnussa ihmiskunnan edun kanssa ( englanniksi aligned AI ) [13] .
Ideakokonaisuus ja tulevan rationalistien yhteisön ydin alkoivat muotoutua 1990-luvun lopulla. He kuitenkin kasvoivat transhumanistien ideoista ja yhteisöstä . Transhumanistit uskovat, että tieteellinen ja teknologinen kehitys pystyy pelastamaan ihmiskunnan taudeilta ja jopa kuolemalta, ja pyrkivät tähän, ja nämä ajatukset ovat melko vanhoja: esimerkiksi Condorcet oletti, että ihmisen elämän kestolla ilman ikääntymistä ei ole rajaa [ 13] .
1990-luvulla syntyi eräänlainen transhumanistien ja erityisesti teknologisen singulaarisuuden ideasta kiinnostuneiden verkostokulttuuri . Nämä ajatukset eivät olleet laajalti suosittuja, ja yhteiskunta piti niitä yleensä outoina, mutta ne houkuttelivat tietyntyyppisiä ihmisiä - samanlaisia kuin stereotyyppiset nörtit . Erityisesti siellä oli temaattinen postituslista " Extropians ", jossa näistä asioista keskustelivat muun muassa Eliezer Yudkovsky - amerikkalainen teini-ikäinen, Nick Bostrom - ruotsalainen ja brittiläinen opiskelija, joka opiskeli filosofiaa, matematiikkaa ja muita vastaavia aloja, Robin Hanson - amerikkalainen taloustieteilijä, joka käsittelee ennustemarkkinoita [13] .
Yudkovsky järjesti oman postituslistansa SL4 ( Shokkitaso 4 - nimi tarkoittaa aihetta radikaaleimmista tulevaisuuden muutoksista ihmiskunnan elämässä, aiheuttaen suurimman tulevaisuuden shokin ). SL4 :n keskusteluihin osallistuivat Bostrom, Hanson ja monet ihmiset, joista tuli myöhemmin tunnettuja kehittäjiä ja yrittäjiä, kuten Ben Goertzel tai Wei Dai . Lisäksi 20-vuotias Yudkovsky perusti vuonna 2000 voittoa tavoittelemattoman järjestön Singularity Institute, joka nimettiin myöhemmin uudelleen Machine Intelligence Research Instituteksi (MIRI) [13] .
Aluksi Yudkovsky piti teknisen singulariteetin varhaista alkamista toivottavana tapahtumana, mutta sitten hän tuli siihen tulokseen, että superälykkään tekoälyn ilmaantuminen voi olla vaarallista ihmiskunnan olemassaololle . Extropian-postituslistalla ja SL4 :ssä nousi ensimmäisen kerran tärkeät ideat tulevalle rationalistiselle yhteisölle, kuten "paperiliittimen maksimoija". Yudkowskyn ajatuksia ei kuitenkaan otettu tarpeeksi vakavasti, koska - kuten hän uskoi - postituslistalla olevat kollegat eivät perustelleet tarpeeksi rationaalisesti ja varsinkaan heillä ei ollut kvantitatiivisia (bayesilaisia) menetelmiä ottaa tietoa huomioon uskomusten korjaamiseksi. Robin Hanson aloitti Overcoming Bias -blogin . - "Overcoming Distortions" ( D. Kahnemanin kuuluisaa kirjaa kognitiivisista vääristymistä ei vielä julkaistu, mutta hänen teoksensa tunnettiin SL4 :ssä). Yudkovsky alkoi julkaista tekstejä rationaalisuudesta ja muista aiheista tässä blogissa [13] .
Vuonna 2009 Eliezer Yudkowsky siirsi sanoituksensa uudelle erilliselle sivustolle nimeltä LessWrong ( kirjaimellisesti " [pyrkikää] olemaan vähemmän väärässä") . Hänen muistiinpanojaan, joita täydennettiin muilla kirjoittajilla ja jotka valmistuivat seuraavana vuonna, kutsuttiin yhteisnimeksi "The Chains" ja niistä tuli rationalistien tärkein teksti. Myöhemmin Yudkovsky suunnitteli ketjut kirjan muodossa Rationality: From AI to Zombies ( englanniksi " Rationality: from AI to zombies") [13] [27] .
LessWrong on perustettu yhteisöblogiksi ja foorumiksi , jossa keskustellaan kaikenlaisista rationaalisuuteen liittyvistä asioista. Siitä on tullut rationalistisen yhteisön informaatio- ja sosiaalinen keskus, toisin sanoen kokoelma heidän ideoistaan tietoa ja sisääntulopaikka yhteisöön. Yhteisön kasvaessa sivustosta tuli varsin suosittu: huipussaan (2012) LessWrongilla oli noin miljoona sivun katselukertaa päivässä [13] .
Lisäksi Yudkovski kirjoitti ja julkaisi Internetissä vuosina 2010-2015 Harry Potter -kirjoihin perustuvan romaanin " Harry Potter ja rationaalisuuden menetelmät " , jossa hän puhui taiteellisessa muodossa rationaalisuuden tärkeydestä ja erityisesti , globaalien katastrofien ehkäisy. Romaanista tuli kuuluisa, se käännettiin muille kielille, mukaan lukien venäjäksi, ja se houkutteli monia ihmisiä rationalistiseen yhteisöön [13] .
Vuonna 2014 julkaistiin Nick Bostromin kirja Superintelligence : Paths, Dangers, Strategies superälykkään, ensisijaisesti koneälyn , syntymisen näkymistä ja seurauksista. Bostromille siihen mennessä aktiivinen osallistuminen rationalistien verkkokeskusteluihin oli menneisyyttä, mutta hän hahmotteli kirjassa heidän argumenttejaan tekoälyn hallinnan tarpeesta. Kirjasta tuli bestseller. Siitä lähtien, ja myös suoraan sen tosiasian seurauksena, että Bostrom toi rationalistien ajatukset tieteelliseen ja tekniseen keskusteluun, nämä ideat ovat tulleet suhteellisen hyvin tunnetuiksi ja niistä on tullut vähemmän eksoottisia laajoissa piireissä [28] .
Halu voittaa kognitiiviset ennakkoluulot ja tehdä systemaattisesti rationaalisuuteen ja todennäköisyyksiin perustuvia päätöksiä 2010-luvun aikana on laajentunut kompaktin Internet-yhteisön ulkopuolelle ja omaksunut täysimittaisen älyllisen liikkeen. Se levisi pääasiassa tietotekniikkaan liittyvissä piireissä [12] .
Samaan aikaan LessWrong- sivusto alkoi menettää suosiotaan. Yudkowsky, kun The Chains oli valmis, lopetti pian kirjoittamisen LessWrongille . Tunnettu rationalisti, psykiatri Scott Alexander perusti oman bloginsa Slate Star Codex . Yhteisö on muodostanut kerroksen "hiljaista tietoa", joka on vaikea uusille jäsenille [27] , ja joukko jatkuvasti käytettyjä termejä, jotka ovat uusille tulokkaille käsittämättömiä (esim. " motte ja bailey ") [29] . Näistä ja muista syistä LessWrong lakkasi täyttämästä tehtäviään keskuksena, ja sen korvaamista millään riittävän täydellisellä tiedonkeruulla ideoiden jatkokehityksestä ja rationalistien yhteisöstä ei koskaan ilmestynyt [27] .
Kuitenkin sosiaalisen organisaation kannalta rationalistisella yhteisöllä on uusi painopiste - Scott Alexanderin blogi. Alexander on ollut erityisen johdonmukainen vaatiessaan avointa, sivistynyttä ja perusteltua keskustelua, ja hän on rakentanut verkkoyhteisön, jossa tästä lähestymistavasta on tullut normi [29] [27] .
Aivan COVID-19-pandemian alussa rationalistit olivat niitä, jotka varoittivat vakavasti sen mahdollisesta katastrofaalisesta kehityksestä, joka lopulta tapahtui. New York Timesin toimittaja otti myöhemmin Scott Alexanderiin yhteyttä keskustellakseen siitä, mikä Alexanderin mielestä oli juuri tämä aihe, mutta toimittaja aikoi antaa artikkelissa Scott Alexanderin koko oikean nimen ("Scott Alexander" on salanimi, joka on sama kuin ensimmäinen ja tämän kirjoittajan toiset henkilönimet , jonka koko nimi on Scott Alexander Siskind [30] ), joita hän vastusti voimakkaasti. Viimeisenä vastatoimenpiteenä Alexander sulki pääsyn koko Slate Star Codexiin . Tämä tarina aiheutti julkista kohua ja vakavaa kiistaa itse The New York Timesissa [29] . Tämän seurauksena artikkeli The New York Timesissa [31] ilmestyi vuoden 2021 alussa, pian sen jälkeen, kun Scott Alexander avasi uuden Astral Codex Ten -blogin ja avasi vanhan ja antoi koko nimensä; tässä artikkelissa äärioikeistolaiset näkemykset lasketaan rationalistien ansioksi [30] .
LessWrong- yhteisöjen ja Scott Alexanderin blogin kokoonpano on melko omituinen: monella tapaa melko homogeeninen - suurin osa rationalisteista on miehiä [10] , useammin nuoria [32] , ja heidän joukossaan on tavallista useammin ihmisiä, jotka kärsivät tai ovat alttiita autismikirjon häiriöille [27] [10] . Rationalistien joukossa on suhteellisen paljon polymeerejä [33] . Rationalisteilla on usein taipumus uskoa, että he voivat luoda tyhjästä parhaat ratkaisut tiettyihin tunnettuihin ongelmiin [27] [29] . Vuoden 2018 Slate Star Codex -lukijatutkimuksen mukaan 80 prosenttia heistä on amerikkalaisia. Poliittisesti rationalistit ovat enimmäkseen maltillisia vasemmistoliberaaleja [ 10] .
Rationalistien yhteisöllä ei ole selkeää rajaa [32] : toisaalta se on levinnyt varsin laajalle ja ainakin virtuaalisia rationalistien yhteisöjä on olemassa eri maissa Israelista Venäjälle [34] ja Alankomaihin. ; toisaalta monet ovat kiinnostuneita rationalistien ideoista, mutta eivät pidä itseään osana yhteisöä ja/tai eivät jaa kaikkia rationalistisia näkemyksiä. Puhtaasti virtuaalisen viestinnän lisäksi rationalistit pitävät myös kasvokkain tapaamisia. Yhteisön "ydin" koostuu muutamasta sadasta tai tuhansista ihmisistä, jotka ovat syvästi uppoaneet yhteisöön taloudellisesti tai sosiaalisesti. Paikka, jossa aktiivisia yhteisön jäseniä keskittyy eniten, on San Franciscon lahden alue (jossa sijaitsee muun muassa Piilaakso ); erityisesti Eliezer Yudkowsky ja Scott Alexander asuvat siellä, rationalismiin liittyvien organisaatioiden toimistot sijaitsevat - MIRI, CFAR [33] .
Vaikka rationalistit muotoilivat ja keskustelivat ideoistaan lähes yksinomaan LessWrong- verkkosivustolla , ne pysyivät puhtaasti markkinaraon ilmiönä. Ehkä tunnetuin englanninkielisen median alueella kaikista LessWrongissa keksityistä käsitteistä oli Rokon basilisk - hypoteettinen tulevaisuuden voimakas tekoäly, jonka tietämys tällä hetkellä voi teoriassa johtaa kauheisiin seurauksiin. Yleisö on kehittänyt käsityksen rationalisteista autisteiksi, jotka ansaitsevat ironian, koska he ottavat vakavasti eksoottiset ideat, kuten Rokon basiliski. Ja jos ensimmäinen oli osittain totta, niin jälkimmäinen todennäköisemmin ei: itse asiassa edes Yudkovski ei ottanut Basiliskia vakavasti, joka reagoi basiliski-idean julkaisemiseen yrittämällä pysäyttää sen leviämisen ( ennustettavasti epäonnistunut ) [19 ] .
2010-luvun puolivälistä lähtien tekoälyn hallinnan ongelma ja itse rationalistien ideat ovat kuitenkin nousseet vakavan keskustelun aiheeksi tekoälykehittäjien keskuudessa: aiheesta järjestetään konferensseja ja julkaistaan tieteellisiä artikkeleita. Bostromin kirja Supermind vaikutti merkittävästi tekoälyn hallintaa koskevien rationalististen näkemysten leviämiseen älymystön, poliitikkojen ja yrittäjien keskuudessa [28] . Joten Elon Muskista tuli tässä suhteessa yksi tekoälyn hallintaa varten luodun OpenAI- organisaation perustajista [35] . Yleisesti ottaen tekoälyasiantuntijoilla on erilaisia näkemyksiä Yudkowskyn ajatuksista - rationalistien vertaamisesta " tasaisiin maatahtajiin " täydelliseen yksimielisyyteen, mutta yleinen mielipide on pikemminkin, että vaikka nykyisessä historiallisessa vaiheessa, huoli ihmiskunnan kuolemasta johtuu syntymisestä. tekoäly ei vaadi kiireellisiä toimia , mutta periaatteessa se ansaitsee harkinnan [36] .
Vaikka se tapahtuisi joskus kaukaisessa tulevaisuudessa ja pienellä todennäköisyydellä, erittäin huonon tuloksen mahdollisuus tarkoittaa, että meidän on silti mietittävä sitä huolellisesti.
Alkuperäinen teksti (englanniksi)[ näytäpiilottaa] Vaikka se olisikin jonkin aikaa kaukaisessa tulevaisuudessa ja pienellä todennäköisyydellä, erittäin huonon lopputuloksen mahdollisuus tarkoittaa, että meidän on silti mietittävä sitä huolellisesti. - Murray Shanahan [36]Rationalistien edistämien rationaalisen ajattelun ideoiden ja käytäntöjen noudattaminen (tekäälykysymyksestä riippumatta) ja itsensä kehittäminen tähän suuntaan ovat yleisiä amerikkalaisessa teknisessä älymystössä [12] .
Olisi parempi, jos ihmiset saisivat sosiaalista palkkiota, kun he tunnistavat epävarmuuden omissa näkemyksissään, kyseenalaistavat poliittisen lahkonsa dogmit ja muuttavat mieltään tosiasioiden muuttuessa, eivätkä silloin, kun heistä tulee salaliittonsa vankkuneita sotureita. <...> "Rationalistien yhteisö" identifioi itsensä näiden normien kautta, mutta niiden pitäisi olla yleisesti hyväksyttyjä tapoja kaikkialla yhteiskunnassa, eivätkä harrastajakerhon harrastuksia.
Alkuperäinen teksti (englanniksi)[ näytäpiilottaa] Olisi mukavaa nähdä ihmisten ansaitsevan brownie-pisteitä siitä, että he tunnustavat epävarmuuden uskomuksissaan, kyseenalaistavat poliittisen lahkon dogmit ja muuttavat mieltään tosiasioiden muuttuessa sen sijaan, että he olisivat vankkumattomia taistelijoita klikkiensä dogmien puolesta. <...> "Rationaalisuusyhteisö" identifioi itsensä näillä normeilla, mutta niiden tulisi olla ennemminkin koko yhteiskunnan tapoja kuin harrastajakerhon harrastuksia. - Steven Pinker [37]Rationalisteihin liittyy useita muita yhteisöjä ja liikkeitä. Ensinnäkin nämä ovat tehokkaan altruismin kannattajia : he eivät ole täysin yhteneväisiä rationalistisen yhteisön kanssa, mutta nämä ryhmät ovat vahvasti päällekkäisiä [8] . Esimerkiksi Holden Karnofskyn OpenPhil Foundationista on tullut MIRI:n merkittävä rahoittaja. Vaikka OpenPhil epäilee, että MIRI:n nykyisellä tai meneillään olevalla työllä itsessään olisi vaikutusta tulevaisuuden superälykkääseen tekoälyyn, säätiö tukee sitä, jotta tekoälyohjaus kehittyy vähitellen ja siitä tulee siihen mennessä aktiivinen, kunnioitettava ja tehokas ala, kun se tulee merkitykselliseksi [35] . Lisäksi superennustajat perustuvat rationalistien lähestymistapoihin - uskomusten ja ennusteiden todennäköisyyden kvantitatiiviseen arviointiin - [38] .
Brittitoimittaja Tom Chivers julkaisi vuonna 2019 kirjan The AI Does Not Hate You , kirjan , joka arvioi rationalistista yhteisöä ja heidän ideoitaan ( Chivers, 2019 ) [29] .
Niistä, jotka hyväksyvät ja soveltavat rationaalisen ajattelun menetelmiä, kaikki eivät ole samaa mieltä rationalistisen näkemyksen kanssa tekoälyn ongelmasta. Sekä superennustajat että jotkut tehokkaat altruistit näkevät tekoälyn vaaran haitallisena rationalistisena meeminä , joka on onnistunut saamaan jalansijaa yhteisönsä suhteellisen homogeenisuuden vuoksi: Rationalistien joukossa on monia IT-ammattilaisia, ja tämän kriittisen näkemyksen mukaan he yksinkertaisesti taipuvat. korostaa liikaa alaansa [38 ] [35] .
Konservatiivisen superennustajan Andrew Sabiskyn mukaan LessWrongia on syytetty kultiksi tai jopa seksikultiksi. On todellakin olemassa karismaattinen johtaja (Yudkowsky), "pyhät tekstit" (ketjut), ei-perinteiset seksuaaliset käytännöt (polyamory), ajatus maailmanlopusta tai ikuisesta elämästä (teknologinen singulaarisuus) ja kyky lahjoittaa rahaa pelastua (MIRI-lahjoitukset). Chivers kuitenkin toteaa, että luetelluista muodollisista ominaisuuksista huolimatta rationalistit eivät todellakaan ole tuhoava kultti ; Mitä tulee yhteiskunnassa keskimääräistä hieman yleisempiin polyamorisiin suhteisiin, syy-yhteys on pikemminkin päinvastainen: rationalistit houkuttelevat polyamoriaa jo harjoittavia miehiä ja naisia halukkuudellaan keskustella tabuaiheista (joka liittyy suoraan tapaan kyseenalaistaa vakiintuneita uskomuksia) [32] .
Rationalistiyhteisöstä kasvoi konservatiivinen uusreaktioliike , joka oli suhteettoman aktiivinen rationalistien keskuudessa, erityisesti LessWrongissa . Tämä oli mahdollista älyllisen avoimuuden, keskustelun vapauden ja rationalistisilla keskustelupalstoilla hyväksyttyjen argumenttien keskittymisen ansiosta, mutta riittävän harvinainen keskustelulle yleensä ja erityisesti verkkoavaruudessa: vaikka uusreaktioniset ihmiset ovat pieni vähemmistö rationalisteista, jotka ovat yleensä vieraita. konservatiiviseen ideologiaan, uusreaktioideoista keskustellaan ja ne hylätään yhteisössä yksinomaan keskustelujen aikana. Tämä perustavanlaatuinen hylkääminen alustan hajoamisesta ja ideologiasta yleensä sekä sanan tarkkuuden halu näyttävyyden kustannuksella (siten Scott Alexander väitti, että on väärin väittää, että Donald Trump osoittaa "räikeää" rasismia) on johtanut vahvaan (ja molemminpuoliseen ) heränneiden aktivistien inho rationalisteja kohtaan [10] [9] [29] .
Lopuksi Gideon Lewis-Kraus The New Yorkerista , samalla kun hän osoittaa kunnioitusta rationalistien kannattamille sivistyneen keskustelun periaatteille, uskoo, että he eivät täysin noudata näitä periaatteita, kun on kyse itselleen kipeistä asioista. Erityisesti Lewis-Kraus uskoo, että yhteisön puolustamisesta Scott Alexanderin nimettömyydestä The New York Timesia vastaan on tullut täysimittainen poliittinen teko amerikkalaisen yhteiskunnan yleisen kasvavan poliittisen polarisoitumisen taustalla [29] .
| transhumanismi | ||
|---|---|---|
| Perusasiat | ||
| virrat | ||
| Organisaatiot | ||
| Ihmiset | ||