Machine Intelligence Research Institute

Machine Intelligence Research Institute (MIRI; entinen Singularity Institute ja Singularity Institute for Artificial Intelligence ) on voittoa tavoittelematon organisaatio, jonka päätavoitteena on luoda turvallista tekoälyä sekä tutkia mahdollisia vaaroja ja mahdollisuuksia, joita voi syntyä tekoälyä luotaessa. Organisaatio tukee Irving Gooden ja Vernor Vingen alun perin esittämiä ajatuksia "älyllisestä räjähdyksestä" tai singulaarisuudesta sekä Eliezer Yudkowskyn ideoita.ystävällisen tekoälyn luomisesta. Yudkowsky tutkii Singularity Institutessa Yhdysvalloissa globaalin riskin ongelmia, joita tulevaisuuden yli-inhimillinen tekoäly voi luoda, jos sitä ei ohjelmoida ihmisystävälliseksi [ 1] .

Vuosina 2007–2010 keksijä ja tulevaisuudentutkija Ray Kurzweil oli yksi organisaation johtajista . Organisaation neuvoa-antavaan henkilöstöön kuuluvat Oxfordin filosofi Nick Bostrom , gerontologi Aubrey de Gray , PayPalin perustaja Peter Thiel ja Foresight Nanotech Instituten perustaja Christina Paterson.

Organisaatiolla on toimistot Yhdysvalloissa ja Kanadassa.

Historia

SIAI:n (Singularity Institute for Artificial Intelligence) ensimmäinen projekti oli "annotatiivinen ohjelmointikieli" (annotative programming language) Flare [2] , jonka kehittäminen aloitettiin heinäkuussa 2001. Kieli on suunniteltu luomaan tekoälyn siemen sen avulla. Projekti saatiin päätökseen alle vuodessa.

Vuonna 2002 SIAI:n verkkosivusto julkaisi esipainoksen luvusta "Yleisen älykkyyden organisoinnin tasot" [3] kirjasta Real AI: New Approaches to Artificial General Intelligence (toimittaneet Ben Herzel ja Cassio Pennachin). Myöhemmin samana vuonna SIAI julkaisi kaksi suurta johdantolukua, "Mikä on singulaarisuus" [4] ja "Miksi työstää singulaarisuuden approksimaatiota" [5] .

Vuonna 2003 organisaation edustaja Michael Anissimov piti esitelmän Yalen yliopistossa pidetyssä kansainvälisessä Transvision 2003 -konferenssissa .

Vuonna 2004 SIAI loi AsimovLaws.com -sivuston [6] keskustellakseen tekoälyn eettisyydestä vain kaksi päivää myöhemmin julkaistussa I, Robot -elokuvassa esille tuotujen ongelmien yhteydessä . Ensi vuoden alussa instituutin pääkonttori muuttaa Atlantasta Piilaaksoon .

Helmikuussa 2006 instituutti muodostaa rahaston, jonka määrä on 200 tuhatta dollaria [7] . Suurin osa rahastosta (100 000 dollaria) tuli Paypalin perustajilta Peter Thieliltä. Toukokuussa 2006 Stanfordin Singularity Summitissa tehtiin päätös instituutin henkilöstön laajentamisesta.

Instituutti, KurzweilAI.net ja Center for Language and Information Studies, sponsoroivat Stanfordin Singularity Summit -kokousta. Instituutin johtaja Peter Thiel toimii huippukokouksen moderaattorina [8] . Huippukokous kokosi yhteen noin 1 300 asiantuntijaa. Huippukokoukseen osallistuivat Ray Kurzweil , Nick Bostrom , Corey Doctorow , Eric Drexler , Douglas Hofstadter , Steve BillMax , Sebastian Thrun ja Eliezer Yudkowsky

Vuonna 2007 vastaava huippukokous pidettiin Palace of the Arts Theatressa San Franciscossa. Kolmas Singularity Summit pidettiin 5. lokakuuta 2008 San Josessa.

Instituutti rahoittaa Open Cognition Framework ( OpenCog ) -projektia, jonka tavoitteena on tarjota "ohjelmistotutkijoille ja -kehittäjille yhteinen alusta tekoälyohjelmien rakentamiseen".

Vuonna 2013 organisaatio muutti nimensä Machine Intelligence Research Instituteksi [9] .

Tutkimus

Ennusteet

Machine Intelligence Research Institute tutkii tekoälyyn liittyviä strategisia kysymyksiä, kuten: Mitä voimme (ja emme) ennustaa tekoälyteknologian tulevaisuudesta? Kuinka voimme parantaa ennustamiskykyämme? Mitkä nykyään saatavilla olevat interventiot näyttävät olevan hyödyllisimpiä, kun otetaan huomioon, mitä vähän tiedämme? [kymmenen]

Vuodesta 2014 lähtien MIRI on rahoittanut ennustetyötä itsenäisen AI Impacts -projektin kautta. AI Impacts tutkii historiallisia esimerkkejä epäjatkuvista teknologisista muutoksista ja on kehittänyt uusia mittareita ihmisten ja tietokonelaitteistojen suhteellisesta prosessointitehosta. [11] [12]

MIRI-tutkijoiden kiinnostus epäjatkuvaan tekoälyyn juontaa juurensa I.J. Goodin väitteestä, jonka mukaan riittävän kehittyneet tekoälyjärjestelmät pärjäävät lopulta ohjelmistokehitystehtävissä, mikä johtaa yhä kykenevämpien tekoälyjärjestelmien palautesilmukaan:

Ultraälykäs kone määritellään koneeksi, joka voi niin pitkälle kuin mahdollista ylittää minkä tahansa ihmisen kaiken älyllisen toiminnan. Koska konesuunnittelu on yksi näistä älykkäistä tehtävistä, erittäin älykäs kone voisi suunnitella vielä parempia koneita; Silloin olisi epäilemättä tapahtunut " älyräjähdys " (alkuperäinen: "älyräjähdys"), ja ihmismieli olisi jäänyt kauas taakse. Näin ollen ensimmäinen ultraälykäs kone on viimeinen keksintö, jonka ihmisen tulisi koskaan tehdä, mikäli kone on tarpeeksi tottelevainen kertomaan meille, kuinka se pidetään hallinnassa. [13]

Kirjailijat, kuten Bostrom , käyttävät termiä superäly Gooden ultraälyn sijaan. Vernor Vingen jälkeen Gooden ajatus älykkyyden räjähdyksestä yhdistettiin ajatukseen "teknologisesta singulaarisuudesta". Bostrom ja MIRI:n tutkijat ovat ilmaisseet skeptisisyytensä singulaarisuuden kannattajien, kuten Ray Kurzweilin , näkemyksiä kohtaan, että superäly on "kulman takana". MIRI-tutkijat kannattavat varhaista turvallisuustyötä varotoimenpiteenä ja väittävät, että aiemmat ennusteet tekoälyn edistymisestä eivät ole olleet luotettavia. [neljätoista]

Luotettavuus ja virhetoleranssi tekoälyssä

Future of Life Instituten (FLI) tutkimuksen painopisteasiakirjassa todetaan:

Matemaattiset työkalut, kuten muodollinen logiikka, todennäköisyyslaskenta ja päätösteoria, ovat antaneet merkittävän käsityksen päättelyn ja päätöksenteon perusteista. Päättelyn ja päätösten ytimessä on kuitenkin edelleen monia avoimia ongelmia. Ratkaisut näihin ongelmiin voivat tehdä erittäin suorituskykyisten järjestelmien käyttäytymisestä paljon luotettavampaa ja ennakoitavampaa. Esimerkkejä tämän alan tutkimuksesta ovat Horvitzin ja Russellin rajallisten laskentaresurssien pohtiminen ja päättäminen, miten tekoälyjärjestelmien ja niiden ympäristön käyttäytymisen väliset korrelaatiot, agentit ympäristöönsä sisäänrakennetuina agentteina tai muut deterministiset tekijät otetaan huomioon. laskelmat. Näitä aiheita voi olla hyödyllistä tarkastella yhdessä, koska ne näyttävät liittyvän syvästi toisiinsa.

Vakiopäätösmenettelyjä ei ole määritelty tarkasti (esimerkiksi kontrafaktuaalien suhteen), jotta ne voitaisiin formalisoida algoritmeiksi. Machine Intelligence Research Instituten tutkija Benja Pallenstein ja silloinen tutkija Nate Soares kirjoittavat, että kausaalinen päätösteoria on "heijastava epävakaa" siinä mielessä, että rationaalinen agentti, joka seuraa kausaalista päätösteoriaa "tunnistaa oikein, että agentin on muutettava itseään lopettaakseen syyteorian käytön . ja vaikuttaa päätöksentekoon ." Tutkijat tunnistavat "loogiset päätösteoriat" vaihtoehdoiksi, jotka suoriutuvat paremmin yleisissä päätöksentekotehtävissä.

Jos tekoälyjärjestelmä valitsee toiminnot, jotka mahdollistavat sen parhaiten suorittavan tehtävän, olosuhteiden välttäminen, jotka estävät järjestelmää jatkamasta tehtävän suorittamista, on luonnollinen osatavoite (ja päinvastoin, ehdottomien tilanteiden löytäminen on joskus hyödyllistä heuristiikkaa). Tämä voi kuitenkin muodostua ongelmalliseksi, jos haluamme jakaa järjestelmän uudelleen, deaktivoida sen tai muuttaa merkittävästi päätöksentekoprosessia; Tällainen järjestelmä rationaalisesti välttäisi nämä muutokset. Järjestelmiä, joissa ei esiinny tätä käyttäytymistä, kutsutaan korjaaviksi järjestelmiksi, ja teoreettinen ja käytännöllinen työ tällä alalla näyttää olevan hyväksyttävää ja hyödyllistä.

Machine Intelligence Research Instituten painopisteet näillä alueilla on tiivistetty vuoden 2015 teknisessä ohjelmassa .

Muistiinpanot

1. ↑ Tekoäly globaalina riskitekijänä
2. ↑ Flarelang-projekti osoitteessa SourceForge.net
3. ↑ Organisaation tasot yleisessä älykkyydessä (linkki ei ole käytettävissä) . Haettu 14. toukokuuta 2009. Arkistoitu alkuperäisestä 4. lokakuuta 2006. (määrätön) 
4. ↑ Mikä on singulaarisuus? | Singularity Institute for Artificial Intelligence (linkki ei saatavilla) . Haettu 14. toukokuuta 2009. Arkistoitu alkuperäisestä 16. toukokuuta 2008. (määrätön) 
5. ↑ Miksi työskennellä singulaarisuuden puolesta? | Singularity Institute for Artificial Intelligence (linkki ei saatavilla) . Haettu 14. toukokuuta 2009. Arkistoitu alkuperäisestä 4. lokakuuta 2006. (määrätön) 
6. ↑ 3 vaarallista lakia – Asimovin kolme robotiikan lakia ja minä, robotti
7. ↑ Singularity Institute for Artificial Intelligence | AI
8. ↑ älykkäämpi kuin sinä? San Francisco Chronicle, 12. toukokuuta 2006
9. ↑ Olemme nyt "Machine Intelligence Research Institute" (MIRI) (30. tammikuuta 2013). (määrätön)
10. ↑ Bostrom, Nick ; Yudkowsky, Eliezer . Tekoälyn etiikka // The Cambridge Handbook of Artificial Intelligence  (englanniksi) / Frankish, Keith; Ramsey, William. - New York: Cambridge University Press , 2014. - ISBN 978-0-521-87142-6 .
11. ↑ Hsu, Jeremy . Varmista, että tekoälyn nopea nousu ei ole yllätys  (2015). Haettu 12. lokakuuta 2015.
12. ↑ De Looper, Christian . Tutkimus ehdottaa, että ihmisen aivot ovat 30 kertaa tehokkaampia kuin parhaat supertietokoneet  (2015). Haettu 12. lokakuuta 2015.
13. ↑ IJ Hyvä . Spekulaatioita ensimmäisestä ultraälykkäästä koneesta  (englanniksi)  // Advances in Computers: Journal. - 1965. - Voi. 6 .
14. ↑ Bensinger, Rob Brooks ja Searle AGI:n tahdosta ja aikajanasta . MIRI-blogi (2015). Haettu: 12.10.2015. (määrätön)

Linkit

• intelligence.org ​(  englanniksi) - Machine Intelligence Research Instituten virallinen verkkosivusto
• Stanfordin Singularity Summit
• Singularity Summit 2008

Sosiaalisissa verkostoissa	Viserrys Facebook