Robotiikan kolme lakia

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 24. heinäkuuta 2017 tarkistetusta versiosta . vahvistus vaatii 71 muokkausta .

Tieteiskirjallisuuden kolme robotiikan lakia ovat robottien sitovia käyttäytymissääntöjä  , jotka Isaac Asimov ilmaisi ensimmäisenä novellissa Round Dance ( 1942 ).

Lait sanovat:

  1. Robotti ei voi vahingoittaa henkilöä tai toimimattomuudellaan sallia henkilön vahingoittumisen.
  2. Robotin on toteltava kaikkia ihmisen antamia käskyjä, elleivät käskyt ole ensimmäisen lain vastaisia.
  3. Robotin on huolehdittava omasta turvallisuudestaan ​​siinä määrin kuin se ei ole ristiriidassa ensimmäisen tai toisen lain kanssa.
Alkuperäinen teksti  (englanniksi)[ näytäpiilottaa]
  1. Robotti ei saa vahingoittaa ihmistä tai antaa toimimattomuudellaan vahingoittaa ihmistä.
  2. Robotin on noudatettava ihmisten sille antamia käskyjä, paitsi jos tällaiset käskyt olisivat ristiriidassa ensimmäisen lain kanssa.
  3. Robotin on suojeltava omaa olemassaoloaan niin kauan kuin tällainen suoja ei ole ristiriidassa ensimmäisen tai toisen lain kanssa.

Kolme lakia sekä niiden rikkomisen mahdolliset syyt ja seuraukset on omistettu Asimovin robotteja koskevien tarinoiden syklille. Jotkut niistä päinvastoin käsittelevät kolmea lakia noudattavien robottien odottamattomia seurauksia (esimerkiksi " Peiliheijastus ").

Yhdessä syklin tarinoissa Asimovin hahmo tulee johtopäätökseen Kolmen lain eettisestä perustasta : "... jos ajattelee tarkasti, robotiikan kolme lakia ovat yhtäpitäviä useimpien eettisten järjestelmien perusperiaatteiden kanssa, jotka ovat olemassa Maa ... yksinkertaisesti sanottuna, jos Byerly täyttää kaikki robotiikan lait, hän - tai robotti tai erittäin hyvätapainen ihminen" [1] .

Vuonna 1986 romaanissa Robots and Empire Asimov ehdotti nollalakia  :

0. Robotti ei voi aiheuttaa vahinkoa ihmiskunnalle tai toimimattomuudellaan antaa vahinkoa ihmiskunnalle.

Alkuperäinen teksti  (englanniksi)[ näytäpiilottaa]

0. Robotti ei saa vahingoittaa ihmiskuntaa tai antaa toimimattomuudellaan vahingoittaa ihmiskuntaa.

The Three Laws of Robotics  on yhdistävä teema koko Asimovin tieteiskirjallisuudelle, mukaan lukien robottien syklin lisäksi myös eräät muut teokset.

Kolmen lain historia

Käsitteen syntyminen

Ennen Asimovin kolmea lakia useimmat tarinat keinotekoisista olentoista yleensä ja erityisesti roboteista kirjoitettiin kuuluisan Frankenstein-romaanin hengessä . ”Tästä ongelmasta tuli yksi tieteismaailman suosituimmista 1920- ja 1930-luvuilla, jolloin kirjoitettiin monia tarinoita, joiden teemana olivat robotit, jotka kapinoivat ja tuhosivat luojansa. ... Olin hirveän kyllästynyt varoituksiin, jotka kuuluivat tämän tyyppisissä teoksissa”, [2] Asimov huomautti myöhemmin.

Kaikki tieteiskirjailijat eivät kuitenkaan noudattaneet tätä mallia. Joulukuussa 1938 julkaistiin Lester del Reyn novelli "Helen O'Loy"  - tarina robotinaisesta, joka rakastui mielettömästi luojaansa ja josta tuli hänen ihanteellinen vaimonsa [3] . Kuukautta myöhemmin Otto Binder julkaisi tarinan "Minä, robotti" robotin Adam Linkin - olennon, jota ihmiset eivät ymmärrä, rakkauden ja kunnian periaatteiden ohjaama - kohtalosta [4] .

Asimov piti tästä tarinasta erittäin paljon. 7. toukokuuta 1939 hän vieraili Science Fiction Society of Queensissa , missä hän tapasi Binderin. Kolme päivää myöhemmin Asimov alkoi kirjoittaa omaa tarinaansa "jalosta robotista". 13 päivän kuluttua hän antoi käsikirjoituksen ystävälleen John Campbellille , Astounding - lehden päätoimittajalle. Hän kuitenkin palautti käsikirjoituksen ja totesi, että tarina oli liian samanlainen kuin "Helen O'Loy" [5] .

Onneksi Campbellin kieltäytyminen ei vaikuttanut heidän suhteeseensa Asimovin kanssa, he tapasivat edelleen säännöllisesti ja puhuivat uutuuksista tieteiskirjallisuuden maailmassa. Ja täällä 23. joulukuuta 1940, kun keskustelimme toisesta tarinasta roboteista [6] [7] :

...Campbell muotoili sen, mikä myöhemmin tunnettiin nimellä kolme robotiikan lakia . Campbell sanoi myöhemmin, että hän oli yksinkertaisesti eristänyt lait siitä, mitä Asimov oli jo kirjoittanut. Asimov itse luovutti aina kolmen lain tekijän kunnian Campbellille ...

Muutamaa vuotta myöhemmin toinen Asimovin ystävä, Randal Garrett  , katsoi , että lakien kirjoittaja oli kahden ihmisen " symbioottinen kumppanuus". Asimov hyväksyi tämän muotoilun innostuneesti.

Yleisesti ottaen Kolmen lain ilmestyminen Asimovin teoksiin tapahtui vähitellen: kahdessa ensimmäisessä tarinassa roboteista (" Robbie ", 1940 ja " Logiikka ", 1941 ) ei mainita niitä erikseen. Ne kuitenkin viittaavat jo siihen, että roboteilla on joitain luontaisia ​​rajoituksia. Seuraavassa tarinassa ("The Liar ", 1941) Ensimmäinen laki kuullaan ensimmäistä kertaa . Ja lopuksi, kaikki kolme lakia esitetään kokonaisuudessaan Pyöreätanssissa ( 1942 ).

Kun loput tarinat kirjoitettiin ja ajatus " Minä, robotti " -kokoelman julkaisemisesta syntyi, kaksi ensimmäistä tarinaa "täydennettiin" Lakien kanssa . "Robbiessa" lait poikkesivat jonkin verran muissa tarinoissa esitetystä "klassisesta" versiosta. Erityisesti ajatus robotista, joka suojelee ihmisiä, joiden olemassaolosta hän ei ole aivan varma, toistaa Elijah Baileyn ajatuksia lakien epätäydellisyydestä , joita kuvataan alla .

1950 -luvulla Asimov kirjoitti pääasiassa nuorille. Hänen julkaisijansa ehdotti, että näistä tarinoista voitaisiin tehdä tv-sarja . Asimov pelkäsi, että elokuvasovitus näyttäisi "tasaisesti pelottavalta" kuin kaikki, mitä hän ajatteli televisiossa näytettävän, Asimov päätti julkaista Lucky Starr -sarjan salanimellä Paul French . Kun elokuvasovitus epäonnistui, Asimov poisti salanimensä ja täydensi sarjan tarinoiden tekstiä Kolmella lailla , mikä vahvisti kirjoittajan [8] .

Lakien eettiset perusteet

Novellissa " Evidence " ( 1946 ) Asimov esitti yksityiskohtaisesti Kolmen lain moraaliset perusteet . Tarinan sankaritar, tohtori Susan Kelvin , esittää seuraavat väitteet:

  1. Henkilö yleensä pidättäytyy vahingoittamasta toista, paitsi akuutissa pakkotilanteessa (kuten sodassa ) tai pelastaakseen lisää ihmisiä. Tämä vastaa ensimmäistä lakia .
  2. Samoin tunteessaan vastuuta yhteiskunnalle, ihminen noudattaa arvovaltaisten ihmisten ohjeita: lääkäreitä, opettajia, pomoja jne., mikä vastaa toista lakia .
  3. Lopuksi, jokainen meistä välittää omasta turvallisuudestamme - ja tämä on kolmas laki .

Tarina on omistettu kysymykselle: onko mahdollista erottaa ihminen ja robotti, joka on luotu näyttämään ihmiseltä ulkoisesti erottumattomalta ihmisestä? Calvin toteaa, että jos joku noudattaa lakeja , hän on "joko robotti tai erittäin hyvä ihminen". Ja kun häneltä kysytään, onko robotin ja ihmisen välillä sitten suuri ero, hän vastaa: ”Valtava ero. Ensinnäkin robotit ovat erittäin kunnollisia."

Kolmen lain sovellukset fiktion ulkopuolella

Jos Kolmella lailla on takanaan syvät eettiset periaatteet, niin ehkä niitä voidaan soveltaa muuhunkin kuin robotteihin? Monet kirjoittajat vastaavat tähän kysymykseen myöntävästi useiden esimerkkien perusteella.

Joten esseessä "The Laws of Robotics" [1] Asimov huomauttaa, että kolme lakia voidaan laajentaa kaikkiin ihmisen luomiin työkaluihin :

  1. Työkalun on oltava turvallinen käyttää – esimerkiksi veitsissä on kahvat.
  2. Työkalun on suoritettava tehtävänsä, mikäli se ei aiheuta vaaraa kenellekään.
  3. Työkalun on pysyttävä ehjänä käytön aikana, elleivät sen tuhoaminen ole turvallisuusnäkökohtien sanelema tai jos se ei ole osa sen toimintaa.

Voit joskus nähdä, että kolmeen lakiin viitataan vitsillä jonakin, joka on luotu ihmisen parhaaksi. Esimerkiksi kaikkien sosiaalisten instituutioiden , mukaan lukien valtion , tulisi kuulua niiden toimiin :

  1. Valtio ei saa vahingoittaa ihmisiä tai toimia toimimattomuudellaan antaa heille vahinkoa.
  2. Valtion on suoritettava tehtävänsä, elleivät ne ole ensimmäisen lain vastaisia .
  3. Valtion on huolehdittava turvallisuudestaan, ellei se ole ensimmäisen ja toisen lain vastaista .

Ensimmäisen lain perusteella Jeff Raskin muotoili ihmislähtöisten rajapintojen lait [9] :

  1. Tietokone ei voi vahingoittaa käyttäjän tietoja tai antaa toimimattomuudellaan vahingoittaa tietoja.
  2. Tietokoneen ei pitäisi tuhlata aikaasi tai pakottaa sinua tekemään asioita, jotka eivät ole tarpeen.

Gaialla , säätiön romaanisarjan pesän mielen planeetalla , on jotain samanlaista kuin ensimmäinen laki :

  1. Gaia ei voi vahingoittaa elämänmuotoa tai toimimattomuuden vuoksi sallia elämänmuodon vahingoittumisen [10] .

Asimovin muunnelmia

Isaac Asimov esittelee teoksissaan toisinaan erilaisia ​​muutoksia Kolmeen lakiin ja kumoaa ne, ikään kuin testaakseen lakeja "voimaa" eri olosuhteissa.

Zeroth Law

Isaac Asimov lisäsi kerran nollalain , tehden siitä prioriteetin kolmeen peruslakiin nähden. Tämä laki totesi, että robotin on toimittava koko ihmiskunnan edun mukaisesti, ei vain yksilön edun mukaisesti. Näin Daniel Olivo, robotti , ilmaisee sen romaanissa Maa ja maa :

0. Robotti ei voi vahingoittaa ihmiskuntaa tai sallia toimimattomuudellaan ihmiskunnan vahingoittamisen.

Hän oli ensimmäinen, joka antoi tälle laille numeron - tämä tapahtui romaanissa " Robotit ja valtakunta ", mutta itse käsitteen muotoili jo aiemmin Susan Calvin  - novellissa " Ratkaistava ristiriita ".

Ensimmäiset robotit, jotka alkoivat noudattaa nollalakia ja omasta tahdostaan, olivat Giscard Riventlov ja Daniel Olivo . Tämä on kuvattu yhdessä romaanin " Robotit ja Imperiumi " viimeisistä kohtauksista, jolloin robotin piti jättää huomiotta yhden henkilön käsky koko ihmiskunnan edistymisen vuoksi. Nollalakia ei upotettu Giscardin ja Danielin positroniisiin aivoihin - he yrittivät päästä siihen Giscardin puhtaan ymmärryksen ja Danielin etsiväkokemuksen kautta, koska he tunsivat vahingon käsitteen hienovaraisemmin kuin kaikki muut robotit . Giscard ei kuitenkaan ollut varma, kuinka hyödyllinen se oli ihmiskunnalle, millä oli kielteinen vaikutus hänen aivoihinsa. Telepaattina Giscard siirsi telepaattiset kykynsä Danielille ennen kuin hän lopetti toimintansa . Vasta monia tuhansia vuosia myöhemmin Daniel Olivo pystyi täysin sopeutumaan nollakohtaisen lain noudattamiseen .

Ranskan kääntäjä Jacques Brecard muotoili tietämättään nollan lain ennen kuin Asimov oli sitä nimenomaisesti kuvaillut. Caves of Steelin loppupuolella Elijah Bailey huomauttaa , että ensimmäinen laki kieltää robotin vahingoittamasta ihmistä, ellei ole varmaa, että siitä on hänelle hyötyä tulevaisuudessa. Ranskankielisessä käännöksessä (" Les Cavernes d'acier ", 1956) Baileyn ajatukset välitetään hieman eri tavalla [11] :

Robotti ei voi vahingoittaa ihmistä, ellei se pysty todistamaan, että se hyödyttää lopulta koko ihmiskuntaa.

Alkuperäinen teksti  (fr.)[ näytäpiilottaa]

Un robot ne doit faire aucun tort à un homme, à moins qu'il trouve un moyen de prouver qu'en fin de compte le tort qu'il aura causé profite à l'humanité en général!

On huomionarvoista, että vuoden 2004 elokuvan " Minä, robotti " luojat ehdottivat ensimmäisen lain loogista kehitystä nollaan . Kun supertietokone V.I.K.I. päättää rajoittaa planeetan asukkaiden vapautta, jotta he eivät vahingossa vahingoita toisiaan ja tulevaisuuttaan, se ei noudata ensimmäistä lakia , nimittäin nollaa . Vielä mielenkiintoisempaa on, että tällä tavalla elokuva näyttää nollan lain ristiriidan ensimmäisen kanssa, sen epäeettisen luonteen. Kun on kyse ihmiskunnan hyvinvoinnista, järjestelmä ei todellakaan voi tarkastella ihmisiä erikseen, mikä tarkoittaa, että mikään ei estä sitä loukkaamasta kenen tahansa tai jopa jokaisen henkilön oikeuksia ja vapautta (itse asiassa "Ratkattavassa ristiriidassa" positroniset supertietokoneet käyttäytyivät samalla tavalla, ero on siinä, että he yrittivät vähentää yksilöille aiheutuvia haittoja äärimmilleen). Sotien aikana ja usein rauhanomaisessa elämässä ihmiset vahingoittavat itseään, ympärillään olevia ja kulttuuriaan. Siksi nollan lain perusteella on täysin loogista pitää ihmiset jatkuvassa holhouksessa, ei noudattamatta tällaisten älyttömien olentojen käskyjä.

Ensimmäisen lain muutos

Asimovin omaelämäkerralliset muistiinpanot kertovat, että ensimmäisen lain toinen osa ilmestyi Arthur Hugh Clow'n satiirisen runon "The Last Decalogue" vuoksi, joka sisältää rivin: "Älä tapa, mutta älä yritä liian lujasti pelastaa toisen henkeä."

Tarinassa " How the Robot Got Lost " julkaistiin useita HC (Nestor) -sarjan robotteja, joilla oli vain "puolet" ensimmäisestä laista , joka kuuluu:

  1. Robotti ei voi vahingoittaa ihmistä.

Tämä tehtiin käytännön syistä: robotit työskentelivät ihmisten kanssa, jotka olivat alttiina pienille, turvallisille säteilyannoksille . Noudattaen korkeimman prioriteetin ensimmäistä lakia , robotit ryntäsivät koko ajan "pelastamaan" ihmisiä. Koska positroniset aivot ovat erittäin herkkiä gammasäteille , robotit epäonnistuivat jatkuvasti. Ensimmäisen lain lyhentäminen ratkaisi tämän ongelman, mutta loi samalla suuremman: robotti ei voinut ryhtyä mihinkään toimiin hädässä olevan henkilön pelastamiseksi, koska tällainen teko ei ole ristiriidassa lyhennetyn ensimmäisen lain kanssa .

Kaikkien kolmen lain rikkominen

Isaac Asimov kuvasi kolme kertaa kirjoituksessaan robotteja, jotka pystyivät rikkomaan kolmea lakia , toisin kuin robotit Daniel ja Giscard, jotka vahvistivat niitä lisäämällä nollan lain . Kaikkien kolmen lain rikkomiseen riittää, että robotti rikkoo ensimmäisen lain , koska kaksi muuta perustuvat siihen.

Tarina " The Robot Who Dreamed" kertoo robotista LVX-1 (Elvex), joka positronisten aivojensa erityisen "fraktaaligeometrian" ansiosta saattoi pudota tajuttomaan tilaan ja nähdä unta. Hän haaveili, että "robotit työskentelevät otsansa hiessä, että he ovat masentuneita ylityöstä ja syvästä surusta, että he ovat väsyneitä loputtomaan työhön". Hänen unelmissaan roboteilla ei ollut kahta ensimmäistä lakia , ja kolmas oli: "Robotin on suojattava itseään." Elvex lisäsi, että hänen unessaan oli mies, joka sanoi: " Päästä kansani mennä " viitaten robotteihin. Sanottuaan miehen olevan oma itsensä, Susan Calvin tuhosi Elvexin tajuttuaan hänen vaaransa.

Tällaisen muutoksen mahdollisuus

Isaac Asimovilla oli teoksissaan eri aikoina erilaisia ​​näkemyksiä lakien ankaruudesta . Ensimmäisissä robotteja koskevissa tarinoissa lait  ovat vain hyvin suunniteltuja rajoituksia, eräänlaista turvallisuusmääräystä . Seuraavissa tarinoissa lait  ovat olennainen osa positronisten aivojen matemaattista perustaa. Ilman tätä teoreettista perustaa - niin kutsuttua "standardikaavioiden perusteoriaa" - Asimovin teosten tutkijat eivät pystyisi luomaan toimivia suunnitelmia . Jäljitetään kaava: tapaukset, joissa robotikot kokeilevat lakeja Asimovin maailman kronologian mukaan, tapahtuvat aikaisemmin, kun ei ole vielä valtavasti robotteja vaativaa työtä, kun itse robotit ovat vielä suhteellisen yksinkertaisia ​​suunnittelultaan ja toimintoja, kun niiden suunnittelusta ei ole vielä kertynyt riittävästi kokemusta. "How the Robot Got Lost" Susan Calvin myöntää, että lakien muuttaminen on kauhea, mutta teknisesti toteutettavissa oleva hanke; myöhemmin, Caverns of Steelissä, tohtori Jerrigel sanoo, että tämä on periaatteessa mahdotonta.

Asimovin teosten hahmot huomauttavat usein, että lait  eivät ole sanallisesti kirjoitettuja lauseita robotin muistiin, vaan hyvin monimutkaisia ​​matemaattisia kaavoja, joihin robotin koko tietoisuus perustuu . Lait ovat samankaltaisia ​​kuin ihmisen vaistot, kuten itsesäilyttämisen vaisto , joten ne ovat niitä, jotka hahmottavat robottien itsemääräämispolun. Robotti "luonnon kutsusta" palvelee ihmisiä, tottelee heidän käskyjään eikä ajattele rajoituksiaan tai mahdollista riippumattomuutta - voisi sanoa, että jälkimmäinen aiheuttaisi hänelle hankaluuksia.

Tämä periaate näkyy jälleen vähemmässä määrin juonen aikaisessa kronologiassa olevissa teoksissa, joissa robotit luotiin helpottamaan ihmisen työtä ja olivat erittäin yksinkertaisia; "Teräsluolien" ja lähes inhimillisen älykkyyden omaavien robottien aikaan Robotiikan kolmesta laista tuli yksi ihmiskunnan maailmankuvan perusta.

"Ihmisen" käsite laeissa

Solaria -planeetan asukkaat alkoivat luoda robotteja, jotka tottelivat kolmea lakia , mutta joilla oli erilainen käsitys sanasta "ihminen". Tämän planeetan robotit on koulutettu niin, että "ihminen" on vain se, joka puhuu solarialaisella aksentilla. Robotit voivat vapaasti vahingoittaa vierasta, ne oli jopa ohjelmoitu tätä varten. " Säätiön ja maan " aikana paljastettiin, että solarialaiset olivat kehittäneet geenitekniikkaa laajasti ja muun muassa heillä oli nyt hyvin näkyviä elimiä, jotka on suunniteltu toimittamaan robottinsa energiaa. Ihmisen määritelmä heidän roboteilleen (ainakin vartijoille) sisälsi nyt näiden elinten hallussapidon, ja robotit alkoivat noudattaa Kolmea lakia vain suhteessa Solarian asukkaisiin, mikä oli muun galaksin ja koko galaksin vahingoksi. jopa solarialaisia ​​lapsia. Viimeisessä David Starria käsittelevistä kirjoista siriuslainen robotti melkein tappaa John Bigmanin pomonsa käskystä: koska siriuslainen yhteiskunta harjoittaa eugeniikkaa, heillä ei ole niin alamittaisia ​​ihmisiä, ja robotti onnistuu vakuuttamaan Bigmanin siitä, että Bigman on ei henkilö.

Asimov käsittelee useita kertoja ongelmaa, joka liittyy robotin tietoisuuteen itsestään ihmisenä . Romaani " Robotit ja valtakunta " ja novellit " Evidence ", " Tercentenary Hitch " kuvaavat robotteja, jotka on suunniteltu teeskentelemään ihmisiä. On myös tarinoita, joissa robotit "kehittyessään" muuttivat sisäistä ymmärrystäLaeista , lähestyvät ihmisiä: nämä ovat " Bicentennial Man " ja " Like muistaa häntä ". Kuten Gwendolyn Butler kirjoittaa kirjassaan The Canary's Tomb: ”Ehkä olemme robotteja. Robotit täyttävät viimeisen robotiikan lain… tulla ihmisiksi” [13] .

Tarinassa "...Like Remember Him" ​​Asimov suoritti hienoimman tutkimuksen kolmesta laista kääntäen ne ylösalaisin siten, että "Frankensteinin skenaario" tuli mahdolliseksi. Kaksi Georgie-sarjan robottia sopivat siitä, että orgaaninen alkuperä ei ole välttämätön edellytys ihmisenä pitämiselle ja että he ovat todellisia ihmisiä täydellisimpinä ja älykkäimpinä olentoina. Muut ihmiset ovat myös ihmisiä, mutta heillä on pienempi prioriteetti. Jos näin on, kolmea lakia tulisi soveltaa ensin niihin. Kertomus päättyy pahaenteisiin sanoiin, että robotit ovat "äärimmäisen kärsivällisesti odottaneet" päivää, jolloin he vahvistavat ensisijaisuutensa ihmisten keskuudessa - ja tämä on "Humanismin kolmen lain" väistämätön tulos.

Itse asiassa tämä tarina ei sovi hyvin päärobottisarjaan: jos "Georgie" olisi toteuttanut suunnitelmansa tarinan päätyttyä, muut tarinat jatkotapahtumista eivät olisi olleet mahdollisia. Juuri tällainen ristiriita Asimovin teoksissa antaa kriitikoille aiheen pitää niitä enemmän "skandinaavisina saagoina tai kreikkalaisina legendoina" kuin yhtenä fantastisena "universumina".

Samanlainen ajatus ilmaistaan ​​romaanissa " Aamunkoiton robotit ", jossa Kelden Amadiro haluaa käyttää humanoidirobotteja uusien planeettojen kolonisoijina. Elijah Bailey ilmaisee keskustelussaan hänen kanssaan huolensa siitä, että tällaiset robotit eivät ehkä päästä ihmisiä varustetuille planeetoille, koska he uskovat olevansa ihmisiä.

Jos edellisessä tapauksessa robotti syrjäytti ihmisen paikan luonnossa , niin "Bicentennial Man" -kirjassa Asimov kuvailee päinvastaista kohtaloa: Kolmesta laista vapautunut ja ihmisenä itsensä ymmärtävä robotti liittyi ihmisten yhteisöön . Jälleen, laajennetussa versiossa, Asimovin ja Robert Silverbergin yhteiskirjoittamassa novellissa Positronic Man , ihmiset hylkäsivät tällaisten eettisten ongelmien vuoksi täysin ajatuksen ajattelevien robottien luomisesta. Tämä tapahtumien kehitys on täysin ristiriidassa " Säätiön " maailmoissa kuvatun tulevaisuudenkuvan kanssa .

Sovellusongelmat

Kiistan ratkaisu

Asimov itse totesi kokoelman " The Rest of Robots " (1964) tarinan "Ensimmäinen laki" johdannossa, että laeissa oli juuri tarpeeksi epäselvyyttä tarjotakseen ristiriitoja ja epävarmuustekijöitä uusille tarinoille. Kehittyneimmät robottimallit noudattivat yleensä lakeja melko hankalan algoritmin mukaan, joka vältti joitain ongelmia. Monissa tarinoissa, kuten "Pyöreä tanssi", mahdollisten toimien ja tulosten potentiaalia verrattiin positronisissa aivoissa , ja robotti pystyi rikkomaan lakeja niin pian kuin mahdollista, sen sijaan, että olisi ollut tyhjäkäynnillä. Esimerkiksi ensimmäinen laki ei sallinut robotin suorittaa kirurgisia leikkauksia, koska se vaatii "haittaa" henkilölle. Robottikirurgeja löytyy kuitenkin Asimovin tarinoista (Bicentennial Man on tästä hyvä esimerkki). Tosiasia on, että robotti, jos se on tarpeeksi täydellinen, voi punnita kaikki vaihtoehdot ja ymmärtää, että se itse aiheuttaa paljon vähemmän haittaa kuin jos leikkauksen tekisi ihmiskirurgi tai sitä ei tapahtuisi ollenkaan. Todistuksessa Susan Calvin jopa sanoo, että robotti voisi toimia syyttäjänä, koska hän ei henkilökohtaisesti vahingoita ketään: hänen lisäksi on myös valamiehistö , joka määrittää syyllisyyden, tuomari, joka antaa tuomion, ja teloittaja, joka suorittaa sen. .

Lakia noudattavat robotit voivat kokea "robloxin" tai "henkisen jäätymisen" - pysyvän positronisen aivovaurion - jos he eivät noudata ensimmäistä lakia tai huomaavat rikkoneensa sitä vahingossa. Tämä on mahdollista esimerkiksi, jos robotti tarkkailee ihmisen murhapaikkaa, mutta on liian kaukana pelastaakseen hänet. Ensimmäinen tapaus tällaisesta "jäädyttämisestä" esiintyy "The Liarissä"; tällä tilalla on tärkeä rooli myös romaanien "The Naked Sun " ja " Robots of the Dawn " juonen. Epätäydelliset robottimallit voivat tukkeutua, jos niille annetaan tehtävänä totella kahta ristiriitaista käskyä. "Jäätyminen" voi olla pysyvä tai väliaikainen. Robopsykologit ovat mukana ratkaisemassa ristiriitoja ja tutkimassa robottien käyttäytymistä, kuten yksi Asimovin hahmoista - Susan Calvin .

Vaihtoehtoinen vahingon määritelmä ensimmäisessä laissa

Lait eivät millään tavalla määrittele rajoja sille, mitä voidaan kutsua vahingoksi henkilölle - tämä riippuu usein robotin kyvystä havaita tietoa ja ajatella filosofisesti. Ymmärtääkö esimerkiksi poliisirobotti, että se ei vahingoita ihmistä, jos se saattaa erityisen vaarallisen rikollisen varovasti asemalle?

Tarinassa Liar! Herbien, telepaattisen robotin, täytyi ymmärtää vahingot jonakin, joka voi aiheuttaa pettymyksen tai järkyttää ihmisiä millään tavalla - hän tiesi ihmisten kokevan jonkinlaista henkistä kipua. Tämä pakotti hänet jatkuvasti kertomaan ihmisille, mitä he halusivat kuulla totuuden sijaan. Muuten hän olisi hänen käsityksensä mukaan rikkonut ensimmäistä lakia .

Porsaanreiät laeissa

The Naked Sunissa Elijah Bailey huomauttaa, että ihmiset ovat muotoilleet lait väärin, koska robotti voi rikkoa niitä tietämättään . Hän ehdotti seuraavaa "oikeaa" ensimmäisen lain muotoilua : "Robotti ei saa tehdä mitään, minkä se tietää vahingoittavan ihmistä tai sallivan tahallaan vahinkoa ihmiselle."

Tämä lisäys tekee selväksi, että robotista voi tulla jopa murha-ase, jos se ei ole tietoinen toimintansa luonteesta. Häntä voidaan esimerkiksi määrätä lisäämään jonkun ruokaan, eikä hän tiedä, että se on myrkkyä. Lisäksi Bailey sanoo, että rikoksentekijä voi antaa tämän tehtävän useille roboteille niin, että yksikään niistä ei ymmärrä koko ideaa [14] .

Bailey väittää, että solarialaiset voivat jonakin päivänä käyttää robotteja jopa sotilaallisiin tarkoituksiin. Jos avaruusalus on rakennettu robottiaivoilla ja siinä ei ole ihmismiehistöä tai elämää ylläpitäviä järjestelmiä , tämän aluksen älykkyys voi virheellisesti olettaa, että kaikissa avaruusaluksissa ei ole ihmisiä. Tällainen alus olisi ohjattavampi, nopeampi ja mahdollisesti paremmin aseistettu kuin ihmisten ajama alus. Mutta mikä tärkeintä, hän pystyy tuhoamaan ihmisiä tietämättä heidän läsnäolostaan. Tätä mahdollisuutta kuvataan artikkelissa " Säätiö ja maa ", jossa paljastetaan myös, että solarialaisilla on erittäin voimakas robottiarmeija, jotka ymmärtävät Solarian alkuasukkaat vain "ihmisiksi".

Muut lakien käyttötarkoitukset fiktiossa

Isaac Asimov uskoi, että hänen lakinsa toimisivat pohjana uudelle näkemykselle roboteista, tuhoavat " Frankenstein -kompleksin " tieteiskirjallisessa ja massatietoisuudessa, tulevat ideoiden lähteeksi uusille tarinoille, joissa robotit esitetään monipuolisina ja houkuttelevina. Hänen suosikkiesimerkkinsä tällaisesta teoksesta oli Tähtien sota . Asimovin mielestä robotit ovat enemmän kuin "leivänpaahtimet" tai "mekaaniset hirviöt", muut tieteiskirjailijat olivat lopulta samaa mieltä. Kolmea lakia noudattavia robotteja esiintyi heidän teoksissaan , mutta perinteen mukaan vain Asimov mainitsi ne nimenomaisesti.

Teoksissa, jotka puhuvat suoraan Kolmesta laista , niiden tekijä mainitaan yleensä myös (esimerkiksi S. Lukjanenkon romaanissa "Siivooja").
Poikkeuksiakin löytyy: esimerkiksi saksalaisessa 1960-luvun tv-sarjassa "Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion" ("Space Patrol - Orion-avaruusaluksen fantastiset seikkailut"), nimittäin sen kolmannessa jaksossa "Hüter des Gesetzes" ("Palvelijalaki"), Asimovin lakeja lainataan ilman lähdettä.

Vadim Tširkovin tarinassa "Robotti hatussa" esitetään toinen laki, joka toimii samalla tavalla kuin Asimovin, joka kieltää robotin valehtelemasta ihmiselle. Znaykan älykäs robotti kuitenkin ohittaa tämän lain: odottaessaan keskustelua ihmisten kanssa hän pettää toisen robotin, ja hän puolestaan ​​toistaa Znaykan version ihmisille tietämättä sen olevan väärä.

Elokuvat

Robbie-robotilla vuoden 1956 Forbidden Planetissa oli hierarkkinen komentorakenne, joka esti häntä vahingoittamasta ihmisiä, vaikka käskettiinkin - tällaiset käskyt aiheuttaisivat logiikkaristiriitoja ja tukoksia. Robbie oli yksi ensimmäisistä roboteista, joissa oli sisäänrakennettu turvajärjestelmä elokuvateatterissa. Asimov itse oli tyytyväinen Robbieen.

Isaac Asimovin työhön perustuvia elokuvia on tuotettu useita kertoja, vaihtelevalla taloudellisella menestyksellä ja kritiikillä. Jotkut niistä, tunnetuimmat, liittyvät erityisesti tarinoihin roboteista ja robotiikan kolmesta laista . Vuoden 1999 elokuvassa Bicentennial Man on NDR-114 [15] -robotti . Andrew Martin mainitsee kolme lakia mestareilleen "viihdyttävänä esityksenä" holografisella projektorillaan. Lait eivät kuitenkaan ole keskeisiä elokuvan juonen kannalta.

Myös Real Aaron Stone -fantasiasarjassa käytettiin Asimovin lakia. Sten-niminen robotti (android) määrää jatkuvasti lain ja sen tosiasian, ettei hän voi rikkoa sitä, muuten kaikki mikropiirit palavat.

Harlan Ellisonin I, Robotin [16] käsikirjoitus alkaa Kolmen lain käsitteen esittelyllä , ja niistä nousevat ongelmat ovat suurella paikalla juonessa. Käsikirjoitus perustuu neljään Asimovin novelliin, joista kolme on vuoden 1950 kokoelmasta I, Robot. Tämä sovitus on pitkälti uskollinen alkuperäisille. Johtuen konfliktista Hollywood - studion kanssa, jota vastaan ​​Ellison syytti, hänen käsikirjoitustaan ​​ei koskaan kuvattu.

Vuoden 2004 elokuva I, Robot sai ristiriitaisia ​​arvosteluja , etenkin avaus " Perustuu Asimovin tarinoihin". Totta, Asimovilla on globaali tekoäly (tarkemmin sanottuna neljä supertietokonetta), joka lakien noudattamisen verukkeella yrittää alistaa ihmiskunnan tai ainakin ohjata sen kehitystä oikeaan suuntaan, mutta samalla nämä tietokoneet vähentävät vahingoittaa niin paljon kuin mahdollista, pääasiassa toimimalla pyyhkimällä huolellisesti vastustajansa vallasta. Mutta tällaisia ​​juonia löytyi usein muista elokuvista , jotka eivät koskettaneet lakeja ollenkaan: " Terminaattori ", " Matrix ". Toisaalta tuotannon yksittäiset elementit on todellakin otettu Asimovilta.

Alex Exlerin arvostelu vetää rajan tämän elokuvan ja Asimovin tarinoiden välille [17] :

Vastoin joitain kritiikkiä ja katsojilta saamaani palautetta, I, Robot on melko hauska scifi-toimintaelokuva. … Kun… haluamme nauttia Asimovista, luemme Asimovia. Ja kun haluamme katsoa fantastisen toimintaelokuvan, katsomme fantastisen toimintaelokuvan. "Minä, robotti" toimintaelokuvana tyydytti meidät varsin hyvin.

Aleksei Sadetskin arvostelu kiinnittää huomion siihen, että Asimovista hieman syrjään mennyt elokuva nosti itsessään kaksi uutta sosiofilosofista ongelmaa [18] : "kannattaako ihmisen maksaa vapaudella turvallisuudesta?" ja "Pitäisikö meidän vastustaa, jos käytettävissämme olevat olennot vaativat vapautta itselleen?" Elokuva haastoi Asimovin myöhemmän robotiikan nollalain (katso yllä).

Kir Bulychevin tarinassa Rusty Field Marshal leikataan periaatetta , ettei ihmistä vahingoiteta. "Moderni" (siviili - koska sodat olivat siihen aikaan anakronismia) robotti eroaa "vanhentuneesta" (sotilaallisesta) robotista juuri tällaisen kiellon olemassaololla.

Kuuluisassa amerikkalaisessa animaatiosarjassa " Futurama " on yleinen vaiva , jonka ydin on, että yksi päähenkilöistä , robotti Bender , haluaa tappaa kaikki ihmiset, mutta ei voi tehdä tätä robotiikan kolmen lain takia .

Aliensissa androidi piispa lainaa ensimmäistä lakia.

Myös anime Eve no Jikan mainitsee nämä lait pakollisiksi androideille.

Animessa Ghost in the Shell: Innocence gynoidit ohittivat ensimmäisen lain ja tappoivat sitten itsensä, vastoin kolmatta lakia, lasten "aaveiden" kopioiden kustannuksella. Kopion tekohetkellä lapset ajattelivat kostoa, ja kun "aave" oli siirretty gynoidiin, se epäonnistui.

RoboCop - elokuvasarjassa päähenkilö, kyborgipoliisi, sisältää kolme ohjetta, jotka kuvaavat sallittuja toimia ja kieltävät ne, jotka ovat haitallisia RoboCopin luoneen OCP-yhtiön tavoitteille:

  1. Palvele yhteisöä;
  2. Suojele viattomia;
  3. Pidä laki

On myös neljäs, salainen direktiivi, joka kieltää toimet OCP:n johtajia vastaan. RoboCop-elokuvien juoni sisältää hetkiä näiden ohjeiden rikkomisesta, mahdollisesti RoboCopin persoonallisuuden inhimillisestä puolesta johtuen.

The Underwriter -elokuvassa on kaksi ohjetta, jotka toimivat käyttäytymismallina ja rajoittavat robottien kykyjä.

Soveltuvuus tulevaisuuden teknologioihin

Tekoälyn alan työt näkevät Robotiikan lait tulevaisuuden ihanteena: vaatii todellista neroutta löytääkseen tavan toteuttaa ne käytännössä. Ja itse tekoälyn alalla voidaan vaatia vakavaa tutkimusta, jotta robotit ymmärtävät lait . Mitä monimutkaisemmiksi robotit kuitenkin muuttuvat, sitä enemmän ilmaistaan ​​kiinnostusta niiden ohjeiden ja turvatoimien kehittämiseen.

Nykyaikaiset robotikot tunnustavat, että nykyään Asimovin lait ovat hyviä tarinoiden kirjoittamiseen, mutta käytännössä hyödyttömiä. Jotkut väittävät, että lakeja ei todennäköisesti panna täytäntöön roboteissa, koska sotilaalliset rakenteet  - tämän alan tutkimuksen pääasiallinen rahoituslähde - eivät sitä tarvitse. Tieteiskirjallisuuden tutkija Robert Sawyer on yleistänyt tämän lausunnon kaikille toimialoille [19] :

Tekoälykehitys on bisnestä, eikä yritys tunnetusti ole kiinnostunut kehittämään perustavanlaatuisia turvatoimia – etenkään filosofisia. Tässä muutamia esimerkkejä: tupakkateollisuus, autoteollisuus, ydinteollisuus. Kenellekään heistä ei aluksi kerrottu, että vakavia turvatoimia tarvitaan, ja ne kaikki estivät ulkopuolelta asetetut rajoitukset, eikä kukaan heistä hyväksynyt ehdotonta käskyä ihmisten vahingoittamista vastaan.

Sawyerin essee jättää huomiotta tahattomien vahinkojen ongelmat, kuten kuvataan esimerkiksi The Naked Sunissa. Tällaista kantaa vastaan ​​kuitenkin vastustetaan: kenties armeija haluaa käyttää mahdollisimman paljon varotoimia robottien suhteen, ja siksi Robotiikan lakien kaltaisia ​​rajoituksia sovelletaan tavalla tai toisella. Fantast ja kriitikko David Langford huomautti ironisesti, että nämä rajoitukset voisivat olla seuraavat:

  1. Robotti ei voi vahingoittaa valtuutettuja viranomaisia, mutta sen on hillittävä liian tunkeilevat vierailijat erittäin huolellisesti.
  2. Robotin on noudatettava valtuutetun henkilöstön käskyjä, paitsi kolmannen lain vastaisissa käskyissä.
  3. Robotin on huolehdittava turvallisuudestaan ​​jalkatorjunta-aseiden avulla, koska robotti on hemmetin kallis tavara [20] .

Roger Clarke kirjoitti kaksi artikkelia lakien täytäntöönpanon komplikaatioiden analysoinnista, jos niitä jonain päivänä voitaisiin soveltaa teknologiassa. Hän kirjoittaa [21] :

Asimovin Robotiikan lait tuli menestyvä kirjallinen työkalu. Ehkä ironisesti, tai ehkä se oli mestariveto, mutta kaiken kaikkiaan Asimovin tarinat kumoavat sen pisteen, josta hän aloitti: On mahdotonta rajoittaa luotettavasti robottien käyttäytymistä keksimällä ja soveltamalla joitain sääntöjä.

Toisaalta Asimovin myöhemmät romaanit (" Aamunkoiton robotit ", " Robotit ja Imperiumi ", " Säätiö ja maa ") osoittavat, että robotit aiheuttavat vielä suurempaa pitkäaikaista haittaa noudattamalla lakeja ja riistämällä siten ihmisiltä vapauden tehdä. kekseliäitä tai riskialttiita toimia.

Fantast Hans Moravec , transhumanistisen liikkeen  näkyvä hahmo , on ehdottanut, että Robotiikan lakeja tulisi käyttää yritysten älykkyysjärjestelmissä - tekoälyyn perustuvissa yrityksissä , jotka käyttävät robottien tuotantovoimaa. Hänen mielestään tällaiset järjestelmät ilmestyvät pian [22] .

Vuonna 2007 Etelä - Korean hallitus alkoi kehittää "robottien eettisten standardien peruskirjaa". Peruskirjan tärkeimmät määräykset muistuttavat Asimovin muotoilemia robotiikan lakeja [23] .

Eliezer Yudkowsky tutkii Machine Intelligence Research Institutessa (SIAI) Yhdysvalloissa globaaleja riskejä, joita tulevaisuuden yli-inhimillinen tekoäly voi aiheuttaa, jos sitä ei ohjelmoida ihmisystävälliseksi [ 24] . Vuonna 2004 SIAI käynnisti AsimovLaws.com-sivuston, joka on suunniteltu keskustelemaan tekoälyn eettisyydestä vasta kaksi päivää myöhemmin julkaistussa I, Robot -elokuvassa esiin tuotujen ongelmien yhteydessä. Tällä sivustolla he halusivat näyttää, että Asimovin robotiikan lait eivät ole turvallisia, koska ne voivat esimerkiksi saada tekoälyn ottamaan vallan "suojellakseen" ihmisiä vahingoilta.

Katso myös

Muistiinpanot

  1. 1 2 Asimov, Isaac. Todisteet // Robotin unelmat . - M . : Eksmo, 2004. - S. 142-169. — ISBN 5-699-00842-X .
  2. Asimov, Isaac. Essee #6. Robotiikan lait // Robottien unelmat . - M . : Eksmo, 2004. - S. 781-784. — ISBN 5-699-00842-X .
  3. ke. Galatean myytin kanssa .
  4. Mielenkiintoista on, että yhdessä kirjailijan jatko-osista, tarinassa "Adam Linkin kosto" ( 1940 ), hänen ajatuksensa ilmaistaan: "Vapaasta tahdosta riippumaton robotti ei saa tappaa ihmistä . "
  5. Frederick Pohl julkaisi tarinan myöhemmin nimellä "Strange Playfellow" Super Science Storiesin syyskuun 1940 numerossa.
  6. David Langford , Robotics Laws // SFE: The Encyclopedia of Science Fiction , verkkopainos, 2011—.
  7. Sergei Berezhnoy . Isaac Asimov: Mies, joka kirjoitti vielä nopeammin . Venäjän tieteiskirjallisuus (1994). Haettu 14. tammikuuta 2007.
  8. Isaac Asimov. In Joy edelleen tuntui. - Doubleday, 1980. - ISBN 0-385-15544-1 .
  9. Jeff Raskin. Käyttöliittymä: Uusia ohjeita tietokonejärjestelmän suunnittelussa . - Symbol-Plus, 2003. - ISBN 5-93286-030-8 .
  10. Katso myös: Gaia-hypoteesi
  11. Les Cavernes d'acier. - J'ai Lu Science-fiction, 1975. - ISBN 2-290-31902-3 .
  12. Vitaly Karatsupa. Asimov Isaac. Cal . Haettu: 17. helmikuuta 2007.
  13. Gwendoline Butler. Arkku Kanarialle. - Black Dagger Crime, 2001. - ISBN ISBN 0-7540-8580-5 .
  14. The Naked Sunissa asiaa mutkistaa se, että Solarialla on miljoonia robotteja, jotka on yhdistetty maailmanlaajuiseen verkkoon ja rikollinen voi paikantaa missä tahansa planeetalla antamalla käskyjä etänä.
  15. Sarjanumero viittaa osittain Stanley Kubrickin "myyntinumeroon" ja sitä käytetään vain elokuvassa - alkuperäisessä tarinassa Andrew "ei muistanut" numeroaan.
  16. Harlan Ellison. Minä, Robotti: Kuvitettu käsikirjoitus. - Aspect, 1994. - ISBN 0-446-67062-6 .
  17. Alex Exler. Fantastinen toimintaelokuva "I, Robot" (I, Robot) 2004
  18. Sadetski, Aleksei. Mikä voisi olla yksinkertaisempaa kuin orjuus 2004
  19. Robert J. Sawyer. Asimovin kolmesta robotiikan laista (1991). Haettu 17. helmikuuta 2007. Arkistoitu alkuperäisestä 25. tammikuuta 2012.
  20. David Langford. Vältettävät tietokonepiirteet (linkki ei saatavilla) . Ansible (1988). Haettu 19. joulukuuta 2007. Arkistoitu alkuperäisestä 25. heinäkuuta 2008. 
  21. Clarke, Roger. Asimovin robotiikan lait: vaikutukset tietotekniikkaan. Osa 1 IEEE Computer, joulukuu 1993, s. 53-61; Osa 2 IEEE Computer, tammikuu 1994, s. 57-66. Molemmat osat ovat vapaasti saatavilla Australian National Universityn verkkosivuilta Arkistoitu 22. heinäkuuta 2008 Wayback Machinessa .
  22. Hans Moravec. The Age of Robots (1993). Haettu 19. joulukuuta 2007. Arkistoitu alkuperäisestä 25. tammikuuta 2012.
  23. Etelä-Korea kehittää kokoelmaa robotteja koskevia lakeja
  24. Tekoäly globaalina riskitekijänä

Linkit