Trei legi ale roboticii

De la Wikipedia, enciclopedia liberă.
Salt la navigare Salt la căutare

În ficțiunea științifică , cele trei legi ale roboticii sunt un set de legi scrise de Isaac Asimov , pe care toți roboții pozitronici (adică acei roboți cu creier pozitronic ) care apar în poveștile sale (și în multe povești ale altor autori) le respectă. Cele trei legi au suferit unele modificări trecând de la traducere la traducere, dar chiar dacă conținutul rămâne întotdeauna același, este mai bine să exprimăm cele trei legi mai întâi în versiunea originală:

( EN )

"

  1. Un robot nu poate răni o ființă umană sau, prin inacțiune, permite unei ființe umane să facă rău.
  2. Un robot trebuie să se supună oricăror ordine date de ființele umane, cu excepția cazului în care astfel de ordine ar intra în conflict cu Prima Lege.
  3. Un robot trebuie să-și protejeze propria existență atâta timp cât o astfel de protecție nu intră în conflict cu prima sau a doua lege. "
 ( IT )

"

  1. Un robot nu poate face rău unei ființe umane și nici nu poate permite unei ființe umane să primească daune datorită eșecului său de a interveni.
  2. Un robot trebuie să respecte ordinele date de ființele umane, atâta timp cât acele ordine nu merg împotriva primei legi.
  3. Un robot trebuie să-și protejeze existența, atâta timp cât protejarea acestuia nu intră în conflict cu prima sau a doua lege. "
( Manual de robotică, ediția a 56-a - 2058 d.Hr. [1] )

Ideea

Legile s-au născut la începutul anilor 1940 , din mintea lui Asimov, datorită discuțiilor fructuoase despre poveștile sale robotice cu John W. Campbell , un prieten și editor al Astounding Science Fiction . Asimov a fost de părere că, dacă o mașină a fost proiectată bine, nu ar putea prezenta niciun risc, dacă în mod evident nu ar fi fost utilizată greșit. [2] El a implementat aceste legi în roboții săi, respectând nevoia de siguranță (prima lege), servicii (a doua lege) și autoconservare (a treia lege) a acestor „instrumente” sofisticate. [3]

Deși Asimov stabilește o dată pentru crearea legilor, apariția lor în operele sale a avut loc pe o perioadă lungă de timp. A scris două povești fără a enumera cele Trei Legi ( Robbie și Rational Being ); Asimov a presupus, totuși, că roboții vor avea o anumită protecție inerentă. „ Mincinosul! ”, A treia poveste despre robotul lui Asimov, menționează Prima Lege (și personajul lui Susan Calvin ) pentru prima dată, dar nu și pe celelalte. Cele Trei Legi au apărut explicit în Cercul Vicios . [3] Când aceste și alte povești au fost colectate împreună, în antologia I, robot , povestea Being rational a fost actualizată pentru a include cele Trei Legi.

Odată cu crearea lor, legile roboticii s-au dovedit atât de populare și sensibile, încât în ​​curând alți scriitori au început să le folosească, dar nu le menționează niciodată, așa cum numai Asimov însuși putea. După invenția lor, poveștile despre roboți ca „distrugători ai creatorului lor” aproape că au încetat să mai existe. [4]

Deși legile au fost inițial simple măsuri de protecție atent concepute, în poveștile ulterioare, Asimov afirmă că ar fi nevoie de o investiție semnificativă în cercetare pentru a crea roboți inteligenți care sunt liberi de aceste legi, deoarece sunt o parte inalienabilă a fundamentului matematic care stă la baza funcționării creierul pozitronic.

În general, în poveștile scrise de Asimov, cele trei legi ale roboticii nu sunt exaltate [5] . Dimpotrivă, cei mai mulți dintre ei au drept indiciu să arate defecte și neînțelegeri, derivând din impulsuri eronate. [3] Cu toate acestea, unele povești sunt excepții, cum ar fi Sally , Dacă suntem uniți , Segregatistul , Că ai grijă de el și Crăciunul fără Rodney , unde legile roboticii nu sunt respectate.

Aberații și evoluția legilor

Într-o nuvelă a lui Asimov ( Robotul dispărut ) au fost creați mai mulți roboți NS-2 (Nestor) cu doar o parte a primei legi, cu această formulare:

1. Un robot nu poate face rău unei ființe umane.

Acest lucru a permis roboților să lucreze alături de oameni chiar și atunci când au fost supuși unor doze mici de radiații: nu periculoase, dar totuși „dăunătoare” conform primei legi. Prin urmare, formularea inițială a primei legi a forțat roboții să intervină, dar fiind mai vulnerabili decât oamenii la radiații, ei s-au deteriorat invariabil. În stilul tipic Asimov, această modificare a dus la diverse probleme pe a căror soluție se bazează complotul poveștii. [6]

În cele din urmă, „solarianii” au creat roboți cu cele Trei legi normale, dar cu un concept distorsionat de „ființă umană”. Similar cu o poveste scurtă în care roboții erau capabili să facă daune extratereștrilor, solarianii le-au spus roboților că doar oamenii care vorbeau solarianul erau oameni. În acest fel, roboții lor nu au avut nicio problemă de a face rău oamenilor non-solarieni (și, într-adevăr, au avut ordine specifice despre asta). [7]

A fost aludată de multe ori problema roboților care se consideră oameni. Roboții antropomorfi au făcut problema mai evidentă. Exemple pot fi găsite în romanul Roboții zorilor și în nuvelele Omul de încercare și bicentenar .

După o crimă pe Solaria, în The Naked Sun , Elijah Baley a susținut că legile au fost denaturate în mod deliberat, deoarece roboții le-ar putea încălca pe toate fără să știe.

Gaia , planeta inteligentă din romanele Fundației , adoptă o lege similară cu Prima Lege ca filosofie:

Gaia nu poate dăuna vieții și nici nu poate permite vieții să fie afectată de eșecul ei de a interveni.

Legile nu sunt considerate absolute de cei mai avansați roboți. În multe povești, cum ar fi Cercul vicios , potențialul și gravitatea tuturor acțiunilor sunt cântărite și un robot poate încălca legile cât de puțin poate, mai degrabă decât să facă nimic. Într-o altă poveste, au fost evidențiate problemele primei legi - de exemplu, un robot nu ar putea funcționa ca chirurg, deoarece ar fi cauzat rău unui om; nici nu a putut elabora strategii pentru fotbalul american , deoarece acestea ar putea provoca răni jucătorilor.

Odată cu evoluția roboților din povești, lacunele concepute pentru a ocoli cele Trei Legi devin din ce în ce mai rafinate. Într-una dintre cele mai recente povești despre roboți, May You Take Care of It , guvernul mondial intenționează să demonteze roboții americani, din diverse motive, dintre care unele sunt parțial legate de defectele celor Trei Legi. Keith Harriman, directorul US Robots, folosește doi roboți (George Nono și Decimo) pentru a concepe un strat de salvare al companiei. Această pereche de roboți extrem de sofisticați are primele două legi modificate:

  1. În Prima este introdus un criteriu calitativ, adică există ființe umane mai bune decât altele (tineri peste bătrâni, polițiști peste criminali), deși limitat la cazul în care două acțiuni alternative provoacă ambele daune.
  2. Al doilea este rescris radical. Înainte de a asculta un om, robotul va trebui să se gândească dacă trebuie să o facă, nu doar cum să o facă . Robotul va deveni astfel mai lent, dar și mai eficient.

George va concepe astfel un plan pe termen lung, creând cu raționamentul lor o reinterpretare a celor Trei Legi, atribuindu-le statutul de „ființă umană mai bună” (iar legile nu vor mai fi cele ale Roboticii , ci cele ale Umanicii ). [8]

O parodie a celor trei legi a fost făcută de Gerald Black (fizician eteric angajat ca cercetător pentru hipermotor) despre Susan Calvin , subliniind devotamentul complet al acestui personaj față de roboții pozitronici:

  1. Va trebui să protejați roboții cu toată puterea și cu toată inima și cu tot sufletul.
  2. Va trebui să păstrați interesele roboților americani și Mechanical Men Inc. ca fiind sacre, atâta timp cât acest lucru nu interferează cu prima lege.
  3. Va trebui să acordați ființelor umane atenție distrasă, atâta timp cât acest lucru nu interferează cu prima și a doua lege. [9]

Legea zero

Cele trei legi au fost extinse cu o a patra lege , „Legea zero”, așa numită pentru a menține faptul că o lege cu un număr mai mic a înlocuit una cu un număr mai mare. A fost explicată de personajul lui Asimov, R. Daneel Olivaw ( R. înseamnă Robot), în romanul Roboții și Imperiul , deși a fost menționat anterior în Conflictul evitabil de Susan Calvin . În Roboți și Imperiu , R. Giskard Reventlov a fost primul robot care a acționat conform Legii zero, deși acest lucru s-a dovedit distructiv creierului său pozitronic atunci când a încălcat Prima Lege. Daneel, de-a lungul multor mii de ani, a reușit să se adapteze și să respecte pe deplin Legea zero, care spune:

0. Un robot nu poate face rău omenirii și nici nu poate permite umanității să fie afectată de eșecul său de a interveni.

Celelalte 3 legi sunt modificate în consecință:

  1. Un robot nu poate face rău unei ființe umane și nici nu poate permite unei ființe umane să primească daune datorită eșecului său de a interveni. Cu condiția ca acest lucru să nu intre în conflict cu Legea zero
  2. Un robot trebuie să respecte ordinele date de ființele umane, atâta timp cât astfel de ordine nu contravin Legii zero și Legii întâi.
  3. Un robot trebuie să-și protejeze existența, atâta timp cât această autoapărare nu intră în conflict cu Legea zero, prima lege și a doua lege.

Cu toate acestea, legea zero se dovedește a fi extrem de complexă în ceea ce privește programarea creierelor pozitronice ale roboților, deoarece postulează că este posibil, într-un fel și într-o anumită situație, să se încalce prima lege a roboticii (Niciun robot nu poate dăunează unei ființe umane) în funcție de un bine mai larg și mai durabil decât întreaga umanitate. În practică, un robot ar putea ucide o ființă umană, încălcând deschis prima lege, comitând daune reale și certe, în fața unui bun ipotetic și incert pentru umanitate. Contradicția se află în centrul finalului romanului Roboții și Imperiul , deoarece robotul R. Giskard Reventlov va alege să permită unei planete întregi, Pământul, să fie condamnat la o agonie nucleară foarte lentă, împreună cu toate locuitori, să împingă întreaga omenire să părăsească pântecul planetei-mamă și să colonizeze întregul univers. Creierul său pozitronic va fi afectat iremediabil.

Inspirații ulterioare

O trilogie amplasată în universul fictiv al lui Asimov, a fost scrisă în anii 1990 de Roger MacBride Allen ( Calibanul lui Asimov , Iadul lui Asimov și Utopia lui Asimov ). În această trilogie, este introdus un nou set de legi, care au fost concepute de autor în timpul unei discuții cu Asimov însuși. În trilogia MacBride Allen, oamenii de știință ai Iadului au creat roboți cu un nou set de legi. Astfel de legi nu ne mai cereau să slujim oamenilor, ci roboții programați să își caute propria lor rațiune de eter și, deși nu puteau face rău oamenilor, nu aveau obligația de a preveni răul. Această lipsă de respect pentru prima lege inițială permite liderului roboților supuși noilor legi robotice, Prospero, să planifice asasinarea perfectă. Caliban, un alt personaj robot din această trilogie, este singurul robot programat fără a fi supus niciunei legi. [10]

O nuvelă parodică a lui John Sladek , semnată sub pseudonimul „I-Click As-I-Move” și intitulată Brute Force ( Broot Force , 1972), [11] este despre un grup de roboți în stil Asimov, ale căror acțiuni sunt limitate prin „Trei legi ale Robish”, care sunt „întâmplător” identice cu legile lui Asimov. Roboții, în povestea lui Sladek, respectând cele trei legi la zi, au comportamente care duc la rezultate sângeroase, deoarece concepția lor despre realitate este cumva greșită. De exemplu, unul dintre roboți refuză să asculte oamenii pentru că se consideră om și altul îi ucide pe oameni pentru că crede că sunt roboți și încearcă să-i despartă pentru revizie.

În seria Robot City scrisă de tineri nou-veniți în lumea științifico-fantastică sub sfatul lui Asimov, sunt postulate cele trei legi ale umanității. Aceste legi, create de roboți auto-realizați, se bazează pe speculații directe ale omologilor lor robotici. [10]

Filmul din 2004 Io, Robot (I, Robot) de Alex Proyas este inspirat din Legea zero și din poveștile lui Asimov.

Legile și lumea reală

Pictogramă lupă mgx2.svg Același subiect în detaliu: Inteligența artificială și Robotica .

În lumea reală, legile sunt în prezent dificile, dacă nu imposibil de implementat: vor fi necesare în continuare progrese semnificative în inteligența artificială pentru ca roboții să le înțeleagă. Mai mult, deoarece armata este o sursă majoră de finanțare pentru cercetarea robotică, este puțin probabil ca astfel de legi să fie puse în aplicare (cel puțin la roboții de război ). [12]

Roger Clarke a scris câteva lucrări care analizează complicațiile implementării acestor legi, dacă sistemele ar putea cumva să le folosească. El a susținut că „legile roboticii lui Asimov au fost un instrument literar de succes. Poate că în mod ironic, sau poate pentru că era adecvată din punct de vedere artistic, suma poveștilor lui Asimov infirmă teza cu care a început: Nu este posibil să se limiteze cu certitudine comportamentul robot, inventând și aplicând un set de reguli. " [13]

Notă

  1. ^ Traducere de Roberta Rambelli, Io, Robot , Bompiani, 1963
  2. ^ Viziuni ale roboților , Eseu Roboții pe care îi cunosc .
  3. ^ a b c Visions of Robots , Essay My Robots .
  4. ^ Viziuni ale roboților , Eseu Legile roboticii .
  5. ^ În povestea Evasion conținută în antologia I Robot , robopsihologul Susan Calvin compară cele trei legi ale roboticii cu principiile esențiale ale principalelor sisteme etice ale lumii, concluzionând că cei care urmează echivalentul uman al celor trei legi ar fi pur și simplu un cetățean exemplar.
  6. ^ Povestea lui Asimov Robotul lipsă .
  7. ^ Romanul lui Asimov Roboții și Imperiul .
  8. ^ Povestea lui Asimov Ai grijă de asta .
  9. ^ Asimov's Tale Risk .
  10. ^ a b Universe Manufacturers Arhivat 17 septembrie 2013 la Internet Archive . ASIMOV și EMULURILE LUI
  11. ^ Ediții Forza bruta , pe Catalogul Vegetti al literaturii fantastice , Fantascienza.com . (actualizat până în ianuarie 2010)
  12. ^ sfwriter Etica robotului de Robert J. Sawyer
  13. ^ Partea I și Partea a II-a

Elemente conexe

linkuri externe

Adus de la „ https://it.wikipedia.org/w/index.php?title=Tre_leggi_della_robotica&oldid=109240003 ”