Video

Prepis

Predstavte si budúcnosť, kde váš hriankovač predvída, na aký sendvič máte chuť.

Počas dňa pátra na Internete po nových a vzrušujúcich druhoch sendvičov.

Možno sa opýta na váš deň a bude si chcieť pokecať o novinkách v technológii sendvičov.

Na akej úrovni sa z neho stane osoba?

Kedy si položíte otázku, či váš hriankovač nemá city?

A ak má, bude jeho odpojenie vraždou?

A budete ho stále vlastniť? Budeme niekedy nútení dať našim strojom isté práva?

Umelá inteligencia je všade okolo nás.

Zabezpečuje aby boli diskonty zásobené dostatkom jedla,

predkladá vám práve teraz tú pravú reklamu, dokonca môžete čítať nový príbeh celý napísaný strojom.

Práve teraz hľadíme na botov ako Siri a smejeme sa na ich primitívne simulovaných emóciách,

ale je pravdepodobné, že sa budeme musieť vysporiadať s bytosťami, kde bude ťažké položiť hranicu

medzi skutočnou a simulovanou ľudskosťou.

Existujú nejaké stroje, ktoré si zaslúžia svoje práva?

S najväčšou pravdepodobnosťou ešte nie. Ale keď sa objavia, nie sme na to pripravení.

Koncept práv nie je pripravený vysporiadať sa s problémom umelých inteligencií.

Väčšina práv, či už ľudí alebo zvierat, je postavená na princípe vedomia.

Nanešťastie nikto nevie, čo to vedomie vlastne je.

Niekto si myslí, že je nehmotné, ďalší že je to stav hmoty, podobne ako plyn či kvapalina.

Bez ohľadu na presnú definíciu máme intuitívnu znalosť vedomia, pretože ho prežívame.

Sme si vedomí samých seba a nášho okolia, a vieme aké je to byť v bezvedomí.

Niektorí neurovedci veria, že akýkoľvek dostatočne vyspelý systém môže generovať vedomie.

Takže ak bude hardvér vašeho hriankovača dostatočne vyspelý, môže nadobudnúť vedomie.

Ak áno, zaslúži si práva?

No, nie tak rýchlo. Bude mu to, čo my definujeme ako “práva”, dávať zmysel?

Mať vedomie oprávňuje mať práva, pretože vedomie dáva schopnosť trpieť.

Znamená to nielen cítiť bolesť, ale byť si jej aj vedomý.

Roboti netrpia a pravdepodobne nebudú, ak ich k tomu nenaprogramujeme.

Bez bolesti a radosti nie je túžba, a práva sú preto bezobsažné.

Naše ľudské práva sú hlboko viazané na naše vlastné naprogramovanie; napríklad nemáme radi bolesť

pretože sa naše mozgy vyvinuli aby nás udržali nažive.

Bránia nám dotýkať sa ohňa alebo nás nútia utekať pred dravcami.

Tak sme prišli s právami, ktoré nás chránia pred činnosťami, spôsobujúcimi bolesť.

Ešte abstraktnejšie práva, napríklad sloboda, sú viazané na spôsob akým sú naše mozgy zapojené

a rozoznávajú čo je správne a nesprávne.

Bude si hriankovač, ktorý je neschopný pohybu, robiť starosti s tým, že je zamknutý v klietke?

Bude sa báť rozmontovania, ak nebude mať strach zo smrti?

Bude mať námietky proti urážkam, ak nebude mať potrebu sebaúcty?

Ale čo ak naprogramujeme robota, aby cítil bolesť a emócie?

Aby dával prednosť spravodlivosti pred nespravodlivosťou, potešeniu pred bolesťou?

Urobí ho to dostatočne ľudským?

Mnoho technológov verí, že technologická explózia nastane vtedy,

keď sa umelá inteligencia dokáže učiť a začne tvoriť svoje vlastné umelé inteligencie,

múdrejšie ako je ona sama.

V tomto okamihu bude otázka ako sú naši roboti naprogramovaní mimo našu kontrolu.

Čo ak umelá inteligencia bude považovať za potrebné naprogramovať schopnosť cítiť bolesť,

tak ako to evolučná biológia považovala za potrebné pre väčšinu živých tvorov?

Zaslúžia si roboti tieto práva?

Ale možno by sme sa mali menej obávať rizika, aké pre nás superinteligentní roboti predstavujú

a viac sa obávať toho, aké riziko predstavujeme my pre nich.

Celá naša druhová identita je založená na myšlienke ľudskej výnimočnosti,

na tom, že sme unikátne bytosti určené k tomu, aby sme vládli svetu.

Ľudská história je plná popierania toho, že aj iné bytosti sú schopné trpieť.

Počas vedecko-technickej revolúcie vyhlásil René Descartes, že zvieratá nie sú viac ako automatony - roboty, ak chcete.

Z tohto pohľadu je poranenie zajaca rovnako morálne odpudivé ako udretie do plyšovej hračky.

A mnoho z najväčších zverstiev proti ľudskosti bolo ospravedlňovaných tvrdením,

že obete sú viac zvieratá ako ľudia.

Ešte problematickejšie je, že máme ekonomický záujem na odmietnutí práv pre robotov.

Ak môže byť umelá inteligencia - pravdepodobne cez programované mučenie - donútená k práci,

ekonomický potenciál je nekonečný.

Už sme to v minulosti tak robili.

Násilie bolo bežne používané ako donucovací prostriedok pre našich blížnych.

A nikdy sme nemali problém prísť s ideologickým ospravedlnením.

Otrokári argumentovali, že otroctvo otrokom prospieva: dáva im strechu nad hlavou a učí ich kresťanstvu.

Muži ktorí boli proti právu žien voliť tvrdili, že je vo vlastnom záujme žien nechať ťažké rozhodnutia na mužov.

Farmári argumentujú že staranie sa o zvieratá a ich kŕmenie ich oprávňuje zabíjať ich kôli našim jedálnym zvyklostiam.

Ak roboti nadobudnú vedomie, nebude nedostatok argumentov pre tých, ktorí

budú tvrdiť že majú zostať bez práv, zvlášť pre tých, ktorí na nich budú zarábať.

Umelá inteligencia nastoľuje závažné otázky ohľadne filozofických hraníc.

Otázky, ktoré pokladáme, ak roboti majú vedomie alebo si zasluhujú práva,

nás nútia klásť si aj základné otázky: napríklad, čo nás robí ľudmi? Prečo si my zasluhujeme nejaké práva?

Bez ohľadu na to, čo si myslíme, tieto otázky bude možno nutné vyriešiť už v blízkej budúcnosti.

Čo budeme robiť, ak sa roboti začnú dožadovať svojich vlastných práv?

Čo nás roboti dožadujúci sa práv môžu naučiť o nás samých?

Naši priatelia na Wisecrack urobili video, skúmajúce rovnakú otázku s použitím filozofie Westworld-u.

Wisecrack pitve popkultúru unikátnym a filozofickým spôsobom.

Kliknite sem, pozrite si video a odoberajte ich kanál.