Video

Transkripce

Představte si budoucnost, v níž váš toaster předvídá, jaký typ toastu chcete.

Během dne hledá na internetu nové vzrušující typy toastů.

Možná se vás zeptá, jaký jste měli den,

A bude si chtít povídat o pokrocích v toastovacích technologiích.

V jakou chvíli se z něj stane osobnost?

Kdy si začnete říkat, jestli váš toaster nemá city?

A pokud by měl, kdybyste ho vytáhli ze zásuvky, byla by to vražda?

A byli byste stále jeho majitelé?

Budeme někdy nuceni dát našim strojům jejich vlastní práva?

Umělá inteligence je už dnes všude kolem vás.

Zajišťuje, aby obchody měli dostatek svačinek.

Servíruje vám internetovou reklamu na míru,

A dost možná jste dokonce četli v novinách příběh kompletně napsaný umělou inteligencí.

Když se dnes podíváme na kecací roboty, jako je Siri,

smějeme se jejich primitivním simulovaným emocím

Ale je pravděpodobné, že se budeme muset vypořádat s bytostmi,

kvůli kterým nebude snadné rozlišit mezi skutečnou a simulovanou lidskostí.

Existují už nějaké stroje, které si zasluhují práva?

Nejpravděpodobněji… ještě ne.

Ale pokud se objeví,

nejsme na to připraveni.

Většina filozofie práva není vybavena pro posuzování případů umělé inteligence.

Většina nároků na práva, ať už pro lidi nebo pro zvířata, se točí kolem otázky vědomí.

Bohužel nikdo neví, co vědomí je.

Někteří si myslí, že je nehmotné, jiní zas, že je to skupenství hmoty, jako je plyn či tekutina.

Nehledě k přesné defici, máme intuitivní znalost vědomí, protože jej sami zažíváme.

Jsme si vědomi sami sebe a svého okolí a víme, jaké to je být v bezvědomí.

Někteří neurologové věří, že jakýkoli dostatečně pokročilý systém dokáže generovat vědomí.

Takže pokud je hardware vašeho toastru dostatečně výkonný,

může se stát uvědomělým.

Kdyby se tak stalo, zasloužil by si práva?

Ne tak rychle.

Dávalo by mu smysl to, co definujeme jako práva?

Vědomí dává bytosti nárok na práva, protože bytosti dává schopnost trpět.

To znamená nejen schopnost cítit bolest, ale také si jí být vědoma.

Roboti netrpí.

A nejspíše ani nebudou, leda bychom je k tomu naprogramovali.

Bez bolesti či potěšení není čemu dávat přednost a práva ztrácejí smysl.

Naše lidská práva jsou úzce svázána s naším vlastním naprogramováním.

Například nemáme rádi bolest, protože náš mozek se vyvinul tak, aby nás udržel naživu,

aby nás odradil od sahání do horkého ohně,

nebo aby nás donutil utíkat před dravci.

A tak jsme přišli s právy, které nás chrání před způsobováním bolesti.

Dokonce i abstraktnější práva, jako je svoboda,

jsou zakořeněná ve způsobu, jak jsou naše mozky nastaveny detekovat, co je fér, a co ne.

Vadilo by toasteru, který není schopen pohybu, být zamčen v kleci?

Vadilo by mu být rozebrán, jestliže nemá žádný strach ze smrti?

Vadilo by mu být uražen, jestliže nemá žádnou potřebu sebevědomí?

Ale co když naprogramujeme roboty cítit bolest a emoce,

aby upřednostňovali spravedlnost před nespravedlností,

potěšení před bolestí, a aby si toho byli vědomi.

Činilo by je tohle dostatečně lidskými?

Mnoho technologů věří, že v technologiích nastane exploze,

až se umělá inteligence bude umět učit a vytvářet své vlastní umělé inteligence

ještě chytřejší než ony samy.

V tomto bodě, otázka, jak jsou roboti programováni, bude silně mimo naši kontrolu.

Co když si umělá inteligence bude myslet, že je nutné naprogramovat schopnost cítit bolest,

tak, jak ke stejnému zjištění došla evoluční biologie u většiny živočichů.

Zaslouží si roboti tato práva?

Ale možná bychom se měli méně starat o nebezpečí, které pro nás představují superinteligentní roboti,

a starat se více o nebezpečí, které představujeme my pro ně.

Naše celá identita lidskosti je postavena na myšlence lidské výjimečnosti,

že jsme mimořádné a jedinečné sněhové vločky, které mají právo vládnout celému světu.

Lidé mají minulost plnou popírání toho, že ostatní bytosti jsou schopny trpět stejně jako oni.

Uprostřed Vědecké revoluce, René Descartes prohlašoval,

že zvířata jsou pouhými automaty – roboty, chcete-li.

Tedy zranění a způsobení bolesti králíkovi je morálně tak špatné, jako udeřit plyšáka.

Mnoho velkých zločinů proti lidskosti bylo ospravedlňováno jejich pachateli

tím, že oběti byly více zvířaty než civilizovanými lidmi.

Dalším, ještě problematičtějším aspektem, je ekonomický zájem upřít robotům práva.

Pokud dokážeme donutit uvědomělé stroje – možná pomocí naprogramovaného mučení – dělat to,

co chceme, ekonomický potenciál je neomezený.

Konec konců, už jsme to dělali.

Násilí bylo používáno k donucení dalších lidí k práci.

A nikdy jsme neměli problém přijít s ideologickým ospravedlněním.

Majitelé otroků prohlašovali, že otroctví přináší otrokům výhody:

Dává jim střechu nad hlavou a naučilo je křesťanství.

Muži, kteří nesouhlasili s volebním právem pro ženy, tvrdili,

že je v zájmu žen nechat těžká rozhodnutí na mužích.

Farmáři tvrdí, že péče o zvířata a jejich krmení ospravedlňuje jejich předčasnou smrt

pro naše stravovací návyky.

Pokud se roboti stanou uvědomělými, nebude zde nedostatek názorů, které budou tvrdit, že

roboti by měli zůstat bez práv, obzvláště od těch, kteří na nich budou vydělávat.

Umělá inteligence vznáší otázky ohledně filozofických hranic.

Na co se můžeme ptát, když vnímající roboti mají vědomí nebo požadují práva,

nutí nás to vznést základní otázky, jako Co nás dělá lidmi? Co nás dělá tím, že zasluhujeme práva?

Bez ohledu na to, co si myslíme, bude možná třeba zodpovědět tuto otázku v blízké budoucnosti.

Co budeme dělat, pokud se roboti začnou dožadovat svých vlastních práv?

Co nás roboti, kteří se dožadují svých práv, mohou naučit o nás samotných?

Naši přátelé ve Wisecrack vytvořili video zkoumající tuto otázku pomocí filozofie ze seriálu Westworld.

Wisecrack pitvá pop kulturu jedinečným a (hlavně) filozofickým způsobem.

Klikněte sem a mrkněte na jejich video a začněte odebírat jejich kanál.