Video

Transkription

Tänk dig en framtid där din brödrost förutsäger vilken slags rostat bröd du vill ha.

Under dagen söker den på internet efter nya och spännande recept på rostat bröd.

Kanske frågar den dig hur din dag har varit, och vill prata om nya framsteg inom brödrostningsteknik.

Vid vilken nivå skulle den bli en person?

När kommer du att börja fråga dig om din brödrost har känslor?

Om den hade det, skulle det vara mord att dra ur kontakten?

Och skulle du fortfarande äga den? Kommer vi en dag att tvingas ge våra maskiner rättigheter?

AI finns redan omkring dig.

Den ser till att det finns tillräckligt mycket godis i butikshyllorna,

den visar dig precis rätt internet-reklam, och du kanske redan har läst en nyhetsnotis som är helt maskinskriven.

Just nu betraktar vi samtalande robotar som Siri, och skrattar åt deras primitiva simulerade känslor,

men det är sannolikt att vi kommer att behöva ta oss an varelser som gör det svårt att skilja

mellan verklig och simulerad mänsklighet.

Existerar det redan robotar som förtjänar rättigheter?

Förmodligen inte än. Men om de kommer så är vi inte förberedda.

Mycket av filosofin om rättigheter är dåligt anpassad för att hantera fallet med artificiell intelligens.

De flesta krav på rättigheter, för en människa eller ett djur, är centrerade runt frågan om medvetande.

Tyvärr finns det ingen som vet vad medvetande är.

Några anser att det är immateriellt, andra påstår att det är ett tillstånd hos materia, som gas eller vätska.

Oavsett den exakta definitionen så anser vi oss ha en intuitiv kunskap om medvetandet, eftersom vi upplever det.

Vi är medvetna om oss själva och vår omgivning, och vi vet hur det är att vara medvetslös.

Vissa neurologer tror att vilket tillräckligt avancerat system som helst kan generera medvetande.

Så, om din brödrost har tillräckligt kraftfull hårdvara, så kan den bli självmedveten.

Om den blir det, skulle den förtjäna rättigheter?

Sakta i backarna. Skulle det vi menar med “rättigheter” ha någon betydelse för den?

Medvetande ger varelser rätten att ha rättigheter, eftersom det ger varelsen förmåga att lida.

Det innebär inte bara förmågan att känna smärta, utan också att vara medveten om det.

Robotar lider inte, och kommer troligen inte att göra det om vi inte programmerar dem till det.

Utan smärta eller glädje, finns det inga preferenser, och rättigheter är meningslösa.

Våra mänskliga rättigheter är djupt rotade i vår egen programmering. Till exempel så ogillar vi smärta

eftersom våra hjärnor utvecklades för att hålla oss vid liv,

för att hindra oss från att röra en brännande eld, eller för att få oss att springa bort från rovdjur.

Så vi uppfann rättigheter som skyddar oss mot kränkningar som orsakar smärta.

Även mer abstrakta rättigheter som frihet är rotade i hur våra hjärnor är kopplade

för att uppfatta vad som är rättvist och orättvist.

Skulle en brödrost om inte kan röra sig, bry sig om att bli inlåst i en bur?

Skulle den bry sig om att bli isärplockad, om den inte var rädd för döden?

Skulle den bry sig om att bli förolämpad om den inte hade något behov av självuppskattning?

Men hur blir det om vi programmerar roboten till att känna smärta och känslor?

Till att föredra rättvisa framför orättvisa, glädje framför smärta och att vara medveten om det?

Skulle det göra dem tillräckligt mänskliga?

Många teknologer tror att en teknologisk explosion skulle inträffa

när artificiell intelligens kan lära sig, och skapa egna artificiella intelligenser,

ännu smartare än de själva.

I det läget kommer vi i stort sett att förlora kontrollen över hur våra robotar är programmerade.

Vad händer om en artificiell intelligens anser det nödvändigt att programmera förmågan att känna smärta,

på samma sätt som den evolutionära biologin fann det nödvändigt i de flesta levande varelserna?

Förtjänar robotar de rättigheterna?

Men vi borde kanske vara mindre bekymrade över risken som superintelligenta robotar utgör för oss,

och mer oroade av den fara som vi utgör för dem.

Hela vår mänskliga identitet grundar sig på idén om mänsklig exceptionalism,

att vi är speciellt unika snöflingor, berättigade att dominera den naturliga världen.

Människor har historiskt haft en tendens att förneka att andra varelser kan lida som de.

Mitt under den vetenskapliga revolutionen hävdade René Descartes att djur var endast automater - robotar om du vill.

Som sådana var det ungefär lika moraliskt motbjudande att skada en kanin som att slå ett uppstoppat djur.

Och många av de svåraste brotten mot mänskligheten försvarades av sina gärningsmän

med att offren sågs mera som djur än som civiliserade människor.

Ännu mer problematiskt är att vi har ekonomiska intressen i att förneka robotar rättigheter.

Om vi kan kuva en kännande AI - kanske genom programmerad tortyr - till att göra som vi vill,

så är den ekonomiska potentialen obegränsad.

Vi har gjort det förut, när allt kommer omkring.

Våld har använts för att tvinga våra medmänniskor till arbete.

Och vi har aldrig haft några problem med att tillhandahålla ideologiska rättfärdiganden.

Slavägare menade att slaveriet gynnade slavarna: det gav dem tak över huvudet och lärde dem kristendom.

Män som motsatte sig kvinnlig rösträtt ansåg att det var i kvinnornas eget intresse att lämna de svåra besluten till män.

Bönder hävdar att skötsel av djur och matning av dem berättigar deras tidiga död för våra matvanors skull.

Om robotar blir självmedvetna så kommer det inte att finnas någon brist på argument för de som säger

att de borde förbli utan rättigheter, i synnerhet från dem som förväntar sig en förtjänst.

Artificiell intelligens väcker allvarliga frågor om filosofiska gränser.

Tänk om, frågar vi oss, kännande robotar är medvetna eller förtjänar rättigheter?

Det tvingar oss att ställa grundläggande frågor som: vad gör oss mänskliga? Vad får oss att förtjäna rättigheter?

Oavsett hur vi tänker, så måste kanske frågan lösas inom en nära framtid.

Vad skall vi göra om robotar börjar kräva sina egna rättigheter?

Vad kan robotar som kräver rättigheter lära oss om oss själva?

Våra vänner på Wisecrack gjorde en video som utforskar just den frågan genom filosofin i Westworld.

Wisecrack granskar popkultur på ett unikt och filosofiskt sätt.

Klicka här för att kolla in videon och prenumerera på deras kanal.