Відео

Транскрипція

Уяви майбутнє, в якому твій тостер знає, який тост ти хочеш.

Впродовж дня він шукає в Інтернет нові незвичайні види тостів.

Або він може запитати, як пройшов твій день, і поговорити про нові досягнення у приготуванні тостів.

В який момент він стане особистістю?

В який момент у тебе виникне запитання про те, чи є у тостера почуття?

Якщо він їх має, то чи буде відключення тостера від розетки вбивством?

І чи буде він надалі належати тобі? Чи будемо ми колись змушені надати права нашій техніці?

Штучний інтелект (ШІ) уже повсюди.

Він гарантує, що в магазинах буде достатньо продуктів,

він показує тобі лише корисну рекламу, і ти, напевне, вже навіть читав новини, повністю написані машиною.

Сьогодні ми дивимось на чатботів на зразок Siri та сміємося з того, як примітивно вони імітують емоції,

але цілком ймовірно, що нам доведеться мати справу з істотами, про яких не можна із впевненістю сказати,

реальна це людина, або ж лише її імітація.

Чи існують машини, які заслуговують на права?

Скоріше за все, поки що ні. Але якщо такі з’являться, то ми до цього не готові.

Право не дуже добре пристосоване до вирішення питань штучного інтелекту.

Здебільшого питання наявності прав у людей або тварин базується на понятті cвідомості.

Але, на жаль, ніхто не знає, що являє собою свідомість.

Хтось каже, що вона нематеріальна, а хтось – що це стан матерії, як газ чи рідина.

Однак незалежно від точного значення, ми маємо інтуїтивне розуміння свідомості, адже ми відчуваємо її.

Ми сприймаємо себе і наше оточення та знаємо, що являє собою несвідомий стан.

Деякі нейробіологи вірять, що будь-яка достатньо розвинена система може породжувати свідомість.

Тож якби твій тостер був досить потужним у технічному плані, він міг би мати свідомість.

Якби це відбулось, чи заслуговував би він на права?

Ну, не так швидко. Чи збагнув би він, що мається на увазі під правами у людському розумінні?

Свідомість надає істотам права, оскільки вона також надає їм можливість страждати.

Себто можливість не тільки відчувати біль, але й усвідомлювати його наявність.

Роботи не страждають і, скоріше за все, не будуть, якщо ми їх на це не запрограмуємо.

Без болю чи насолоди немає чому надавати переваги і відповідно права не мають сенсу.

Наші людські права тісно пов’язані з нашою власною запрограмованістю, наприклад, з тим, що ми не любимо біль

оскільки наш мозок достатньо розвинувся для самозбереження.

Для того, щоб ми не торкалися вогню або втікали від хижаків.

Тому ми створили права, які захищають нас від порушень, що спричиняють біль.

Навіть більш абстрактні права, як-от право бути вільним, засновані на тому, яким чином працює наш мозок для того,

щоб розрізняти справедливе та несправедливе.

Чи буде тостер, який не може рухатися, проти ув’язнення у клітці?

Чи буде він проти його розбирання на частини, якщо в нього немає страху перед смертю?

Чи буде він ображатись, якщо він нездатний до самооцінки?

А що, як ми запрограмуємо робота відчувати біль та емоції?

Відрізняти перемогу від зради, задоволення – від болю, та усвідомлювати це.

Чи зробить це їх схожими на людей?

Багато технологів вірять, що справжній вибух технологій станеться тоді,

коли штучний інтелект зможе навчатися та створювати свій власний штучний інтелект,

ще розумніший за себе.

На цьому етапі питання того, як запрограмовані наші роботи, буде поза нашим контролем.

Що як штучний інтелект вирішить, що треба запрограмувати здатність відчувати біль,

як це зробила біологічна еволюція із більшістю живих істот?

Чи заслуговують роботи на такі права?

Але може нам варто менше хвилюватися з приводу ризику, який становлять для нас надзвичайно розумні роботи,

та більше перейматися тим, яку загрозу ми становимо для них.

Уся наша людська ідентичність заснована на ідеї людської виключності,

тобто ідеї того, що ми єдині є обраними і маємо право домінувати у природі.

Впродовж усієї своєї історії людство заперечувало здатність інших істот страждати в тій самій мірі, що і люди.

У розпал наукової революції Рене Декарт вважав, що тварини – це просто автоматизовані створіння, іншими словами – роботи.

Тому спричинення шкоди кролику є з моральної точки зору такою ж мірою неприйнятним, як побиття м’якої іграшки.

Велику кількість найсерйозніших злочинів проти людства самі злочинці виправдовували тим,

що їхні жертви були скоріше тваринами, ніж цивілізованими людьми.

Проблемою є також те, що ми економічно зацікавлені у відмові в наданні роботам прав.

Якщо ми зможемо примушувати свідомий ШІ – можливо, через запрограмовані тортури – виконувати нашу волю,

то економічний потенціал буде нескінченним.

Зрештою, ми робили так і раніше.

Насилля використовувалось для того, аби змусити людей працювати.

І ми ніколи не мали проблем з ідеологічним виправданням.

Рабовласники стверджували, що рабство було корисним для самих рабів,бо давало дах над головою і навчало християнству.

Чоловіки, які були проти виборчого права жінок, стверджували, що в інтересах жінки залишити прийняття важких рішень чоловікам.

Фермери стверджують, що догляд за тваринами та їх годування виправдовує їхню ранню смерть через наші вподобання у їжі.

Якщо роботи стануть свідомими, буде велика кількість аргументів на користь того,

що вони мають залишитися без прав, і ці аргументи йтимуть головним чином від тих, кому відсутність прав у роботів може бути вигідною.

Штучний інтелект порушує серйозні питання про філософські рамки.

Коли ми ставимо запитання, чи є роботи свідомими або чи заслуговують вони на права,

ми змушені поставити базові запитання на зразок питання про те, що робить нас людьми? Чому ми заслуговуємо на права?

Незалежно від того, що ми думаємо, це питання, можливо, треба буде вирішити в найближчому майбутньому.

Що ми будемо робити, якщо роботи почнуть вимагати надання їм прав?

Чого можуть навчити нас роботи, які борються за свої права, про нас самих?

Наші друзі з Wisecrack зробили відео, яке досліджує це питання на прикладі філософії Westworld.

Wiseckrack розбирає поп-культуру унікальним і філософським чином.

Натисніть сюди, щоб подивитись це відео та підписатись на їхній канал.