Видео

Транскрипт

Представьте себе такое будущее, в котором ваш тостер знает, какой тост вы хотите.

В течении дня он сканирует интернет в поисках новых, удивительных видов тостов.

Может быть, он спросит Вас о вашем дне, и захочет поговорить о новых достижениях в создании тостов?

На каком этапе он станет личностью?

В какой момент вы спросите себя: “Имеет ли мой тостер чувства?”

И если это случится, будет ли его отключение считаться убийством?

И будете ли вы всё ещё владеть им? Будем ли мы когда-нибудь вынуждены дать нашим устройствам права?

Искусственный интеллект уже повсюду.

Он гарантирует, что на витрине всегда достаточно еды,

предоставляет интересующую вас рекламу, и, скорее всего, вы даже читали статью полностью написанную машиной.

Прямо сейчас мы смотрим на чат ботов, таких как Сири, и смеёмся над их примитивной симуляцией эмоций,

но вполне вероятно, что мы столкнёмся с существами, которые размоют границу

между настоящей и симулированной человечностью.

Существует ли машина, заслуживающая того, чтобы иметь права?

Вероятно, ещё нет. Но она будет создана, и мы к этому не готовы.

Большинство из прав из философии, плохо подходят для применения к ИИ.

Большинство столпов прав, касающихся человека или животного, сосредоточено вокруг понятия Сознания.

К сожалению, никто не знает, что такое Сознание.

Некоторые думают, что это что-то нематериальное, другие говорят - это состояние материи, как газ или жидкость.

Независимо от точного определения, у нас есть интуитивное понимание о сознании, потому что мы испытываем его.

Мы осознаём себя и наше окружение, и знаем, как выглядит бессознательность.

Некоторые неврологи верят, что любая достаточно развитая система может генерировать сознание.

Итак, если бы у вашего тостера было достаточно мощное железо, но смог бы развить самосознание.

И если так, будет ли он заслуживать иметь права?

Ну, не так быстро. Будет ли то, что мы определяем как “права” иметь для него смысл?

Сознание позволяет нам иметь права, потому что оно даёт возможность страдать.

Это означает возможность не только чувствовать боль, но и понимать, что ты её чувствуешь.

Роботы не страдают, они и не будут, если только мы не запрограммируем их на это.

Без боли или удовольствия, нет предпочтений и концепция прав - бессмысленна.

Наши человеческие права глубоко связаны с нашим программированием, например, мы нелюбим боль,

потому что наш мозг эволюционировал так, чтобы мы оставались живы.

Чтобы остановить нас от касания огня или чтобы заставить нас убегать от хищников.

Вот мы и придумали права, чтобы заставить других не делать то, что причиняет нам боль.

Даже более абстрактные права, как свобода - основаны на том, как наш мозг

распознаёт, что справедливо, а что - нет.

Будет ли тостер, который неспособен двигаться, против того, чтобы быть запертым в клетке?

Будет ли он против разборки, если у него нет страха смерти?

Будет ли он против оскорбления, если у него нет самооценки?

Но если мы запрограммируем робота чувствовать боль и эмоции,

предпочитать справедливость несправедливости, удовольствие боли, и быть осведомлённым о них?

Сделает ли это его достаточно человеком?

Многие верят, что бурное развитие технологий начнётся

когда ИИ сможет самостоятельно учится и создавать свои собственные ИИ,

умнее, чем они сами.

На этом этапе то, как роботы будут запрограммированы, в большей степени будет вне нашего контроля.

Что если ИИ сочтёт необходимым запрограммировать способность чувствовать боль,

так же, как эволюция сделала это с большинством живых существ?

Заслуживают ли роботы этих прав?

Но возможно, мы должны меньше волноваться о риске, который сверхразумные роботы представляют для нас,

а об опасности, которую мы представляем для них.

Вся наша личность основана на идее об исключительности человека,

что мы особенные, уникальные снежинки, и вправе доминировать над остальным миром.

Человечество имеет целую историю отрицания, что другие существа способны страдать, как мы.

Во время научной революции, Рене Декарт утверждал, что животные были всего лишь автоматами (роботами, если хотите).

По сути, причинение вреда кролику было примерно так же морально невыносимым, как избивание плюшевой игрушки.

И множество величайших преступлений против человечества были оправданы, по мнению их виновников,

на основании, что жертвы были больше животными, чем цивилизованными людьми.

Даже большая проблема в том, что у нас есть экономическая выгода от отрицания прав роботов.

Если принуждать разумный ИИ - возможно посредством программной пытки - делать всё, что мы захотим,

экономический потенциал - безграничен.

Мы делали это раньше, в конце концов.

Насилие использовалось, чтобы заставить наших приятелей-людей работать.

И у нас никогда не было проблем с оправданиями.

Работорговцы утверждали, что рабство выгодно для рабов: оно давало им крышу над головой и учило их Христианству.

Человек, который был против того, чтобы у женщин было право голоса, утверждал, что это было в интересах женщин оставить трудные решения мужчинам.

Фермеры утверждают, что уход и откормка животных оправдывает их раннюю смерть ради нашей еды.

Если роботы смогут чувствовать, не будет нехватки аргументов для утверждающих,

что они должны оставаться бесправными, особенно от тех кто получает от этого прибыль.

ИИ поднимает серьезные вопросы о философских границах.

Что мы будем делать, если роботы, способные чувствовать, станут сознательными или заслуживающими прав?

Это заставляет нас переосмыслить такие базовые вопросы, как что делает нас человеком? Что делает нас заслуживающими права?

Независимо от того что мы думаем, вопрос должен быть решен в ближайшем будущем.

Что мы будем делать, если роботы начнут требовать свои собственные права?

Чему роботы, требующие прав, могут научить нас самих?

Наши друзья из Wisecrack сделали видео, изучающее именно этот вопрос, используя философию сериала Westworld.

Wisecrack анализирует поп-культуру уникальным и философским способом.

Нажмите здесь, чтобы перейти к видео и подпишитесь на их канал.