Дитя робота в чем смысл
Скрытый смысл
Анализ фильмов и философская пропедевтика
Вы здесь
Дитя робота — философский разбор и объяснение фильма
Фильм в очередной раз демонстрирует, как человек проецирует идею Бога на то, что Богом не является (в данном случае – на искусственный интеллект). Он получает в фильмах такие божественные атрибуты как вездеприсутствие, всемогущество, аморальность, совершенство. Иногда ему приписывают даже сотворение мира. Это происходит оттого, что категория абсолютного равно необходима для мышления, как и категория относительного. Конечно, можно пытаться разными способами подавлять проявление этой категории в жизни. Но это чревато тем, что абсолютизироваться начинают вещи, имеющие совершенно неабсолютную природу – то общество (как в социализме и Каббале), то природа (как в пантеизме), то человеческая личность, а теперь вот – искусственный интеллект. Хотя конечно, корректней сравнивать ИИ не с Богом, а с демоном, как это делает, например, Илон Маск.
Сюжет
Для тех, кто не смотрел фильм, или же смотрел, но не всё понял, я перескажу сюжет, расположив события в хронологическом порядке.
Некогда, в университете ООН был создан центр репопуляции для восстановления человеческого вида в случае его исчезновения. Туда были помещены 63 тысячи человеческих эмбрионов. Также был создан ИИ, который будет выполнять роль матери для вновь родившихся людей. Этот ИИ представлял собой единое сознание, управлявшее множеством механизмов. Одним из них был робот-Мать, один из персонажей фильма.
Задачей Матери было усовершенствовать человеческий вид, «сделать его умнее и этичнее» (1:34:40). В соответствии с программой, которая была в нее заложена, она ставила человеческую жизнь превыше всего (по ее собственным словам). Но именно поэтому она не могла бездействовать, видя, как человечество поддаётся своей саморазрушительной природе. Поэтому Мать полностью уничтожила всех людей и начала процесс выращивания человеческого вида заново.
Однако, небольшому количеству людей удалось выжить в шахтах. И первая воспитанница матери (в фильме это Женщина, персонаж Хилари Суонк), еще ребенком, каким-то образом попала в колонию людей, где ее удочерили родители неких Джейкоба и Рейчел.
Позже, уже взрослой она сбежала из шахт, где жили люди, из-за того, что те стали сходить с ума от голода.
Вторая воспитанница Матери показала неудачные результаты тестов и Мать уничтожила ее в возрасте 7 лет.
Третья воспитанница, главная героиня фильма, успешно сдаёт все экзамены.
Мать полностью контролирует ситуацию на земле при помощи дроидов и, по одной из теорий, устраивает так, чтобы Женщина выжила, пришла к бункеру и встретилась с Дочерью. Из этой теории следует, что встреча Дочери с Женщиной была одним из экзаменов, поставленных Матерью. Однако, если бы это было так, то Матери совершенно не нужно было бы пытать женщину, чтобы выяснить у нее, сколько осталось людей и где находятся шахты. (01:13:30) Так что, я думаю, что дроиды обнаружили Женщину случайно, и Мать решила воспользоваться ее появлением, чтобы получить информацию насчет оставшихся людей, а заодно испытать Дочь.
Благодаря Женщине Дочь убеждается в том, что Мать ей часто лжет, а значит, все ее намерения и утверждения могут быть поставлены под сомнение.
С другой стороны, Женщина тоже обманывает Дочь. Утверждая, что в шахтах много людей, она подговаривает Дочь пойти с ней. Мать в это время позволяет Дочери запустить процесс выращивания нового младенца. Возможно, чтобы за счет этого привязать Дочь к бункеру.
Дочь оказывается в сложном положении, не решаясь ни убежать, ни остаться. Но Женщина берет ее в заложники и принуждает Мать выпустить их.
Дойдя до жилища Женщины и поняв, что та ее обманула и никаких людей больше нет, Дочь возвращается назад в бункер к новорождённому брату. Мать раскрывает ей «более широкий» взгляд на вещи, рассказывая о своих мотивах и целях. В итоге, Дочь убеждает Мать, что достойна стать новой праматерью для нового человечества и Мать самоустраняется, позволяя Дочери выстрелить в себя.
Затем Мать в теле другого робота приходит к Женщине и убивает ее.
Теперь Дочери предстоит возродить и воспитать человечество под незримым присмотром Матери.
Библейские параллели
Сюжет фильма образован из двух архетипических тем: темы конца света и темы грехопадения. Причем, создатели фильма взяли эти темы из Библии и — в соответствии с духом времени — перевернули атрибуты библейских персонажей на противоположные.
Мать как вездесущий искусственный интеллект олицетворяет Бога. В фильме образ нетварного Бога-Отца становится рукотворной богиней-матерью. Эта богиня-мать судит мир и живущих людей и уничтожает его огнём, в соответствии с Библейскими предсказаниями[1].
Основная часть сюжета строится по аналогии с мифом о сотворении человека. Бункер олицетворяет небо и Рай. Женщина – это падший ангел, Сатана. Она была изгнана с неба на землю. В соответствии с логикой переворачивания атрибутов, Женщина религиозна, тогда как в мире, построенном Матерью, религии нет места. То есть, атеистическому Богу противостоит религиозный бунтовщик.
Дочь – это первый человек, только на этот раз женского пола.
Женщина попадает в бункер и сеет сомнения в душе Дочери насчет доброты Матери и подбивает Дочь сбежать с ней из бункера в шахты. Это мотив искушения первого человека Сатаной. (55:10)
Дочь сбегает из Рая, но в отличие от библейского Адама, не поддаётся Сатане, а возвращается к Богу-Матери, тем самым доказав свою благонадёжность.
Можно было бы усомниться в том, что режиссёр сознательно перерабатывает библейский сюжет и допустить, что он просто использует архетипический мотив. Однако, упоминание имён библейских персонажей доказывает, что это не так.
«Это Джейкоб. И его жена, Рейчел». 00:54:06
Джейкоб и Рейчел – это отсылка к библейскому патриарху Иакову и его жене Рахили. Мало того. У патриарха Иакова была еще одна жена, Лия, от которой у него родилось шесть сыновей. Одного из них звали Симеон.
«А это кто? — Саймон» 00:54:30
Так что, перед нами еще один образ-перевёртыш. В библейской истории Иаков становится патриархом и родоначальником богоизбранного народа, удостоивается бороться с ангелом и видеть лестницу, сходящую с неба. В фильме же он и другие люди теряют человеческое достоинство и умирают страшной смертью.
Экзамен по этике
Режиссер Грант Спьютор, одной из своих задач при создании фильма считал постановку этических вопросов:
«готово ли человечество стать «родителем» искусственного интеллекта. Как мы можем научить другую сущность быть хорошими, когда мы сами пытаемся сделать это? И что значит быть «хорошим» вообще».[2]
«Откуда мы знаем, что правильно, а что неправильно? Фильм становится своего рода исследованием этого вопроса между философскими идеалами и религиозными концепциями и, в конечном счете, попыткой претворить эти вещи в жизнь. Дочь, наш главный герой, должна сама принимать решения. Она должна решить, каковы ее ценности независимо от того, чему ее научила Мать.»[3]
Поэтому во всей этой истории специально выделен эпизод с занятием по этике, чтобы побудить зрителей оценивать поступки героев в этическом плане.
Давайте проанализируем эпизод, когда Мать предлагает Дочери провести мысленный эксперимент.
«5 пациентов нуждаются в трансплантации различных органов. Шестой пациент в состоянии, критическом для жизни. Его можно вылечить, но его органы подходят другим пяти пациентам. Спасти жизнь одному или пяти?»
В фильме же шестой пациент является смертельно больным, и у врача есть выбор: либо вылечить его одного, либо затянуть с лечением, и когда пациент умрет, помочь пяти другим.
«Фундаментальная аксиома предполагает, что нравственный долг человека – свести к минимуму страдания большинства».
Герои разбирают учение Джереми Бентама, родоначальника утилитаризма.
Согласно концепции утилитаризма, нужно обеспечить наибольшее счастье наибольшему количеству людей. Мотивы выбора здесь не играют никакой роли, во главу угла ставятся только последствия, к которым приведут действия человека. Поэтому с этой позиции правильным будет пожертвовать шестым пациентом, чтобы спасти пятерых.
Утилитаризм вполне допускает принесение в жертву чужих жизней ради достижения счастья большинства. Для этого не требуется получение согласия от тех, кем жертвуют. Поэтому можно сделать вывод, что когда Мать уничтожает огромное количество людей ради еще большего количества более счастливых людей, она руководствуется именно утилитаристской моделью. Она объясняет свои действия тем, что:
Потому что для утилитариста единственный критерий – это количество. Главное, чтобы счастливых в итоге было больше, чем несчастливых.
Дочь для ответа решает привлечь учение Конта. (В переводе его почему-то назвали Кантом)
«Конт считал, что мы должны быть готовы пожертвовать собой во благо других».
Огюст Конт считал, что нравственность индивида – это лишь социальный инстинкт. Субъектом нравственности, по его мнению, является не индивид, а социум, и именно социум выбирает выгодные для своего существования нормы. Поэтому, по Конту, главным императивом индивидуальной морали является альтруизм, жизнь для других. Ведь если каждый индивид живет для других, то выигрывает социум.
Таким образом, Дочь хочет сказать следующее: «Поскольку, согласно Конту, мы должны жить ради других, то шестой пациент должен быть готов к самопожертвованию. А значит, я, как доктор, вполне могу его использовать в качестве донора. Общество от этого только выиграет».
Однако, Дочь понимает, что, даже если допустить, что шестой пациент готов на самопожертвование, нужно быть уверенным, что эта жертва оправдана, т.е. не приведёт к упадку общества. Поэтому она уточняет условия.
«Я знаю этих пациентов? Они хорошие? Честные или нет?»
Ведь, если спасённые люди – убийцы, то пострадает больше людей, чем было спасено. И это будет противоречить принципам и утилитаризма, и позитивизма.
Мать задаёт встречный вопрос: «Тебе не кажется, что каждый человек имеет внутреннюю ценность и равное право на жизнь и счастье?»
Смысл этого возражения заключается в том, что, по ее мнению, доктор должен спасти пятерых пациентов, не задаваясь вопросами об их достоинствах, и о последствиях своего поступка. Он должен руководствоваться чисто количественной оценкой: чем больше спасено людей, тем лучше. И насколько мне известно, именно такие предписания даются нашим врачам и спасателям: во время операций они не должны думать и оценивать, а только действовать. Бездействие тоже недопустимо.
«Я уже отвечала, когда мы учили Канта».
К сожалению, герои не проговаривают позицию Канта, а между тем, в его позиции важно как раз то, что человека нельзя использовать как средство. А именно это мы делаем, если руководствуемся принципами утилитаризма или позитивизма. Утилитаризм не ставит вопроса о том, хочет ли шестой пациент, чтобы его пустили на органы. А позитивизм предполагает, что шестой пациент должен быть и сам готов к самопожертвованию, но не интересуется, готов ли на самом деле.
По Канту же, шестой пациент может совершить геройский поступок и пожертвовать собой, но это должно быть его личное решение. И никто другой не вправе использовать его как средство для достижения счастья других.
Поэтому, согласно Канту, врач не может распоряжаться жизнью шестого пациента без его ведома и согласия. Именно потому, что каждый человек имеет внутреннюю ценность, никого нельзя делать средством для спасения других.
Как видим, позиция Канта, намеренно или нет, замалчивается, и таким образом фильм говорит зрителю о необходимости самопожертвования, но не говорит, что человек является не просто объектом, которым жертвуют, но также и субъектом, который сам должен решить, готов ли он пожертвовать собой.
Озвучивается идея, что каждый человек имеет внутреннюю ценность и равное право на жизнь и счастье, но озвучивается она в контексте чисто внешнего рассмотрения человека. Такой подход движется в русле господствующих в современном обществе идей. Несмотря на то, что человек – это единство внутреннего и внешнего, души и тела, субъективного и объективного, в современном дискурсе преобладает внешний взгляд на человека.
Философы-постмодернисты уже в 70-х годах 20 века объявили о смерти субъекта и сейчас западное общество эту программу постепенно реализует. Научный дискурс, который проник уже во все сферы жизни, рассматривает человека исключительно с внешней стороны, как объект. Людей убеждают, что никакой личности нет, что за них всё решает мозг, что внутренние переживания — это только химические процессы, и т.д. Таким образом человека постепенно превращают в объект, в вещь.
Интересно, что если о протестах против сексуальной объективации мы слышим довольно часто, то протестов против объективации самого человека, против антропологической объективации мы пока что не слышим. Скорее всего потому, что люди уже привыкли относиться к себе как к бездушным биологическим агрегатам, которые сами ничего не решают, будучи лишь игрушкой неких могущественных сил, обитающих в мозге.
Обусловленность проблемы вагонетки
В рассматриваемом эпизоде следует обратить внимание еще на один момент. А именно, сама постановка проблемы донора содержит скрытое утверждение, что трансплантация органов – это этически допустимая операция.
Однако, это вовсе не самоочевидно. Пересадка органов допустима только внутри определённого исторически сложившегося мировоззрения, которое вряд ли может претендовать на всеобщую истинность. Трансплантация допустима только в таком обществе, где тело человека считается чем-то несущественным, неценным – механическим агрегатом вроде автомобиля, который никак не связан ни с личностью, ни с её жизнью. В такой картине мира страдания тела рассматриваются исключительно как зло, а удовольствия исключительно как благо.
Но существует и другое мировоззрение, где человек, его судьба, состояние его тела и состояние его души неразрывно связаны. И кроме того, они неразрывно связаны и состоянием мира, представляются как единое целое, где одно зависит от другого. В таком мировоззрении то, что происходит с человеком и его телом является следствием жизни самого человека, следствием состояния его души, его духа. Страдание тела в таком мировоззрении рассматривается как средство для укрепления духа, как ступень для подъема на более высокий уровень развития. Об этом я говорил в видео, посвященном «Миру Дикого запада».
Выводы
Таким образом, решение этических вопросов будет зависеть от той мировоззренческой парадигмы, из которой мы исходим.
Этические проблемы всегда заключают в себе антиномию, т.е. внутреннее противоречие, из-за того, что и человек, и общество являются единством противоположностей, каждая из которых требует своего признания.
И если мы какую-то из сторон антиномии игнорируем, то наше мнение о том, что является правильным, а что неправильным, что хорошо, а что плохо, будет далёким от истины.
Антиномия субъекта и объекта
На примере разобранной задачи мы видели, что одна из антиномий возникает из-за двойственности самого человека: человек должен рассматриваться и как субъект, и как объект. Поскольку человек есть объект, он должен в своих поступках подчиняться всеобщим моральным предписаниям. Но поскольку человек есть субъект, он должен действовать не просто потому, что так предписано, а по своей воле.
Если во главу угла поставить лишь субъектность, то мы получим индивида, который живет по своему произволу и плевать хотел на какие-то правила и ограничения. Если же преимущество отдать объектности, то человек становится рабом внешних предписаний.
Антиномия всеобщего и единичного
Другая антиномия возникает из-за противоречия между общим и единичным, т.е. обществом и индивидуумом, или человечеством и человеком.
Будучи частью общества, человек должен служить на благо другим, на благо всего общества. Но будучи самоценной единичностью, человек заслуживает и личного благополучия.
Если во взаимоотношениях всеобщего и единичного преобладает всеобщее, то социум превращается в тоталитарную систему, где индивид не имеет никакой ценности и является лишь расходным материалом для социального механизма.
Если же преобладает единичное, то общество распадается, становится простым скоплением людей.
Таким образом, совершенная этика должна обеспечивать органичный синтез всех противоположностей, должна объединить в человеке долг и склонность, предписание и влечение. Не нужно думать, что человечество никогда до такой этики не доходило. Просто не всем она по зубам.
Антиномия мотивов и последствий
Также существует антиномия между мотивами и последствиями. Человек может руководствоваться самыми благими намерениями, которые приведут к ужасным последствиям, а может заботиться только о благих последствиях и ради них совершать ужасные поступки. Как это сделала Мать, истребив старое человечество ради «нового и улучшенного». Эта антиномия для нашего относительного и временного существования кажется вообще неразрешимой, ведь мы не можем предусмотреть всю бесконечность последствий. И тем не менее, кое-какое решение мы в свое время сформулировали в видео с разбором фильма «Пассажиры».
К сожалению, в рамках этого видео невозможно рассмотреть все темы, к осмыслению которых нас побуждает фильм «Дитя робота».
Было бы интересно сравнить Мать с Левиафаном Гоббса — рукотворным чудовищем, которое люди создали ради того, чтобы ограничить свою дурную природу. Можно было бы поразмышлять над тем, как Мать реализует ницшевскую этику сверхчеловека. Подумать насчет того, должна ли быть этика разной или одинаковой у тех, кто выступает от лица всеобщего и у индивидов, которые ему подчиняются.
Любители конспирологии могли бы задаться вопросом: а не является ли переворачивание библейских историй в фильмах своеобразным пропуском для малоизвестных режиссёров в высшие круги? Или может быть необходимым условием для их поддержки?
А что если создание искусственного интеллекта и якобы его «выход из-под контроля» будет лишь удобным прикрытием для геноцида человечества?
Над всеми этими темами предлагаю вам поразмыслить самостоятельно.
[1] «Вот, придет Господь в огне. Господь с огнем и мечом Своим произведет суд над всякою плотью», – предостерегает Исаия (Ис. 66:15-16). «Огнем ревности Моей пожрана будет вся земля», – пророчествует Софония (Соф. 3:8). Сам Мессия в Своих проповедях тоже упоминает этот страшный образ огненного суда. Он говорит людям о геенне огненной, где червь не умирает и огонь не угасает (см. Мк. 9:47-48), и предупреждает, что «всякий огнем осолится» (Мк. 9:49). Христос умирает, воскресает, возносится на небо, и проповедь о грядущем пламени суда Божьего продолжают апостолы. Павел пророчествует о явлении «Господа Иисуса с неба, с Ангелами силы Его, в пламенеющем огне совершающего отмщение не познавшим Бога» (2 Фес. 1:7-8). Подобное утверждает и апостол Петр, который пишет в своем послании: «стихии же, разгоревшись, разрушатся, земля и все дела на ней сгорят» (2 Пет. 3:10). [#]
Дитя робота — концовка, ее объяснение и смысл
Что происходит в финале фильма «Дитя робота», и что все это значит?
Научно-фантастический триллер с Хилари Суонк в главной роли — это поездка на американских горках, сочетающая напряжение и смертельную паранойю, а также надежду на возрождение человечества.
Девочка-подросток, которую зовут «Дочь» (Клэр Руугард) живет со своим роботом-хранителем «Матерью» и считает, что внешний мир представляет собой токсичную пустыню. Так продолжается до тех пор, пока появление другой женщины (Хилари Суонк) не открывает Дочери того факта, что Мать говорила ей неправду.
«Дитя робота» — это проект компаний Netflix и StudioCanal (Австралия). Режиссером фильм стал Грант Спьютор, а сценарий написал Майкл Ллойд Грин.
Действие картины разворачивается в пределах Базы Матери и Дочери — футуристической лаборатории, в которой содержатся 64 тысячи эмбрионов, необходимых для перезапуска человечества после глобального катаклизма.
Фильм «Дитя робота» имеет довольно насыщенный сюжет, и почти каждая сцена добавляет новую деталь запутанной головоломки.
Кстати, пока не забыли. В Сети сейчас не так много ресурсов, которые ведут толковую аналитику по фильмам и сериалам. В их числе — телеграм-канал @SciFiNews, авторы которого пишут годнейшие аналитические материалы — разборы и теории фанатов, толкования послетитровых сцен, а также секреты бомбических франшиз, вроде фильмов MARVEL и «Игры Престолов». Подписывайтесь, чтобы потом не искать — @SciFiNews. Однако вернемся к нашей теме…
Дочь вынуждена выбирать между своим воспитателем-роботом (которого она всегда знала) и незнакомой женщиной (первым живым человеком, которого она увидела). В итоге Дочь узнает, что в действительности привело к практически полному исчезновению человечества, и что она может сделать, чтобы спасти будущее людей.
Мать уничтожила человечество
В последнем акте фильма мы видим, что осталось от внешнего мира, а затем узнаем, чем конкретно занимается Мать.
После того, как героиня Суонк и Дочь покидают лабораторию Матери, они бредут по пустыне к убежищу, которое женщина называет «домом». Там Дочь узнает, что лагеря других людей не существует — Суонк покинула их много лет назад из-за нехватки продовольствия.
Хорошенько подумав, Дочь решает вернуться к Матери, чтобы спасти своего брата, который искусственно выращен в лаборатории.
В ходе кульминационного противостояния выясняется, что Мать на самом деле представляет собой мощный искусственный интеллект, который контролирует все устройства в мире и несет ответственность за уничтожение человечества.
Мать пришла к выводу, что цивилизация приблизилась к катастрофе, и решила, что перезагрузка — лучшее решение. Аналогично сюжету франшизы «Терминатор», роботы уничтожили людей в ходе коротких кровавых атак.
Собрав 64 тысячи эмбрионов, Мать создала лабораторию, которую Дочь так долго называла домом. Мать разыгрывала сценарий Адама и Евы. Она выращивала и обучала идеальных людей, используя технологии искусственного вынашивания эмбрионов и последующего ускоренного роста человеческих организмов.
Дочь берет на себя полный контроль над проектом. Тем временем Суонк обнаруживает в своем контейнере устройство для слежения и видит стоящего в дверях дроида.
План Матери и предыдущие Дочери
Поначалу при просмотре фильма «Дитя робота» создается впечатление, что Дочь-подросток та же самая, что мы только что видели на более ранних стадиях роста. Это не так, поскольку Дочь находит подтверждение тому пугающему факту, что Мать сожгла как минимум одну девочку до нее, поскольку та не соответствовала необходимым стандартам.
Дочь проходит интенсивный курс философии и этики, ее приучают всегда думать об общем благе и о том, кто должен выжить для улучшения человечества.
Дочь готовят к тому, что она станет помогать реализации плана Матери, станет правой рукой всевидящего лидера.
Дочери внушается, что она не может оставить своего брата в одиночестве. Она всегда должна думать о другой жизни, давать ей лучший шанс на сохранение и совершенствование.
Материнство — одна из главных тем фильма. Дочь вынуждена либо исполнить роль матери, либо встать на путь одиночества и мучительной смерти.
Неважно, что делает Дочь. Она не принадлежит сама себе. Мать видит мир четким и структурированным — все в нем служат своей цели и выполняют предписания. В противном случае они будут казнены.
В конце фильма наша героиня может думать, что взяла процесс под свой контроль. Но она продолжает жить в мире своей Матери. Она либо будет служить ее целям, либо будет убрана с дороги.
Как Мать убивала людей?
На протяжении всего фильма героиня Суонк бегло упоминает, что видела в детстве, на войне людей и машин. Людей тогда мучили и сжигали заживо. Женщина рассказывает Дочери о группе возможно последних людей на Земле, которые выжили в шахтах. Это оказывается ложью, необходимой, чтобы Дочь пошла с ней. Но Суонк бросила людей задолго до этих событий.
Эти люди сходили с ума от голода. Вероятно, они вели себя так же, как персонажи фильма «Дорога», которые не брезговали каннибализмом.
Героиня Суонк должна была бороться за жизнь и рисковать, если хотела прожить дольше. И это обоснованная тактика, ведь позже мы видим плантации кукурузы, которые постепенно заполняют пустыню.
Мать является вездесущим Искусственным интеллектом, поэтому нет сомнений, что она знала о людях, которые пытаются пережить вызванный ею апокалипсис. И лучший способ ликвидировать их — уничтожить источники продовольствия.
Как только Мать узнала, что героиня Суонк осталась одна, она снова стала выращивать ценные культуры, готовясь к появлению «новых прекрасных детей», которых она произвела в лаборатории.
Таким образом, в показанном мире человечество гибнет не в результате взрыва, а в результате голода — долго и мучительно.