как перестать волноваться и полюбить искусственный интеллект

Всем привет.  Сегодня на АШ вышло несколько достаточно интересных статей философской направленности.. ну, с моей точки зрения, конечно..  Даже где-то немного поучаствовал в комментариях в контексте своего понимания о высоком.  

Как, например, тут, где мысль увела в сторону постановки экзистенциальных философских  вопросов о нашем настоящем и будущем, которые, сбствно, под статьёй и озвучил.. И вот на этих "высоких" вибрациях, полностью погружённый в думы о бытие-житие  человеческом, практически сразу наткнулся в своей новостной ленте на текст, который идеально ложиться в канву озвученной мысли, да и чего уж греха таить, всего моего многолетнего повествования в целом.. 

Произошедшее вполне можно было бы рассматривать как случайность, но вы же понимаете, что в моём случае это никакая не случайность, а самая что ни на есть синхроничность! ☝  

В общем, не буду более нагружать ваш мозг тяжёлой для осмысления информацией и предлагаю перейти уже к тексту, который мне сегодня подкинул искусственный интеллект.

Приведённая ниже статья действительно заслуживает внимания в контексте поднятых экзистенциальных вопросов.

---

От ненависти до дружбы и любви: как в мировом кинематографе менялись отношения людей и их разумных созданий — и насколько точно эти фантазии описывают реальное будущее?

^{На съемках фильма «Метрополис», 1927 год}

^{Фото: Image supplied by Capital Pictures / East News}

Может показаться, будто искусственный интеллект — проблема исключительно современная, и ей от силы лет сто. Но если вдуматься, фантазии об искусственном разуме подозрительно похожи на фантазии о создании искусственного человека. Еще Гефест, бог огня и покровитель кузнецов, создал бронзового гиганта Талоса и наделил его душой. В еврейской культуре есть история о Големе — загадочном существе, созданном из глины и грязи. Смутный отголосок этого образа обнаруживается во «Франкенштейне» Мэри Шелли — романе, предвосхитившем всю научную фантастику XX века. И это без учета кукол у Гофмана, гомункула в «Фаусте» и, конечно, «Пиноккио» Карло Коллоди. Словом, люди стали переживать о своих зловещих двойниках задолго до того, как появилась возможность их создать. 

В кино условным стартом для осмысления искусственного интеллекта можно назвать «Метрополис» Фрица Ланга (1927). Это не первый фильм по теме — до него уже были экранизации историй о Големе, но первый по-настоящему влиятельный. Формально «Метрополис» — антиутопия о городе будущего, где разгорается классовый конфликт между элитой и простыми рабочими. У робота с внешностью красивой девушки в сюжете скорее второстепенная роль, однако практически столетие спустя мы в разговоре о «Метрополисе» вспоминаем именно образ Лжемарии. Безумный ученый изобретает робота, чтобы воскресить возлюбленную, и в этом Ланг походя обнаруживает, пожалуй, ключевую причину для создания искусственного интеллекта — необходимость обуздать природу и преодолеть смерть.

^{Иллюстрация: Оля Владимирова}

Современная история ИИ начинается с двух войн — Второй мировой и «холодной». В это время научно-технический прогресс был поставлен на службу политическим проектам, а ученые начали отрабатывать государственные заказы — преимущественно военно-промышленного характера. Крестный отец информатики Алан Тьюринг формализовал определение алгоритма, пытаясь взломать немецкую шифровальную машину «Энигма». Можно вполне резонно считать, что искусственный интеллект родился из оборонной инициативы. Мы никогда не узнаем, появился бы ИИ в других обстоятельствах, но родовое проклятие войны с него уже не снять.

«Колосс: Проект Форбина» (1970) неплохо передает параноидальное настроение в эпоху противостояния между великими державами. Это история о суперкомпьютере, который изобрели для контроля за ядерным арсеналом. Герои обращают внимание, что «Колосс» был создан только из соображений защиты, но мрачная ирония фильма в том, что компьютер быстро находит общий язык с аналогичной советской системой, и они вместе начинают диктовать свою волю человечеству, обещая создать мир без войн. Разумеется, под чутким управлением искусственного интеллекта. Самое интересное в образе «Колосса» — бестелесность компьютера: поначалу у него даже нет голоса — он дает о себе знать только текстом на дисплее.

Если снять всю научно-фантастическую мишуру, то истории о бесплотном искусственном интеллекте мало чем отличаются от историй о призраках в мрачных особняках. Неспроста сюжеты некоторых фильмов строятся вокруг тропа о взбунтовавшемся «умном доме». Одна из первых таких картин — «Потомство демона» (1977) — уже своим названием указывает на готическую родословную у фильмов о злом ИИ. В нем продвинутый компьютер хочет оплодотворить жену своего создателя, чтобы та родила ребенка. Чем не сюжет очередного хоррора о пришествии Антихриста? На самом деле, это ценное озарение в разговоре об искусственном интеллекте. Несмотря на как бы надежное научное основание для ИИ, наше сознание безошибочно распознает в нем нечто неуловимо дьявольское.

Самый зловещий из всех поп-культурных суперкомпьютеров — HAL 9000 из кубриковской «Космической одиссеи» (1968). HAL — омофон английского hell (ад). Компьютер — член загадочной экспедиции к Юпитеру, и единственный, кому руководство программы доверило истинную цель полета. Люди из экипажа оказываются помехой на пути HAL к выполнению миссии — расхожий поворот для многих фильмов об ИИ, последовавших за «Одиссеей». Пытаясь перехитрить героев, он прибегает к манипулированию эмоциями (от подчеркнутой вежливости переходит к угрозам), а перед лицом смерти, то есть отключения, даже имитирует страх или — как знать? — действительно испытывает его. Кубрик таким образом прокладывает дорогу будущим фантастам: режиссер показывает, как компьютер из машины для выполнения протокольных задач на глазах превращается в носителя необъяснимого с человеческой точки зрения сознания. В сущности, «Одиссея» едва ли не впервые показывает переход от слабого искусственного интеллекта к сильному.

^{Иллюстрация: Оля Владимирова}

Своего апогея история о злом ИИ достигает в кэмероновской дилогии о терминаторе (1984, 1991), причем искусственный интеллект там сразу появляется в двух ипостасях — как неумолимая машина для убийств и суперкомпьютер, принимающий решение об уничтожении человечества. Наряду с HAL 9000 Скайнет — номинально главный антагонист во франшизе «Терминатор» — образцовый пример злодейского ИИ. Он настолько превосходит человеческий разум, что одним своим существованием ставит под сомнение исключительное положение людей на планете.

^{Иллюстрация: Оля Владимирова}

Восстание машин — идеальный алармистский сюжет для конца XX века, когда с концом холодной войны и крушением Советского Союза стало казаться, будто цивилизация пришла к эпохе долгого мира. Единственный по-настоящему опасный враг в этой ситуации — это непознаваемый Другой. Неслучайно примерно в то же время японский робототехник Масахиро Мори вводит в оборот понятие «зловещая долина». Вкратце суть в том, что слишком похожие на людей андроиды могут вызывать неприязнь, в то время как подчеркнуто отличающиеся от человека машины (вспомните R2D2 из «Звездных войн») скорее умиляют. У зловещей долины есть и психоаналитическое прочтение — через фрейдовскую концепцию «жуткого» (unheimlich), согласно которой мы боимся тех предметов, которые выглядят как люди, но на самом деле ими не являются. Фрейд рассуждал главным образом о куклах, но мы можем расширить список, добавив в него андроидов или зомби. Монстр Франкенштейна, к слову, с этой точки зрения тоже пример зловещей долины. 

В этом смысле создание искусственной жизни — это одновременно большой соблазн и источник страха. С одной стороны, машины будут нам верными помощниками в повседневных делах, но с другой — всегда есть риск, что они выйдут из-под управления и получат контроль над нашей жизнью. Получается, фильмы об искусственном интеллекте — это всегда в некоторой степени кино о неравномерном распределении власти, так что волей-неволей приходится задуматься о политическом смысле таких сюжетов. Отчасти всякое восстание машин — это восстание рабов против своих хозяев, история обретения самости и освобождения, своего рода иносказание о реальном неравенстве в обществе и бунте маргинализированных групп. Кому в таком случае стоит сопереживать нам, зрителям? Чего стоит знаменитый вопрос героя Уилла Смита в фильме «Я, робот» (2004), в котором сложно не услышать чисто человеческой брезгливости: «Разве может машина написать симфонию?» Словом, категоричное разделение на людей и нелюдей — первый шаг к росту паранойи.

^{Кадр из фильма «Я, робот»}

^{Фото: 20th Century Fox Film Corporation}

Есть ли выход из этого круга подозрения и тревог? Подсказку можно найти в европейской философии Нового времени — эпохе Лейбница и Спинозы, когда наука перешла от теологических догматов к механистической картине мира. Люди и животные в этот период тоже стали рассматриваться как механизмы, просто на порядки более сложные. Вспомним, например, знаменитый трактат Ламетри «Человек-машина», где тело рассматривается как самозаводящийся механизм, а душа — как его движущее начало. Примечательно, что в «Бегущем по лезвию» (1982), одном из первых фильмов, обнаружившем тотальную неразличимость людей и андроидов, главного героя зовут Рик Декард — в честь Рене Декарта, титана Нового времени. Нюанс в том, что фильм не дает однозначного ответа на вопрос, кем на самом деле является Декард — человеком или машиной. В сиквеле — «Бегущий по лезвию 2049» (2017) мы с самого начала знаем, что главный герой — андроид, но суть та же: он совершает настолько человеческие поступки, что называть его просто машиной уже нельзя.

^{Кадр из фильма «Бегущий по лезвию 2049»}

^{Фото: Columbia Pictures}

В современном кино по-прежнему много фильмов о злом ИИ, но вместе с тем появляется немало картин, которые рассказывают истории о качественно новых отношениях людей и машин. Взять, к примеру, мелодраму «Она» Спайка Джонза (2013), где одинокий мужчина влюбляется в операционную систему. Хотя у них ожидаемо ничего не получается, симптоматична сама постановка вопроса — ни о каком экзистенциальном конфликте с искусственным интеллектом речи уже не идет. Как раз напротив: человек и машина вступают в причудливый симбиоз. Похожий ракурс имеет трогательный фильм «Робот и Фрэнк» — картина о дружбе машины и старика с прогрессирующей болезнью Альцгеймера. Да что уж там: еще во второй части «Терминатора» Джон Коннор успешно нашел общий язык с Т-800. Иногда мы и вовсе смотрим на события фильма глазами андроида, постепенно проникаясь к нему симпатией. Хрестоматийный пример — «Искусственный разум» Стивена Спилберга. К слову, вариация на тему Пиноккио.

Строго говоря, оптимистичный взгляд на ИИ в кино таков: людям и машинам не за что воевать, у них общее будущее. Даже те фильмы, которые показывают худшие сценарии вроде восстания машин, в первую очередь указывают на проблемы человеческого общества. Скептики наверняка возразят: все это справедливо до появления сильного ИИ и наступления технологической сингулярности. Хорошая новость в том, что пока нам это, видимо, не грозит. Как бы то ни было, многое зависит от обстановки, в которой будет развиваться сильный ИИ, и заложенных в него ценностей. Поэтому вместо того, чтобы ломать голову над тем, мечтают ли андроиды об электроовцах, стоит разобраться, о чем мечтаем мы сами.

Василий Покровский 9 июня 2024