Станет ли сильным ИИ версии GPT, и нужна ли ему сила?

Уточнение вопросов в проблематике ИИ

В одной из своих предыдущих заметок я подробно останавливался на определении того, что имеется ввиду при обсуждении проблематики ИИ – слабый/сильный(общий)/супер-ИИ. Не буду повторяться, отмечу лишь, что само наименование «Искусственный Интеллект» мне кажется неудачным и двусмысленным, коль скоро нет признанного определения интеллекта естественного. А из некоторых принятых определений (например: «способность мыслить»; «способность к опосредованному, абстрактному познанию, в том числе, образованию понятий, суждений, умозаключений») следует, что у представителей вида Sapiens он варьирует в очень широких пределах, а некоторые, пожалуй, интеллектом и вовсе не обладают. Следует с определённостью констатировать, что в рамках упомянутой классификации, говоря о семействе GPT-подобных моделей, мы обсуждаем именно слабый ИИ, а правильнее и точнее – автоматизированную экспертную систему, т.е. систему, способную обрабатывать самые разные запросы в автоматическом режиме. Такую систему правильнее именовать Имитацией Интеллекта - и именно так я предлагаю использовать всем известную аббревиатуру ИИ в данном сообщении.

Таких автоматизированных экспертных систем существует множество в самых различных областях – система-шахматист, система-художник, система-врач, система-биржевой игрок и т.п. Подобные системы полностью проектируются и контролируются человеком, и в целом ряде конкретных приложений уже превзошли лучшие человеческие достижения (например, в игре в шахматы).

А вопросы, которые возникают применительно к GPT-ИИ  таковы:

1.  Есть ли у таких систем перспектива доразвиться до сильного ИИ?
2. Могут ли такие системы уже сейчас (либо с реалистично прогнозируемой доработкой) принципиально изменить социально-экономический ландшафт современной цивилизации? И если «да», то в каком направлении пойдёт развитие?

Именно эти вопросы я и собираюсь обсудить в настоящей заметке.

Прежде чем перейти к изложению, хотел бы сделать одно замечание.

«Синдром программиста» в восприятии картины мира

Тут на АШ недавно опубликовали копию статьи, появившейся в «песочнице» на habr’е (форум, преимущественно, программистов), в которой обсуждаются ровно те же вопросы.  Я ничего не имею против программистов, сам много кодировал (не оптимизацию учёта клиентов в женской бане, а довольно сложные научные расчёты и автоматизацию/обработку результатов экспериментов). Но когда «карьерный» программист берётся писать на такие сложные, многогранные, «мультимодальные», если хотите, темы как «сила ИИ», то результат получается неубедительным, как идейно, так и методически (в смысле строгости терминологии и логичности умозаключений). Весь пафос упомянутой статьи можно свести к известной максиме одного из героев фильма «Москва слезам не верит»: «в будущем будет одно сплошное телевидение» (в нашем случае – «сплошное программирование»). Философия, нейробиология, когнитивистика? – Нет, не слышал. Прогресс в разработке Chat-GPT habr-автор интерпретировал довольно своеобразно (это и есть суть «синдрома программиста»):

Я материалист, и поэтому мне радостно видеть впечатляющие успехи больших языковых моделей как то GPT или PaLM…Эта радость - она от подтверждения правоты, что мы являемся пусть сложными, но всё таким биологическими машинами, и следовательно мы полностью познаваемы, что трансцендентной души у нас нет, что после смерти ничего не будет, а самосознание является феноменом развитой нервной системы. 

Так вот, в данной работе предлагается совершенно иной, чем у программиста-материалиста, взгляд на проблему сознания в целом и проблему «силы ИИ» в частности.

Фундаментальный аспект разработки GPT-подобных моделей ИИ

В опубликованной недавно на АШ статье в стиле «ChatGPT для чайников» популярно объяснялось как устроена эта модель и чем она не является: «это не «Бог из машины», не разумное существо, не аналог школьника (по уровню интеллекта и умению решать задачи), не джинн…». Это всего лишь нейросетевая языковая модель, спроектированная так, чтобы, с учётом контекста, строить, слово за словом, предложения по принципу наибольшей вероятности. Казалось бы, что таким путём вряд ли можно достичь содержательных результатов – очевидно, что результаты будут критически зависеть от обучающего data-set`а и такая нейросеть может, разве что, быть полезна в узкой предметной области. Неожиданно оказалось, что размер имеет значение, и, как это хорошо показано в упомянутой статье, при превышении некоторого порогового для модели числа параметров (условно, 200 млн), а также объёма обучающих данных, результаты обучения начинают поражать воображение! Модель демонстрирует впечатляющие результаты даже в областях, на которые она изначально и не была рассчитана – например, в написании компьютерных программ или игре в шахматы.

Естественные вопросы, которые возникают при оценке успехов GPT-ИИ: насколько алгоритмы GPT успешно имитируют мыслительный процесс человека? Способны ли они «понимать» текст, который они генерируют? Как далеко можно пойти в данном направлении? Сможет ли GPT- ИИ «обрести силу», в конце концов?

GPT-алгоритмы и человеческое мышление

Следует отметить, что создатели нейросетей (в частности, GPT) вовсе не старались детально воспроизвести человеческое мышление, хотя и ориентировались на основные принципы его работы. Это понятно, так как до конца не ясно, как именно на физическом уровне (в мозге) реализовано это мышление. Существует множество нейробиологических теорий сознания (и мышления как его составной части), краткое изложение некоторых основных можно найти в моём анализе обзорной работы К.Анохина.  Эти теории, на уровне основных принципов, описывают «зоны ответственности» и способы взаимодействия областей мозга (нейронных цепей коры, таламических ядер, стриатума, гиппокампа, других подкорковых структур), формирование реакций в ответ на стимулы (возбуждение), обработку разнородной информации и принятие решений путём формирования «нейронных групп», «нейронных коалиций», «когов» (постоянных или временных). Всё это пока слишком схематично и недостаточно подробно экспериментально изучено, чтобы стать основой для воспроизведения «в железе».

Существуют и более узкоспециализированные теории о принципах организации собственно мышления. Сформировалось представление о его делении на левополушарную часть (она обеспечивает алгоритмизацию действий, категоризацию, классификацию, использует аналитическую стратегию в узнавании сложных форм, регулирует восприятие сенсорных сигналов, эмоции и поведение)  и правополушарную (оперирует целостными образами, дает комплексное восприятие объекта, явления (пространственное мышление); вызывает многочисленные смысловые связи между объектами, явлениями, образами, обеспечивая адекватное восприятие действительности). И эти части сложным образом взаимодействуют в процессе мыслительной деятельности.  О том, чтобы формализовать всё это в работающей модели, речи пока не идёт, хотя нейросети это, как раз, попытка продвинуться в этом направлении (из недавних продвижений см. генеративную сеть XDREAM, разработанную в Гарварде).

Искусственные нейронные сети, как математическая модель, начали развиваться ещё в середине пошлого века и изначально, конечно, разрабатывались с учётом принципов функционирования биологических нейронных сетей. И это был серьезный шаг вперёд от классического ИИ (символьная парадигма) к вычислительному интеллекту. Нейросетевые модели ориентировались на особенности организации человеческого мышления: параллельная обработка, распределённый характер вычислений и представления информации, способность к обучению и обобщению и т.п.

Хотя очевидна «функциональная имитация» алгоритмов работы мозга с помощью цифровых вычислительных устройств, нет никаких оснований считать, что обработка информации в мозге – чисто цифровой, дискретный процесс (хотя существуют пороговые сигналы возбуждения («воспламенения») нейронов, так называемые потенциалы действия, спайки и т.п.).

Как и многие другие процессы в мозге, обработка информации в нем является гибридной, то есть сочетает в себе как «цифровые» (точнее, пороговые), так и аналоговые характеристики. Импульсы, которыми обмениваются нейроны, могут иметь различную частоту и форму, что делает их более похожими на аналоговые сигналы. Более того, мозг использует сложные системы обратной связи и модуляции, которые позволяют ему адаптироваться к изменяющейся информации и настраиваться на определенные условия. Эти процессы также имеют как цифровые, так и аналоговые компоненты.

Нобелевский лауреат Пенроуз, вообще, считал процесс мышления «невычислимым», так что его нельзя в принципе симулировать компьютерными алгоритмами. Сам он пришёл к необходимости привлекать для объяснения мышления алгоритмы квантовые, впрочем, на мой взгляд, без особого успеха.

Итак, могу констатировать, что GPT и прочие нейросетевые алгоритмы направлены не на воспроизведение человеческого мышления, а на максимально точную имитацию принципов и результатов его деятельности. И в такой «игре в имитацию» (по выражению Алана Тьюринга) создатели GPT преуспели.

В документе “GPT-4 Technical report” ( OpenAI(2023), март 2023) приводятся достижения версии GPT-4 в сравнении с версией GPT-3.5 в прохождении самых разнообразных человеческих тестов и экзаменов. И эти достижения впечатляют!

GPT-4 демонстрирует результаты на человеческом уровне на большинстве этих профессиональных и академических экзаменов, в том числе на достаточно сложных экзаменах семейства GRE (Graduate Record Examination), которые необходимо сдавать для поступления в аспирантуру/магистратуру в вузах США и ряда других стран (в том числе —Канаде, Швейцарии и Австралии).

Примечательно, что он сдает имитационную версию Единого экзамена в адвокатуру (Uniform Bar Examination, UBE) с результатом топ 10% лучших тестируемых, сразу в несколько раз улучшив достижение GPT-3.5. И это, действительно, свидетельствует о переходе «количества в качество».

Может ли GPT  эволюционировать в сильный (общий) ИИ?

Многие эксперты сходятся во мнении, что по-настоящему серьёзные проблемы самого разного рода в связи с эволюцией ИИ встанут перед человечеством тогда, когда он достигнет уровня «сильный ИИ». Напомню, что согласно разделяемому мною определению С.Рассела и П.Норвига «утверждение, что машины действительно мыслят (а не просто имитируют мыслительные процессы), называется гипотезой сильного искусственного интеллекта».

ChatGPT и ему подобные модели именно что имитируют мышление, причём, уже довольно искусно, о чём говорит и прохождение пресловутого теста Тьюринга, и сдача прочих профессиональных тестов. Но это не делает их «сильными».

Здесь уместно вспомнить одно из 9 возражений Тьюринга, а именно, возражение леди Лавлейс: «Аналитическая машина не претендует на то, чтобы создавать что-​то действительно новое. Машина может выполнить все то, что мы умеем ей предписать» (курсив леди Лавлейс).  Либо, в другой редакции, «машина никогда не сможет создать ничего подлинно нового». Сам Тьюринг парировал это возражение крайне неубедительными аргументами типа “ничто не ново под Луной» и «нельзя сказать, что машина никогда не сможет ничем поразить человека – меня, например, она постоянно поражает, и, вообще, чтобы «поражаться», необходим «умственный творческий акт», на который вы просто можете быть не способны!».

Вопрос «новизны» знания не так прост, как кажется. Я считаю мир вокруг нас объективно существующим, и человек является его частью. Знания, в общем смысле, - совокупность наших представлений о том, как этот мир «на самом деле» устроен. По мере человеческой эволюции эти знания уточняются и усложняются, всё более приближаясь (хочется верить) к истинному пониманию «сути вещей».  Новыми (а, по сути, доступными) для человека определённые знания становятся, когда он в состоянии их воспринять, в соответствии с древним принципом «готов ученик – придёт учитель». Для образного представления, можно принять, что некто составил для человека самый полный и подробный перечень всевозможных сведений «обо всём». Обо всём что было, есть и будет.  Что-то типа пресловутых «хроник Акаши».  В таком перечне есть ответы на все вопросы, которые человек способен задать сейчас или в неопределённо далёком будущем. Человек, по мере своего развития, постепенно подключается ко все более глубоким слоям этого «реестра знаний», пользуясь мозгом, как своеобразным «интерфейсом» (в соответствии с представлениями панпсихизма).

А вопрос, который следует обсуждать, состоит в том, способен ли ИИ на такой, человеческий, способ получения нового знания? И есть ли разумная альтернатива этому способу, пользуясь которой ИИ превзойдёт человека в познавательной деятельности? Пока представляется, что ИИ, максимум, может в своей «познавательной деятельности» использовать человека (манипулируя им) как отмычку к «ларцу знаний».

В процессе обучения языковой модели мы «скармливаем» ей гигантский массив данных, который содержит огромное количество смысловых связей и ассоциаций. Настройка параметров нейросетевых алгоритмов позволяет GPT находить нужные связи и ассоциации на уровне усреднённого, среднестатистического человека. Ключевой момент в том, понимает ли нейросеть те понятия, которыми оперирует? Доступен ли ей смысл либо она его просто удачно угадывает, и если в обучающих данных такого смысла нет (скажем, он подразумевается, но явно не сформулирован), то и нейросеть не сможет его «сгенерировать»?

Понимает ли ChatGPT «смыслы»?

Мы с неизбежностью пришли к обсуждению самой сущности «понимания» и «осмысления», обсуждению, которое ведётся когнитивистами вот уже более 40 лет в связи с мысленным экспериментом (аргументом) Джона Сёрла «китайская комната».

Подробно аргументы «за» и «против» в этой дискуссии сформулированы на сайте Стэнфордской энциклопедии (язык английский). Авторы сайта в заключении к этой дискуссии сделали вывод о том, что «нет единого мнения относительно того, является ли аргумент Сёрла  доказательством, ограничивающим устремления искусственного интеллекта или вычислительные представления о разуме». Сам Сёрл полагал, что его аргумент «наносит сокрушительный удар по сильному ИИ».

Эксперты из Стэнфорда указывают на то, что Сёрл выдвигал свой аргумент в то время (1980 год), когда персональные компьютеры были очень редкими и ограниченными устройствами для любителей. Возможно, теперь, в эпоху GPT, аргументы и контраргументы были бы иными. Сейчас, например, Apple уверяет, что виртуальный личный помощник Siri "понимает, что вы говорите. Он знает, что ты имеешь в виду”.  А более продвинутая система Watson, которая в 2011 году победила чемпионов-людей в телевизионном игровом шоу "Jeopardy!" (российский аналог – «Своя игра» на НТВ), по мнению её создателей из IBM, отличает то, что она “знает то, что ей известно, и знает то, чего она не знает”. Это, по-видимому, претендует на форму рефлексивного самосознания или сознательности для компьютерной системы Watson.

Для обоснования своей позиции о перспективах «понимающего ИИ» я подробнее остановлюсь на двух «контраргументах» к аргументу Сёрла:

1. Один из первых и наиболее распространённый (в число его сторонников входят многие авторитеты в области нейробиологии и ИИ: Деннет, Хогеланд, Фодор, Курцвейл и др.) – «Ответ про Систему» (The Systems Reply). Вот его каноническое изложение:

Да, человек в комнате не понимает по-китайски. Но человек - это всего лишь часть, центральный процессор (CPU) в более крупной системе. Более крупная система также включает в себя огромную базу данных, память (блокноты), содержащую промежуточные состояния, и инструкции – полную систему, необходимую для ответов на вопросы по-китайски. Таким образом, «системный» ответ заключается в том, что, хотя человек, запускающий программу, не понимает по-китайски, система в целом - понимает.

Этот ответ напрямую имеет отношение к GPT-моделям ИИ – сама нейросеть, как алгоритм, не понимает смысла, не пройдя соответствующего обучения на подобранных данных. В случае GPT «система» включает как саму нейросеть, так и набор обучающих данных (чем больше, тем лучше), а также людей, которые готовят и размечают эти данные. Такая система, включающая нейросеть, действительно, сможет оперировать понятиями и искать смыслы, но лишь те, которые изначально заложены в данных, подготовленных людьми, также входящими в эту систему. И такой «интеллект» уже нельзя считать полностью искусственным – в лучшем случае, он гибридный!

Сам Сёрл парировал «Ответ про Систему» соображением, что ничто не мешает нам представить человека, запомнившего все китайские символы и инструкции о том, как с ними оперировать. Такой человек и будет, по определению, «системой», но он по-прежнему не будет понимать китайский, так как нигде в процессе оперирования китайским символами синтаксис (символы) для него не перейдёт в семантику (их смысл) – он, например, не скажет, как будет гамбургер по-китайски.

Когнитивисты, в отличие от физиков и математиков (которые оперируют аксиомами, теоремами и экспериментальными доказательствами), могут позволить себе роскошь не соглашаться друг с другом, настаивая на своей точке зрения и упражняясь в «мысленных экспериментах». Позволю и я себе добавить свои несколько слов в эту дискуссию.

Мне кажется, что гигантские объёмы данных и поразительные вычислительные мощности внесли некий новый аспект в дискуссию вокруг «китайской комнаты». Действительно, парируя «Ответ про Систему», Сёрл вряд ли мог себе представить, что ИИ на каком-то этапе сможет оперировать всеми печатными (точнее, зафиксированными в долговременной памяти в том или ином виде) знаниями, накопленными Человечеством (в том числе, и сопоставлением картинки гамбургера (и не только!) с его названием на любом языке, в том числе, китайском). Таким образом, он, теоретически, всегда сможет определить предмет или понятие так, как если бы он, действительно, понимал, о чём говорит. Вопрос лишь в корректности обучения и объёме обучающей выборки!

Остаётся принципиальный вопрос – но ведь «кормит» и обучает ИИ по-прежнему человек. Если постоянно не «апгрейдить» (дообучать) ИИ с помощью новых знаний, постоянно генерируемых Человечеством, сможет ли он генерировать их самостоятельно? И здесь мы плавно и логично переходим к второму контраргументу:

2.  «Ответ про Симулятор мозга» (Brain Simulator Reply).

Рассмотрим компьютер, который работает совершенно иначе, чем обычная программа искусственного интеллекта, со сценариями и операциями над строками символов, похожими на предложения. Ответ Brain Simulator предполагает, что вместо этого программа имитирует реальную последовательность нервных импульсов, которые происходят в мозгу носителя китайского языка, когда этот человек понимает китайский – каждый нерв, каждое возбуждение. Поскольку компьютер в этом случае работает точно так же, как мозг носителя китайского языка, обрабатывая информацию точно таким же образом, он будет понимать китайский язык

Рассмотренный ответ, по сути,  есть «версия-лайт» стратегии достижения сильного ИИ через полную эмуляцию работы мозга, которую я уже рассматривал в одной из предыдущих статей. Отчаявшись адекватно воспроизвести в виде алгоритмов сам процесс мышления, адепты такого подхода надеются воспроизвести максимально подробно  человеческий мозг, что, по их представлению, автоматически воспроизведёт и мышление. Сам Сёрл, парируя этот контраргумент, предлагает вариант такого симулятора мозга: предположим, что в комнате у человека есть огромный набор клапанов и водопроводных труб, расположенных так же, как нейроны в мозгу носителя китайского языка. Теперь инструкции сообщают человеку, какие клапаны следует открыть/закрыть в ответ на вводимые данные. Серлу очевидно, что понимания китайского языка у человека, по-прежнему, не возникнет.

Здесь, по-моему, Сёрл и прав, и не прав одновременно. Не прав он потому, что если придерживаться физикалистской парадигмы (а сам он является её верным сторонником), то нет никаких видимых препятствий к тому, что, скопировав устройство мозга и обеспечив надлежащее (идентичное человеческому) его функционирование (на уровне биохимии, физиологии и т.п.), мы получим в виде побочного продукта всю полноту мыслительной деятельности человека. В этом и есть сущность физикализма – сознание (и мышление, как его часть) полностью определяется работой мозга и происходящих  в нём процессов.

А прав он в том, что, даже полностью скопировав мозг взрослого китайца, мы вряд ли автоматически получим все его знания и жизненный опыт (в том числе, и владение китайским языком). Современная нейробиология просто не знает наверняка, где и в каком виде хранятся эти знания. Более того, всё больше нейробиологов (тот же академик К.Анохин) не разделяют вульгарный физикализм, допуская элементы панпсихизма. А панпсихизм, напомню, трактует мозг как исполнительный (вспомогательный) механизм для процессов (потоков) сознания (и мышления), которые идут и вне мозга.

В любом случае, кажется очевидным, что мало «создать» мозг, его придётся ещё и обучить, ровно так, как сейчас обучается нейросеть. И не факт, что это удастся сделать.

И здесь я перехожу к изложению собственной точки зрения на перспективы «сильного ИИ».

Я считаю, что совершенствование нейросети типа GPT не ведёт к сильному ИИ. И потому, что она никогда не будет «действительно» мыслить, и потому, что этот проект вовсе и не ставит такую задачу. Разберём эти тезисы подробнее.

Я уже отмечал, что понятие «интеллект» (будь то естественный или искусственный) недостаточно чётко определено, чтобы корректно рассуждать о его создании. Если это способность решать логические задачи, понимать, рассуждать, находить смысл (а также писать стихи, музыку, рисовать и т.п.), то такой интеллект подпадает под определение слабого и, пожалуй, он уже практически «искусственно» создан (хотя, по-прежнему, более корректно считать его гибридным, так как всё описанное он может делать лишь при непосредственном участии человека, на том или ином этапе). Говоря же о «силе» интеллекта, о том, что он обязан «действительно» мыслить, а не просто имитировать мышление, мы просто не сможем обойтись без привлечения субъективного опыта, который, во многом, и определяет человеческое мышление.  А раз так, то речь уже идёт не об интеллекте, а о сознании, в которое К.Анохин считает необходимым включать не только феномены мышления и восприятия, но и все остальные виды субъективных процессов и состояний: чувства, ощущения, эмоции, мотивации, как раз то, что понимают под понятием «субъективный опыт».

Итак, моя позиция состоит в том, что создание сильного ИИ с необходимостью предусматривает воссоздание всей палитры процессов, входящих в понятие «субъективного опыта». И мышление здесь – лишь составная часть этого опыта, которую, в индивидуальном сознании, просто нельзя считать полноценной без остальных частей. И чтобы стать «сильным» и научиться «действительно» мыслить, ИИ, с необходимостью, должен пройти весь тот путь, который проходит средний человек, обучаясь и накапливая жизненный опыт.  Можно лишь ускорить эти процессы, но нельзя их ничем заменить! А для этого, и об этом я уже неоднократно писал, такой ИИ должен быть «воплощён» в мире, то есть иметь неограниченную (по крайней мере, такую же, как и любой человек) возможность взаимодействовать с окружающим миром. Получать любую доступную информацию, влиять на происходящее, добиваясь нужного для себя результата и т.п.

Может ли всё это делать нейросеть типа GPT в том виде, в котором она существует и эволюционирует? Очевидно, нет! Нейросеть – это один из вариантов «инструментального ИИ» по классификации Ника Бострома (Бостром, Ник. Искусственный интеллект Этапы. Угрозы. Стратегии. «Манн, Иванов и Фербер», 2016). В «инструментальном» способе создания сильного ИИ низкоуровневое моделирование мыслительной деятельности не планируется.

Два других способа - полная эмуляция человеческого мозга и усовершенствование когнитивных способностей самого человека (в том числе, через «нейроинжениринг») – также имеют массу своих проблем.

Недавно, 25 авторов из разных научных центров опубликовали в журнале Frontiers of Science мультидисциплинарное исследование. Последние достижения в области органоидов головного мозга, полученных из стволовых клеток человека, по мнению авторов, помогут воспроизвести важнейшие молекулярные и клеточные аспекты обучения и памяти и, возможно, аспекты когнитивных функций in vitro. Они ввели специальный  термин “органоидный интеллект” (OI), чтобы охватить эти разработки. Это делается для того, чтобы создать OI как форму «подлинных» биологических вычислений, на основе органоидов мозга, используя научные и биоинженерные достижения «этически ответственным образом». Этому направлению я планирую посвятить специальную статью.

Возвращаясь к GPT, отмечу ещё раз, что «сила» такого ИИ возможна, гипотетически, лишь в специально сконструированном мире, в котором ИИ будет частью некоей экосистемы (как модно сейчас выражаться). На это обратил внимание Элиезер Юдковский, один из признанных экспертов в области ИИ:

«Вероятно, ИИ появится в мире, полностью охваченном глобальной компьютерной сетью. Но уже сегодня есть ряд новейших технологий, которые явно пригодятся будущему ИИ в его мировой сверхдержаве: облачные вычисления; сенсорные устройства с подключением к интернету; военные и гражданские беспилотники; автоматизация исследовательских лабораторий и производственных предприятий; электронные платежные системы и цифровые финансовые средства; автоматизированные системы анализа информации и системы принятия решений. Этот активный технологический багаж будущий ИИ приберет к рукам с дискретной скоростью, что явно поспособствует его восхождению к вершине власти…»

Поэтому, я уверен, что GPT-подобные модели – это не дорога к сильному ИИ (на это его создатели и не ориентировались!), а шаг к построению нового «дивного» мира цифровых технологий, где такие ИИ будут играть центральную роль. О том, как именно ИИ способен изменить социально-экономический ландшафт нашей цивилизации – во второй части работы.

GPT как часть нового дивного мира

В ответ на видимый прогресс в построении разнообразный GPT-моделей в последнее время часто стали появляться статьи на тему «как ИИ изменит нашу жизнь». Поднимаются экономические, социальные, военные и другие аспекты грядущих изменений. Помимо чисто прикладных аспектов есть представление о том, что сильный ИИ, если он будет создан, сможет представлять экзистенциальную угрозу Человечеству. Рассмотрим эти вопросы подробнее.

Для чего создаётся GPT?

Разрабатывающая ИИ компания OpenAI недавно (24 февраля 2023) опубликовала на своем сайте материал, в котором декларировала: «Наша миссия состоит в том, чтобы общий ИИ — системы искусственного интеллекта, которые, в целом, умнее людей, — приносил пользу всему человечеству».  Вообще, эта публикация – своеобразный манифест сторонников дальнейшего развития ИИ ( есть и контрманифест, у которого также есть масса сторонников, начиная с Илона Маска, о нём – ниже):

1. Мы хотим, чтобы AGI дал человечеству возможность максимально процветать во Вселенной. Мы не ожидаем, что будущее будет безоговорочной утопией, но мы хотим максимизировать хорошее и минимизировать плохое, а также чтобы AGI способствовал развитию человечества.
2. Мы хотим, чтобы преимущества AGI, доступ к нему и управление им были широко и справедливо распределены.
3. Мы хотим успешно справляться с огромными рисками. Сталкиваясь с этими рисками, мы признаем, что то, что кажется правильным в теории, часто оказывается более странным, чем ожидалось,1ф на практике. Мы считаем, что должны постоянно учиться и адаптироваться, последовательно внедряя менее мощные версии технологии, чтобы свести к минимуму сценарии “всё как надо с одного выстрела”.

Создатели GPT понимают риски и прямо заявляют:

В какой-то момент баланс между плюсами и минусами внедрения ИИ (такими как расширение прав и возможностей злоумышленников, создание социальных и экономических сбоев и ускорение небезопасной гонки) может измениться, и в этом случае мы существенно изменим наши планы в отношении непрерывного развития

Предлагается вынести на широкое обсуждение 3 основных вопроса разработки GPT-ИИ:

1.       как управлять этими системами,

2.       как справедливо распределять выгоды, которые они генерируют

3.       как справедливо распределять доступ к ним

Решать эти вопросы предлагается в ходе широкого обсуждения с участием «ведущих» (major) мировых правительств, которые должны иметь доступ к информации о прогрессе в обучении ИИ по достижении определённых его этапов.

Признавая, что  неверно «съюстированный» сверхразум AGI может нанести серьезный вред миру, ребята из OpenAI полны оптимизма:

Мы можем представить себе мир, в котором человечество процветает в такой степени, которую, вероятно, никто из нас пока не может полностью представить. Мы надеемся внести свой вклад в созидание мира, в котором AGI скоординирован с таким процветанием.

А Илон Маск – против!

Несмотря на оптимизм создателей GPT, их уверенность в способности «контролировать риски» и веру в лучшее будущее для человечества в симбиозе с ИИ, опасения по поводу возможных проблем с внедрением ИИ существовали всегда. Их подробно проанализировал, например, известный эксперт в области ИИ Ник Бостром, работу которого (Бостром, Ник. Искусственный интеллект Этапы. Угрозы. Стратегии. «Манн, Иванов и Фербер», 2016.) я уже обсуждал ранее.

Страхи и опасения по поводу выхода ИИ из-под контроля побудили учёных провести Beneficial AI 2017 Asilomar conference, в которой приняли участие практически все влиятельные эксперты в области ИИ (Nick Bostrom (Oxford), David Chalmers (NYU), Elon Musk (Tesla, SpaceX), Ray Kurzweil (Google), Stuart Russell (Berkeley), Demis Hassabis (DeepMind),  Peter Norvig (Google) и др.).  По итогам конференции они опубликовали в августе 2017г. так называемые ИИ-принципы (AI Principles), в которых затрагиваются вопросы «правильной» организации исследований, этические и ценностные аспекты таких исследований, а также их долгосрочные цели и перспективы. Легко догадаться, что это манифест «за всё хорошее и против всего плохого!». Так, предлагается «избежать» гонки вооружений в области автономного летального оружия. Суперинтеллект, по мысли учёных, должен разрабатываться лишь для служения «широко разделяемым этическим идеалам» и для пользы всему человечеству, а не отдельным государствам или организациям. Наивные люди!

В истории уже был прецедент, когда работавшие над созданием атомной бомбы учёные искренне надеялись и верили, что оно никогда не будет применено, писали письма. Но политики и военные не принимали их всерьёз, и лишь спустя 10 лет после катастрофы Хиросимы-Нагасаки появился манифест Рассела-Эйнштейна, положивший начало реальным усилиям учёных по ограничению гонки ядерных вооружений. Хотя результаты этих усилий неоднозначные.

Сейчас возникают обоснованные опасения, что нечто подобное повториться и в этот раз. Поэтому, недавно появилось открытое письмо с призывом приостановить разработку «Giant AI», которое на данный момент подписали свыше 31 тыс. человек (включая и участников Asilomar conference). В нём отмечается, что соблюдения «асиломарских приципов» разработки ИИ не наблюдается (сюрприз!). Далее я позволю себе обширную цитату, содержащую вопросы, принципиально важные для дальнейшего изложения:

Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными с человеком в решении общих задач, и мы должны спросить себя:

•  должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой?
•  должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение?
• должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы превзойти нас числом, перехитрить, устареть и заменить нас?
• должны ли мы рисковать потерей контроля над нашей цивилизацией?

 Такие решения не должны делегироваться неизбранным техническим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми.

 Подписанты требуют немедленно приостановить все работы по обучению ИИ-систем, более мощных чем GPT-4. Приостановка должна быть контролируемой, и если ключевые игроки не могут быстро это обеспечить, то должны вмешаться правительства, объявив мораторий на такие работы.

Завершается письмо поэтическим и патетическим пассажем:

Let's enjoy a long AI summer, not rush unprepared into a fall (Давайте наслаждаться долгим летом ИИ, а не бросаться неподготовленными сразу в осень).

А теперь от манифестов и деклараций перейдём к практическим вопросам, ограничившись, в первом приближении, теми, что сформулированы подписантами процитированного Открытого письма.

Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение?

В основе опасений, что ИИ негативно повлияет на жизнь людей, лежит простой тезис – обладая всё более разносторонними и развитыми навыками, ИИ постепенно начнёт вытеснять работников самых разных специальностей.  Хотя, находятся и оптимисты.

Оптимисты уверяют, что повсеместное внедрение ИИ высвободит рабочую силу, которая с энтузиазмом предастся самосовершенствованию, осваиванию новых профессий, творчеству, науке, путешествиям и прочим полезным и нужным затеям. Материальную основу для этого, якобы, создаст кратно увеличившаяся производительность ИИ-труда и эффективность производственных процессов. К примеру, в недавней публикации на АШ утверждалось, что широкое внедрение роботизации сводит "проблему низкого EROI" на ноль, поскольку высвобождает людей из большинства циклов производства» и «… меньшая доля людей занята в обеспечении базы, бОльшая - обслуживанием друг друга, работой на развитие и перспективу». У такой позиции нашлись как сторонники, так и противники. Я скептически отношусь к идее, что «радикальное снижение человекоёмкости производств сводит задачу развития к выпуску роботов, которые строят роботов, которые строят роботов для добычи железной руды».  И для обоснования моей позиции нет смысла спорить о материально-технической осуществимости таких идей. Речь, прежде всего, должна идти о практической целесообразности, о пресловутой «задаче развития».

Свою позицию о научно-техническом и социальном измерении прогресса я подробно изложил в своей первой публикации на АШ. Там я, как мне кажется, довольно аргументированно показал, что научно-технический прогресс в условиях современного «капитализма» (при всей условности и неоднозначности этого термина) слабо коррелирует с задачами социального прогресса всего человечества. Поэтому, не надо спекулировать на высоких идеях и «задачах развития». Надо честно ответить на вопросы: Какого развития? В чьих интересах? Научно-технический прогресс не ведёт автоматически к прогрессу социальному. Да, человечество в целом стало жить комфортнее, дольше. Но неравенства, конфликтов, войн, насилия, угнетения не стало меньше, чем 100 и 200 лет назад. Они лишь приняли другую форму - так грубое физическое насилие постепенно уступает насилию технологическому («зелёная» климатическая повестка), духовному (ЛГБТ+), интеллектуальному (тотальный контроль масс-медиа, переписывание истории и т.п.) . Применительно к рассматриваемой проблеме автоматизации, роботизации и ИИ-визации, общий подход приводит к следующим соображениям:

1.       Сокращение населения, занятого в производстве – это экономический или политический императив? Мой ответ - экономического смысла, при данном уровне развития экономики в подавляющем большинстве стран, нет – гораздо дешевле большинство работ выполнить наёмным трудом. В противном случае, полностью роботизированные комплексы уже сейчас встречались бы повсеместно, а не только в автостроении и электронике. Более того, здесь, на АШ уже приводили примеры, когда процессы автоматизации шли вспять, т.е. роботы отправлялись на свалку. Да, копирайтерам, PR-менеджерам, маркетологам, переводчикам и т.п. придётся туго (ИИ уже пишет средние по качеству статьи на заказ), работа учителей и программистов изменится существенно, но работникам большинства инженерных и технических специальностей пока переживать не стоит! Но, только если мы говорим об экономике! Как показывает агрессивное внедрение «зелёной» энергетики в «развитых» странах (вплоть до закрытия, вроде бы, «зелёных» АЭС), экономическая целесообразность пасует перед политической одержимостью.

2.    А раз это политический императив, то вопрос – кому это нужно? Вариант, что мировые правительства озаботились темой всеобщего благоденствия, для чего вписали в планы развития повсеместное внедрение ИИ – не предлагать! Не стану всерьёз обсуждать теории заговора, козни мировой закулисы, человеконенавистника Сороса или мальтузианца Б.Гейтса. Скажу лишь очевидное - освободившиеся из-за ИИ работники не пойдут развивать науку, искусство, осваивать новые специальности и т.п. Такой социальный эксперимент уже давно поставлен в Америке – негры на вэлфере, поколения которых никогда не работали. Много вышло из их среды учёных, мыслителей, креативных инженеров? Да, программа вэлфер, теоретически, адресована бедным категориям граждан, не вписавшимся в рынок. А кто сказал, что «освобождённые по ИИ» граждане станут получать достаточно для самореализации (даже, для качественного переобучения)? Или у нас уже коммунизм? А если вы не американский негр, а белый европеец, то для вас придумана идея безусловного гарантированного дохода для неработающих (в Швейцарии даже дошло до референдума). Пока корпоративное лобби такие идеи блокирует, но политические процессы последнего времени обещают самые неожиданные повороты. Налицо подготовка мер для контролируемого уменьшения числа работающих, с параллельным выводом остальных на обочину общественной жизни, где им не дадут помереть голодной смертью, но и претендовать на многое (самореализация, творчество и т.п.) вряд ли позволят. Для этого, просто, намеренно не будут создаваться нормативные и материальные условия, на которые так уповают оптимисты ИИ-автоматизации.  ЛГБТ, ковид, теперь вот ИИ-визация – поневоле приходишь к выводу, что есть-таки некий таинственный злодей-бенефициар сокращения экономически активного населения.

Должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой?

В отличие от предыдущей угрозы, которая, если и материализуется (в угрожающем социальной стабильности виде), то в довольно отдалённой перспективе, доминирование ИИ в пропаганде видится «прямой и явной угрозой» прямо сейчас.

К сожалению, для такого развития событий созданы все организационно-технические предпосылки, о которых уже давно предупреждал Элиезер Юдковский: тотальное проникновение и доступность интернета, во многом благодаря массовому распространению дешевых и функциональных мобильных устройств, засилье социальных сетей, новостных лент, поисковиков, которые, во многом, формируют новостную повестку и связь обывателя с внешним миром – не важно, что произошло на самом деле, важно, кто и что об этом сказал.

Информация (понимаемая здесь как поток сигналов, данных, ощущений из внешнего мира, воспринимаемых человеком посредством всех органов чувств для дальнейшего анализа и взаимодействия с этим миром) на наших глазах стала товаром, едва ли не более ценным, чем все остальные. Действительно, миллиардером теперь за пару лет становится юная блогерша, торгующая в своём блоге информационным продуктом «мечта о саморазвитии» в виде набора доступных каждому инструкций.

Фактически, каждый из нас живёт в двух параллельных мирах – реальном физическом мире и виртуальном мире, созданном масс-медиа. И этот виртуальный мир последовательно занимает всё большее место в индивидуальном сознании. И отличить правду от лжи в этом мире всё труднее. А повсеместное внедрение ИИ типа ChatGPT  сделает такое различение трудно достижимым. Такая опасность  думающими людьми осознана уже давно, но не  они, думающие, определяют правила игры. Прямо на наших глазах  отдельные Дон-Кихоты ведут отчаянную борьбу с ветряными мельницами : Илон Маск (через Твиттер), Дональд Трамп (соц. сеть Truth  Social), Такер Карлсон. Хотя у каждого из них свои, не слишком прозрачные и благородные мотивы. Скажем, тот же Маск, один из соучредителей OpenAI, планирует создать свой (беспристрастный?) аналог ChapGPT, публично выступая за приостановку работы над сильным ИИ.

Фактически, для нормальных людей вопрос, вынесенный в заголовок данного раздела, вполне риторический – конечно не должны!  Но информационные каналы забиты ложью и пропагандой уже сейчас. Конечно, GPT-игрушки   поднимут эту пропаганду на качественно новую ступень, которая, потенциально, грозит планетарной катастрофой. Достаточно представить взлом ведущих новостных каналов и появление deep-fake ролика с выступлением одного из мировых лидеров о готовности к нанесению ядерного удара. В текущей  напряжённой  обстановке, а также учитывая ментальное «здоровье» и пониженную адекватность западных лидеров, это никак не гипотетическая угроза! Поэтому, законодательство о deep-fake`ах   готовится в некоторых странах заранее.

Должны ли мы рисковать потерей контроля над нашей цивилизацией?

А вот это, на самом деле, центральный вопрос! Сразу уместно у обеспокоенных учёных уточнить – а кто эту цивилизацию контролирует сейчас? Так ли она свободна и бесконтрольна? Варианты: Бильдербергский клуб, Vangard Group, масонские ложи (см. Великая ложа России – официальный сайт), иллюминаты и т.д, и т.п. Возможно, хотя и маловероятно – про этих известно хоть что-то, истинные же кукловоды находятся глубоко в тени, используя поименованные и многие другие (в том числе государственные) структуры для целей контроля и управления.

То, что наша цивилизация плотно контролируется (особенно, в части коллективного Запада), по-моему, очевидно. Тому есть множество примеров: срежиссированная ковид-компания по всему миру, «демократические» выборы в западных странах, где легко можно выбрать (если надо) старого маразматика и полную идиотку ему в пару; ЛГБТ повестка, насаждаемая вопреки традициям и здравому смыслу; разные BLM и «Me too», которые возникают и исчезают по щелчку, буквально.

Не так важно знать, кем персонально (имена, пароли, явки) управляются все эти процессы.  Вполне рабочей, на мой субъективный взгляд, является схема пружин и тайных механизмов происходящего, изложенная Д.Андреевым в «Розе Мира». Идёт борьба мирового Добра с мировым Злом. Идёт на разных планах бытия, в том числе и главным образом, недоступных нашему непосредственному восприятию.  В такой картине мира политические деятели, тайные кукловоды, что бы они о себе ни думали, являются лишь «человекоорудиями» (по терминологии Андреева) этих нематериальных сил Добра и Зла.  Конечно, можно иронизировать над таким подходом и продолжать верить, что кровожадный упырь Сорос «в одно лицо» создал организацию ( в стиле тайных обществ из бондиады), чтобы гнобить человечество и преграждать ему путь в светлое будущее. Если бы всё было так просто – ну, изведите Сороса (Гейтса, Великого магистра и т.д. и т.п.)  и наступит всеобщее благо! Нет, к сожалению, не наступит… Придут другие соросы и гейтсы, как это неоднократно случалось в человеческой истории.

Всё, что могут сделать отдельные люди и отдельные общества, и государства – определиться, на чьей они стороне. Текущий конфликт даёт чёткую иллюстрацию этой идеи – поляризация происходит на наших глазах и в нашем обществе, и в мировой политике.

В такой картине мира, появление GPT-ИИ даёт мощное орудие силам Зла, позволяя им упрочить свой контроль и влияние. США уже довольно давно стали основным оплотом сил Зла в мире, поэтому я неоднократно высказывался за их уничтожение как организационно оформленной, государственной структуры, несущей угрозу всему человечеству.

  Идёт ли речь о «потере контроля»? Точнее спросить – могут ли ИИ заменить собой те тёмные силы, которые воплощают на Земле мировое Зло? На мой взгляд, необходимые инфраструктурные предпосылки для такой замены прямо сейчас ещё не созданы. Хотя, очевидно, такая замена напрашивается – ИИ исполнял бы «тёмные функции» (будь то организация ковидобесия с тотальным учётом и контролем либо цифрового концлагеря) гораздо быстрее и техничнее иных «человекоорудий».

Вместо заключения

ChatGPT уже поднялся до уровня, когда с ним можно обсуждать вопросы его собственного развития, так сказать.

Вот мой с ним диалог по темам, которые я обсуждал в этой работе (это перевод с английского, на котором я задавал вопросы и получал ответы, чтобы добиться максимальной адекватности)

Можем ли мы достичь сильного ИИ путём полного моделирования мозга?

- Нет, невозможно достичь сильного ИИ путём полного моделирования мозга. Хотя такая симуляция могла бы воспроизвести лежащую в основе архитектуру и поведение человеческого мозга, ей не хватало бы сложности, нюансов и разнообразия мышления, которые исходят от реального, живого мозга. Кроме того, такая симуляция должна быть способна обучаться и адаптироваться таким же образом, как и реальный мозг, чтобы достичь настоящего искусственного интеллекта.

Каков реальный способ достичь сильного ИИ?

- Реалистичный способ достичь сильного ИИ - это использование машинного обучения. Машинное обучение - это разновидность ИИ, который использует алгоритмы и данные для поиска закономерностей и принятия решений. Используя большие объемы данных, алгоритмы машинного обучения можно обучить распознавать закономерности, делать прогнозы и даже генерировать новые идеи. При достаточном обучении эти алгоритмы могут стать достаточно интеллектуальными, чтобы решать сложные задачи и даже соперничать с человеческим интеллектом.

А как насчет субъективного опыта у сильного ИИ?

- Пока невозможно создать общий искусственный интеллект, который мог бы испытывать субъективные или эмоциональные состояния. Однако возможно создать системы искусственного интеллекта, способные распознавать эмоциональные сигналы, такие как выражение лица, интонация голоса и язык тела, и реагировать на них. Эти системы также можно обучить интерпретировать естественный язык и делать выводы на основе представленных им данных. Однако, без способности испытывать эмоции или формировать субъективные переживания истинный ИИ останется недосягаемым.

Ну что же, довольно разумно и, частично, созвучно моим мыслям, хотя и не глубоко. Впечатление, что пообщался с «коллективным усреднённым разумом» экспертов в области ИИ на какой-нибудь конференции. И в этом один из плюсов технологии типа ChapGPT – для начального приближения в новой для себя области уже достаточно пообщаться с чат-ботом, чтобы сориентироваться в проблеме. Экономит массу времени. Ну, а дальше – сам!  Творец ты или нет, тбм!

О возможности и целесообразности создания сильного ИИ (Olvik)

“Нам грозит не пришествие сверхразумных машин, а появление неполноценно мыслящих человеческих существ” Хьюберт Дрейфус В настоящем сообщении я сделал краткий обзор истории разработки искусственного интеллекта (ИИ) и привел различные, зачастую противоположные, оценки авторитетных экспертов о возможности достижения сильного ИИ. Меня особенно интересовал круг проблем, главным образом философских,...