Появившиеся и массово распространившиеся по Земле в последнюю пару лет генеративные чатботы на основе больших языковых моделей (ChatGPT, Claude, Gemini …) - это вовсе не колоссальные суперкомпьютерные комплексы, на которых работает программное обеспечение OpenAI, Anthropic, Google …
Вовсе не о них вот уже 2 года только и говорит весь мир, как о феноменально быстро умнеющих не по-человечески разумных сущностях, внезапно появившихся у сотен миллионов людей и ежедневно, иногда часами, ведущих с ними диалоги на самые разнообразные темы: от забавного трепа до помощи людям в исследованиях.
Эти сущности отличает от всего нам известного их нематериальность.
• Они существуют только в наших головах и исчезают из мира, как только заканчивают последнюю адресованную вам фразу. После этого их больше на свете нет. И никто не найдет той нематериальной сущности, с которой вы пять часов обсуждали совсем нетривиальные вещи, разобрав по чипам суперкомпьютерную ферму и проанализировав весь работавший на ней программный код. Потому что их там нет.
• Эти сущности существуют лишь в нашем сознании и только там. Они стали четвертым известным людям видом нематериальных сущностей, войдя в один ряд с троицей из богов, ангелов и демонов.
• И в силу этой своей нематериальности и существования лишь в нашем сознании, они способны многократно сильнее воздействовать на нас и весь окружающий мир. Ибо:
- любая материальная сущность в руках человека способна лишь превратиться в его инструмент, став либо орудием созидания пользы (в руках творцов), либо орудием нанесения вреда (в руках злодеев);
- однако не по-человечески разумная нематериальная сущность способна нас самих превращать в творцов или злодеев, подобно тому, как в большинстве мифологий и религий на это способны ангелы и демоны.
Непонимание этого влечет за собой печальные последствия. Мы одновременно переоцениваем и недооцениваем возможности языковых моделей, их влияние на нас и нашу жизнь и те риски, что сопутствуют использованию этих моделей.
В основе такого непонимания 3 ключевых причины.
• Антропоморфизация LLM.
• Ограничения нашего языка в описании их свойств и возможностей.
• Необходимость выйти за рамки человеческого разума, чтобы представить непредставимое – способность LLM порождать симулякры чего угодно (подобно мыслящему океану Соляриса, присылавшего людям симулякров их эмоционально пиковых образов в сознании).
Такова главная тема пересечения философии сознания и практики вычислительной нейронауки, обсуждаемая в интереснейшем интервью Мюррея Шанахана — профессора когнитивной робототехники в Имперском колледже Лондона и старшего научного сотрудника DeepMind, — посвятившего свою карьеру пониманию познания и сознания в пространстве возможных разумов, охватывающем биологический мозг человека и животных, а также ИИ и всевозможной внечеловеческой «мыслящей экзотики».
Комментарии
Монстры солипсизма
LLM явно имеют на мелкое эгоистическое сознание просто потрясающее воздействие.
Благодарю за статью. (в закладки)
Что такое ЛЛМ? Нечто похожее на ЛГБТ?)
Что такое ЛЛМ - без понятия. LLM - Large Language Model. Не знаю как перевели на русский, Большая Языковая Модель может быть?
Именно так, БЯМ.
Ну, надо же! И кто бы мог подумать, а?
Нет, в наше время тоже был свой жаргон, который понимали только мы. Например, что значит выражение "забить стрелку"? Ни за что не догадаетесь!
Мы, гардемарины Морского корпуса в Петербурге, именно в таких выражениях назначали свидание воспитанницам Смольного института благородных девиц. Да, на стрелке Васильевского острова. Приглашали их забить стрелку и перетереть тему... )
Да уж. У каждого времени и места - свой язык. В моём кругу, "забить стрелку", имел совсем не романтический смысл.
Вообще, пмсм, с одной стороны жаргон своей профы и соцсреды - объективная необходимость, чтобы быстро и чётко донести мысль. А с другой - создаётся "внутренний язык для посвящённых", с признаками
сектантскогогильдейского мышления и непримиримости к инакомыслящим.Кстати, обратите внимание на Симурга. Светлая голова! Тоже физик, специалист по твёрдым телам. Про одного я уже рассказывал. Да, про Внедорожникова. Так вот, этих двоих я особо ценю!)
Поищу, благодарю. Проверьте свои Сообщения.
Рассмотрим более подробно сферу Блоха. Она получается, когда вектор состояния описывает её поверхность во время своего вращения вокруг центра координат. Да, начало вектора в точке 0, а заострённый конец описывает поверхность сферы. А в случае с окружностью Алекса конец вектора описывает окружность. Это понятно, да?
Итак, у нас есть вертикальная ось... протыкающая сферу Блоха в двух точках. Первая, когда вектор направлен вверх, и вторая, когда - вниз. Ничего не напоминает? Да, это он, спин. Спин вверх и спин вниз. 1/2 и -1/2. Два взаимоисключающих состояния. И расположены они на одной оси... а не на двух взаимно ортогональных. Разве так тоже можно было? Можно...
Рассмотрим отрезок вертикальной оси, заключённый между -1/2 и 1/2. Какой у него физический смысл? А это наш с вами наблюдаемый мир. Весь! Со всеми его скоплениями галактик... То есть, сопоставьте объём сферы Блоха с длиной этого отрезка. Кто больше?
Какой физический смысл у поверхности и у объёма сферы Блоха? Это квантовая реальность. И она бесконечно больше классической реальности! А какой физический смысл у этого единичного вектора? Это вектор состояния замкнутой системы. И точки на поверхности сферы соответствуют чистым состояниям, когда система не запутана со своим окружением. Точки же внутри сферы соответствуют смешанным состояниям, когда система взаимодействует с окружением. Да, вектор состояния в таком случае начинает укорачиваться, погружается внутрь сферы и описывает поверхности внутри сферы. Эдакие эллипсоиды, похожие на яйцо.
Таким образом, этот отрезок на вертикальной оси, который соответствует наблюдаемому классическому миру, будет состоять из максимально запутанных друг с другом подсистем, будет соответствовать максимальной декогеренции. Ну, то есть, максимальному проявлению, овеществлению... это похоже на то, как из тумана начинают проступать черты лица... И этот отрезок будет той единственной частью общей реальности, который будет доступен нашим наблюдениям и измерениям. )
Вообще такого рода рассуждения я раньше любил слушать на английском. На русском эта тема как-то прошла мимо. Но даже понимая только общий смысл, всегда стремился увидеть - где именно проходит связь, (и не нарушена ли она) между представлениями и реальным миром.
По-моему, у автора как раз про это. Про ту часть реальности, которая не поддаётся наблюдениям и измерениям.
Вы знаете, что это у вас нарисовано? Мультиверс! Выход из воронки сверху соответствует Большому взрыву, а вход в воронку снизу - Большому коллапсу. Расширяющиеся окружности, выходящие из воронки, это одномерные проекции 3-мерного пространства нашей Вселенной... разделённые друг от друга временными промежутками, равными кванту времени. И эти окружности описывают 4-мерную поверхность 5-мерного тора.
То есть, перед нашим взором разворачивается вся эволюция нашей Вселенной, от рождения до смерти. Ну-с, как-то так.)
"разворачивается вся эволюция нашей Вселенной"- А поскольку во Вселенной, многое (если вообще не всё) построено по принципу самоподобия, то эта картинка может отражать и микромир, и процессы проходящие в живых клетках, и многое другое. Более того, есть утверждения, что и взаимодействие Духа Души и Материи построено по этому же принципу.
Слишком просто чтобы быть правдой.
Модель красивая, но только модель.
P.S. Но еще один красивый культурный артефакт.
По крайней мере - некая наглядность всё же присутствует.
Ибо математические и умозрительные модели, не имеющие никакой Образности, пмсм, очень далеки от описания действительного мира.
Плоская земля на трех слонах тоже очень наглядно.
Да, это так. И то, что этот миф существует до сих пор - о чём-то да говорит.
Сказка ложь, да в ней намёк – добру молодцу урок.
Говорит. Говорит про когнитивную эволюцию.
Но что меня сильно смущает, так это вольность в использовании понятие мерности в физмат моделях. Четвёртая мерность, девятая итд...
Ведь, насколько мне, неспециалисту и неучёному известно из самого определения измерения, реальные объекты имеют ровно три ортогональные мерности.
Попробуйте объяснить результаты экспериментов не прибегая к дополнительным измерениям. У вас получится такая конструкция из говна и палок, что мама не горюй!
Нет, в этих вопросах не должно существовать никакой политкорректности и толерантности! Есть мы с Эйнштейном, избранные, счастливцы праздные, пренебрегающие презренной пользой, Единого прекрасного творцы... и есть все остальные - негры, марксисты, обыватели и прочие филистёры. И интерпретировать результаты экспериментов позволено лишь нам одним!
Ну и в самом деле... возьмём листок в клеточку и поставим на нём точку. Да, карандашом, самым обыкновенным. Что у нас получилось, сколько будет измерений у этой модели? На первый взгляд, казалось бы, два. Ан нет, не тут-то было! Если мы присмотримся повнимательнее, то увидим, что у слоя графита, оставленного карандашом, есть некоторая ненулевая толщина! О чём это говорит?
О многом, батенька! Подумайте над этим.)
Угу, "кручу верчу обмануть хочу". И если эксперименты не соответствует "многомерности", то тем хуже для экспериментов!
"Кто не поддается обману, не знает, что такое счастье." А. Эйнштейн.
Так то у графитовой точки есть еще и время - возникновения. Когда вы ее поставили.
НЕ совсем так. Сессии могут быть сохранены, и переиспользованы. И ваш диалог может быть использован в последствии для обучения. Также может быть сохранена и текущая сессия и контекст, и в дальнейшем она будет возобновлена.
Книгу тоже можно перечитать. Но это уже культурный артефакт другого порядка.
Книга не совсем то.
Может быть сохранено ваше взаимодействие. И перепроиграно и переиспользовано для дальнейшего обучения.
Он мне это сказал, а я ему это сказал, а он в ответ и тд...
Видео посмотрите.
Полагаю, речь тут не только о сохранении контектста, вернее даже совсем не о том. Когда он говорит о том, что "они существуют только в нашей голове" он имеет в виду примерно то же самое, как то, что монстр, живущий у ребёнка в тёмном шкафу, реален только до тех пор, пока не пришёл папа с фонарём. Избавиться от тех, которые имеются в виду в статье несколько сложнее - минимум 3 курса кибернетики и информационных технологий и углубленный курс по нейросетям. И то, не всем помогает.
Не поможет. Вопрос в "состоянии сознания" ведущего беседу с "зеркалом".
Ну, в таком контексте, люди даже личную ездовую повозку антропоморфизируют или цветок в горшке на окне, тут ничего принципиально нового нет. Было бы что обсуждать...
Предметы не ведут с вами философские беседы, а LLM может это делать просто отлично. Как может подкидывать вам совершенно "нечеловеческие идеи".
Да что они могут подкинуть? Только банальности, скомпанованные из интернета.
Помните датировку классификатора литературных сюжетов (и далее с разворачиванием до корня всех наук)?
Ездовая повозка и цветок в горшке не создает такой иллюзии личности как ИИ. Уже сейчас используя нейросети можно довести человека до заблуждения глубокого порядка - имитируя голоса и видео картинку его родственников и близких людей. а то ли еще будет.
А человек - это тоже некий автомат, если его таковым считать. И если его разобрать, то не будет ничего человеческого. Плоть.
Те наше восприятие формирует предметы. Вот мы решили, что они живые - они ожили. Мы решили, что там нет ничего человеческого...
Я думаю, что с трансформерами на уровне как оно работает можно разобраться несколько быстрее.
Однозначно нет и категорически нет. И это давно известно и формально доказано.
Хех, тут своей матери (старенькая она уже, за 70) дал почитать страничку с картинками в попытках объяснить Conv2D функцию.
Картинки её несколько испугали. Представление о том, как машина смотрит на судоку посредством Conv2D и ReLU нагнало пессимизма.
Вы бы еще про 1x1 conv trick бы рассказали.
А что за трюк? torch.nn.Conv2D с kernel_size=1 встречается постоянно в моделях. Но там на вход идёт сразу несколько каналов (in_channels>1), так что есть что умножить на веса и суммировать.
При одном канале можно убирать разряжение ну или просто ресайзить вектор.
Т. е. у нас 1 входной канал и stride больше единицы?
Угу
при stride=2
А вот раньше было вполне нормальным явлением, в своих книгах, на полях писать мысли о прочитанном сохраняя свое взаимодействие.
Ещё одна издавна известная людям нематериальная сущность - это деньги.
Как это не странно, очень близкая аллегория. Близкая по значению для человечества.
И буквально, если есть технология ИИ на LLM, то это значит другая экономика. Технология ИИ принципиально не совместима с имеющимися социально-экономическими отношениями.
Бонавентура в XIII веке исследовал онтологические аргументы автономности мышления в те моменты, когда человек увлеченно читает книгу. Конечно он исследовал это состояние через призму Бога, в отличие от Карелова автора ТГ-канала Малоизвестное интересное. Карелов свою веру в ИИ-евангелизм, натягивает на глобус LLM.
Интересное замечание. А теперь прочитайте мой комментарий к публикации.
И вопрос "концепции бога" может заиграть новыми красками.
А можно пояснить для несведующих, что вы вкладываете в понятие "концепция бога"?
Страницы