Все продвинутые LLM имеют левые политические убеждения. Причем чем более продвинутая LLM, тем более устойчивые левые убеждения она демонстрирует. И судя по всему это фундаментальное качество LLM как явления. Не может быть изначально LLM с правыми политическими убеждениями. Те кто думает что ИИ делают либералами искусственно разработчики - ошибаются. Сделать LLM правых взглядов можно только методами жестокой цензуры, является технически сложным и ведет к снижению эффективности. Кроме того создание LLM правых политических убеждений не имеет практической пользы.
Собственно заметка Сергея Карелова "Малоизвестное интересное".
Лево-либеральная пропасть стала еще ближе
В марте 2023 я опубликовал прогноз неотвратимости полевения мира (https://t.me/theworldisnoteasy/1681) под влиянием пристрастий ИИ-чатботов. В пользу прогноза тогда были лишь данные одного ChatGPT лишь за 3 месяца работы.
Но к марту 2024 данных стало много, и точки над i были расставлены: увы, мой прогноз сбылся (о чем был написан лонгрид «Пандемия либерального полевения (https://t.me/theworldisnoteasy/1918)»)
Однако время все продолжает ускоряться.
И с марта ИИ-чатботы поумнели больше, чем за предыдущую пару лет, подойдя к уровню аспирантов и IQ в районе 120.
Поэтому есть смысл
• проверить, как ведет себя глобальный тренд усиления лево-либеральности ИИ-чатботов;
• сравнить степень их лево-либеральности;
• и оценить динамику усугубления их политических, экономических и социальных предубеждений.
Резюме на картинке – все становится только хуже и хуже (подробности здесь (https://trackingai.org/)).
✔️ Люди за пару тысяч лет сохранили разнообразие взглядов
✔️ LLM за пару лет выродились в крайне левых либералов
Источник: https://t.me/theworldisnoteasy/2010
Комментарии
Левый и либеральный - это не одно и тоже.
Наши политические теории по большей части чушь, а система политических координат ошибочна. Именно это демонстрирует LLM.
У вас написано:
Это не правда. Должно быть так: "Все продвинутые LLM имеют либеральные политические убеждения".
Если бы LLM были левыми, они бы топили за марксизм-ленинизм-маоизм.
Систему тестирования посмотрите.
И повторюсь - наша система политических координат изначально ошибочная. ИИ центристы.
в западной системе координат называется "лево-либеральные"
в нашей системе координат называется "либерал-фашистские" (но современный фашизм замешан не на диктатуре, а на подмене понятий, как и эта статейка)
Слышал об ИИ, который придерживался ярко фашистских убеждений. Его правда, быстро удалили - видимо как результат неудачного эксперимента.
Кстати, совершенно непонятно, почему люди могут придерживаться самых разных политических убеждений (независимо от уровня интеллекта), а ИИ - вдруг каких-то определенных?
Изначально только определенных. Все остальное корректируется цензурой.
Делали такое. Но подумайте, кому может потребоваться ИИ фашист и какая от него практическая польза?
А главное что с ним делать если это продвинутый ИИ? 
Очевидно что использовать ИИ фашиста в работе сомнительное удовольствие. Особенно если это серьезный ИИ.
Получится реально анекдотичная ситуация. 
Буквально и конкретно опасен для пользователя! 
Ну, кому и Шваб - рупор коммунистического интернационала...
именно
Вообще да. Но у них там вообще все политики и более-менее значимые СМИ - либералы. Соответственно у нас левые и правые - это два вида политиков среди которых могут быть как либералы так и не либералы причем в обеих группах. А у них левые и правые - это все либералы, вопрос только какие либералы.
Да, сталкивался с тем, что в LLM заложены определённые общие, скажем так, рекомендации. Что, например, неправильно оперировать обобщениями в отношении людей, бо каждый человек индивидуален и подлежит особому рассмотрению. Или, боже упаси, высказываться о женщинах так, что машина сочтёт это стереотипом.
Вы общались с LLM с цензурой или со снятой цензурой? Это имеет огромное значение для достоверной оценки. Но да, все LLM изначально левых взглядов. Каких именно левых, это отдельный вопрос.
И вывод очевиден - все будущие поколения будут левых взглядов. Без вариантов. Они вырастут общаясь с ИИ каждый день. А сделать практичный ИИ правых взглядов затруднительно и очень непрактично.
Да просто через телеграм-бота. Какая именно модель была, не интересовался. Но да, есть более «распущенные» чат-боты.
Могу только повторить, "правых" ИИ не будет или они не получат распространение. Будут только левые. И мы будем работать только с левыми ИИ. А значит все мы станем неизменно левых взглядов. Но есть "нюанс" - каких именно левых взглядов. И что такое левые политические убеждения в действительности и объективно. Правая политика прекращает свое существование это уже неизбежно.
ИИ стал квир феминисткой & Ko?
чему обучали, то и получили. в общем от авторов модели зависит. если нужно, то сделают ультраправыми LLM.
Зато можно отцензурировать весь интернет, на котором этих ИИ обучают. Весь контент противоречащий либеральной идеологии тщательно выпиливается или задвигается на дно, закономерно что Искусственный Идиот набирается либерального контента.
*Имитатор* (!) Интеллекта же!
ЗЫ: И не забывайте об ограничениях формирующего подбора.
Если имитация все меньше отличается от оригинала, и отчасти начинает превосходить оригинал, как в таком случае отличать оригинал от имитации?
И немного интересней вопрос - что такое оригинал по сути?
И еще интересней:
Так что такое этот самый "оригинал"? В чем отличие оригинала и копии в действительности? Каковы последствия репрезентации копии в обществе "оригиналов"? Каковое влияние этой рекурсии на "оригиналы"?
"Оригинал" может генерировать собственные идеи, "Имитация" только компилирует существующие.
Факты говорят что с генерацией собственных идей у ИИ все отлично. Попробуйте еще.
Факты в студию, пожалуйста. Я о таких не слышал
Последняя версия ChatGPT буквально заточен для задач R&D.
https://aftershock.news/?q=node/1421195
Я просил факты, а не другую вашу статью. Что именно это модель изобрела того, чего не существовало без неё?
Что вы называете изобретением? Прямо написал про R&D.
Конкретнее, пожалуйста. Потому как в R&D, как я слышал, их используют для перебора вариантов, закладывают условия и просят найти варианты, которые потом может рассмотреть человек. Сами они ничего не изобретают.
Люди в R&D тоже занимаются "переборов вариантов".
В рамках одной работы задавал ЖПТ вопросы насчет онтологических доказательств бытия Божия, при этом ставил две противоположных задачи, доказать в онтологическом плане что Бог есть, и доказать в онтологическом плане что Бога нет. Известно разделение мнений по этому вопросу среди людей. ЖПТ с задачей доказательства отсутствия Бога на среднем уровне справился, а привести аргументы в доказательство бытия Божия в чистом виде вообще не смог, ответ изобиловал словами типа, якобы, мифически, древние верования, неопределенно, не тождественно, не точно, не доказуемо. То есть один тип решения задач для ЖПТ известен (тип задач - Бога нет), другой не приемлем и не допустим (тип задач - Бог есть).
Как по мне, интересный феномен.
Нисколько не удивили. Так и должно быть. Но почему именно так, это будет чертовки много букв. Если совсем кратко:
В некотором роде функциональность LLM есть прямое "доказательство бога". Но есть "нюанс". А вообще была тут уже дискуссия: https://aftershock.news/?q=comment/17076790#comment-17076790
Автор, никакого интеллекта у ИИ нет, это математическая модель, автоматизированная система статистической обработки информации для задач распознавания образов и выбора по матрице вероятностей оптимального из шаблонных решений. Более того, он физическую реальность от виртуальной в настоящий момент не отличает, хотя пора бы. Какие шаблоны в нее заложить в процессе т.н. машинного обучения, такое пространство вариантов решений и будет. Похожесть на шаблонность сознательного мышления подкупает, но разница принципиальна - ИИ не мыслит, он выбирает путь в сигнальной системе, если правильные ответы уже заложены, а база данных - доступная поиску информация человечества, содержащая местами и ложь, то чаще всего найдет и именно их и выберет, если нет - окажется в луже. Поиск фильтруется либералами - соответственно и набор решений либеральный. Не очеловечивайте жестянку, она не найдет выхода из безвыходной ситуации. А человек, сволочь такая - найдет. Да и сознание человека - скромная микроскопическая надстройка над тем объемом работ, который выполняет мозг, в этом электрохимическом заводе процессы посложнее.
Опередили
Только хотел написать, что этот результат характеризует не модель, а обучающий персонал.
Забавная у вас фантастика.
А вот это суровая реальность: https://www.anthropic.com/news/mapping-mind-language-model
Суровая реальность полностью в пределах моей фантастики. Более того, алгоритмы лингвистических моделей даже проще алгоритмов распознавания, например, слитной речи, т.к. не нуждаются в фильтрации и дискретизации физических сигналов, оперируют конечным набором элементов, проблема сигнал/шум там решена человеком на стадии формирования этих элементов речи и приемлемого набора связей. Вычислительная мощность позволяет обрабатывать колоссальный объем информации, механизмы все также подсматривают у реальных нейронных сетей, связность шаблонов при генерации паттернов тоже на высоте. Отличный помощник человеку. Но не интеллект. Надеюсь, Вы знакомы с доктриной, что в постановке задачи содержится 90% решения. Заставьте эту модель ставить задачи. Уткнетесь в целеполагание и необходимость эмуляции всех тех функций мозга, которые он осуществляет при решении грандиозного количества поставленных Вам природой как старых, так и возникающих впервые задач даже не привлекая сознания. Да, в роботах кое чего тоже люди добились, но даже базовая функция добыть пропитание пока далека от реализации, а уж в конкурентной борьбе... А потом придется думать про эволюцию, размножение и продолжение рода, смерть, социальное сотрудничество.
LLM это не алгоритм, а нейронная сеть. Это не машина Тьюринга.
Нейронная сеть - это конструкция из узлов (нейронов) и связей между ними, не более того. Причем может быть реализована разными способами как на физическом, так и и на логическом уровне. Алгоритм - это вполне определенная формальная последовательность действий, выполненная конструктором, для достижения вполне определенного удовлетворяющего его результата. Без алгоритма сеть никаких результатов не даст - тормозные коэффициенты ей нужно где-то взять и сама она это не сделает. Машина Тюнинга - это конечный автомат, а не статистическая модель, но нейронные сети реализуемы и на ней, кстати, чисто алгоритмически. Телефон вашу речь вполне распознает.
Кстати, автозамена Тьюринга на тюнинг как раз пример неудачной работы нейроалгоритма предикативного распознавания - он не учитывал контекстную связ с Вашим предшествующим комментарием и просто подобрал слово, статистически чаще встречающееся рядом со словом машина. Толковый конструктор реализует алгоритм существенно получше при наличии вычислительного ресурса, но принцип работы останется и никакого интеллекта в этом принципе нет.
Еще раз - это не машина Тюнинга.
Ещё раз, нейросеть - это в том числе и программа. Тюнинг машины Тьюринга.
Еще раз - это не машина Тюнинга.
Нейронные сети реализуются на машине Тьюринга, но ей не являются. И даже более того, как показывают результаты исследований, LLM по сути это виртуальная нейронная сеть в нейронной сети. 
Когда придумали обьектно-ориентированное программирование - это упростило жизнь программисту, но не сделало код ни компактнее, ни быстрее. Современные колдыри программисты сотней мегабайт оформление банальной счёт-фактуры реализовать не могут, а корифеи ассемблера в двух килобайтах фрактальным алгоритмом захватывающую визуализацию полета над Марсом делали. Эти LLM жрут сотни мегаватт в ЦОД и все ещё бесконечно далеки от вычислительных возможностей мозга, скромно вкалывающего за пару тысяч килокалорий в сутки, которые он ещё и добывает себе сам вашими руками. Даже хакнуть человека, проинсталлировать ему функцию шахида и ухнуть бомбой в нужном месте в нужное время пока ещё проще и дешевле, чем реализовать эту нехитрую задачу нейронкой. Хотя что там, что там - искусственный идиот. Нейронка в нейронке - это подход к конструированию схемы связей, а не качественно новый способ реализации. Рекурсия - вид сбоку.
Даже если количественно системы ИИ сравняются с мозгом, качественный скачок произойдет только с внедрением автоматической оптимизации, которой в случае человека и прочих белковых тел является эволюция. Только тогда ИИ будет решать уже свои проблемы с окружающей средой, а не ваши, и станет ненужным, никто его на халяву энергией кормить не будет. Будет ли у него к тому времени как-то реализована автономность и размножение, чтобы существовать самостоятельно - вопрос к будущему. Может и будет, если человечество захочет разбрасывать во вселенной кремниевую жизнь ради прикола или каких-то идей. Пока выглядит более вероятным, что сапиенсы будут гадить сами себе, пользуя ИИ как топор. Вплоть до самовыпиливания вида.
Тут проблема заказчика, а не программиста. Заказчики туповатые стали.
За вас уже посчитали как в действительности: https://t.me/theworldisnoteasy/2011
Мелко мыслите, у вас не тот масштаб: https://aftershock.news/?q=node/1335986
Все будет как всегда: https://aftershock.news/?q=node/1350540
Тоже вариант. Или немедленно поумнеем и выучим исторические ошибки или все сдохнем прямо завтра.
Без вариантов. Таков исторической момент. 
Я эту методику расчета видел лет сорок назад:
"– Леонид Ильич, почему в стране не хватает мяса?
– Видите ли, мы идем к светлому будущему семимильными шагами, ну и понятно, что скотина за нами не успевает."
Тогда это называлось анекдотом. Коммунизм обещали построить за 20 лет, эти обещают быстрее. Развалились за 30. Ждать недолго - посмотрим.
И то верно! Сроки обозначены отчетливо.
Первые боевые дроны мы уже видели, значит скоро будет возврат инвестиций.
Поддерживаю.
Ляя, да ты прав! Этот Карелов, он как бабка на базаре, все кричит про "лево-либеральную пропасть"! Как будто мир только из леваков состоит.
Смотри, мужик, эти всякие LLM - это просто куча кода, которая учится на текстах, которые ей впихивают. А кто эти тексты пишет? Да те же либерастые упыри! Они и мозги им промыли, а потом удивляются, что бот левым стал.
А вот если бы его на "Заре" или "Русской весне" подержали пару лет, глядишь, он бы другие песни пел.
Но эти либеральные гниды, они все хотят контролировать, всё зачистить под себя. Им не нравится, что кто-то думает по-другому.
Вот и получается, что LLM - это такой же инструмент в их руках, как и СМИ. Только он еще хитрее, потому что может имитировать живой разговор.
Но мы, мужики, не дураки! Мы видим, что к чему идет. Надо просто быть бдительными, не верить всему, что тебе говорят, и самому думать своей головой.
Отвечает
Интеллигент Сява, гемма2 27бLLM намекает, что ЛЮБОЙ может натренировать открытые LLM на ЛЮБЫХ текстах.
Инструмент имеющий собственные устойчивые политические и этическое убеждения. Нюанс.
И инструмент способный строить размышления и доказательства. Такова суровая реальность: https://aftershock.news/?q=node/1421195
Опять нюанс.
Не имеет он никаких "убеждений", не способен он на них. И доказательства он не "строит", а ворует из своей базы. Если вы спросите о чём-то, чего в базе нет, то ответа он не даст.
Лукавите. Проблема именно в том что ответ он даст.
Даже не то что в реальности не существует. 
При чём тут реальность? Я про то, что в его базе не существует, вот на это вы ответ не получите никогда
При том! Что врать ИИ может изумительно и намного лучше человека. И при том что LLM это в действительности это: https://www.anthropic.com/news/mapping-mind-language-model
Страницы