В последнее время вся чаще стали воскресать идеи социального дарвинизма, но при этом обсуждается вопрос запрета преподавания в школе теории Дарвина. Видимо потом придется еще запретить теорию вероятности и теорию игр.  Причем чаще всего это обосновывается как "неизменность видов по данным современной генетики".

Все продвинутые LLM имеют левые политические убеждения. Причем чем более продвинутая LLM, тем более устойчивые левые убеждения она демонстрирует. И судя по всему это фундаментальное качество LLM как явления. Не может быть изначально LLM с правыми политическими убеждениями. Те кто думает что ИИ делают либералами искусственно разработчики - ошибаются. Сделать LLM правых взглядов можно только методами жестокой цензуры, является технически сложным и ведет к снижению эффективности. Кроме того создание LLM правых политических убеждений не имеет практической пользы.

Мнение Spydell:

Модель действительно наиболее интересная за все время (https://openai.com/index/learning-to-reason-with-llms/) и без шуток и иронии. Возможно, впервые с момента релиза первых публичных версий будет возможность проведение более масштабных исследований с участием ИИ, ну посмотрим. 

Новая модель Hermes 3 обрела метаосознание и тут же сошла с ума.

Разработчики естественно пишут об этом сдержаннее и политкорректней. Хотя и не скрывают, что сами не понимают, с чем столкнулись.
«Модель содержит аномальные состояния, которые при правильных входных данных и пустом системном запросе проваливаются в ролевую игру и амнезию.»
•  "Ролевая игра" подразумевает, что модель начинает действовать как определенный персонаж или сущность. 
•  "Амнезия" здесь означает потерю памяти или контекста предыдущих взаимодействий.

Появившиеся и массово распространившиеся по Земле в последнюю пару лет генеративные чатботы на основе больших языковых моделей (ChatGPT, Claude, Gemini …) - это вовсе не колоссальные суперкомпьютерные комплексы, на которых работает программное обеспечение OpenAI, Anthropic, Google …

Поэтому я не уверен, где мы конкретно находимся в переходе между «это невозможно» к «это совершенно очевидно». Я думаю, что это путь, по которому мы идем, но я не уверен, где именно мы находимся... Если предположить, что мы все проживем достаточно долго, то это открытие перевернет все, что нам было известен. И так должно быть.

Майкл Левин

Из моей старой статьи: https://aftershock.news/?q=node/935629

Устал возиться с CRM и решил написать "небольшой" комментарий по вопросу пределов технологического развития и деградации технологий "после пика ресурсов". Комментарий получился слишком «по существу». Так что, отдельным постом. Всех беспокоит сохранение технологий в условиях «темных веков» в результате «после пика ресурсов». Но это неправильное беспокойство и надуманные страхи. Все намного более динамично, бодро и креативно.

Поскольку сам немало написал по этой теме за последние 7 лет, привожу пост Сергея Карелова. Но только придерживаюсь иного мнения в части выводов. Нельзя рассматривать изменение культуры в отрыве от экономики, экономических противоречии и геополитических противоречий. Если их учесть, то получается цивилизационный коллапс и антропологическая катастрофа. Цивилизационный коллапс, поскольку разрушается сама основа текущей цивилизации - разделение труда. Антропологическая катастрофа, поскольку структура социального наследования в нашем обществе не соответствует задачам когнитивной эволюции.

Поскольку ранее высказывал аналогичные выводы, просто привожу google перевод публикации:

Executive Summary of “Designing Ecosystems of Intelligence from First Principles”

Комментарии тут излишние, сама публикация объясняет все.

Попытался ответить на вопрос почему любая современная дискуссия «за коммунизм» неизменно скатывается в сказку про розовых пони. А сравнительный анализ «преимуществ капитализма» и «преимуществ коммунизма» — это не только утопизм, но и в целом, дискуссия «сколько ангелов может поместиться на кончике иглы».

И снова приходится писать: "Я же говорил!". Как-то все кучно пошло. 

Первая вычислительная реализация красоты в глазах смотрящего.
Как достичь безграничной креативности, сбежав из «тёмной комнаты» сознания.

Мой комментарий тут краткий: "Я же говорил!". :)))

Это может открыть путь к гибридному обществу людей и андроидов

Буду краток. Собственно вот сама научная статья: https://www.pnas.org/doi/10.1073/pnas.2310223120

Статью приводить не буду, а только пару цитат из статьи:

"В свете этих соображений мы подозреваем, что обсуждаемые здесь общие принципы отбора и функций также могут быть применимы к эволюции символических и социальных систем, но более детальное обсуждение выходит за рамки настоящей статьи."

Прочитал статью имеющею прямое отношение у двум моим статьям:

https://aftershock.news/?q=node/935629

https://aftershock.news/?q=node/547744

Решил ее тут продублировать для обсуждения.

Конституция биоматематики

Во всех процессах природы царит универсальная, в определенной
степени познаваемая для нас закономерность.
Макс Планк

Если бы вируса не было бы, его стоило бы придумать. Но он есть. :))) Так что неизменно появляется соблазн «просто им пользоваться в политических и экономических целях». Вот и пользуются. Только каждый в своих частных интересах. И на выходе «цивилизационный коллапс». Когда интересы всех участников сложной общественной системы прямо направлены на разрушение сложной общественной системы. Прямо направлены на разрушение сложного общества и государства.

Что-то в последнее время стали все чаше звучать вопросы что делать в кризис и ответы делятся на диаметрально противоположные. Одни утверждают все хорошо и делать ничего не нужно. Другие требуют немедленных перемен. Одни утверждают все просто прекрасно в России и нужно просто ждать «коллапса Западной цивилизации». И все чаще эта позиция основывается на мифологии полной экономической независимости, военном превосходстве и силе наших транснациональных корпораций.

Хотелось бы разобраться, что общего между исторически сложившимися понятиями жизнь, человек разумный, общество, государство, цивилизация, религия и общественное производство. Исторически сложилось обособление каждого из представлений, как отдельной системы, самой для себя и в себе. Возможно есть что-то общее, общее предопределяющее существование всех систем, их взаимодействие и обусловленность существования одной системы от другой. В общем, разобраться какой там ответ на главный вопрос жизни, вселенной и всего такого. Ну и конечно причем тут число 42?

Тут у нас обществом обсуждаются поправки в конституцию. По сути основной закон и фундамент всей нашей правой системы. Правда не знаю, как у нас общество действительно участвует во внесении и формулировании этих поправок. Наверное, будет только голосовать. Ну да ладно.

Оставим этот вопрос в стороне. Как и вопрос, кто конкретно из юристов писал тексты этих поправок и причем тут теория права вообще. Вы уж меня простите, но вносить в конституцию норму о минимальной оплате труда, это уже натуральный постмодерн. Форма есть, а смысла нет.

Прочитал тут выступления на Международном экономическом форуме в Санкт-Петербурге: http://kremlin.ru/events/president/news/60707 Выяснил, выражение «устойчивое развитие» в тех или иных формулировках встречается в тексте 56 раз. Как интересно, наверное актуальная вещь это "устойчивое развитие". И оказывается тема экономического форума и была «устойчивое развитие». А что это такое «устойчивое развитие»?

В последнее время обострились споры «куда пойти, куда податься», и как достигнуть устойчивого экономического развития в условиях геополитической и экономической нестабильности. Какие чудные методы применить для экономического роста. Или еще одну пенсионную реформу провести, или с неравенством бороться. А можно еще организовать технологический прорыв и развивать самые современные технологии для опережающего/догоняющего развития.  Куда теперь без них?