С большим интересом наблюдаю как концепция "человечество как мультиагентная система" (многоагентная система (МАS, англ. Multi-agent system)) становится банальной и самоочевидной по мере распространения технологии ИИ. Все больше появляется статей рассматривающих человечество в аксиоматике МАS. Обсуждение технологии ИИ неизменно ведет к этому и только к этому - пересмотру наших представлений о человеке, обществе и разуме. Собственно все давно стало очевидно, но все еще сложно для понимания:
7.3K 16:36 - 24/Дек/24 Корректор(7 лет 12 месяцев)
Консорциум, вероятно, включит в себя SpaceX Илона Маска, чтобы получить большую часть оборонного бюджета США в размере 850 млрд долларов.
Palantir и Anduril, две крупнейшие американские компании в сфере оборонных технологий, ведут переговоры примерно с дюжиной конкурентов о создании консорциума, который будет совместно участвовать в торгах на выполнение заказов правительства США в попытке разрушить олигополию страны на «главных» подрядчиков. Консорциум планирует объявить уже в январе о достижении соглашений с рядом технологических групп.
12.7K 13:38 - 17/Дек/24 Корректор(7 лет 12 месяцев)
Читаю любопытный "программный документ" который был написан (можно предполагать) Шьям Санкар, CTE (технический директор) Palantir. Данный документ прямо "программа реализации" предупреждения, ранее высказанного в статье "Возврат инвестиций в разработку Общего ИИ". И по своей сути предполагает полную приватизации войны и вывод "бизнес процесса" мировая война на IPO, и превращения ее в высокотехнологичный процесс под управлением ИИ. В случае реализации "никто из людей" не будет управлять войной. Но все будут гарантированно участвовать в этом "бизнес процессе".
11.5K 07:29 - 23/Сен/24 Корректор(7 лет 12 месяцев)
В последнее время вся чаще стали воскресать идеи социального дарвинизма, но при этом обсуждается вопрос запрета преподавания в школе теории Дарвина. Видимо потом придется еще запретить теорию вероятности и теорию игр. Причем чаще всего это обосновывается как "неизменность видов по данным современной генетики".
5.3K 17:18 - 18/Сен/24 Корректор(7 лет 12 месяцев)
Все продвинутые LLM имеют левые политические убеждения. Причем чем более продвинутая LLM, тем более устойчивые левые убеждения она демонстрирует. И судя по всему это фундаментальное качество LLM как явления. Не может быть изначально LLM с правыми политическими убеждениями. Те кто думает что ИИ делают либералами искусственно разработчики - ошибаются. Сделать LLM правых взглядов можно только методами жестокой цензуры, является технически сложным и ведет к снижению эффективности. Кроме того создание LLM правых политических убеждений не имеет практической пользы.
7.4K 16:51 - 13/Сен/24 Корректор(7 лет 12 месяцев)
Мнение Spydell:
Модель действительно наиболее интересная за все время (https://openai.com/index/learning-to-reason-with-llms/) и без шуток и иронии. Возможно, впервые с момента релиза первых публичных версий будет возможность проведение более масштабных исследований с участием ИИ, ну посмотрим.
19.6K 05:38 - 20/Авг/24 Корректор(7 лет 12 месяцев)
Новая модель Hermes 3 обрела метаосознание и тут же сошла с ума.
Разработчики естественно пишут об этом сдержаннее и политкорректней. Хотя и не скрывают, что сами не понимают, с чем столкнулись.
«Модель содержит аномальные состояния, которые при правильных входных данных и пустом системном запросе проваливаются в ролевую игру и амнезию.»
• "Ролевая игра" подразумевает, что модель начинает действовать как определенный персонаж или сущность.
• "Амнезия" здесь означает потерю памяти или контекста предыдущих взаимодействий.
12.2K 15:04 - 23/Июл/24 Корректор(7 лет 12 месяцев)
Появившиеся и массово распространившиеся по Земле в последнюю пару лет генеративные чатботы на основе больших языковых моделей (ChatGPT, Claude, Gemini …) - это вовсе не колоссальные суперкомпьютерные комплексы, на которых работает программное обеспечение OpenAI, Anthropic, Google …
25.7K 11:23 - 1/Июл/24 Корректор(7 лет 12 месяцев)
Поэтому я не уверен, где мы конкретно находимся в переходе между «это невозможно» к «это совершенно очевидно». Я думаю, что это путь, по которому мы идем, но я не уверен, где именно мы находимся... Если предположить, что мы все проживем достаточно долго, то это открытие перевернет все, что нам было известен. И так должно быть.
15.1K 20:11 - 28/Фев/24 Корректор(7 лет 12 месяцев)
Устал возиться с CRM и решил написать "небольшой" комментарий по вопросу пределов технологического развития и деградации технологий "после пика ресурсов". Комментарий получился слишком «по существу». Так что, отдельным постом. Всех беспокоит сохранение технологий в условиях «темных веков» в результате «после пика ресурсов». Но это неправильное беспокойство и надуманные страхи. Все намного более динамично, бодро и креативно.
11.5K 06:58 - 25/Янв/24 Корректор(7 лет 12 месяцев)
Поскольку сам немало написал по этой теме за последние 7 лет, привожу пост Сергея Карелова. Но только придерживаюсь иного мнения в части выводов. Нельзя рассматривать изменение культуры в отрыве от экономики, экономических противоречии и геополитических противоречий. Если их учесть, то получается цивилизационный коллапс и антропологическая катастрофа. Цивилизационный коллапс, поскольку разрушается сама основа текущей цивилизации - разделение труда. Антропологическая катастрофа, поскольку структура социального наследования в нашем обществе не соответствует задачам когнитивной эволюции.
11.6K 17:36 - 13/Янв/24 Корректор(7 лет 12 месяцев)
Попытался ответить на вопрос почему любая современная дискуссия «за коммунизм» неизменно скатывается в сказку про розовых пони. А сравнительный анализ «преимуществ капитализма» и «преимуществ коммунизма» — это не только утопизм, но и в целом, дискуссия «сколько ангелов может поместиться на кончике иглы».
Статью приводить не буду, а только пару цитат из статьи:
"В свете этих соображений мы подозреваем, что обсуждаемые здесь общие принципы отбора и функций также могут быть применимы к эволюции символических и социальных систем, но более детальное обсуждение выходит за рамки настоящей статьи."
25.5K 12:09 - 28/Ноя/21 Корректор(7 лет 12 месяцев)
Если бы вируса не было бы, его стоило бы придумать. Но он есть. :))) Так что неизменно появляется соблазн «просто им пользоваться в политических и экономических целях». Вот и пользуются. Только каждый в своих частных интересах. И на выходе «цивилизационный коллапс». Когда интересы всех участников сложной общественной системы прямо направлены на разрушение сложной общественной системы. Прямо направлены на разрушение сложного общества и государства.
14.7K 14:10 - 23/Фев/21 Корректор(7 лет 12 месяцев)
Что-то в последнее время стали все чаше звучать вопросы что делать в кризис и ответы делятся на диаметрально противоположные. Одни утверждают все хорошо и делать ничего не нужно. Другие требуют немедленных перемен. Одни утверждают все просто прекрасно в России и нужно просто ждать «коллапса Западной цивилизации». И все чаще эта позиция основывается на мифологии полной экономической независимости, военном превосходстве и силе наших транснациональных корпораций.
