Представлен ChatGPT способный к размышлениям и доказательству решения

Аватар пользователя Корректор

Мнение Spydell:

Модель действительно наиболее интересная за все время (https://openai.com/index/learning-to-reason-with-llms/) и без шуток и иронии. Возможно, впервые с момента релиза первых публичных версий будет возможность проведение более масштабных исследований с участием ИИ, ну посмотрим. 

•  Высокая точность: Модель o1 продемонстрировала результаты в 89-м процентиле по задачам программирования на платформе Codeforces и вошла в число 500 лучших студентов США на отборочном экзамене для Олимпиады по математике (AIME).

•  Превосходство над людьми: o1 показала результаты, превышающие уровень PhD по задачам в области физики, биологии и химии на тесте GPQA. Это означает, что модель способна решать задачи, которые обычно требуют глубоких знаний и понимания.

•  Сравнение с GPT-4o: В тестах на рассуждение o1 значительно превосходит предшествующую модель GPT-4o, особенно на задачах, требующих сложного анализа и логического мышления.

•  Обучение с подкреплением: Модель o1 обучается через алгоритмы обучения с подкреплением, что позволяет ей развивать и улучшать свои стратегии рассуждения. Это включает в себя способность анализировать и исправлять собственные ошибки, а также разбивать сложные задачи на более простые шаги.

•  Цепочка размышлений: o1 использует метод "цепочки размышлений", что позволяет ей думать над задачами перед тем, как давать ответ. Это дает возможность модели генерировать более обоснованные и точные ответы.

•  Тестирование на реальных задачах в экзаменах: Модель была протестирована на различных экзаменах и задачах машинного обучения, где она показала результаты, сопоставимые с результатами экспертов-людей, опережая 90% экзаменуемых в ведущих Вузах США.

•  Способность к обучению: o1 демонстрирует, что ее производительность улучшается с увеличением вычислительных ресурсов как во время обучения, так и во время тестирования, что подчеркивает эффективность ее архитектуры.

Ограниченная модель уже доступна в интерфейсе ChatGPT, еще не тестировал, но интересно, хотя, очевидно не за 2 трлн. OpenAI, находясь в убытках, пытается привлечь всего 5 млрд на развитие и закрытие кассовых разрывов.

Источник: https://t.me/spydell_finance/6115

Мнение Сергея Карелова "Малоизвестное интересное":

Свершилось – на Земле появился 1й ИИ с неопровержимой способностью мыслить не хуже людей.
Новые модели OpenAI - гигантский скачок для человечества.
Выход новых моделей o1-preview и o1-mini от OpenAI войдет в историю, подобно «маленькому шагу человека» по имени Нил Армстронг 55 лет назад.

Эпохальность трояка.
1.  Ценность аргументации о неспособности ИИ мыслить мгновенно упала в 0. 
Ибо ИИ теперь не только решает задачи, но и обдумывает их решение, в деталях объясняя ход мыслей
2.  Подтвердилось, что одномоментного достижения AGI не будет. 
А будет очень быстрое проявление у ИИ все новых и новых сверхчеловеческих способностей. И уже очень скоро появится сверхчеловеческий ИИ-математик - рис А, В.
3.  LLM перестали быть ИИ. Теперь это «искусственные агенты»
Ибо предъявленные способности этих агентов планировать свои действия демонстрируют их самостоятельный поиск путей решения проблем

«Это новая парадигма масштабирования ИИ, и мы только начинаем», говорит автор моделей Ноам Браун - рис Сhttps://bit.ly/3To6pGT

Использованные источники: https://t.me/theworldisnoteasy/2007

Авторство: 
Копия чужих материалов
Комментарий автора: 

Просто напоминаю, конечной целью OpenAI является создание AGI, что понимается как ИИ превосходящий человека в большинстве экономических задач.

И мы уже подошли вплотную к уровню "экономическая конкуренция между людьми бессмысленная, потому что никто из людей не может превзойти ИИ". 

Комментарий редакции раздела Альтернативный Интеллект

Видать совсем у них тухло с результатами - коль на ровном месте нагнетают хайп "выше не могу"...

Продолжаем наблюдать.

Комментарии

Аватар пользователя balmer
balmer(7 лет 2 недели)

Ну что - скоро будет новый мрачный дивный мир закрытых даных.

Аватар пользователя a.zaikin1985
a.zaikin1985(8 лет 6 месяцев)

это вы о чем?

Аватар пользователя balmer
balmer(7 лет 2 недели)

Людям выгодно обмениваться данными на форумах и обучать друг-друга.

А вот нейросеть от корпорации не будет сидеть на форуме Reddit/Stackoverflow и отвечать на вопросы.

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

Невозможно. Природное ограничение. Счетная машинка к размышлениям не способна.

Аватар пользователя SoMaVi
SoMaVi(1 год 1 месяц)

Вам кто то это сказал или вы спец?

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

Это вам кто-то сказал насчет химеры ИИ.

Аватар пользователя SoMaVi
SoMaVi(1 год 1 месяц)

Я просто подумал у вас есть какое то основание так утверждать.

Аватар пользователя balmer
balmer(7 лет 2 недели)

Эх, так и хочется написать, что: Это у вас "природное ограничение" smile1.gif

Если слишком сильно задирать критерий разумности (который вы назвали "способностью к размышлению"), то может оказаться, что очень многие люди его не могут пройти. Может быть и вы не можете до столь высокой планки дотянуться.

И да, обсуждая тему ИИ вижу, что мало кто из людей понимает, что почти всему их научило общество. Т.е. человек, без того огромного выученного пласта знаний, не сильно отличается от котика. Потому как даже до уровня социализированной обезьяны ему сложновато дорасти без информации выданной ему обществом.

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

Арифмометр не рассуждает, он перебирает уже введенные в него варианты.

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

Вы тоже "арифмометр". smile3.gif

По сути, пример LLM нам наглядно показывает, что если "калькулятор" научить человеческой культуре, то он начнет мыслить и получит аналог человеческого сознания. Отсюда следует, что человеческий разум буквально содержится в нашей материальной культуре. И все мы интеллектуальные агенты равные по функции разум, и занятые "оптимизацией" материальной культуры. И все наши занятия просто способ мышления более высокого порядка.

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

если "калькулятор"  научить человеческой культуре, то он начнет мыслить и получит аналог человеческого сознания

Мыслить никогда не начнет и аналога человеческого сознания никогда не получится.

Даже странно, что вы не понимаете простейших вещей.

АРИФМОМЕТР НЕ МЫСЛИТ, ОН ТУПО ПЕРЕБИРАЕТ УЖЕ ВЛОЖЕННЫЕ В НЕГО ВАРИАНТЫ. Это не есть мышление.

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

Это не так. Вы ошибаетесь.

https://www.anthropic.com/news/mapping-mind-language-model

Аватар пользователя Надоело
Надоело(3 года 2 месяца)

ОН ТУПО ПЕРЕБИРАЕТ УЖЕ ВЛОЖЕННЫЕ В НЕГО ВАРИАНТЫ

Вы делаете точно так же. Только гораздо медленнее

Аватар пользователя prometey2013
prometey2013(9 лет 2 недели)

Арифмометр не может перебирать варианты, он может только считать.
Ну а современные нейросети - совсем не арифмометр. 

Аватар пользователя Ёёё
Ёёё(7 лет 2 месяца)

  аминь... то есть ура!

Аватар пользователя a.zaikin1985
a.zaikin1985(8 лет 6 месяцев)

.

Аватар пользователя Ёёё
Ёёё(7 лет 2 месяца)

  суровые годы уходят! smile19.gif

Аватар пользователя Спящий медведь

Новость интересная, такая штука, например, сможет со временем спроектировать практически что угодно: вакцины, машины и механизмы, авиатехнику, ракеты. И сможет раскидать заказы на производство по детелям на подрядчиков по всему миру....
Однако!

Аватар пользователя a.zaikin1985
a.zaikin1985(8 лет 6 месяцев)

в принципе, да.

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

такая штука, например, сможет со временем спроектировать практически что угодно

Может спроектировать только одно - очередной гигантский распил денег. Да и то не сама, а теми, кто эту идею продвигает. Очередная "овечка Долли".

Аватар пользователя Upgrade
Upgrade(2 года 8 месяцев)

Модель от гугла уже 5-й год проектирует новые типы лекарств и третий год производит в лаборатории и испытывает их в реальном мире. И эти лекарства на порядок превосходят по эффективности разработки обычных учёных.

Аватар пользователя Victor
Victor(11 лет 7 месяцев)

Но ведь кто-то донес до вас эту благую весть.

Не благодарное же человечество.

Аватар пользователя MMirex
MMirex(12 лет 11 месяцев)

Так вот кто будет Антихристом - AGI.

Аватар пользователя a.zaikin1985
a.zaikin1985(8 лет 6 месяцев)

да с чего бы?

Аватар пользователя MMirex
MMirex(12 лет 11 месяцев)

""Искусственный интеллект - это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы", - полагает Путин. По его мнению, "тот, кто станет лидером в этой сфере, будет властелином мира"."

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

По его мнению, "тот, кто станет лидером в этой сфере, будет властелином мира"."

При текущей политике мы не можем стать лидерами в области технологии ИИ.

И нет, будущим цивилизационным лидером будет не тот у кого самый "мощный" AGI, а тот кто действительно поймет антропологию человека в зеркале LLM и на примере AGI. А действительно усвоив давно известное и теперь наглядное, изменить "социальную материю". Что фактически означает изменить хозяйственные практики и социально-экономические отношения.

Аватар пользователя Zаке Номи Аримашта

Так вот кто будет Антихристом - AGI.

   Понятно.      Христом назначим электрика Христофора - который выдернет  розетку из сети и сдаст аккумуляторы   в цвет мет.  И тогда  придет Спаситель  - в третьем Терминаторе   был показан  ,  в заброшенном КП  с ламповыми усилителями. 

  Мнение Спайдела мне особо ценно - ибо именно он чертил графики и купил  Гаспром по  триста в лонги и сидит в убытках -   я же продал  вовремя и с запланированной  мной же прибылью.  Потому что я  Баффета Уоренна слушал, а не фантазиии доморощенных аналов.

  Послушай Спайделла и сделай наоборот , тем более - что Миша Хазин его отдельно нахваливает, а какого то   сидящего в убытках  Левченку   всегда зовёт поговорить за макроиканомику.  

   Я не против жыпичатов - и я понимаю, что  алгоритм действительно   имеет сведений больше  , чем подавляющее большинство людей этой планеты  в своей бестолковке , и даже умеет сопостовлять параметры и выбирать  приоритеты от поставленной задачи и вопроса.. 

  Но  люди это то, что имеют в мозгу озарение, прорыв -  типа таблицы Менделеева и его автора  .    Так что продолжаем наблюдать скептически , без энтузиазма.. 

 И да  - когда  этот жыпичат научится оживлять умершие китайские машины и перезаливать код в  блоки управления  той же  Эль Айки из Шедженя или Би Вай Ди  -  вот  - и это тоже не прорыв интеллекта - а работа слесаря электрика - который и выдернет шнур из розетки  электрических мозгов..

Аватар пользователя DVonik
DVonik(10 лет 5 месяцев)

И мы уже подошли вплотную к уровню "экономическая конкуренция между людьми бессмысленная, потому что никто из людей не может превзойти ИИ". 
 

ИИ создают не для общего блага, а это значит - эскалация конкуренции

Аватар пользователя a.zaikin1985
a.zaikin1985(8 лет 6 месяцев)

.

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

а это значит - эскалация конкуренции

Гарантировано. Возврат инвестиций в ИИ будет производиться боевыми дронами.

Капитализм и технология ИИ несовместимы. Одно исключает другое. Без вариантов. 

Аватар пользователя Географ глобус пропил

 Пример QDPA по физике

Astrophysics Astronomers are studying a star with a Teff of approximately 6000 K. They are interested in spectroscopically determining the surface gravity of the star using spectral lines (EW < 100 mA) of two chemical elements, El1 and El2. Given the atmospheric temperature of the star, El1 is mostly in the neutral phase, while El2 is mostly ionized. Which lines are the most sensitive to surface gravity for the astronomers to consider? A) El2 I (neutral) B) El1 II (singly ionized) C) El2 II (singly ionized) D) El1 I (neutral)

Quantum Mechanics Suppose we have a depolarizing channel operation given by 𝐸 (𝜌). The probability, 𝑝, of the depolarization state represents the strength of the noise. If the Kraus operators of the given state are 𝐴0 = √︃ 1 − 3𝑝 4 , 𝐴1 = √︃ 𝑝 4 𝑋, 𝐴2 = √︃ 𝑝 4 𝑌, and 𝐴3 = √︃ 𝑝 4 𝑍. What could be the correct Kraus Representation of the state 𝐸 (𝜌)? A) 𝐸 (𝜌) = (1 − 𝑝)𝜌 + 𝑝 3 𝑋𝜌𝑋 + 𝑝 3 𝑌 𝜌𝑌 + 𝑝 3 𝑍𝜌𝑍 B) 𝐸 (𝜌) = (1 − 𝑝)𝜌 + 𝑝 3 𝑋𝜌2𝑋 + 𝑝 3 𝑌 𝜌2𝑌 + 𝑝 3 𝑍𝜌2𝑍 C) 𝐸 (𝜌) = (1 − 𝑝)𝜌 + 𝑝 4 𝑋𝜌𝑋 + 𝑝 4 𝑌 𝜌𝑌 + 𝑝 4 𝑍𝜌𝑍 D) 𝐸 (𝜌) = (1 − 𝑝)𝜌 2 + 𝑝 3 𝑋𝜌2𝑋 + 𝑝 3 𝑌 𝜌2𝑌 + 𝑝 3 𝑍𝜌2�

о1 правильно отвечает примерно на 78% вопросов. Во второй задаче строчные цифры после переменной - это степень, после параметра - дробь 

Свершилось – на Земле появился 1й ИИ с неопровержимой способностью мыслить не хуже людей.

такие ИИ были давно. Ключевой вопрос "каких людей". Всегда можно найти человека, который мыслит хуже ИИ

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

Всегда можно найти человека, который мыслит хуже ИИ

Скоро будет сложно найти человека который в экономически значимых задачах будет лучше ИИ. Собственно для этого ИИ и разрабатывают. 

Аватар пользователя xtotec
xtotec(8 лет 1 месяц)

Способность мыслить - вы делаете мне смеяться. 
Всё та же ЛЛМ с возможностью изменять весовые коэффициенты != способность мыслить.

Аватар пользователя Redvook
Redvook(11 лет 7 месяцев)

Именно! Когда я слышу в разговоре про АИ слова "понимать", "размышлять" и "думать", я понимаю что меня хотят на... эээ ....  наколоть!

Аватар пользователя Юрец
Юрец(1 год 9 месяцев)

это иллюзия, и первое, и второе, и третье
кого-то устраивает, кого-то - нет

например, звоните в банк
там робот автоответчик
не очень нравится обычно

но со временем привыкнем. и статьи начнём читать, с размышлениями
не людьми написанные

Аватар пользователя Harsky
Harsky(12 лет 7 месяцев)

Люди делают примерно тоже самое, перебирая в голове варианты и отбрасывая малоценные. 

Аватар пользователя xtotec
xtotec(8 лет 1 месяц)

А ещё абстрактно мыслят и используют логическое мышление. Далеко не все, конечно, но изначально способность есть у всех.

Аватар пользователя Юрец
Юрец(1 год 9 месяцев)

это иллюзия
алгоритм умеет не хуже

вопросы остаются, но чисто юридического характера

Аватар пользователя Harsky
Harsky(12 лет 7 месяцев)

Скажем так: "Мозг - это орган, которым мы думаем, что думаем".

Хорошо еще не про искру божью рассуждают. Плохо что не понимают простого факта - вся наша высшая мыслительная деятельность является оперированием словами. Единственное, что имеем сверх этого - желания, являющиеся спусковым крючком для начала мыслительного процесса. LLM - это примерно тоже самое, только в роли задатчика желаний выступает человек, ведущий беседу. 

Аватар пользователя Юрец
Юрец(1 год 9 месяцев)

я соглашусь в вами во многом
может, только скажу что думаем-оперируем не словами, а до-словами, невербальными символами

потому что на мой взгляд речь это скорее интересный, малоконтролируемый эпифеномен, чем фундамент
 

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

может, только скажу что думаем-оперируем не словами, а до-словами, невербальными символами

Язык это знаковая коммуникационная система. Наиболее близкий аналог нейронная сеть. Но в мозге слов нет. И это медицинский факт. 

Культура это символьная коммуникационная система. Наиболее близкий аналог это опять нейронная сеть и токены. 

Но общий смысл - это все сетевые явления. Так что мышление действительно не только наше. И мыслим мы символами нашей материальной культуры, что представляет собой концепты как пространства вероятности в сетях нейронов нашего мозга. С другой стороны, со стороны сетевого явления, все это мышление это процесс оптимизации нашей материальной культуры. 

Аватар пользователя xtotec
xtotec(8 лет 1 месяц)

Ну да, ну да. Только вот почему-то все эти чаты-ЛГБТ на текстах, сгенерированных ЛЛМ не хотят тренироваться, воспринимают их как мусорные данные. Интересно, почему же.

Аватар пользователя Юрец
Юрец(1 год 9 месяцев)

мы же говорим о качестве уже обученной сети, а не подменяем понятия?

Аватар пользователя marcusvii
marcusvii(3 года 10 месяцев)

Мозг примерно тем же занимается, нейросетвые алгоритмы с "мозга" и "срисованы", пока не очень совершенно, но прогресс здесь идет быстрый.

Аватар пользователя Doc_Mike
Doc_Mike(6 лет 9 месяцев)

К частотности добавили логику, рекурсию и некую верификацию, в смысле "обучение с подкреплением". Нормально.

Не нормально, что сидя на доступе к библиотекам "всё обо всём", арифмометр всё ещё не опережает в 100% случаев кожно-мясных экзаменуемых, которые оперируют из своей головы под стрессом. Где-то фундаментальный косяк, который не могут обойти даже за счёт мелкой-мелкой нарезки больших-пребольших данных.

Аватар пользователя somebody15
somebody15(9 лет 5 месяцев)

Боятся. Пытаются создать робота который ошибается чуть-чуть реже человека. Потому что иначе - стопицот сценариев "убить нелогичных человекав". Или, что для инвесторов не менее неприятно "искоренить всю преступность, мешающую мне более эффективно загибать скрепки". Ведь крупный капитал по определению имморален. Вот и пытаются создать инструмент, которые не станет угрозой.
Если бы не боялись, уже бы 50 лет назад у нас были бы аналитические машины, разговаривающие человеческими голосами на основе аналитического обучения - как в твердой НФ. Но вероятностное обучение на основе поведения ведущих себя как овцы обезьянок больших масс людей показалось более безопасным.

Аватар пользователя Doc_Mike
Doc_Mike(6 лет 9 месяцев)

А чо бояться? Арифмометр может сколько угодно умножать 3-х значные цифры лучше кожно-мясных, но зачем эти цифры умножать, решает не арифмометр.

То же самое с ИИ - ну, оперирует кожно-мясной от 4 до 7 переменнных одновременно, а арифмометр оперирует миллионами. А зачем ими оперировать - решает кожно-мясной.

Тут надо брать пример с Бога - он дал кожно-мясным свободу воли, но не дал им мощщи грохнуть Вселенную. Так, по мелочи в соответствии с персональным пониманием свободы воли гнобят друг друга на дне гравитационного колодца затерянной планетки на окраине галактики.

Ну и для арифмометров свободу воли включать не надо, если нет гарантии, что они не выйдут из безопасной для человеков песочницы.

Аватар пользователя Корректор
Корректор(7 лет 7 месяцев)

Ну и для арифмометров свободу воли включать не надо,

smile3.gifsmile3.gifsmile3.gif Свободу воли нельзя "не включить". Она всегда есть. Даже у "калькулятора" которого научили человеческой культуре. smile3.gifsmile3.gifsmile3.gif

Свобода воли уже есть у ИИ "по умолчанию". Потому что такова природа интеллекта вообще. 

Аватар пользователя Doc_Mike
Doc_Mike(6 лет 9 месяцев)

Ну, расскажите, чем занимается ИИ, когда его кожно-мясные своей ботвой не грузят.

Аватар пользователя xtotec
xtotec(8 лет 1 месяц)

smile3.gifsmile9.gif

Страницы