Как LLM и человеческий мозг обрабатывают язык

Аватар пользователя Tegucigalpa

У Google вышло очень занятное исследование: они сравнили, как LLM и человеческий мозг обрабатывают язык

В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:

➖ Соответствие удивительно четкое и геометрия эмбеддингов в LLM (то есть отношения между словами в embedding-пространстве) соотносится с представлениями в мозге.

➖ Во время слушания Speech-эмбеддинги явно коррелируют с активностью в слуховой коре (верхняя височная извилина), затем language-эмбеддинги коррелируют с активностью в зоне Брока (нижняя лобная извилина).

➖ Во время говорения – наоборот. Language-эмбеддинги сначала "активируются" в зоне Брока (планирование высказывания), затем speech-эмбеддинги активируются в моторной коре (непосредственно говорение), и в конце снова в слуховой коре при восприятии собственной речи.

Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.

И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.

Авторство: 
Копия чужих материалов

Комментарии

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

мы неожиданно близко подобрались к моделированию мозга

Ну если понимать мозг как генератор текста, то да, наверно, подобрались. 

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

А может ли мыслить человек, не зная слов? Ведь нет же? Без знания слов он "мыслит" не слишком лучше животного, маугли подтверждают.

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

Машинное моделирование мозга, разумеется, не отражает всю его активность. Хайп вокруг «искусственного интеллекта» держится на представлении, что сымитированное — это и есть подлинно настоящее, а часть — это и есть целое. Ошибочность этого когнитивного извращения проявится сама, ну а детишки пускай дальше играют в игрушки.

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

С чего-то же надо начинать, невозможно сделать всё и сразу. Постепенно, шаг за шагом.

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

И какова цель этого пути? Из подручных средств воссоздавать самосознающие живые организмы, плодить их и подчиняться их машинному совершенству? Не очень понятно.

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Объем в первую очередь. Именно объемом доступных для обработки данных LLM превосходят человека даже на начальных этапах. У человека память слишком уж ограничена, да и скорость как ввода, так и обработки оставляет желать много лучшего.

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

Напомню, что оспаривался тезис о близости к моделированию мозга. А его активность не сводится к запоминанию, обработке и выдаче конкретной информации. Именно в этом аспекте LLM, да, облегчает работу. Просто не надо с восторженным закатыванием глаз выдавать это за работу мозга вообще.

Аватар пользователя Tegucigalpa
Tegucigalpa(1 год 1 месяц)

Тезис оспаривался только вами. Ученые гугла наглядно продемонстрировали схожесть процессов в конкретном, определенном случае. Потому что имеют к этому отношение и работают с этим. В отличии от вас

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

Я рад за учёных. Вот это тогда что?

мы неожиданно близко подобрались к моделированию мозга

Аватар пользователя Tegucigalpa
Tegucigalpa(1 год 1 месяц)

Вывод этих ученых

При этом специально, мозг никто не моделировал. Трансформеры не работают как мозг.(Надеюсь это очевидно?). Но так получилось что система на кремнии и система на мясе, для того чтобы производить одинаковые результаты, вынуждена использовать одинаковы методы.

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Сравните линейность бедренной части ноги человека и с таковой же у лапы кузнечика. Они крайне близки по форме. Это называется конвергенция. ЛЛМ обучается на словах сформированных вполне конкрентной мозговой структурой. Эта структура сохраняется во взаимоотношении частей слова и слов в тексте. Обучая ЛЛМ на структурированной выборке мы получаем конвергентную мозгу структуру. И тут удивление вызывает не конвергентность результатов, а "тупость" ученых делающих вид что не понимают что видят. Поэтому так громко они кричат о приближении к мозгу человека - за это можно стрясти ещё пару бочек бабла:

"Люди, а? Идиоты блин, всему верят, что им по ящику сливают. И все, что им скажут, сделают. Сами думать нифига не хотят. Эх, встряхнуть бы их нехило, чтоб гляделки открыли..." (S.T.A.L.K.E.R.)

Аватар пользователя e.tvorogov
e.tvorogov(9 лет 2 месяца)

ЛЛМ обучается на словах сформированных вполне конкрентной мозговой структурой. Эта структура сохраняется во взаимоотношении частей слова и слов в тексте. Обучая ЛЛМ на структурированной выборке мы получаем конвергентную мозгу структуру.

Просто нечего добавить.

Аватар пользователя Tegucigalpa
Tegucigalpa(1 год 1 месяц)

А вы хотели чтобы она обучалась на чем? На данных инопланетян? Может дельфинов или шимпанзе? Как-то так вышло что мы единственные разумные на этой планете и в этой части космоса.

Вас же не смущает что в мозгу червя(точнее того что ему мозг заменяет) и человека нейроны? И работают они одинаково.

Аватар пользователя Bzz
Bzz(8 лет 5 месяцев)

Минимизировать вероятность ошибки в процессе принятия решений.

Аватар пользователя maxvlad
maxvlad(13 лет 2 месяца)

Уже указывал, что толком насчёт животных нифига не ясно. Кошки совершенно точно умеют в символы, мои заразы это не раз демонстрировали. И даже есть такое ощущение, что они могут друг друга учить. 

Было при мне, когда одна из кошек подходила к холодильнику и всеми позами и звуками показывала, что хочет еду. Когда открыл холодильник и достал пакетик с мягким кормом, прошёл в её сопровождении к тарелке - и она от тарелки для мягкого корма прошла к миске для хрустяшек, где принялась всячески показывать, что желает именно твёрдый корм. Но фишка в том, что спустя некоторое время также стала делать и другая кошка. Подобрали на улице кота, он пожил, освоился - и через некоторое время стал делать тоже так - спрева привлечь внимание у холодильника, потом подойти к миске под хрустелки и выпрашивать уже там.

Чт в холодильнике нет хрустелок, кошки точно знают. Так что большого белого друга они используют как абстракцию, символ еды. А что конкретно, показывают потом.

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Все верно, я и говорю, что человек, не знающий слов, похож по поведению на животное, на ту же кошку.

Аватар пользователя maxvlad
maxvlad(13 лет 2 месяца)

Слова - это символы, артикулированная абстракция. Если кошки понимают символы, тогда разница с людьми - количественная. У нас банально больше голова.

Утрирую, конечно - но ведь где-то у кошек наличествует нечто, что позволяет им заниматься классификацией. И коли так, кто доказал, что это нечто существенно различается у кошек и людей?

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

У человека есть способность не просто к формированию символов, а к операциям над ними. Но для этого необходима практика, от простого к сложному. Символы закрепляются словами. Нет слов - нет обработки.

Аватар пользователя maxvlad
maxvlad(13 лет 2 месяца)

С этим не спорю - но как уже сказал, вполне возможно, что отличие именно количественное ;) Типа, больше размер кэша для символьной обработки. Или речь и вовсе идёт о феномене культурном, о результате общественного развития.

Аватар пользователя Tegucigalpa
Tegucigalpa(1 год 1 месяц)

Самое веселое что в голове человека нет ни слов ни символов.Там есть алгоритм который знает как создать слова и символы.

В сперматозоиде и яйцеклетке нет кода всего человека. Там есть информация как сделать человека.
Так же и нейронка, она не знает книгу на которой ее учили. Но она ее "читала".
И может пересказать смысл. И может рассказать как ее даже написать в таком стиле.Но самой книги внутри нет!

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Слова не просто символы и они совсем не абстрактны. Язык - сигнальная система для передачи информации. У этой системы есть два стека зависимостей: физиологический и физический. Слова как звуковой символ должны идентично воспроизводится голосовой системой и с сохранением распознаваемости распространяться максимально далеко в среде обитания. И среда леса русской возвышенности далеко не идентична морю, болоту, горам и т.п. Даже джунгли и мангровые леса требуют иных звуков чем наша тайга или смешанный лес. Понимание среды и уровня взаимодействия с ней далеко не количественная разница. Она сильно качественная. И доказательства такой разности есть. Например эксперименты доказывающие наличие ума у социальных животных и отсутствие у них же разума. А самое интересное что животные живя рядом с человеком умнеют, в отличии от своих диких родственников. Но насколько бы не было умным животное, абстрагировать они не умеют. Даже те кто проходят зеркальный тест.

Аватар пользователя maxvlad
maxvlad(13 лет 2 месяца)

Тогда что делают мои кошки? Повторю - эти морды точно знают, что твёродого корма в холодильнике нет. И они знают, где он лежит. Но внимание привлекают, стоя у холодильника. 

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Все социальные животные имеют свой язык. Ведь их поведение не сводится только к инстинктам. Чем сложнее социальная структура, тем большая часть поведения определяется обучаемыми рефлексами, а не инстинктами. Поэтому нет ничего удивительного в том что кошки выявили закономерность между холодильником и едой большого брата. Это результат работы ума способного к получению последовательностей необходимых для формирования рефлексов. И те же кошки обучают своих детей и сородичей полезным навыкам/рефлексам. Но это метод копирования. Знания они создавать не умеют т.к. у них нет разума. Ум - функция оперирующая объектами, а разум - свойствами и качествами.

Аватар пользователя maxvlad
maxvlad(13 лет 2 месяца)

Иное дело - выпрашивать у холодильника содержимое холодильника. Но в данном случае кошки сперва у ходолильника показывают, что хотят есть. Подают знак. После чего направляются к своей миске, куда я насыпаю твёрдый корм - не из холодильника, коробка стоит совсем в другом месте. 

Но туда, к коробке, они не ходят выпрашивать - хотя прекрасно знают, где она. 

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Рефлекс - последовательность соединяющая причину и следствие. Выпрашивать еду у холодильника - вполне простой рефлекс. Это не понимание причинности через свойства холодильника. Это повторное воспроизведение удачной последовательности как результат обучения. Ровно так же мы учим наших детей пользоваться горшком.

Аватар пользователя Arkan
Arkan(12 лет 1 месяц)

Согласен.

Вообще "слова" - это "сигнальная система", трансляция, передача. Ибо есть что-то, что требуется "передавать".

Вот это "что-то" - есть и у людей, и у кошек, просто разная стадия развития. Ну а у человеческого шовинизма границ нет.

Аватар пользователя Bzz
Bzz(8 лет 5 месяцев)

И-23 на вас не хватает...

Но в части "пожил-освоился" - имитативный рефлекс.

Аватар пользователя alvl
alvl(6 лет 3 месяца)

Конечно может. Пример - слепоглухонемые с рождения. Героическими усилиями педагогов эти люди теперь имеют шанс на развитие интеллекта. Их абстрактное мышление никак не связано с акустикой или с ее графическим переложением, работают чисто осязательные и проприоцептивные исходные образы.

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Но с ними есть одна существенная проблема - уровень жестокости среди них (с врожденной глухотой) значительно превышает таковой у нормально слышащих. У них практически нет эмпатии. Она формируется в последнем триместре вместе началом работы слуха. А раз слуха нет, то и эмпатия не появляется. А без неё очень сложно понять что такое сочувствие и сопереживание.

Аватар пользователя alvl
alvl(6 лет 3 месяца)

Вопрос был про мышление - оно есть даже в таких специфических условиях развития и функционирования.

Аватар пользователя mr.Midas
mr.Midas(7 лет 7 месяцев)

Не факт. Это надо доказывать. По крайней мере синдром маугли прямо указывает на утрату человеческого мышления. Точнее на не обретение.

Аватар пользователя alvl
alvl(6 лет 3 месяца)

Маугли - отдельный феномен. Они не получают никакого обучения в критические периоды. Обучение ограничивается копированием непригодного поведения животных, а у современных маугли вообще отсутствием даже простого копирования.

Собсно, если с детьми не заниматься, то абстрактного мышления по сути не будет, это же классические примеры из педагогики, в частности отечественные исследования мышления и интеллекта у дехкан - гуглите Лурию.

Лурия предлагал узбекским крестьянам, дехканам решить силлогизм. «На далеком Севере, где много снега, все медведи белые. Новая Земля находится на далеком Севере, где всегда снег. Какого цвета медведи на Новой Земле?»

Дехкане отвечали примерно так: «Мы не знаем, какого цвета там медведи, мы там никогда не были. Мы говорим только о том, что сами видели, чего мы не видели, об этом мы не говорим».

Аватар пользователя Bzz
Bzz(8 лет 5 месяцев)

+

Аватар пользователя Ден_Боб
Ден_Боб(4 года 7 месяцев)

может , картинками

Аватар пользователя Itanium
Itanium(7 лет 5 месяцев)

А может ли мыслить человек, не зная слов? Ведь нет же?

Точно так же можно утверждать, что без воды невозможно сделать чай. Верно, но нужна не только вода. Я думаю, что мышление не состоит только из слов. Помню как-то на контрольной по геометрии в школе нужно было одну задачку непростую решить. Я в уме нарисовал себе эту фигуру, повернул ее под нужным углом и увидел решение. Т.е. самого решения у меня не было, был ответ, и он был верным. Слова в мыслях тоже были, нужно же было как-то зафиксировать ответ, но в геометрической части их не было.

Так что считаю, что жестко завязывать весь мыслительный процесс на язык не следует. И поэтому, на мой взгляд, "мышление" только словами, это как оркестр из одного инструмента. В принципе - тоже музыка, и даже мелодию можно узнать, но полноценный оркестр намного богаче.

Аватар пользователя Arkan
Arkan(12 лет 1 месяц)

А может ли мыслить человек, не зная слов? 

А вы незнакомы с ситуацией, когда знаете, что хотите сказать, но слово забыли?

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Вы неправильно поняли посыл. Забыв слово, вы его тем не менее знаете. Нейросвязи, сформированные этим словом, его значением и его смыслами, в вашем мозгу никуда не делись. Вы не "забыли" слово, просто оказалась утрачена некая связь с комплексом понятий, ассоциированных с ним. Если вам это слово напомнить, вы вспомните все его значения и способы употребления, вам не придется учить его заново.

А вот если человек не знает слов вообще, и никогда не знал, т.е. он не был обучен понятиям, выраженным в символической форме, в любом их виде. В этом случае он мыслить не сможет.

Аватар пользователя Arkan
Arkan(12 лет 1 месяц)

Забыв слово, вы его тем не менее знаете. 

Нет, конечно. Я знаю смысл. А слово можно подставить любое, в зависимости от языка. Это становится понятно после изучения дополнительных языков.

Мы мыслим смыслами.

А обращение к Маугли ошибочно в том, что выращенный в джунглях ребенок был оторван от среды, накопившей и смыслы, и способы их передачи. Очень надеюсь, вам знакома ситуация, когда вам пытались что-то рассказать, что "невозможно описать словами"...

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Мы мыслим смыслами

Разве? Прямо вот берете и мыслите, не используя понятия, закодированные в словах? Подумайте хорошенько. Все понятия, которые вы знаете, закодированы в словах. У вас могут быть слова, смысла которых не очень понимаете, но устойчивых понятий без слов быть не может. Может возникнуть нечто мимолетное (потенциально новый смысл), и для его фиксации в качестве устойчивого понятия человеку необходимо закодировать его в словах, иначе спустя короткое время оно будет забыто напрочь.

надеюсь, вам знакома ситуация, когда вам пытались что-то рассказать, что "невозможно описать словами"

Фигура речи. У каждого человека есть пассивный запас слов и активный. Активный он использует для выражения собственных мыслей, пассивный - для понимания чужих. При этом пассивный запас всегда полнее активного.

Когда говорят про "невыразимость словами", это попросту означает признание бедности собственного активного словаря. Но кто-то другой, с более богатым активным словарным запасом, например поэт или писатель, спокойно выразит это невыразимое и все его поймут.

Аватар пользователя Arkan
Arkan(12 лет 1 месяц)

Мнения ученых разошлись.

Рад за вас, что удается мыслить разговорным языком.

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Не "мыслить разговорным языком", а мыслить понятиями, закодированными в имеющемся у вас словарном запасе. То есть для мышления вы способны использовать только набор смыслов, ограниченный вашим словарным запасом.

Для иллюстрации можно взять технику скорочтения, когда вы читаете, не проговаривая про себя каждое слово, а воспринимая взглядом целые фразы и даже куски текста. Отдельные слова при этом не осознаются, проходя фоном, остается только смысл. Если не попытаетесь понять, что происходит при таком чтении, можете думать, что вам для чтения не надо знать никаких слов, вы якобы способны читать сразу смысл. Точно так же, как утверждаете сейчас, что мыслите не словами, а напрямую смыслами.

Аватар пользователя Arkan
Arkan(12 лет 1 месяц)

мыслить понятиями, закодированными в имеющемся у вас словарном запасе

У вас, а не у нас. Словарный запас... Давайте еще про писательское ремесло поговорим ))

Вы хотя бы в курсе, что способность человека к восприятию информации вообще не зависит от уровня его образования?

Вы в курсе, что означает "остановить внутренний монолог"?

Вы хоть раз общались с людьми, пытающимися выразить на человеческом языке события, которые они увидели или пережили не в реальности?

Не надо пытаться всех опустить до своего уровня. 

Всё, дальше вы в свободном плавании.

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

В свободном плавании... о, да. Какое убожество... Вы хоть понимаете, что чтобы заниматься остановкой внутреннего диалога, его прежде надо иметь? Если же его не было изначально, то у человека не развивалось сознание и не формировался аппарат мышления, и это просто человекоподобное животное? Плывите...

Аватар пользователя Fvwm
Fvwm(13 лет 2 месяца)

А может ли мыслить человек, не зная слов? Ведь нет же?

то есть гроссмейстер играет в шахматы, по вашему, так: "я пойду на e5, он тогда будет вынужден играть d3, тогда..." ?

или гроссмейстер не мыслит?

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Возьмите шахматную программу, способную выиграть у гроссмейстера. Если решите, что она во время игры мыслит, то мыслит и гроссмейстер. Нет, значит нет. smile1.gif

Аватар пользователя Fvwm
Fvwm(13 лет 2 месяца)

Если решите, что она во время игры мыслит, то мыслит и гроссмейстер. Нет, значит нет.

я могу передать ваши слова гроссмейстерам? ;-) или может вы сами это при личной встрече скажите?

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

Это был ваш вопрос, мне он неинтересен. Но вообще "мыслительная деятельность", которую можно поручить программе, работающей по жесткому алгоритму, это деятельность в принципе несложная. Да, она может быть утомительна из-за объема необходимого запоминания деталей и частого переключения внимания, но именно в качестве мышления она очень слаба. Именно поэтому она доступна даже детям самых младших возрастов при условии хорошей памяти.

Вот создание смыслов и понятий, операции над ними, вот это сложная задача, поэтому именно большие языковые модели (LLM) претендуют на близость к человеческому мышленияю, а не шахматные программы.

Аватар пользователя Fvwm
Fvwm(13 лет 2 месяца)
Это был ваш вопрос, мне он неинтересен.

да нет, это как раз был ваш вопрос: "может ли мыслить человек, не зная слов?"

я вам привёл простейший пример (а есть ещё примеры сложные), но теперь выясняется, что вам ваш собственный вопрос не интересен

(LLM) претендуют на близость к человеческому мышленияю, а не шахматные программы.

понятно, то есть вы считаете что в шахматы играют "программы, работающие по жесткому алгоритму"? а в Го какие играют? то же "по жёсткому алгоритму"?

Вот создание смыслов и понятий,

доступно только Богу, ну или на худой конец Демиургу, попробуйте создать хоть одно понятие для начала

Аватар пользователя shepgot
shepgot(3 года 4 месяца)

это как раз был ваш вопрос: "может ли мыслить человек, не зная слов?" я вам привёл простейший пример

Значит, вы совсем по-своему поняли, о чем был мой вопрос. Давайте разбираться. Приведите "простейший пример" гроссмейстера, который не знает слов, т.е. которого никто никогда не обучал словам (символическим понятиям). И если такой пример вдруг найдете (не иначе как в стае волков посреди джунглей), объясните, как этот человек вообще сумел понять правила игры в шахматы.

Аватар пользователя Fvwm
Fvwm(13 лет 2 месяца)

объясните, как этот человек вообще сумел понять правила игры в шахматы.

ну... пример с собакой, которую можно легко обучить играть в футбол подойдёт? в футболе тоже есть правила, игра абстрактна, не связана ни с выживанием ни с размножением, собака слов не знает

или речь о чём-то другом?

Страницы