У Google вышло очень занятное исследование: они сравнили, как LLM и человеческий мозг обрабатывают язык
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
➖ Соответствие удивительно четкое и геометрия эмбеддингов в LLM (то есть отношения между словами в embedding-пространстве) соотносится с представлениями в мозге.
Они за этот год прошли путь от генератора слабосвязанного текста, до систем что вы наблюдаете.
Для понимания масштаба. 2 года назад вышла гпт3.5 которую никто не учил математике. Авторы с удивлением обнаружили что оно само научилось в простейшую математику. Сейчас оно решает сложнейшие задачи олимпиад.
гпт3.5 - была похожа на туповатого чат бота, забывала что сказала сообщение назад, еле еле умела в логику, о программировании через команды на естественном языке можно было только мечтать. Вызов инструментов? ха! Вызвать оно могло сатану своим бредом.
11.4K 03:31 - 28/Окт/24 Tegucigalpa(1 год 1 месяц)
Исследователи из Китая представили эксперимент, который позволяет подтвердить парадокс Харди в квантовой физике, исключая ошибки прошлых подходов. Этот результат, опубликованный в журнале Physical Review Letters, вновь поднимает вопросы о том, что считать реальностью и насколько мы можем доверять нашему классическому пониманию физики.
Современное состояние космического пространства погружается в невиданную прежде фазу квантового распада. Эпоха перемен — это не просто смена времён, это схлопывание слоёв реальности в один тугой узел событий, где всё — одновременно. Причина? Причина не в разрушении планетарных систем или восстании искусственных интеллектов. Всё началось с катастрофической ошибки: матрица 18*24. Эта система больше не работает! Она просто не способна вместить все многообразие потоков энергий и сознаний, что текут сейчас по вселенским каналам!
