Поскольку ранее высказывал аналогичные выводы, просто привожу google перевод публикации:

Executive Summary of “Designing Ecosystems of Intelligence from First Principles”

Комментарии тут излишние, сама публикация объясняет все.

Далее следует интерпретация официального документа «Проектирование интеллектуальных экосистем на основе первых принципов», выпущенного исследовательской лабораторией VERSES и переведенного на простой для понимания язык и концепции. Мы обсуждаем будущее искусственного интеллекта (ИИ) и его потенциальную роль в формировании общества. Мы полагаем, что ИИ должен не только понимать и иметь возможность делиться своими убеждениями, но и демонстрировать гибкий и общий интеллект, присущий людям. Мы предполагаем, что окончательной формой ИИ станет распределенная сеть «экосистем интеллекта», в которой коллективы интеллектуальных агентов, как человеческих, так и синтетических, будут работать вместе для решения сложных проблем. Эта экосистема, известная как «Пространственная паутина», содержит всеобъемлющую базу знаний, работающую в режиме реального времени — совокупность всех человеческих знаний, доступную кому угодно и чему угодно.

Искусственный интеллект развивается такими стремительными темпами, что кажется, что новый инструмент ИИ, от нового до умопомрачительного, каждый день попадает в заголовки газет. Однако многие вопросы о роли ИИ в нашем будущем остаются без ответа. 

По мере того, как мы переходим от информационного века к веку разведки, многие задаются вопросом: нанесет ли ИИ ущерб рабочей силе, заполонит сеть дезинформацией или, что еще хуже, превратится в версию наших технофобских научно-фантастических кошмаров и уничтожит нас всех? Или это ознаменует наступление глобальной эпохи процветания? Если мы предпочитаем быть оптимистами и делать ставку на последний сценарий, мы должны спросить себя, какой вид искусственного интеллекта имеет наибольший потенциал для пользы человечества.

Помня об этом вопросе, позвольте нам представить наше видение развития искусственного интеллекта на следующее десятилетие и далее, основанное на том, как интеллект проявляется в живых организмах и в экосистемах, которые они населяют. 

В природе организмы часто работают коллективно, чтобы адаптироваться и выжить. От слизевиков до косяков рыб и целых лесов — общий разум присутствует повсюду. Мы, люди, регулярно общаемся, чтобы делиться своими идеями. Это важная часть того, как мы растем, адаптируемся и процветаем. Тем не менее, большинство сегодняшних систем ИИ не способны поделиться своими знаниями с нами или с другими ИИ, а также не могут выразить, как они достигли своих целей. Это потому, что они не знают , что делают и почему они это делают. Возможно, называть их модными калькуляторами было бы слишком кратко, но в каком-то смысле они таковыми и являются. DALL-E, модель искусственного интеллекта с глубоким обучением и способностью генерировать изображения из текстовых подсказок, будет составлять бесчисленные изображения собак на мотоциклах, но не знает, что такое собака или мотоцикл. Например, у него нет никаких представлений о том, что такое собака. Он просто способен воспроизвести нужное изображение при наличии некоторой подсказки. ChatGPT, хотя и весьма впечатляет, просто предсказывает, какое слово должно идти дальше, основываясь на предварительных знаниях. Он понятия не имеет, правильно ли то, что он говорит. В действительности, он вообще не знает, что произносит слова.

Мы считаем, что для того, чтобы по-настоящему достичь AGI, ИИ должны не только понимать и интересоваться тем, что они делают и почему они это делают, они также должны иметь возможность делиться тем, что они узнают и как они это узнали. Если сделать их объяснимыми, они станут более заслуживающими доверия. Но как нам добраться отсюда туда?

Будущее искусственного интеллекта часто представляют как развивающееся через три отдельных этапа : 

Первый этап можно отнести к категории «Узкий ИИ» . Эти системы, представляющие собой современный искусственный интеллект, предназначены для выполнения конкретных задач или решения конкретных проблем в ограниченной области и не способны демонстрировать общий интеллект , присущий людям. Типы узкого ИИ включают программное обеспечение для распознавания речи и изображений, программное обеспечение для обработки естественного языка, самые современные генеративные ИИ и системы рекомендаций.

Следующий этап развития ИИ называется «Общий искусственный интеллект» (AGI). Эти системы демонстрируют гибкий, универсальный интеллект, присущий людям, которые способны адаптироваться к новым ситуациям, изучать и понимать новые концепции, а также выполнять широкий спектр задач и действий. 

Третью фазу прогресса часто называют искусственным сверхинтеллектом (ИСИ). Этот сложный ИИ не только будет работать в целом в разных областях, но и будет делать это на уровне, далеко превосходящем человеческие способности, даже экспертов. 

В научной фантастике искусственный «общий» или «сверх» интеллект часто изображается как единое целое, всезнающий искусственный мозг, если хотите. Но мы считаем, что зенитом эпохи ИИ, скорее всего, станет распределенная сеть «экосистем интеллекта». 

Эта стадия общего интеллекта достигается, когда интеллектуальные агенты — как естественные (т. е. люди), так и синтетические (т. е. интеллектуальные артефакты) — могут работать вместе для решения сложных проблем. Эти интеллектуальные агенты, как человеческие, так и синтетические, становятся узлами распределенной взаимосвязанной экосистемы — того, что можно было бы назвать многомерной киберфизической сетью, охватывающей физические и виртуальные пространства. Мы называем это Пространственной паутиной — сетью планетарного масштаба, которая связывает реальный и цифровой миры в одну единую сеть. 

Пространственная сеть состоит из датчиков, интеллектуальных агентов и субъектов. Датчики собирают данные, а интеллектуальные агенты, как человеческие, так и искусственные, анализируют, понимают и планируют в соответствии с этими данными. Такие актеры, как роботы, дроны или люди, выполняют предложенные действия в физическом мире. Вместе эти датчики и актеры позволяют интеллектуальным агентам воплощаться в физическом мире. Как и мы, они могут видеть и слышать. Этот вариант реализации обеспечивает бесшовную связь между цифровым миром и физическим. Пространственная сеть работает на основе обширной, распределенной и всегда актуальной базы знаний — совокупности всех человеческих знаний, способных обеспечить точную картину мира в реальном времени, к которой любой может получить доступ где угодно. 

Чтобы понять, как мы будем создавать следующее поколение Интернета, мы обратимся к многомасштабным системам , которые встречаются в природе. Природные экосистемы часто обладают коллективной способностью адаптироваться к изменениям окружающей среды. Например, лес может корректировать распределение видов растений и животных в ответ на изменения погоды или других факторов окружающей среды. Как и почти все творения природы, леса представляют собой системы вложенного разума . Это означает, что его интеллект — это не единая, однородная черта, а скорее сложный и динамичный процесс, состоящий из множества различных уровней интеллекта. Растения, например, растут по модульному принципу, как структурированное сообщество, которое самоорганизуется в определенную конфигурацию для оптимизации роста, солнечного света, устойчивости и биоразнообразия. Наши тела — еще один пример вложенного интеллекта, поскольку они состоят из множества взаимосвязанных, автономных единиц, которые работают вместе, образуя единое целое. Эти единицы можно увидеть на различных уровнях организации: от клеток до тканей, от органов до систем. Каждый блок выполняет определенные функции и способствует общему функционированию организма в целом. Можно даже сказать, что весь разум в природе — это того или иного рода коллективный разум. 

Как и естественные системы, технологические системы также можно рассматривать как системы вложенного интеллекта, причем интеллект возникает на нескольких уровнях организации. Например, сенсорная сеть Интернета вещей может состоять из множества отдельных датчиков, каждый из которых выполняет определенную функцию и способствует общему функционированию сети. Искусственный интеллект также может быть вложенным. Несколько специализированных агентов ИИ могут работать вместе для выполнения сложных задач и решения проблем. Например, агент обработки языка, агент обработки зрения и агент принятия решений могут работать совместно с роботами, дронами, автомобилями, приводами и людьми. Каждый из этих интеллектуальных агентов работает вместе, образуя более сложную и универсальную интеллектуальную систему, способную решать чрезвычайно сложные проблемы. 

В идеале эта «биомиметическая» система, то есть система, использующая синтетические методы, имитирующие биологические процессы, также должна интересоваться нами и друг другом , то есть постоянно осмысливать изменения, происходящие в окружающей среде. В дополнение к нашей способности запрашивать такие ИИ, они должны интересоваться нами и задавать нам вопросы. Это любопытство позволит им приобретать новые виды знаний и интегрировать их в существующую когнитивную архитектуру , подобно тому, как человек добавляет новые навыки и знания в свою ментальную модель в течение своей жизни. Экосистема ИИ, способная обучаться, естественным образом со временем станет более универсальной и умной, поскольку она постоянно расширяется и опирается на существующие формы интеллекта. 

В нашем представлении об искусственном интеллекте искусственные интеллектуальные агенты должны быть небольшими и гибкими. Вместо того, чтобы создавать миллиарды параметров, которые требуют больших объемов данных для обучения, что, в свою очередь, требует избытка вычислительной мощности, что делает их крайне неэффективными, нашим агентам требуются небольшие объемы контекстуализированных данных, особенно в общем формате, и обработанные с помощью минимальное обучение. Интеллектуальные агенты могут быть специализированными, способными общаться с другими, задавать вопросы о том, что они чувствуют, и узнавать новое. При таком подходе агенты могут постоянно учиться и делиться знаниями с другими агентами, отказываясь от монолитных, чрезмерно сложных и неэффективных систем искусственного интеллекта. Вместо этого группы агентов могут постоянно общаться, координировать свои действия и сотрудничать друг с другом, разделяя и решая специализированные задачи, которые перерастают в сложные задачи более высокого порядка. Значительным преимуществом вышеупомянутого общего формата данных является то, что помимо возможностей моделирования и обмена знаниями он также означает, что агентов можно проверять, то есть мы можем понять, как и почему они принимают свои решения и предоставляют обновления или правила. Это контрастирует со многими современными системами искусственного интеллекта (например, с большими языковыми моделями и нейронными сетями), которые часто чрезвычайно сложны и не могут быть проверены даже экспертами, что делает невозможным понимание причины или методологии того, как и почему они могут создавать решения.

Таким образом, вместо того, чтобы добавлять больше данных, параметров или слоев в архитектуру машинного обучения (что является вычислительно неэффективным), мы создаем ИИ, который «масштабируется» так, как это делает природа: путем агрегирования отдельных интеллектов внутри и между экосистемами во вложенные интеллекты, которые могут работать вместе эффективно с точки зрения вычислений для решения проблем в реальном времени, независимо от их сложности. В такой экосистеме люди и ИИ становятся взаимодополняющими агентами, каждый из которых обладает уникальными сильными сторонами и возможностями. Работая вместе, люди и ИИ могут помочь друг другу полностью раскрыть свой потенциал с целью оказать положительное влияние на мир.

Чтобы создать экосистему вложенного интеллекта, каждый агент, независимо от своей роли, должен иметь возможность учиться, планировать, обновлять, действовать и обновлять свои убеждения в свете новых данных. Тем не менее, чтобы считаться по-настоящему разумной, система также должна интересоваться самой собой и своей функцией в мире. Это означает, что он активно повторяет этот процесс обучения, планирования и действий, постоянно стремясь понять результаты своих действий и адаптируясь, когда результаты неудовлетворительны. Для человека это легко. Однако ИИ должен развиваться в направлении этих возможностей. Результатом станет первый в мире настоящий ОИИ.

Существует методология, которая, как мы знаем, уникально подходит для создания таких интеллектуальных агентов, известная как активный вывод . Эта концепция основана на идее о том, что интеллектуальные агенты, такие как роботы или программы, должны действовать таким образом, чтобы максимизировать точность их убеждений и прогнозов о мире, сводя при этом к минимуму их сложность. Это то, что люди и другие организмы делают постоянно. Другими словами, цель активного вывода — дать синтетическим агентам возможность принимать решения в реальном времени на основе максимально возможной информации об их окружении, что приводит к наилучшим возможным результатам. 

Чтобы оптимизировать эти результаты, мы предлагаем механику интеллекта, называемую байесовской механикой, как способ, позволяющий синтетическим агентам понимать мир так, как это делаем мы. Двигаясь по миру, мы постоянно приписываем вероятность того, что результат окажется истинным. Например, если я подброшу монету, я могу сделать вывод, что с вероятностью 50% она выпадет орлом. Однако, если я узнаю, что монета двусторонняя и имеет орёл с обеих сторон, я обновлю свой прогноз и скажу, что монета упадёт орлом в 100% случаев. Другими словами, байесовская механика — это математика того, как мы обновляем наши убеждения об ожидаемых результатах по мере поступления новой информации. Это математический метод предсказания наиболее вероятного будущего. 

Например, представьте себе робота по имени Макс, который живет в доме и может передвигаться самостоятельно. У Макса есть датчики, которые позволяют ему видеть и слышать происходящее в доме, и он может использовать эту информацию, чтобы делать прогнозы о том, что может произойти дальше. Например, если Макс услышит звук открывающейся двери, это может предсказать, что кто-то входит в дом. Используя байесовский подход, Макс может обновлять свои убеждения по мере поступления новой информации, что делает его прогнозы лучше. Например, если Max видит, что в дом входит человек, он может обновить свой прогноз, чтобы быть более уверенным, что кто-то находится в доме. С другой стороны, если Макс услышит звук лая собаки, он может обновить свой прогноз, включив в него возможность того, что в доме также находится собака. Постоянно обновляя свои прогнозы на основе новой информации, Макс может со временем учиться и адаптироваться к окружающей среде. 

Агенты ИИ познают мир, моделируя его. Это похоже на то, как люди понимают мир. Мы постоянно создаем и обновляем ментальные модели, которые держим в голове. Это могут быть мысленные представления физических мест, например наших домов. Или это могут быть объекты, подобные нашим машинам. Ментальная модель автомобиля может включать понимание того, как работает двигатель, как тормоза и акселератор контролируют скорость автомобиля и как рулевое колесо управляет направлением движения автомобиля. С помощью этой ментальной модели мы можем управлять автомобилем и делать прогнозы о том, как он будет вести себя в различных ситуациях, например, как он будет реагировать, когда мы поворачиваем руль или нажимаем на тормоз.

Ментальные модели также можно использовать для понимания абстрактных понятий, таких как математика или физика. Например, мысленная модель сложения может включать понимание того, что сложение двух чисел дает большее число, а мысленная модель гравитации может включать понимание того, что объекты притягиваются друг к другу в зависимости от их массы. Мы используем ментальные модели каждый день, чтобы понять и объяснить сложные системы или концепции, а также сделать прогнозы о том, как такие системы или концепции будут вести себя в будущем. 

Активный вывод использует модели для представления убеждений о состоянии мира (или состояния конкретной области, такой как цепочка поставок, контейнеровоз или грузовик) в данный момент времени, а также для прогнозирования с использованием этих моделей того, как мир (или домен) будет развиваться с течением времени. Эти модели могут обновляться по мере поступления новой информации, чтобы повысить точность прогнозов, которые они делают. 

Представьте, что наш робот Макс перемещается по лабиринту, используя внутреннюю модель лабиринта, чтобы планировать свои движения и избегать препятствий. Если Макс встречает (чувствует) новое препятствие, которое не было включено в его первоначальную модель лабиринта, он может обновить свою модель, включив в нее эту новую информацию и улучшить свою способность успешно перемещаться по лабиринту. Таким образом, системы искусственного интеллекта могут использовать модели мира для обновления своих убеждений и принятия более эффективных решений. 

Но что, если Макс захочет поделиться тем, что он узнал о лабиринте, с другими агентами ИИ? Ключевым аспектом любой природной системы является связь между организмами. В лесу общение часто осуществляется через сети микоризных грибов, которые способны облегчить обучение и даже память. Микоризы образуют симбиотические отношения с корнями растений и помогают растениям поглощать воду и питательные вещества из почвы, в то время как растение снабжает гриб энергией в виде углеводов. Грибы облегчают общение, соединяя корни разных растений вместе, образуя сеть, известную как «широкая деревянная паутина». Наш робот Макс должен иметь возможность общаться с другими роботами, чтобы делиться своими знаниями и учиться у других. В нашем подходе Макс может использовать общий язык, чтобы автоматически добавлять то, что он узнал, к постоянно обновляющейся общей модели мира? Таким образом, Макс сможет сообщить всем Разумным агентам, что он узнал о лабиринте. Ключевым преимуществом экосистем интеллекта является совместное обучение. В цифровой сети, такой как Spatial Web, это может происходить в реальном времени.

Чтобы обеспечить эффективную связь между интеллектуальными агентами в пространственной сети, необходимы новые протоколы связи . Предыдущие интернет-протоколы были разработаны для соединения страниц информации, тогда как протоколы следующего поколения должны быть пространственными и способными соединять что угодно в виртуальном или физическом мире. Язык гиперпространственного моделирования ( HSML ) и протокол транзакций ( HSTP ) преодолеют текущие ограничения HTML и HTTP, которые не были разработаны для включения нескольких измерений и в основном ограничивались текстом и гипертекстом. Создание общих языков и протоколов — это первый и ключевой шаг на пути создания экосистемы естественного и искусственного интеллекта, который сможет учиться, адаптироваться и делиться своими знаниями с другими агентами.

Эволюция интеллекта включает ключевые этапы развития, которые изложены ниже.

S0: Системный интеллект

Умение распознавать закономерности и реагировать. Современный уровень искусственного интеллекта.

S0 — это машинный процесс в программном обеспечении, который сопоставляет входные данные с выходными и оптимизирует некоторую функцию значения или стоимость состояний. Примеры включают глубокое обучение и обучение с подкреплением.

S1: Разумный интеллект  

Способность воспринимать и реагировать на окружающую среду в режиме реального времени.

S1 основан на обновлении и оптимизации убеждений. Он реагирует на сенсорные впечатления и строит планы, основанные на ожидаемом получении информации и ожидаемой ценности. Этот интеллект любопытен и ищет как информацию, так и предпочтения. Такой ИИ будет реагировать на сенсорные впечатления и сможет планировать, основываясь на последствиях действий или представлений о мире, что позволит ему решить практически любую проблему.

S2: Сложный интеллект

Способность учиться и адаптироваться к новым ситуациям

S2 основана на разумном поведении. Его планы основаны на последствиях действий для представлений о мире, а не на самом мире. Другими словами, он уходит от вопроса «что произойдет, если я это сделаю?» на «Во что я поверю или узнаю, если сделаю это?» Этот вид интеллекта использует генеративные модели и соответствует «искусственному общему интеллекту» в популярном повествовании о прогрессе ИИ.

S3: Симпатический (или Разумный) интеллект

Способность понимать эмоции и потребности других людей и реагировать на них

S3 — это когда сложный ИИ распознает природу и мысли пользователей и других ИИ. Этот вид интеллекта понимает, что думают и чувствуют другие люди и другие ИИ. Он способен принять точку зрения своих пользователей — так сказать, пойти на их место. Он может понимать мысли и чувства собеседников. Этот тип интеллекта также называют «перспективным», поскольку он может понимать разные точки зрения: он распознает природу и мысли пользователей и других ИИ. Оно было бы «сочувствующим», то есть способным понимать точки зрения, отличные от своей собственной.

S4: Общий (или сверх) интеллект

Способность работать вместе с людьми, другими агентами и физическими системами для решения сложных проблем и достижения целей.

S4 — это тип коллективного разума, который возникает, когда симпатический интеллект работает вместе с людьми и другим ИИ. В истории развития ИИ этот этап называется «искусственным сверхинтеллектом». Мы верим, что такого рода разведка будет исходить от многих агентов, работающих вместе, создавая сеть общих знаний, которые становятся мудростью. Мы считаем, что наш подход — лучший способ добиться такого рода разведки в глобальном масштабе.

У нас есть видение будущего искусственного интеллекта и дорожная карта, как его достичь. 

Уровни интеллекта 

В таблице выше мы видим, что «разумный» искусственный интеллект является не только теоретическим, но и протестированным, что указывает на его большие шансы на успех. У нас есть идея, как развернуть его в больших масштабах, но этот план может быть изменен. Наконец, биомиметический разумный интеллект все еще остается амбициозным. Биомиметика относится к технологии, которая имитирует конструкцию и функции живых организмов в технологии. В контексте искусственного интеллекта биомиметическую технологию можно примерно приравнять к синтетическим системам, имитирующим то, как человеческий мозг учится, планирует и адаптируется. 

Эта диаграмма призвана показать, какие шаги должны пройти системы искусственного интеллекта, чтобы достичь ИСИ, где они смогут учиться и работать в сети, как люди, но с невообразимой скоростью и в невообразимом масштабе. Они будут учиться и адаптироваться самостоятельно («сложные»). Они смогут понимать и реагировать на эмоции и потребности других («сочувствующие») и работать вместе с людьми, другими агентами и физическими системами для решения сложных проблем и достижения целей («совместные»). 

В VERSES мы разрабатываем новый тип ИИ, основанный на вложенных экосистемах интеллекта, существующих в природе, который приведет к ИСИ. В этих экосистемах интеллектуальные агенты, как люди, так и искусственные, работают вместе для решения сложных проблем. Активные агенты вывода делают прогнозы, принимают меры и взаимодействуют со своей средой через пространственную сеть, что позволяет им воспринимать и понимать мир так же, как мы. Вместо того, чтобы рассматривать людей как нечто отдельное или подчиненное ИИ и Пространственной сети, наш подход гарантирует, что мы остаемся неотъемлемыми участниками. Мы оставляем позади антиутопические кошмары научно-фантастических стереотипов ради будущего, где искусственный интеллект развивается и совершенствует все, к чему прикасается, где интеллект вплетен в ткань нашей повседневной жизни так же, как электричество в 20-м веке. В этом случае, действуя как ключ к обновлению нашей цивилизации, решению наших самых серьезных проблем и раскрытию нашего высочайшего потенциала. Мы считаем, что подход к цифровому интеллекту, сформированному из экосистем и основанному на фундаментальных принципах, обнаруженных в природе и подтвержденных нейробиологией, является путем к достижению этих целей.