Безрукий интеллект

резкое изменение ситуации в окружающей среде может привести к тому, что он выдаст людям один, но зато очень вредный совет, который приведет к катастрофе.
Образно выражаясь, посоветует, например, вложить все свои сбережения в акции фирмы «Рога и копыта».

Какой толк тогда от этих людей, если они ни хрена не способны решить? Пусть идут лесом вместе со своими ИИ-советчиками. Естественный отбор, знаете ли.

Замени в этой заметке ИИ на слово "президент", или "парламент", или "олигархи" - и практически ничего не изменится. И наши, и особенно западные боссы почти настолько же сильно оторваны от реальной жизни, как и пресловутый ИИ. Но ИИ, в силу конструктивных особенностей, может попытаться брать всю нефильтрованную информацию из реального мира. У него может хватить на это мощности. А человек, и даже такой умный как Путин, чо уж говорить про всяких бабайденов, может узнавать о реальном мире только микроскопическую долю информации, которую фильтруют все подряд.

Классическая ситуация в НИИ и КБ (для конкретики, ОКБ Факел или НИИ Физических Измерений)

Верхушка живет абсолютно своей жизнью. Из реальных дел - сливает деньги с проектов в мутные конторы, в прошлом - обслуживает теневой бизнес, создает информационный шум на этажах выше.

На низах если копнуть поглубже - занятное сочетание предельной бюрократии, прочем часто в чисто технических вопросах, и анархии.

Приходим к теории функциональных систем Анохина и к афферентному синтезу?

Оба-на! Вот и подъезжают окна овертона для вывода ИИ на физические манипуляторы. А я-то думал: - как это сделают? Под каким благим предлогом? Вот прошу.

Рассмотрим проблему ИИ с точки зрения Теории автоматического управления (ТАУ).

Ну зачем с конца-то заходить? 

Сначала уж определитесь, чего же это такое - "интеллект".

Термин научный, чуждое пустое слово, не имеется такого понятия в нашем языке русском (и в татарском мне сказали тоже нет). 

Вот типа Душа - и слово, и понятие есть, но наука это не признаёт.

Нах такая наука? Что-то не так однако в такой науке...

Этот, так называемый "интеллект", просто хитрый фильтр, который, основываясь на больших количествах данных научился выдавать нечто, что создает иллюзию сознания на выходе. По факту это довольно тупая хрень, которая не обладает интеллектом на уровне даже кошки.

А вот насчет "делать руками" согласен немало видел, вроде человек образованный, а дурак-дураком по факту, образованец, и как правило такие руками делать вообще нихрена не умеют, для них гвоздь в доску забить, это задача невыполнимая в принципе.

Интеллект - это просто алгоритм + база данных, пополняемая из датчиков. При достижении какого-то масштаба, сложности и эффективности можно назвать этот алгоритм интеллектом. Но можно и продолжать называть Алгоритмом, если у кого диссонанс возникает.

Тут в другом проблема. Алгоритм может создать нежелательную скорость роста или наоборот стабилизацию некоего параметра. Тут надо как-то определяться при формулировании Задания с долгосрочной и краткосрочной перспективами. Рейганомика долго экономику двигала, но что сейчас имеем?

С организацией Обратной связи с людьми - исполнителями (ЛИ) никакой принципиальной сложности нет. Полно возможностей средств интеграции при согласии субъекта.

Задержки реакции сводятся к минимуму при большом кол-ве ЛИ и высокой степени интеграции. В любом случае, системы регулирования способны настраиваться на разные задержки.

ИИ оценивает результаты действий в соответствии с Заданием, разумеется. Задание выглядит как определённый темп роста Параметра или его стабилизация на определённом значении. 

А я всегда говорил, что пока ИИ не начнет самостоятельно трах спариваться, никакой это не интеллект а граммофон. Причем делать он это должен с удовольствием и с оценкой результата в виде естественного отбора и  выживаемости.

Если ИИ безрукий и подслеповатый, резкое изменение ситуации в окружающей среде может привести к тому, что он выдаст людям один, но зато очень вредный совет,......

Ну прям по Ф.Энгельсу:

Под влиянием в первую очередь, надо думать, своего образа жизни, требующего, чтобы при лазании руки выполняли иные функции, чем ноги, эти обезьяны начали отвыкать от помощи рук при ходьбе по земле и стали усваивать все более и более прямую походку. Этим был сделан решающий шаг для перехода от обезьяны к человеку.https://www.politpros.com/library/28/259/

Энгельс Ф. Роль труда в процессе превращения обезьяны в человека | POLITPROS.COM

(1)Труд - источник всякого богатства, утверждают политикоэкономы. Он действительно является таковым наряду с природой, доставляющей ему материал, кот...