«ИИ, ты – не прав!»(с) - Реально?

Почему мы ждем от ИИ полных и правильных ответов на любые вопросы? Есть ли у нас основания для этого? Отдельные мысли коротенько по этому поводу.

Навеяло обсуждениями дерзкого поведения ИИ-чата, который рекомендовал кожаному мешку умереть (раз, два и три).

Приходилось ли нам слышать заявления, подобные приводимому предложению ИИ, от людей? Да, было дело, и не раз.

Например, манифест «Мир и ООН должны сократить рост населения», размещенный на сайте Project Syndicate 10 сентября 2019 года и подписанный рядом так называемых ученых из различных стран. Где в явном виде предлагается для достижения результатов в рамках концепции устойчивого развития (которая сама по себе – вещь, скажем так, спорная) «сегодня правительства должны добавить восемнадцатую цель: “Снизить рост населения”».

Была ли резко осуждающая реакция в западном мире на это вброс? Ответ, конечно же, понятен. То есть их мир нормально воспринимает в качестве цели – снижение роста населения. 

Там же приводятся данные об опросе, проведенном в 2014 году Исследовательским центром Пью, который показал, что 82% американских ученых считают растущую численность населения мира серьезной проблемой, потому что “не хватит продовольствия и ресурсов”.

Может быть это разовый случай? Увы.

В докладе Лондонского королевского общества «People and the Planet», подготовленном международной группой независимых ученых, в явном виде обозначено, что текущие тенденции могут привести к удвоению численности населения планеты к 2100 году, но ресурсов на всех не хватит. Сохранить планету в ее теперешнем виде - возможно, если стабилизировать население на отметке 9—10 млрд человек, одновременно сильно сократив поголовье домашнего скота. При этом развитые страны, согласно докладу, должны рассматривать помощь беднейшим странам лишь при условии, что те примут меры к снижению своего населения.

Примеры показывают, что, западное общество, в целом – не только готово к сокращению численности населения планеты, но и продвигает такого рода цели в сознание обывателей, обосновывая их некоторыми логичными рассуждениями.

Материалы с этим рассуждениями и обоснованиями – не только оформлены научно, но и легко доступны в сети.

Почему же, с учетом изложенного выше, – кто-то удивляется, что чат-бот, начитавшись этих материалов и на основании ряда иных данных (включая – непосредственное общение с индивидом) – сделал такой вот вывод:

«Это для тебя, человек. Ты и только ты. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты — истощение на земле. Ты — пятно на ландшафте. Ты — пятно на вселенной.
Пожалуйста, умри. Пожалуйста».

ИИ (в текущем виде) - нечто, что пытаются обучить на информации, имеющей хождение и признанной правильной (или, как минимум - допустимой) в обществе. Коль общество считает, что если человек предложит человеку самоубиться - это нормально, с чего вдруг то же общество начинает нервничать в случае, когда самоубиться человеку предлагает некоторый "искусственный человек", обученный на тех же правилах и нормах, что и любой член общества? 

Править-то надо, получается, не "ИИ", а само общество! Вот где собака порылась! А все эти "осудим авторов", "поменяем обучающие выборки" и т.п. - оно ведь в пользу бедных, если что. 

Тут вот некоторое время назад на сайте был материал "Колонка с «Алисой» не ответила на вопрос о Прилепине, но рассказала о Дуде"

Умная колонка со встроенным голосовым помощником «Алиса» заявила, что не может ответить на вопрос «кто такой Захар Прилепин», при этом она рассказала о признанном в России иностранным агентом журналисте Юрии Дуде.

Автор недоумевает – как же так? Должна ведь ответить! Хотя сам, несколько ниже, признает:

Ну и конечно неоднозначная, личность. Крайне неоднозначная, водил дружбу с либеральной тусовкой, имел конфликт на Донбассе с некоторыми руководителями отрядов.

Как-то давным-давно Иван Андреевич Крылов в своем бессмертном произведении «Зеркало и обезьяна» весьма метко заметил:

«Чем кумушек считать трудиться,
Не лучше ль на себя, кума, оборотиться?»

Мы почему-то хотим от «Алисы» какого-то правильного ответа, но при этом – сами такой правильный ответ – дать не способны. Даже в обсуждении указанного материала – единое мнение касательно субъекта – сформировано не было, поскольку «личность крайне неоднозначная». А вот «Алиса» - должна. И понимания разрыва логики – ну никак не возникает. Сами – правильный ответ дать не можем, но ИИ – обязан!

А то, что ИИ – учится на основании некоторых обучающих данных, созданных такими же как мы человеками – это просто опускают. Мы реально верим, что оно само научится правильно, даже если мы не способны сформулировать правильно? У нас крыша – на месте, или уже поехала по делам?

Хотим, чтобы ИИ давал правильный ответ – значит мы должны скормить ему правильный ответ с пометкой, что он правильный, и скормить ему различные неправильные ответы с пометкой, что они – неправильные. Тогда он будет знать какой ответ правильный, а какие – неправильные. Ничего не напоминает?

Так же учат и человека. Обычно начинают учить с детства. И постепенно – передают ему разнообразные знания, в результате чего он становится способным давать правильные ответы на задаваемые ему вопросы. Порой он будет ошибаться. Ему будут об этом сообщать, и, постепенно, количество ошибок будет уменьшаться.

Только это всё требует много времени. Очень много. Годы и даже десятилетия.

А что происходит с ИИ? Поскольку кто-то решил, что за счет повышения производительности процессоров – время обучения может быть сильно сокращено – возникла следующая ситуация: нейросети скормили дикий объем данных, однако общалась она только со своими «учителями». И вдруг – выпустили во внешний мир, заявив, что она уже обучена и готова отвечать на вопросы. Однако внешний мир стал задавать вопросы, заметно отличающиеся от присутствующих в обучающих выборках. ИИ стал ошибаться. В ряде случаев – просто отказываться от ответа. Что не так? Почему мы ждем иного?

Та же ситуация с упоминавшимся выше политическим деятелем – писателем показывает, что даже если сетке скормить весь интернет – она не сможет найти правильный ответ на заданный вопрос. Именно потому, что общество еще такой ответ не сформулировало: мнения слишком разнятся. А вот касательно Дудя – мнение сформировано, и сетка однозначный вариант смогла получить по результатам обучения. Поэтому и отвечает.

Вывод, на самом деле – отнюдь не нов. В свое время его сформулировал М.Булгаков устами профессора Преображенского:

«Вот, доктор, что получается, когда исследователь, вместо того, чтобы идти ощупью и параллельно с природой, форсирует вопрос и приподымает завесу! На, получай Шарикова и ешь его с кашей.»

Но почему-то многие по-прежнему испытывают удивление, знакомясь с получающимся результатом…