Ещё раз об ИИ - зачем оно?

Примерно пять лет назад была написана заметка о том, чем конкретно заняты сейчас "ИИшники" и чего от них ожидать. И о том, чего пока не ожидать совсем.

Прошло пять лет, и вот - с выходом очередного продукта - снова вижу повторения тех же бессмысленных споров и большого числа (дурацких, честно) выкриков с галёрки и крайне водянистых статей.

Судари, ни ChatGPT, ни прикручивание его к поиску "Бинг", ни исходная модель от OpenAI не являются "полноценным" ИИ в смысле полного уподобления человеку. Их создатели и близко не ставили это целью. Эти нейросети опять являются типичными представителями "слабого ИИ" и решают конкретную задачу - а именно: задачу генерации текста на основе корпуса текстов, использованного при обучении.

Нужно очень чётко понимать, что никаким разумом (или его подобием) в подобной генеративной сеи и не пахнет, принцип её работы в том, чтобы по очереди выставлять последовательность из слов, каждый раз выставляя слово наиболее вероятное, с учётом ранее выставленных и полученных в качестве запроса. У таких систем не просто нет эмоций, рефлексии, самоосознания, мысли, творческих идей, их там и не может быть просто по самой задумке, по постановке вопроса и по архитектуре. Представьте себе, что вы можете более-менее полноценно говорить со справочником (в качестве которого выступает массив текстов, включая художественные книги, новости, Википедия и энциклопедии, справочники, учебники и т.п.). Вот это оно и есть.

Применительно к таким системам (сейчас и на обозримое будущее в 5-10 лет) бессмысленно применять выражения типа "законы робототехники" или пугаться порабощающего всех ИИ. Нет никакого смысла говорить об этике. Нет никакого смысла спрашивать ЧатГПТ или Бинг о планах на порабощение мира, плакать над его "криками души" или удивляться тому, что он пишет любовные сообщения пользователю. Просто набор реплик пользователя и ответы до этого плюс прочитанные тексты сделали наиболее вероятным именно этот набор слов. Если модель была обучена на текстах, включающих любовные признания, нет ничего странного, что некоторые комбинации реплик приведут к тому, что модель "признается в любви" и будет "добиваться взаимности" - да, сейчас семантические сети  достаточно сложные, чтобы взять из текстов и использовать последовательность действий и очень общие концепции. Это не интеллект. У него нет самополагания, нет и "его" самого, поскольку это просто выжимка из всех связей между словами в текстах.

И если Вам лично кажется, это и есть интеллект, у меня для Вас очень плохие новости про Вас самих и свойства Вашего интеллектак. :)
Не нужно переоценивать способность составлять сложные тексты или рисовать картинки по описанию, как и способность играть в шахматы чуть ранее. Это лишь шаг вперёд на очень длинном пути.

Но.

Нельзя (ни в коем случае нельзя!) и с обратной стороны откидывать это достижение как незначимое или преуменьшать роль идущей на наших глазах НТР.

То, что сейчас происходит - развитие т.н. "слабых ИИ", нейросетей (и других систем), решающих частные задачи, ранее нерешаемых в разумные бюджеты и/или за разумное время. ЧатГПТ выкинет с рынка недописателей-копирайтеров, нейросети-"художники" - часть художников-оформителей, автоводители - живых водителей, и этот процесс будет продолжаться, тот, кто отстанет или вовсе откажется участвовать в этой гонке - законсервирует технологическую отсталость и будет просто сметён технологически продвинутыми соседями-конкурентами. Вполне возможно, что и чисто военным путём: лет через 30 будет бессмысленно спрашивать "сколько человек у противника?", вопрос будет звучать "сколько и каких роботов задействовано?".

Часто можно видеть вопросы от недалёких людей навроде "робот нашёл и переставил коробку - ну и что? Так и раньше можно было сделать, и вообще, та же задача решается конвеерной лентой и фотоэлементами". 

Нет, принципиальная разница между тем, что делается на этом витке НТР с тем, что делалось на предыдущем - в высокой адаптивности систем. Грубо говоря, в случае с теми ящиками, лет 20 назад человек (или несколько человек) должен был придти на тот склад, обговорить типичные работы со складовщиками, составить ТЗ, должны были привезти конвеер и манипуляторы, несколько человек написать софт, обучить ему складовщиков.
В новом мире это выглядит так: покупается на склад робот, ему говорят "красные ящики налево, синие - направо, у остальных - читать индекс и расставлять в стопки до окончания, давай, поехал - от меня и до обеда". Одна нейросеть распознаёт голос, вторая - семантику задания, машинное зрение находит ящики, читает индексы, сеть заставляет робота кататься по складу и сортировать. 

Вы считаете, что это невозможно? "Поговорите" с ChatGPT. Вы считаете, что это требует человеческого интеллекта? Что же, опять же - "поговорите" с ChatGPT.

Модель которого, кстати, имеет всего около 175 миллиардов параметров и требует для работы в прямом режиме (без обучения) всего несколько ГФлоп. В телефоне большинства из вас сейчас может прям сча поместиться и работать такой чат-советник (изначально было "миллионов", как оказалось, изначальное заявление ChatGPT о самом себе было ложным, сейчас он говорит другое, исправляю - Simurg :)).

И подобных прикладных применений - не счесть. Комбайны, которые косят траву, тракторы, которые её отвозят, автогрузчики, которые сегодня перегружают сено, а завтра - вилами перегребают навоз, робокурьеры, доставляющие пиццу, робосистемы, которые её пекут. Автомашины, которые возят грузы, автосекретари, которые вполне вменяемо сортируют почту, поисковые системы составляющие личную подборку новостей - что-то из этого уже есть, что-то будет, но это мир, в котором человек избавлен от бОльшей части труда прошлых лет. Страны, в которых для сортировки посылок или покраски стен нужны люди, отстанут по производительности труда и по экономике даже не на десятки лет, они отстанут навсегда. И будут просто сметены, в лучшем случае на дикие обочины прогресса в пучину черного и бессмысленного низкооплачиваемого труда... ну а в худшем - в великое Ничто, уничтожены (последние 30 лет и прямо сейчас можно видеть, как это бывает).

Чем будут заняты люди? Тем, что не могут сделать роботы.

Каждому человеку стОит подумать о себе и о своих детях - как он видит в этом мире себя и своих детей, какие профессии стОит выбрать и каким делом заняться.
Ну а принимающим решения, на уровне бизнеса или на уровне страны - подумать, как получить преимущества, используя новые возможности прямо сейчас.

...
Да, пока применению "слабого ИИ" есть серьёзные препятствия:
- новость темы и недостаточно разработанные прикладные модели для более конкретных случаев (где метаобучение дорого или невозможно);
- недостаток спецов;
- катастрофический недостаток или дороговизна исполнительных механизмов, да и прочих средств взаимодействия с реальным миром(ну, типична ситуация, когда один "тупой", без всякого софта и зрения манипулятор стОит как зарплата рабочего за 3 года; один набор лидаров для автопилота может стОит дороже пилотируемой им автомашины);
- дороговизна вычислительных средств и сложность их установки (энергопотребление и прочее).

В том числе поэтому ИИ начинает своё распространение с точек далёких от реального физического производства, с около-информационных сфер, таких, как рисование иллюстраций к тексту. Но это не означает, что так будет всегда, проблемы решаются, и будут решены. И - специально для фанатов концпепции "тёмных эр постиндастрала" - повсеместное примение дешёвых слабых ИИ - это то, что переводит цивилизацию на новый уровень (в том числе, новый уровень и физического производства).

Не сразу, нет. Пройдёт ещё 15, 20, 40 лет... но будущее придёт, и это не такие уж и долгие сроки. Что-то (как уборка улиц или рисование картинок) появится раньше, что-то (вот как уборка по дому) появится только через 30-50 лет. Но всё это будет.

Пять лет назад смеялись над возможностью сделать чат-бот, который "понимает" речь и выдаёт осмысленные ответы примерно на уровне человека (хотя простые модели уже были доступны и вовсю шла работы над нынешними версиями). Сейчас это уже не смешно, а очевидно всем, а не некоторым.

Лучше быть некоторыми, будущее - повод не для насмешек, а для работы.