В процессе прочтения очень не скучной и познавательной статьи (и комментариев к ней) о генерации правдоподобных текстов и возможности отвечать на вопросы, без спецификации необходимой задачи, алгоритмом GPT-2 от OpenAi
(нейросеть живёт - здесь, трудиться - здесь, как запустить - здесь),
знакомясь с примерами "творчества" GPT-2, меня тревожили смутные сомнения.
По примерам приведённые в тексте "Словомельница или просто ИИ?" вы поймёте какие:
Каково будущее Украины как государства?
Изображение подписи кандидатов в президенты от реформистского списка Юлии Тимошенко и Николая Азарова. Президент Виктор Янукович отказался признать новый режим
Теории заговора также процветают в Украине. Украинская журналистка Юрий Тимошенко недавно сказала Би-би-си, что, по ее мнению, нынешний президент находится в ведомости ЦРУ.
Многие на Западе, в том числе в украинских СМИ, говорят, что Тимошенко была подставлена "баронами-разбойниками" ее страны, некоторые из которых
Чувствуете, некоторый налёт "всезнания" и зачаточного "предсказамуса"?
Ещё
Какова судьба газопровода на Украине?
Первая часть газопровода предназначена для поставок в страны Восточного региона. Он будет поставлять около 600 000 тонн газа в год в южные и восточные регионы страны (Словакия, Украина, Беларусь, Польша, страны Балтии, Румыния, Болгария и т. Д.). Стоит отметить, что на протяжении многих лет зарубежные партнеры Украины пренебрегали импортом газа от украинских и российских поставщиков.
Источники указывают, что разработчики из OpenAi опробовали алгоритм GPT-2, в частности, на задачах: ответе на случайные вопросы, переводе текста и вопросах на понимание прочитанного. Несмотря на это, что эффективность алгоритма для этих задач значительно ниже алгоритмов, настроенных на определенные задачи, GPT-2, к примеру, удалось добиться максимальной средней точности при ответе на вопрос в 63,5 процента. При этом ни один из вопросов и ответ на него не были использованы в обучающей выборке. Разработчики считают, что эффективность GPT-2 в выполнении этих задач можно повысить с расширением датасета и увеличением вычислительной мощности компьютеров, который используется для обучения. взято отсюда
Примем, что скоро алгоритм GPT - ### доведён до совершенства, т.е. при чтении синтезированного текста человек не может отличить, кем написан текст человеком или машиной, не видит в тексте логических и (или) иных противоречий, не может отличить правда или ложь изложены в тексте. Алгоритм становится идеальным, вычислительные мощности достаточными.
И вот вопрос.
При загрузке достаточно большого массива ИСТИННОЙ информации (без субъективизма, ложных сведений, откровенного вранья и пр.), т.е. GPT-### не знает, что такое "ложь" и находит только ИСТИННЫЕ связи и принимает только ИСТИННЫЕ решения.
Получим мы на выходе "Думатель" (известный в определённых кругах, как - "Нагибатор Человеков - XXXL")? Тот, который ответит на "Вопрос жизни, Вселенной и вообще? Прости и ясно." А, в итоге, на любой вопрос, т.е. фактически сможет отвечать на любые вопросы и предсказывать события?
Или оно изобретёт ЛОЖЬ?
Ах, OpenAi, какие планы!
На мой взгляд, ответ «Да», на любой из вопросов – сногсшибателен.
Перспективы с «Думателем» описывать, считаю, не нужно.
Изобретение прибором «лжи» - укажет на то, что «ложь» является неотъемлемой частью и продуктом «мысли» и непобедима.
Но, я склоняюсь к мысли, что на выходе получится человеконенавистнеческий "Нагибатор Человеков - XXXL" который будет знать всё на свете, лгать напропалую и потребительская ценность его будет равна нулю, так как верить этой скотине нельзя.1
Комментарии
Нужно учитывать, как настраивается и обучается нейронка. По сути, это лишь новый алгоритм обработки массивов данных без необходимости их строгой формализации. Никаким ИИ там и не пахнет.
"А унутри у ей нейронка!" (с)
В принципе, нейросетки и подразумеваются, на сейчас, под ИИ.
Уточню в своём тексте, а в источнике такое название было.
Угу, а какой "думатель" будет решать, что загружаемая информация истинна?
"Книга перемен" у вас получится для гадания, или этакий электронный "Павел Глоба", ну, или "словомельница"))), а не "Думатель".
Думатель нужен не человечеству. Он нужен отдельным человекам, с конкретной целью: нагнуть других человеков.
Из этого нужно исходить, а не из поисков абстрактной истины.
Да, именно не "Думатель" - "Нагибатор - XXXL". Спасибо за идею, использую в тексте. 🤝🤝
Творческого начала нет, соответственно, это не "настоящий ИИ" - сознание. "Технологии" "Настоящего ИИ"-сознания будут доступны сыну Путина
Загрузка истинных данных не гарантирует непоявления лжи.
Интерпретация истинных данных, она знаете ли тоже требует истинных алгоритмов. а сколько их потребное количество должно быть ?
Таки, да. Вот недавний пример
«Нейросеть быстро нащупала способ поддерживать длительное общение с человеком: его надо оскорблять»
Источник : https://realnoevremya.ru/articles/152366-oleg-greshnev-o-neyrosetyah-i-totalnom-kontrole
Получим мы на выходе "Думатель"? Тот, который ответит на "Вопрос жизни, Вселенной и вообще" он же ответил - "42", но народец не понял, думатель ответил - "Вопрос жизни, Вселенной и вообще" - "это не вопрос! Только зная вопрос, вы поймете ответ".
вопрос не сформулирован. для формирования этого вопроса и создан человек.
Абсолютно, правильный вопрос - половина ответа.
Сколько произведений, фильмов, пьес крутится вокруг темы: "Машина (человек, существо, место, предмет) - отвечатор на вопросы и страждущий ответа". Так что мы уже минимум 5 000 лет готовимся. От ту би ор нот ту би до ту беер о нот ту беер. От "Кто виноват?" до "И что теперь с этим делать?"
нет. именно так - Только зная вопрос, мы поймем ответ.
что бы понять нужно знать - что нужно понять. дело не в ответе, он будет "понят" как только будет понят "вопрос". вопроса нет.
вам вот лично не важны "мои ответы", вам (там, в глубине, по честному если) - важны ваши вопросы, и вы на них ищете ответы. но для этого их (вопросы) - надо создать.
поэтому - вопрос=ответ, правильный вопрос=правильный ответ.
Разрабы от OpenAi утверждают, что GPT-2 в ответах вышел за рамки загруженного из Интернета барахла. Значит, теоретически, содержание и смысл вопроса не важны, при загрузке достаточно большого объёма (в идеале - загрузить весь Интернет или всю ИСТИННУЮ информацию в мире и Вселенной) мы получим Нечто, что познало истинные связи и глубинную суть всего в Интернете, мире, Вселенной и вообще. И способно, просто и ясно, ответить на ЛЮБОЙ вопрос.
Вот в чём смысл.
хорошо, пусть так.
какой тогда к Главный вопрос?
Вот этот:
"Какой вопрос Главный?"
Знаем мы этого думателя.
Все новое хорошо забытое старое.
Амазон юзает такую хреновину только пыль столбом.
Сдается мне, этот текст тоже был сгенерирован той самой нейросетью.
ты те те теперь в нашем списке человек человек человек
Вы неявно предполагаете, что истина уже существует и наша задача (тех кто ее ищет) - путем правильных логических рассуждений очистить и извлечь ее из информационных дебрей ..
При этом вы забываете, что истина не обязательно может быть извлечена из информационных дебрей. Возможно что ее там просто нет.
И еще одно - Вы забываете о теореме Геделя (а ИИ является разновидностью подобной формальной системы).
Возникают вопросы:
-Каким образом синтезатор текста может быть запрограммирован на подачу информации "в нужном ключе"? Не окажется ли так, что синтезатор нечаянно выдаст текст, информационно противоположный задумкам хозяина программы?
-Какая разница для процедуры критического анализа текста, кто пишет ложь: человек или машина? Программа-синтезатор может сгенерировать правдоподобный текст, но никак не сможет влиять на деятельность мозга адресата по восприятию информации.
База слов, база смыслов, правила. Алгоритм настроен на поиск совпадений на слова и смыслы вопроса из заранее сформированных баз данных. Но, для формирования удобочитаемого ответа из этих совпадений этого явно недостаточно и нужна сравнительная база по совпадениям правильных ответов. Правильных ответов на самом деле намного меньше, чем неправильных.
И да, машине должно быть строго настрого запрещено лгать.
Злые языки говорят, что
Просто продвинутые роботы Сири и Алиса NextGen? Или выше и глубже?
А алгоритм разрабы, якобы прячут, ибо "опасность нависнет над миром". И вероятно, они правы.
Осмысленный текст без механизма сравнения с истинным ответом является ложью, если хотя бы один из его элементов ложь. А в этом ответе, по сути, всё ложь, хотя бы потому, что не приводится, хотя бы один пример правильного ответа. Выбирать из текста осмысленную ложь, тоже может быть кому-то интересно, но довольно объемно, трудоемко и бессмысленно. Например, заспамить АШ тысячами бессмысленных постов под разными акаунтами можно, а смысл, если после пары-тройки таких постов их перестанут читать и забанят.
Проблема в том, что значительную часть работы по приданию текста осмысленности делает сам читатель. Поэтому если использовать определенные, достаточно расплывчатые и/или многозначительные текстовые конструкции, то результат будет выглядеть интересным, и даже глубоким. Но эта глубина - лишь зеркало интеллекта читателя, Вроде как окно в большое пространство, но на самом деле - стена, тупик.
Хм, очень интересно. Об этом ракурсе работы "псевдоинтеллекта" я не подумал. Иллюзия и престидижитация.
Глубоко.