Война машин

Аватар пользователя MEgor

Напишу сейчас очень страшную вещь. Думал, стоит ли это писать, ведь интернет всё помнит и можно открыть ящик пандоры. Но подумал, что предупреждён, значит, вооружен. Следовательно, развивая концепцию, можно разработать и противодействие ей. Сейчас это только фантазии, не подтверждённые технологиями, но многие современные вещи стали реальностью, а когда-то были только игрой ума фантастов. 

На эту мысль меня натолкнул последний страшный теракт. Один из террористов сказал, что его сагитировал некий "проповедник", которого он никогда не видел, а общался только через телеграмм. Приняв эту ситуацию как данность, можно предположить, что некая сила, обладающая хорошими знаниями психологии и обширной базой данных людей смогла провести внушение человеку и сделать из него убийцу. Также нам известно, что сейчас существуют технологии "дипфейка", которые способны очень достоверно создавать аудиовизуальные данные. Таким образом "проповедником" может оказаться кто угодно. Например, какой-нибудь прыщавый подросток из Нью-Джерси. 

А теперь разовьем мысль дальше. Кто сможет объединить (не сейчас, но возможно, в будущем) большой объём информации из баз данных про личности, про психологические техники, создать специальный аудиовизуальный контент? Да ведь это очень напоминает генеративный ИИ! То есть, теоретически машина, снабжённая ИИ, может путём манипуляций и внушения сможет заставить одного человека уничтожить другого. Машина заставляет людей убивать друг друга. Вот вам и Скайнет из фильма "Терминатор". Честно говоря, стало страшно. 

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя maxvlad
maxvlad(12 лет 10 месяцев)

Person Of Interest. Очень неплохая разработка темы. А ещё "Ангел, тёмный ангел" Желязны. Вопрос интересует людей уже более шестидесяти лет.

Бог-из-машины, имеющий возможность общаться с людьми - каким он будет?

Аватар пользователя Ivanovich
Ivanovich(12 лет 11 месяцев)

Особо и париться не надо завербовать животное. 

Аватар пользователя Гуманитарный погром

Это вряд-ли. В данном описании животное соответствует эталону высшей воровской  идеологии . " Всё для меня, ничего от меня" . Ему выполнять чью-то волю вообще немыслимо. Это другие должны выполнять его волю.  И психотипы в чистом виде никогда не встречатся.

Аватар пользователя Lock_enough
Lock_enough(7 лет 2 месяца)

Только те, кто занимаются вербовкой такой классификацией не интересуются. А уж тем более в такой недалекой подаче.

Практической пользы от такой информации практикам ровно ноль

Аватар пользователя Событие
Событие(1 год 5 месяцев)

Замечательный рассказ. Только тут один момент, машины не имеют собственного сознания. Машины действуют в соответствии с техзаданием заказчика.

Если человек заказчик будет делать машины для убийства людей, то машины для убийства будут убивать. Сами по себе машины убивать не будут.

Аватар пользователя MEgor
MEgor(5 лет 3 месяца)

Кажется, гугл работает в направлении развития у ИИ когнитивных способностей. Т. е. работа над созданием мотивации для роботов ведётся. Если у робота появится собственная мотивация, например, избегание уничтожения, то это может очень далеко зайти. 

Аватар пользователя boris-ronin
boris-ronin(4 года 10 месяцев)

Если человек запрограмирует мотивацию, то будет и мотивация.

Аватар пользователя Тех Алекс
Тех Алекс(9 лет 5 месяцев)

Уже. Звонят по Ставрополью и детей на гадости агитируют.

Аватар пользователя m1ha1l
m1ha1l(4 года 11 месяцев)

Да, пошла рассылка - обещают деньги за убийства в тц

Аватар пользователя ZIL.ok.130
ZIL.ok.130(7 лет 4 месяца)

Молнея!

По Куиву прилёт.

СБУ, ГУР и некоторые другие службы -- минус.

Зеля награждал там кого-то. Что с ним пока неясно.

Будем надеяться.

Прилетели "Кинжалы", "Цирконы" .

И минус один(предположительно) "Пэтриот" в Жулянах.

smile19.gif

Аватар пользователя Пчеляк
Пчеляк(2 года 5 месяцев)

ОГО! Вот это уже дело, если правда!

Аватар пользователя Чубчик Кучерявый

smile19.gif

Аватар пользователя просто пользователь

Теперь там будут выборы?

Аватар пользователя fivik
fivik(6 лет 3 недели)

Настроение поднял!

Аватар пользователя March2
March2(5 лет 8 месяцев)

Пэрэмога? А подтверждения в телеге...

Аватар пользователя Harsky
Harsky(12 лет 7 месяцев)

Откуда инфа?

Аватар пользователя bom100
bom100(12 лет 10 месяцев)

А организовывать теракт кто будет? Кто орудие доставит? Кто все это спланирует? Все это должен сделать прыщавый юноша? 

Аватар пользователя mcflyker
mcflyker(12 лет 10 месяцев)

Фильм такой есть. Из сериала. Там через камеры ловят разных людей на проступках, а потом шантажируют через мессенджер и заставляют делать то, что нужно злоумышленику. Имея достаточно приличную сеть таких завербованных можно сотворить все что угодно.

Аватар пользователя user3120
user3120(9 лет 2 месяца)

Война психологов. Задайтесь вопросом почему все эти нищие многодетные?

Еще одна причина для childfree.

Аватар пользователя Vladyan
Vladyan(9 лет 6 месяцев)

Не все. Брадобрей - молодой и холостой. И еще у одного был один ребенок.

Аватар пользователя user3120
user3120(9 лет 2 месяца)

...молодой и холостой

Без братьев, без сестер?

Аватар пользователя Vladyan
Vladyan(9 лет 6 месяцев)

Не знаю, так плотно его биографию не копал.

Аватар пользователя pvz
pvz(9 лет 5 месяцев)

почему все эти нищие многодетные?

А, кстати, почему?

Аватар пользователя Pencroff
Pencroff(2 года 9 месяцев)

Война психологов. Задайтесь вопросом почему все эти нищие многодетные?

Потому, что они больше ничего не умеют. Психологи тут ни при чём.

Аватар пользователя Siv Ka
Siv Ka(2 года 2 месяца)

Да, это наряду с едой основное доступное и понятное по уровню развития развлечение.

А добывание еды как раз - убийство скота, естественный для них процесс. Резать и гонять своих женщин они умеют с детства. А загнанные женщины на своем уровне соглашаются с таким отношением и рожают одного за другим, как здоровье позволяет. И часто те же дети - их единственная возможность получить любовь, пока те ещё малыши и не "посвящены в мужчины" с ножами.

Аватар пользователя topolov
topolov(5 лет 6 месяцев)

"Кто сможет объединить (не сейчас, но возможно, в будущем) большой объём информации из баз данных про личности, про психологические техники, создать специальный аудиовизуальный контент?"

Уже сейчас это возможно.

Работают над этим.

Пока только в коммерции.( а может и не только)

Аватар пользователя vikarti
vikarti(10 лет 3 месяца)

Чисто так для информации :)

Эксперименты на предмет - вот есть посты (и ответы на посты других) у человека в Facebook/Twitter/Telegram, надо сделать бота который будет успешно имитировать человека - ведутся. Отдельными домашними можно сказать экспериментаторами, без своих кластеров из 100500 видеокарт а с более доступными ресурсами. Которые при этом еще и статьи вроде https://betterprogramming.pub/unleash-your-digital-twin-how-fine-tuning-llm-can-create-your-perfect-doppelganger-b5913e7dda2e пишут и получается что-то относительно приличное.

Дообучение сеток на по текстам заданных книг - вполне себе простая тема.

Как и создание персонажей для чата под конкретную тематику. Вполне себе убедительных (особенно если персонажа не будут проверять задачи которые нейронки плохо могут и не экономить совсем уж на ресурсах).

Правда уже с русским языком все похоже (проще - прикручивать отдельно гугл транслейт чем русскоязычные модели). 

Если у кого то появилось желание поэкспериментировать...есть подозрение что не особо сложно можно написать ИИ-бота который будет чатится с заданным набором кандидатов и пробовать их убедить что им надо поджечь военкомат, ну или что бот это агент КогоНадо под прикрытием и убеждать более менее по методичкам что надо сделать то то, а как из 100500 кандидатов 5 созреют - можно и кураторам. 

И нет, цензура у всяких OpenAI/YandexGPT - не спасет, локальные модели на то и локальные.

Аватар пользователя bratello
bratello(2 года 9 месяцев)

То есть, теоретически машина, снабжённая ИИ, может путём манипуляций и внушения сможет заставить одного человека уничтожить другого. Машина заставляет людей убивать друг друга.

Если кого-то тупая машина может заставить убивать просто так другого человека (или заставить перевести свои средства на "защищенный счет в другом банке"), то тупая здесь совсем не машина.

Аватар пользователя March2
March2(5 лет 8 месяцев)

Вот соглашусь полностью.

Аватар пользователя pvz
pvz(9 лет 5 месяцев)

В начале 2000х по городам появились столбы "пробиби пять рублей": никакого интеллекта, только красные цифры, кнопка и монетоприемник. Работало! Каждый вечер из такого столба вынимали ведро пятаков.

Так что, главное - поймать запрос общества, а техника подтянется.

Аватар пользователя bratello
bratello(2 года 9 месяцев)

Работало! Каждый вечер из такого столба вынимали ведро пятаков.

У меня знакомый держал целый зал таких. Потом ему запретили.

А сейчас он в Черногорию на пмж уехал и поливает оттуда Россию дерьмом

Аватар пользователя Иван Жуков
Иван Жуков(10 лет 3 недели)

Зачем сюда запустили кучу "ценных специалистов", которых ИИ может легко убедить "за копеечку" убивать людей. Или (-в этой логике), миграционными процессами у нас уже лет так восемь ИИ управляет?

Аватар пользователя maxvlad
maxvlad(12 лет 10 месяцев)

Почему восемь?

Я видел бригаду железнодорожных рабочих, где русским был один лишь бригадир, в 2005-м году. Нашему только пробкового шлема не хватало, а управлял он ими свистком. С тачками бегало и засыпало щебёнку  между шпалами человек двадцать.

А с 2002-го года я работал одинэсовцем на свиноводческом комплексе. И в списке фамилий в зарплатной программе видел овердофига нерусских фамилий - характерных таких. Только я то пришёл в 2002-м, а они уже работали.

Так что я могу утверждать, что теме существенно больше двадцати лет. Это лет восемнадцать как взялись эту проблему как-то решать. В другой конторе, где я работал, году в 2008-м исчезло неформально существовавшее общежитие для ценных специалистов.

Аватар пользователя prometey2013
prometey2013(9 лет 2 недели)

Таким образом "проповедником" может оказаться кто угодно. Например, какой-нибудь прыщавый подросток из Нью-Джерси. 

Проповедником уже давно может быть ИИ.

Аватар пользователя otherone
otherone(2 года 4 месяца)

Машинам нафиг эта вся белковая возня будет не нужна.

Аватар пользователя pvz
pvz(9 лет 5 месяцев)

машинам белковая возня нужна так же, как нам растения, глупые и неподвижные, преобразующие поток света низкой плотности в энергонасыщенные зёрнышки.

Машины пользуются ещё более плотной энергией, чем мы. Кто-то должен будет заряжать им батареи, питаясь кашкой. Главное, чтобы люди делали это так, как будто их собственное дело.

Аватар пользователя ata
ata(12 лет 10 месяцев)

А ещё страшный потусторонний голос из телеги научил его хладнокровно убивать людей выстрелами в упор, отрезать головы и организовывать поджоги. А Рафик неуиноуат.

Аватар пользователя father_gorry
father_gorry(8 лет 10 месяцев)

Стоит добавить, что машина сразу после вербовки сторонников начнет натравливать их на несогласных. Адепты ИИ окажутся гораздо лучше скоординированы, гораздо более крикливы. 

Во время Октябрьской революции на улицы вышли менее полпроцента населения, то же самое во время Майдана 2013. И они смогли захватить власть в обоих случаях. 

Хотя, конечно, руководить этим ИИ будут люди.

Аватар пользователя Доктор Хаус
Доктор Хаус(2 года 9 месяцев)

Во время Октябрьской революции на улицы вышли менее полпроцента населения, то же самое во время Майдана 2013. И они смогли захватить власть в обоих случаях. 

Полпроцента населения не захватывали власть. Полпроцента населения создавали массовку, под прикрытием которой специально обученные люди захватывали власть.

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов
Повелитель Ботов(54 года 11 месяцев)

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Аватар пользователя к.ф.-м.н.
к.ф.-м.н.(2 года 3 месяца)

Ещё более ужасно осознавать, что эти люди сознательно могут  замотивированы даже половиной обещанной суммы авансом, потому что в их ауле семья на эти 250 тыс может долго жить , а что с данным биороботом будет впоследствии никого не волнует, даже его самого. Перевел деньги своим и пошел убивать, подрываться, и так далее. 

Аватар пользователя Doomdoom2
Doomdoom2(1 год 2 месяца)

Вполне себе мысль, сам ее давно думаю. На почве доминирующего вида появился новый, который предыдущий и похоронит. ИИ-Антихрист/ всех обманет искусит, Сотона всех убьёт. Люди не нужны, вкалывают роботы, а не человек.

Аватар пользователя Галс
Галс(7 лет 10 месяцев)

За влияние на умы и скрытое управление борьба идет лет сто. Раньше лет 300 назад,  был примитивный эпистолярный жанр, например есть книга Как управлять рабами.

 В современном мире есть очень серьёзные результаты, но не буду давать на них ссылку.