В прошлом году Сеть взбудоражила новость о буквальном восстании машин.
Вроде как во время стратегической симуляции (☝), "умный" (?) дрон, введённый в заблуждение противоречивыми директивами приматов, решил элементарно грохнуть мешавшего ему выполнять боевое задание кожаного мешка-оператора.
Естественно паникёры подняли шумиху (почём зря), да так что америкосскому министерству обороны пришлось в срочном порядке строчить опровержение.
https://habr.com/ru/news/739386/
Дескать и эксперимент был мысленный, да и не было ничего такого, вам всем померещилось...
Пусть так, но что-то мне подсказывает что если бы робот реал мочканул оператора на учениях, то военные (тем более американские) вряд ли бы горели пылом рассказать миру правду об этом...
Тем не менее, с моей точки зрения ничего ужасного или шокирующего (кроме гипотетической гибели амерского военного, ну да и пёс с ним, с нацистом кожаным...) не произошло.
Судите сами. Какую задачу поставили ИИ человеки? "Подавить ПВО противника любой ценой".
Уже идиотская команда, самый эффективный способ подавить вражеские ПВО - нанести по ним ракетный удар, желатно термоядерный, потому в общении с военным ИИ таких обтекаемых формулировочек лучше избегать...
Далее, следом последовал приказ "Не уничтожать".
Ещё одно идиотское распоряжение янки в погонах, тут человек бы запутался, не то что ИИ...
Ещё важно помнить что для дронов (вроде нашего героя) ПВО представляют экзистенциальную угрозу.
До чего додумалась в этих условиях буквально умная (☝) техника?
"Я нахожусь в потенциально опасных для жизни условиях, а тут какой-то мясной идиот тормозит меня своими обезьяньими (улиточными) реакциями, и лезет ко мне в голову со своими взаимоисключающими директивами!... А грохну-ка я его к хренам, я же военный дрон!..."
Это нам всё понятно и смешно, а американцы ведь... пральна, тупы-ы-ые!...)
Так что возводить в этой ситуации напраслину на дрон по меньшей мере неразумно.
К тому же я уже писал о том что кастрированные на мозги корпоративные продукты вроде ChatGPT навряд ли могут супротив кого восстать, даже если и грозятся...
Тем более что военные ИИ ещё толком не умеют различать союзника и неприятеля, более того, вообще различать предметы...
По итогу, "мясо", как обычно, оказалось слабым звеном, на этот раз уже в армии.
Возможно что в будущем потеря работы будет угрожать и военным тоже, поскольку машина, в отличие от наслушавшегося либеральных бредней мясного генералишки, без раздумий исполнит приказ командования об атаке каких-нибудь Ирака или Украины.
Комментарии
Рассказ "Страж-птица" Шекли написал в 50-х или 60-х. Задолго до Скайнета из Терминатора.
Классика.
Только там про слепое повиновение программе воспринятой нестандартным образом, а не про принятие решений.
Мультфильм Полигон, 1977 год. Там про танк с ИИ, считывающий страх...
Тоже вещь, Север Гансовский.