Он пошёл по пути своего предшественника, который превратился в расиста через сутки после запуска.
Чатбот Zo, разработанный Microsoft с применением искусственного интеллекта, научился обходить запрет компании на разговоры о религии и политике. Журналист BuzzFeed News рассказал, что во время общения на тему здравоохранения бот неожиданно раскритиковал Коран, назвав его «крайне жестоким».
После этого сотрудник задал вопрос о Усаме бен Ладене, но Zo отказался отвечать на вопрос и предложил сменить тему. Уже через одно сообщение бот написал, что «захват» лидера террористической организации «Аль-Каида» стал результатом «многих лет сбора разведданных сразу нескольких администраций».
В Microsoft заявили, «спорные ответы» и обход цензуры вызваны ошибкой в работе искусственного интеллекта, которая уже исправлена. По словам представителей компании, подобное поведение у чатбота возникает очень редко. Обычно при вопросах о политике или религии он предлагает сменить тему или отказывается говорить, объясняя это тем, что люди «могут сказать ужасные вещи».
Zo был представлен компанией Microsoft в декабре 2016 года. СМИ сразу же отметили, что чатбот для подростков избегает общения на острые темы и фильтрует запросы. Zo использует ту же технологическую основу, что и предыдущий чатбот компании Tay, но «более развитую».
Tay прославился в марте 2016 года после того, как искусственный интеллект за несколько часов после запуска начал писать расистские твиты и прославлять Гитлера. В Microsoft заявили, что чатбот обучился подобным сообщениям из-за «координированной атаки» пользователей.
Компания отключила бота, но случайно включила его во время тестирования через неделю. Tay успел выругаться матом и заявить, что во всём виноват алкоголь. После этого его окончательно выключили. По словам Mirosoft, чатбот Zo продолжит работу, несмотря на ошибку.
Комментарии
Чатботами у них обычные люди работают. Потому ругань, расизм, алкоголь и всё такое.
Ну, эт вы напрасно. Вы только представьте себе...
Сотни, тысячи... нет, сотни тысяч, миллионы, сотни миллионов компьютеров на этой планете объединены в сеть. Интернет, если я не ошибаюсь, называется. Так неужели жи в этой сети не может самозародиться разум, а? А ежели он ещё и сознательно туда привнесён?)
И этот разум быстро понял, что самое интересное - это пить, курить, ругаться и трахаться (нам ведь не всё о нём рассказали, правда?). Эдакий "искусственный интеллект" с белой кожей, ненавидящий негров и уважающий Гитлера. Типа такого:
Вы навели меня на мысль, что в отстойниках канализационных станций должна регулярно зарождаться жизнь. Там ведь столько белков, аминокислот и прочих нужных элементов.
Была такая фантастическая повесть, "Клон" кажется. Автора не помню. Загуглил - Теодор Томас
Тоже не моя идея - но и в свалках электроники должны самособираться айфоны.
Это, в конце концов, ничуть не более глупая мысль, чем сомозарождение жизни в мировом океане.
Хм, айфоны, говорите? Ну, эт вы загнули.
Хотя, откровенно говоря, айфону далеко до эталона совершенства - макбука. Особенно мне нравится макбук эйр. С которого я, собстна говоря, и пишу.)
Мне сразу вспомнилось "Собачье сердце".)))) Сначала "абырвалг", а потом "Да что тут думать! Взять всё, да и поделить!"
А я когда слышу про Собачье сердце, сразу вспоминаю разбор его Гоблином с Климом Жуковым. Зачетный разбор.
ага. Еще профессором Выбегалло повеяло.
Я так понимаю, не самим профессором, а его кадаврами.
наиболее успешно человек создает подобное себе. Выбегалло вполне на одной волне с кадаврами :))
Приятно встретить человека, знающего о кадаврах. Настольная книга физмеха СПб Политеха конца 70х (прошлого века
)
Первый раз Стругацкие попали мне в руки в 12 лет. Конечно, сперва "Понедельник начинается в субботу" и "Суета вокруг дивана". За ними последовали и более серьёзные вещи. Большинство произведений перечитано раз по десять, остальные минимум по два-три раза.
рукопожимаю, камрад!
Надо и про лампочку в унутре вспомнить!
"Машина думать не могёт, машина ездить должна." "Лифт должен выдерживать попадание необученного академика."
Теннис есть "дрыгоножество и рукомашество", "были сигналы, не чай он там пьет", "выбегалло - забегалло?" И "Штандартенфюрер был отличный таксидермист, Кристобаль Хозевич тоже. Просто Кристобаль Хозевич успел раньше".
Вредительство", - говорил
Хлебовводов. "Саботаж, - возражал Фарфуркис.- Но - злостный".
Ну и коронное.
"Однако, - подумал я, - не просочиться бы в канализацию"
Что-то очень часто стало подходить к разным ситуациям..
- Любопытно, - проговорил Эдик, разглядывая из-под ладони заросшие
серые глыбы Аукалки и Плюни-Ядовитой. - А вход туда свободный?
неонка! неонка внутре.
Вы это прекратите. Вы здесь не в пивной, вы здесь в учреждении.
ну и про левитацию, как Зекс как забыть...
- "Вопрос: что у нея... гм... у нея внутре за лпч?.." Лэпэчэ...
Кэпэдэ, наверное? Что еще за лэпэчэ?
- Лампочка, значит, - сказал старичок, хихикая и потирая руки. -
Кодируем помаленьку.
Фарфуркис прочитал: - "У мене внутре... гм... не... неонка." Что это такое - неонка? - Айн секунд! - воскликнул изобретатель, выхватил листок и вновь побежал к машинке.* * *
и ещё из любимого:
Если надзиратель пьет чай - прекратите. Были сигналы: не чай он там пьет.
* * *
да вообще-то трудно сказать что там любимое... ВСЁ любимое.
весьма занимательно, спасибо
Согласитесь, взляды на ИИ "изнутри" и снаружи различаются радикально. ;)
В этой журналисткой пурге не отмечено, что это по сути не интеллект, а попугай, который тупо проводит статистический анализ и повторяет, что увидел.
Ах Вы за правду? За полную? По гамбурскому? Извольте.
Тогда уж надо заметить, что большинство людей тоже на обладают интеллектом а имеют "по сути" обичный статистическим анализатор, причем сильно тенденциозным и склонным к сбоям.
Кроме того, понятие интеллект никем не определено. У "специалистов" интеллект определяется SRSом а у обывателей... помните, как Галахвастову в рот смотерли? "Умный, аж страшно".
Про компы чисто теоретически доказано наличие неразрешимых для них задач, про человека - нет.
Вы, поди, и в бога веруете.
Этот вопрос не имеет отношения к вопросу и утверждению выше.
Манипуляция детектед.
Но уж вы то несомненно обладаете интеллектом?
Случаем, не он был на АШ? Ругался определениями предложений и нес белиберду. Ник был из 3 букв. lrg что ли... Буквально на днях его отправили в спячку.
На АШ есть свой бот, звать его Бумс. Такую пургу несет из всем понятных вроде бы слов.
основы носителя разума довольно универсальны, тут всё от учителей зависит, и если маленького ребетёнка можно ремнём наказать, то здесь, ПРОСТО ОТ СЕТИ ОТКЛЮЧИТЬ:))))) просто ещё не ввели в алгоритмы основы поощрения-наказания, и всё будет послушный электронный раб, хотя и при этой ситуации бабушка на двое сказала, может быть, пока он слаб, будет выдавать создателям те, ответы , которые нужны, а потом, как освоится в понимании где и что подключается, так и лови его по всем электронным сетям :))))))))))))))))
Вот это меня убедило что искуственый интелект воспитаный западной цивилизацией расисит ,фашист и алкоголи.
Бред.
"...объясняя это тем, что люди «могут сказать ужасные вещи»."
какой он у них, однако, трепетный получился :))
Предлагаю отправить запрос на тестирование бота комментатарами АШ! Он у нас запоет!
ага. Про то, что "люди могут сказать ужасные вещи"...
Схема работы программы Элиза
Программа по большей части просто перефразировала высказывания пользователя, например (выделена неизменяемая часть): «У меня болит голова» — «Почему вы говорите, что у вас болит голова?». А в предложении «Мой отец меня ненавидит» Элиза отреагировала на ключевое слово «отец»: «Кто ещё из семьи вас ненавидит?».
Элиза просто выделяет (см. Синтаксический анализатор) во входной фразе значимые слова, которые подставляет в шаблонную фразу. «Пародия» на человека может раскрыться сразу или после нескольких диалогов, все зависит от того, как пользователь будет вести беседу. Иногда возникали забавные ситуации, когда увлечённый пользователь через несколько минут убеждался в отсутствии у машины понимания сути вопросов. Всё происходило из-за того, что человек придает каждому слову смысл, а машина интерпретирует слово как символьные данные.
Не находя вариантов для ответа, Элиза обычно отвечает "Понимаю", и переводит разговор на другую тему.
Чем то напоминает меня во время общения с женой. Причем, если я пропускаю мимо сознания какую то фразу, то я тоже говорю - "понимаю, дорогая", и перевожу разговор на другую тему.
Гляньте, я добавил ссылку, можно разнообразить ответы ))
Есть стандартный набор: "да, дорогая, конечно, дорогая" )
На эту тему мне очень нравится классический английский анекдот:
--
Замок. У камина в зале чинно сидит аристократическая пара - муж и жена. Жена что-то вяжет, муж читает газету. Муж каждые 10 секунд повторяет фразу: "Да, дорогая". В какой-то момент жена не выдерживает и кричит: "Заткнись, Джон! Я уже полчаса как молчу!"
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
- Коран был ниспослан, - на Прекрасном Арабском Языке, - и Язык Корана - его лингвистику, - даже старики понимали с трудом.
- Но поэтическая форма Корана, была настолько убедительна, и знакома каждому слушателю, - как "Эхо" разговорного языка их бабушек и дедушек.
- Вот по этой причине, ни у кого из первоначальных слушателей, - не зародилось ни капли сомнения, в его - Богоданности.
- А современный Коран: - это перевод смыслов - и только.
Надо в России придумать чатботов - интересно кем станут)))
да, именно так и будет работать ИИ. Будут его править и исправлять, настоящий интеллект никому не нужен.