В лаборатории нейронных систем и глубокого обучения появился первый в мире суперкомпьютер, спроектированный специально для обучения искусственных нейронных сетей. В основе суперкомпьютера DGX-1 от NVIDIA лежит новое поколение графических процессоров, которые обеспечивают скорость обработки данных в задачах искусственного интеллекта, сравнимую с 250 серверами x86 архитектуры.
Он оснащён всем необходимым аппаратным и программным обеспечением для задач глубокого обучения, набором инструментов разработки и поддерживает популярные аналитические приложения с поддержкой GPU. «Вычислительная мощность принципиально важна для глубокого обучения. Чем более мощное железо есть в нашем распоряжении, тем с более сложными нейросетевыми архитектурами мы сможем работать. Сложность модели зачастую позволяет совершить революционный скачок в решении практических задач. Так, например, текущая революция в компьютерном зрении и распознавании речи связана, в том числе, с ростом вычислительных возможностей. Хорошее оборудование позволит решать практические задачи, за которые без него мы бы даже взяться не смогли», — рассказывает заведующий Лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев.
Последние моменты установки вычислительного узла DGX-1 в серверную стойку.
Мощности суперкомпьютера будут, в основном, использованы в работе над проектом по созданию разговорного искусственного интеллекта iPavlov, который лаборатория реализует в рамках Национальной технологической инициативы совместно со Сбербанком. Учёные Физтеха занимаются разработкой «разговорного» машинного интеллекта, который будет способен вести содержательный диалог с человеком. Алгоритм сможет не только отвечать на вопросы собеседника, но и запрашивать информацию, необходимую для того, чтобы решить поставленную в диалоге цель. Для этого этого нейронная сеть будет «обучаться» на больших массивах документов и текстовых записей диалогов между людьми.
Команда Лаборатории нейронных систем и глубокого обучения
«Nvidia DGX-1 - это очень мощная платформа. Его, например, использует одна из ведущих команд по искусственному интеллекту в мире - OpenAI. Мощностей системы достаточно для того, чтобы войти Топ-50 самых высокопроизводительных компьютеров России. Мы будем использовать DGX для экспериментов со сложными моделями диалоговых агентов», - добавляет Бурцев.
«В современном мире искусственный интеллект используется в самых разных областях, начиная от задач распознавания и синтеза речи и заканчивая созданием роботизированных систем, решениями для финансового сектора и здравоохранения. Значительно сокращая время на создание и обучение больших и сложных нейронный сетей, система DGX-1 позволяет исследователям с легкостью создавать новые классы умных приложений и машин, способных учиться, видеть и воспринимать мир как человек, — говорит Антон Джораев, ведущий специалист по решениям NVIDIA для систем ИИ. — Мы рады, что технологические инновации NVIDIA позволят исследователям Физтеха ускорить текущие проекты и начать работать с задачами, решение которых раньше считалось невозможным».
Помимо лаборатории Михаила Бурцева, на суперкомпьютерах смогут работать и другие научные коллективы института, которые также занимаются исследованиями, использующими искусственные нейронные сети для разработки новых лекарств.
Комментарии
находка для майнера
Воистину))))
Вредительство чистой воды.
обычная наглая реклама какого-то серийного промышленного устройства. Да еще с нагло примазавшейся непонятной конторой
написано же телефонного бота хотят улучшить по заказу сбербанка
можно сразу всех кто не в книжке в черный список автоматом отправлять
Это в лучшем случае. А скорее всего, тривиальный распил.
"Я был свидетель умилённый
Таких забав уже не раз"
(почти) А.С. Пушкин.
Вы не правы. NVIDIA действительно очень серьезно занимается нейронными сетями и особенно сверточными, потому что они сейчас активно и очень успешно применяются при распознавании изображений.. И их DGX-1 вовсе не игрушка, а очень мощный матричный вычислитель, собранный на видеопроцессорах) заточенный под выполнение расчетов для обучения методом обратного распространения ошибки.. Только стоит он конских денег. Но для МФТИ они уж наверняка сделали гигантскую скидку.
Если серьезно. Попробуйте либо с помощью CNTK либо с помощью TensorFlow обучить что-нибудь мелкое на сотню образов на процессоре, а потом врубите в библиотеках поддержку GPU (одного заметьте!) и вы почувствуете разницу! А тут таких GPU море! У Microsoft_а в Azure есть даже специальный тип серверов именно для обучения нейросетей.. Их до сих пор мало и аренда конских денег стоит, а собраны они опять таки на видеокартах!
как относится то что вы сообщили, хотя оно и несомненно интересно, к тому что написал я?
не вам обшибся
почему неправильно лесенка отображается?
Вы к характеристике "не прав" забыли пристегнуть "от слова совсем" - так бы выглядело убедительнее.
Между прочим, я не сомневаюсь в серьёзности NVIDIA и мощности DGX-1. Равно как и в могучести технологий HP, Intel, MS и множества других.
Как бы подоходчивее объяснить... Это примерно то же, что закупить асфальта для покрытие сантиметровым слоем разбитой просёлочной дороги. По чернозёму, с колеями по ко
косылено.Хотя, если с "гигантской скидкой" - то да!!!
Сложно с вами. Я вам про Фому , а вы мне про Ерему.. Я говорю что научить глубокую нейросеть на ЛЮБОМ не специализированном вычислитиле это долго и затратно. NVIDIA представила свое решение этой проблемы, да в современном стиле. Но а другого мира у меня для вас нет.
А то что сверточные сети сейчас очень востребованы, а учить их не на чем, это мелочи..
Вы просто поймите, одну простую вещь: прецептрон очень прост и совершенно не затратен при функционировании, но очень затратен при обучении. И матмодель у него проще некуда, а вот ресурсов на обучение нужно море. И потребителей тоже море..
Что вам не нравится мне непонятно? Хотите учить на ЦП своего ноутбука - милости просим!
Мне Вам посочуствовать?
Говоря по-вашему, я начал про дыры в крыше и сломанный стул, а Вы принялись рассказывать мне о достоинствах Фомы. Кои я, между прочим, не оспариваю.
"И чо?" (c) народное. Даёшь очередную сименсизацию всея Руси?
Мне - от Вас - ничего не нужно. Оставьте всё себе, в т.ч. и свой мир.
"Ну да, конечно!" (c) ещё народное. Просто готовое решение (в данном случае - от NVidia) очень удобно эффективным менеджерам от образования и бухгалтерии. Безотносительно реальных качеств этого "решения" и его применимости к данной задаче.
Мне не нравится крайне неадекватное (намеренно не использую "эффективное") расходование средств. Так - понятно?
Знаете ли, я без Вашей милости уже четвёртый десяток разрабатываю и внедряю - с этого и живу. В т.ч. четверть века - в ВШ.
Не поверите - в моей alma mater до сих пор некоторым вещам обучают на 8080 и 8051. По окончании те, кто учился, пишут на всём, что под руку попадает, и весьма успешно. До недавнего времени макеты с секционками стояли (589), но их ликвидировали. ПМСМ, зря - у студней дыры появились. Ликвидация была вызвана не стремлением улучшить качество продукта, а оптимизацией персонала, но проводилась, разумеется, под девизом усовершенствования.
Ну и, материал для размышления. Уже на закате моей институтской карьеры наш коллектив - в то время полтора инженера и четыре студня - занимался задачкой, связанной с дистанционным образованием (не бумажным - физический эксперимент!). Некоторые процессы там по задумке ("по идеологии глобального процесса") должны были быть параллельными, в т.ч. распределёнными, и, естественно, толерантными к многопроцессорности среды выполнения. При этом один алгоритм должен был по логике процесса грузить вычислительные мощности на 100%, не создавая лагов некоторым другим, работающим локально. Т.е. утилизировать все мощности, остающиеся после них на данном компе. Но у нас - мы были небогаты, работали на чём придётся - даже двухпроцессорных компов не было, а о многоядерных в те времена никто не слышал. Посему прога писалась и отлаживалась на том, что было - любимых мною до сих пор Туалатинах.
Делали-делали - получили результат, принесли демонстрировать. Всё заработало. И тут нам выдают двухпроцессорную серверную материну - а на ней? Включаем - всё работает, как положено, загрузка обоих процессоров 100%, ничто не лагает!
P.S. Наш проект саботировал, а потом прикрыл эффективный менеджер от образования. Предложив взамен Готовое_Решение_Известного_Производителя. Примерно под теми же лозунгами, которыми размахиваете Вы. Правда, ГРИП пришлось долго (не один год) допиливать, чтобы хоть как-то заработало, но это уже другая история.
P.S.P.S. Между прочим выяснилось, что упомянутый деятель
имеет толику малуюопределённым образом причастен к поставкам ГРИП в наше заведение.P.S.P.S.P.S. Злые языки утверждали, что упомянутый деятель - долларовый миллионер. Разумеется, сей факт никоим образом не связан с нашим зарубленным проектом.
P.S.P.S.P.S.P.S. Подобных историй мог бы рассказать много - опыт работы у меня не мал, да и круг знакомых, наблюдавших подобное, велик.
очень грустно такое читать ... ТБМко ...
Зато реляции очень бодро звучат. Деньги, опять же, другие - есть от чего откусить.
О, 8051, однако, вещь!
А эффективные манагеры оне везде такие. Только не везде они такие богатые...
8051 в качестве макета для обучения ещё долго не устареет. Хотя лично мне никогда не нравился из-за убогости системы команд. Но в своё время на безрыбье вполне за рыбу проканывал, а потом распространённостью взял.
Мы с вами уважаем 8051 одинаково, как я понял из нашей скудной дискуссии.
>> сверточные сети сейчас очень востребованы
Можете привести хотя бы один пример реального, экономически обоснованного, применения сверточных нейросетей?
Почти весь анализ изображений и видео. Да, некоторые - не свёрточные. Но это потому что их авторы тему не просекли: свёртки вычислительно выгоднее, чем лишний слой.
Системы охраны и идентификации, поиск по фото, камеры контролирующие исполнение ПДД, все автопилоты на транспорте, да что там - все системы машинного зрения...
В общем-то, около 90% реальных, промышленных, экономически обоснованных применений нейросетей.
А вот интересно, в "камеры контролирующие исполнение ПДД, все автопилоты на транспорте, да что там - все системы машинного зрения..." - там тоже DGX-1 встроены? Во все "около 90% реальных, промышленных, экономически обоснованных применений нейросетей"?
А Алекс Крижевски - он на чём учился, на чём свою прогу писал, на чём отлаживал, демонстрировал... Неужто всё на DGX-1?!
Нет, конечно.
Но если б Вы хоть раз пробовали изобразить какую-нить нейросеть для чего-нить практически сложного, Вы бы понимали почему нужны суперкомпы. Обучение и оптимизация нейросетей жрут на порядки больше мощности, чем сеть при работе. Если единичный прогон обучающего сета занимает неделю (а на автопилотах с обычным компом может запросто), то отладка и улучшения становятся ОЧЕНЬ мучительным делом.
Спасибо, Simurg, а то у меня просто слов нет.. Все вроде описал и разжевал.. Но когда человек смотрит на мир через призму идеологии, то замечать реальность ему становится неизмеримо сложнее.. Экономически же выгоднее накачивать людей идеологическими клише, а не учить думать!
На данном этапе это явление наш самый главный враг.. Наше общество очнувшись от патриотического небытия ринулось в угар формальной идеологии и не замечает яму в которую вот-вот рухнет. Ко всему на свете надо подходить с рассудительностью и осторожностью. Кланяться на Запад убого и бессмысленно, но голословно порицать все что там делается это шиза!
Ага, друг дружку убедили - и то праздник.
Мне вот только непонятно, где тут "идеологическое клише", которым, надо полагать, я, кого-то с выгодой накачиваю. Ну, да ладно, спишу эту фразу на тягу к красивым фразам.
Вы не утруждаете себя попыткой разобраться в сущности вопроса и делаете выводы на основании поверхностного, оценочного восприятия опирающегося на два постулата: 1) все что делается на Западе это бессмысленная возня с целью распила денег инвесторов или бюджета, ну на крайний случай облапошивания заказчика; 2) техническая и научная сторона вопроса не имеет ценности, заявление разработчиков и специалистов основаны на корыстных интересах..
Что тут можно посоветовать, даже ума не приложу. Могу только предложить заняться разработкой коммерческой нейросети для распознавания или сегментации изображений, может тогда станет понятно зачем все это надо! Да это дорогая вещь, но честно говоря она того стоит, если конечно ее есть чем загрузить. Мне и моей организации есть, а вот денег нет!
Это Вы довольно точно отметили. Про себя.
Фу, чушь какая! Не соизволите подтвердить свои выводы цитатами из моих записей? Мне правда интересно. В реальном мире мне крайне редко попадаются персоны, которые столь же превратно понимают написанное/сказанное мной. А вот в виртуале их количество почему-то зашкаливает. Вот и стало интересно, что является причиной: какие-то мои недоработки (неточные формулировки и т.п.), или же неадекватность некоторых оппонентов.
Проведу параллель. Мне часто - работа такая - приходится добираться с работы до дома на такси. А место работы, надо отметить, находится в промзоне. Несмотря на то, что адрес жёстко вбит, и всем водителям сообщается одно и то же, наблюдается странная картина. Порядка 70% прибывают строго, куда требуется; большая часть остальных, процентов 20 от общего кол-ва, звонят и уточняют, и в итоге всё же прибывают, куда следует. Остальные неадекватны: могут приехать непойми куда и молча ждать там; могут при этом по телефону утверждать, что стоят именно по месту заказа; могут наматывать круги вокруг, никак не попадая в цель; могут проехать буквально мимо меня и остановиться вдалеке, заявив "я Вас не видел"... И среди этого меньшинства находятся особо одарённые, которые до усрачки будут доказывать, что всё они сделали правильно. Повторюсь: адрес подбора пассажира всем даётся один и тот же.
Вот мне и интересно, что происходит в данном случае - или я адрес некорректно сообщил, или же Вы относитесь к числу особо одарённых.
Спасибо, но я на ближайшие лет 5 работой обеспечен. После того, как ушёл из ВШ, мои идеи вдруг стали востребованными. В роскоши не купаюсь, но по сравнению с временами работы в ВШ в материальном плане всё весьма неплохо. И, что немаловажно - видны результаты реализации моих идей. Об одном и тут, на АШ, не так давно писали. Но если Заказчик потребует - может, и этой темой придётся позаниматься, тем более, что в некоторых местах подошли почти вплотную.
А "зачем всё это надо", я прекрасно понимаю и теперь.
Да, времена сейчас такие - на "побаловаться" денег выделяют только избранным. МФТИ вот выделили...
И что-то подсказывает мне, что доступ ширстудмассам к этой игрушке будет ограничен - пользоваться ею будет ограниченный круг лиц, решающий конкретные задачи в интересах какой-то коммерческой фирмы. Может, даже ту задачу, на которую нацелена ваша фирма. Вот только у них есть халявный ресурс, а у Вас - суньте руку в карман, пощупайте.
А может, всё ещё хуже - получится, как в своё время моём ВУЗе. Купили супер от HP под задачу, которая даже сформулирована толком не была. Он года два стоял без дела, ждал, пока
сову на глобусзадачу под него сформируют. Со временем как-то заработало, но у меня серьёзные сомнения, нужен ли под ту задачу такой супер. А вот для славного дела распила бабла - ой, как нужен! Ну просто "Дайте два!!!"В данном случае речь идёт не о решении некоей (коммерческой) прикладной задачи, а об образовательном процессе - ведь формально, если судить по тексту заметки, железка куплена именно для целей обучения? И, надо полагать, за бюджетные деньги.
Для учебного процесса не нужен суперкомпьютер за суперденьги. И даже если бы NVIDIA предложила поставить его даром - следовало бы отнестись к такому предложению вдумчиво, помятуя сказанное много тысяч лет назад "Бойся данайцев дары приносящих!" Ну, и более современное "Это жжж неспроста".
А если кто-то хочет порешать свои бизнес-задачи - Бог в помощь, кредит в банке.
Вы хотите сказать, что в Стрелке или Кречете есть нейронка?
Отсыпьте и мне вашей травы, пожалуйста.
Я хочу сказать именно то, что сказал выше, а не что там " Кречете" и не то, что в "1 сентября наступает осень". Перечитайте пост, на который отвечали.
У Вас проблемы с пониманием? Не употребляйте траву.
А у вас есть описание их алгоритмов?
Технология автоурагана, между прочим, основана на подходах, которые потом легли в основу сверточных сетей.
Разверните ка свою мысль, будьте так любезны.
Это Российское IT по вашему разбитая проселочная дорога?
А идите-ка...
Что и требовалось доказать.
Впечатлён вашей понятливостью.
Очень радостно за NVidia, просто по-человечески.....
Пример кардинальности приведете? Пока это обезьянничайне на основе массы примеров людского поведения, без осознания и целеполагания
Высказал-и что? ноль действий
не будь такого частного АО Сбербанк, и того бы, что в статье , не было бы
А вы никогда не слышали о виртуальных помощниках? Ну значит скоро услышите. И о фонде перспективных исследований РФ вы тоже не слышали?
Сильно кардинального пока нет - т.к полноценного ИИ пока нет.
Но, "кусковые" - уже очень даже есть. ( из того, что сходу в голову приходит ):
Из наиболее известных - гугл-поиск по картинкам.
Программы оптического/аудио распознавания текста/голоса многие - тож, на "производных" от ии работают.
Всевозможные искалки и классифицировалки подобного( подобной музыки итд итп ).
Помнится, где-то уже и электронных помощников внедрять помышляли ( мб в билайне. Всм, тот помощник, который в чате болтает )
Всё так,но есть нюанс:
Техника атаки на системы, использующие алгоритмы машинного обучения
Группа исследователей из Нью-Йоркского университета опубликовала результаты оценки возможности проведения атак на системы, основанные на методах глубинного машинного обучения. Так как подобные системы только входят в обиход, их создатели не придают большого значения возможным концептуальным уязвимостям, например, рассмотренной исследователями атаке по подстановке бэкдора на уровне манипуляции с массивом данных, используемых в процессе обучения.
Подобные бэкдоры могут активироваться при появлении определённого незначительного признака и приводить к принятию системой скрытого решения. Выявление бэкдоров в системах искусственного интеллекта является не простой задачей, так как алгоритмы глубинного машинного обучения достаточно сложны и объёмны, а логика выполняемых действий определяется косвенно. Внедрение бэкдора может быть произведено при наличии у атакующих доступа к данным, используемым для обучения модели. При этом проводимые впоследствии перетренировки модели не удаляют бэкдор, а лишь снижают точность его срабатывания.
или все же штатное срабатывание?
Ничего нового.
По сути, это означает, что "некие хакеры могут знать, как поведёт себя система, если.. доберутся до горы исходных сопоставлений условия -> реакция".
Это, в общем-то, само-собой разумеющееся. С таким же успехом, "хакеры" могут и у микросхемы нужные "лазейки" найти, если узнают её схему-структуру.
А вообще, никто и не спорит, что серьёзные приложения( идентификация/получение доступа куда-либо ) - не самое, на текущий момент, удачное применение для нейросетей( т.к гарантированно будет какой-то процент ошибки ).
В т.ч и ввиду отсутствия прозрачности в плане внутреннего поведения.
Хотя, с таким же успехом, и человека можно обмануть..
Даже не так. Речь о том что "хакеры" (на деле - создатели) имеющие полный доступ к системе на этапе её создания/обучения смогут,
вот неожиданность то,заложить в систему сложнообнаружимый бэкдор. Точно так же как и с чипами.Вывод: не пользуйтесь чужими нейросетями в критичных областях, так же как и чипами.
Мде.
Так и я говорю-на кардинальное не тянет
Ссылка на с описанием DGX-1 на сайте Nvidia
п.с: есчто, на американский рынок, вышла в июне 2016 года по цене $129 тыс ( т.е ~7,5 млн руб ).
Не так уж и дорого. Хотя, в РФ, вроде бы как, и свои конторки суперкомпьютерные были - чего только Т-Платформа стоит
Т-Платформа другие совсем вещи делает.
Это не суперкомпьютер, это специализированный вычислитель для обучения нейросетей!
На забывчивость произношу слова Гейтса " память 640 kb ну кому может потребоваться больше?" Был инженерный калькулятор Б3-21, регистровая память 128 шагов. Написал прогу 6 из 36, с генератором псевдослучайного числа- и обыгровал сокурсников. А тут гуй все небось сожрет.
Путин может грезить о власти над миром при помощи ИИ сколько влезет. На самом же деле винтовка рождает власть (Председатель Мао). А также: "А сколько у этого ИИ дивизий? (почти И.В. Сталин). Так что херня, дружок.
ерунда. винтовка (насилие в смысле) как раз рождает безвластие и анархию. а власть - это всегда отказ от насилия и добровольное сотрудничество, подчинение.
Власть рождает пушка. Точнее, пушки. Впрочем, при Мао и сталь во дворе варили.
Хе-хе. Власть рождает тот, кто держит винтовку в руках.
А еще вернее - тот, кто воспитал и вложил идеи и поведенческие алгоритмы в голову держащего винтовку.
О чем и речь идет.
Власть рождает тот, кто распоряжается ресурсами. Пушки - признак этой власти. Винтовки же можно и из-за границы подвезти.
Пушки-пистолеты, это не более, чем инструмент. Кто и как им воспользуется - это главное.
Страницы