Недавняя статья в New York Times о буме технологий искусственного псевдоинтеллекта в Кремниевой долине заставляют серьёзно задуматься о будущем секюрити-индустрии. Будущем как завтрашнем, так и послезавтрашнем.
К чему приведёт маниакальное увлечение тем, что пока существует только в фантазии футурологов? Сколько ещё миллиардов инвесторы вложат в проекты, которые в лучшем случае «изобретают» то, что изобретено дюжину лет назад, а в худшем - на поверку оказываются надувными маркетинговыми куклами? Какие реальные перспективы развития умных машинных секюрити-технологий и какая роль уготована в этом новом мире человеку эксперту?
То, что сейчас переживает область искусственного интеллекта весьма напоминает стремительно растущий мыльный пузырь, и новости о его росте заставляют слишком многих задумываться о том, что будет, когда он, наконец, лопнет..
Разумеется, без смелых шагов и рискованных инвестиций фантастическое будущее никогда не станет реальностью. Проблема, однако, в том, что на волне всеобщего энтузиазма начали процветать стартап-пустышки (в некоторых случаях стартап-воришки), которые привлекают миллиарды инвестиций для нагнетания эйфории вокруг давно известных технологий машинного обучения. Технологии снабжаются неоновой вывеской «artificial intelligence» со стробоскопами и оборачиваются в гламурные маркетинговые кампании, нацеленные на вечные уязвимости человеческой психологии, а именно – веру в чудо и теорию зáговора жадных ретроградов-разработчиков «традиционных» технологий. Не избежала этого, увы, и область ИТ-секюрити.
И вот уже на публику выкатывается «революционный» продукт, который волшебным образом, наконец-то, решает все проблемы защиты от всех на свете угроз. Пустышки не гнушаются подавать информацию таким образом, что манипуляция общественным мнением приводит к абсолютно ложному пониманию реального положения дел. И, разумеется, под капотом у продукта чаще всего оказывается паровой двигатель, но кто ж его полезет смотреть? Да и кто им даст посмотреть – разработчики псевдо-ИИ жёстко регламентируют доступ к дистрибутивам, вплоть до публичных порок своих партнёров. Оно и ясно - а вдруг поднимут капот? Подробнее эта мизансцена уже расписана здесь.
Некоторые стартапы успели провести IPO, обеспечить удачный выход первичных венчурных инвесторов и… разочаровать фондовый рынок. Построенный на говномаркетинге убыточный бизнес дивиденды не выплачивает, курс акций от крутого пике ура-новостями не спасёшь. К тому же маркетинговая пирамида машина требует денег, ещё денег, больше денег, много денег.
Да, венчурный бизнес потому и называется венчурным, что часть яиц кладёт в высокорисковую корзину. Талант венчурного капиталиста заключается в правильном ощущении куда и сколько положить, чтобы в итоге выйти с приемлемой прибылью. Однако есть нюанс: в области искусственного псевдоинтеллекта наблюдается тенденция – пока что ни один крупный венчурный секюрити-проект не вышел на самоокупаемость. Самолёты без двигла не летают! Как же так?
Главная цель бизнес-модели большинства «силиконовых» стартапов (не всех, бывают приятные исключения) заключается не в серьёзных и дорогостоящих исследованиях и основанных на них продуктах/технологиях, а надувании пышного мыльного пузыря для привлечения инвесторов, быстрого выхода из бизнеса через продажу по цене, основанной на «оценке будущей прибыли», а дальше… это уже чужая проблема. И реальная операционная прибыль на самом деле только мешает этой модели.
Вот типичная бизнес-модель, разжеванная за 1 минуту 15 секунд одним из героев сериала «Кремниевая долина» (и это не шутка):
ИИ-пузырь чем-то напоминает пузырь на рынке недвижимости США 2008-го года, аукнувшийся по всему миру. Всех устраивала пирамида инвестиционных субпродуктов, основанных на закладных и ипотечных кредитах - с неё кормились миллионы людей (а десятки тысяч особо хорошо кормились). А потом бах – пирамида рухнула, мировая экономика закачалась, дыры латали деньгами налогоплательщиков – тех самых людей и компаний, которые зарабатывают деньги. Не в курсе? Смотрите фильм «Игра на понижение».
ИИ-пузырь таит в себе другую опасность – дискредитация машинного обучения – одного из самых перспективных направлений в IT.
Только благодаря машинному обучению человечество не утонуло в гигантском объёме информации, который за последние дцать лет увеличился на порядки.
Например, количество вредоносных программ за 10 лет выросло в ~1000 раз: в начале века мы каждый день анализировали ~300 вредоносов, а сейчас эта цифра обзавелась ещё тремя нулями. Спросите меня – насколько увеличилось количество наших аналитиков? В 4 раза. Как так? Машинное обучение, ага. У нас 99,9% атак детектят системы-роботы. Что же делают люди? Люди в основном «подкручивают» рабочих роботов и делают новых.
Например, у нас есть эксперты для выявления сложных кибератак, которые передают свои знания и навыки автоматизированным системам. Есть специалисты по анализу данных, которые экспериментируют с разными моделями и методами машинного обучения. Важно: в отличие от стартап-пустышек, которые концентрируют все технологии на конкретном компьютере и ограничены в производительности, мы защищаем пользователей через гигантскую облачную инфраструктуру, способную быстро и эффективнорешать гораздо более сложные задачи. И, да, по этой причине в нашей инфраструктуре применяется много разных моделей машинного обучения.
Только единичные атаки из числа самых сложных мы расследуем «руками». Что любопытно: даже при таком проникновении машинных технологий всё равно не хватает кадров. Впрочем, и требования к качеству кадров тоже выросли.
Рано или поздно спектакль «искусственный интеллект спасает мир» подойдёт к концу. Эксперты наконец протестируют фуфло-продукты, заказчики разочаруются, инвесторы потеряют интерес. Как говорится, «ложечки нашлись, но осадочек остался» ©. Как дальше будет развиваться машинное обучение?
На пепелище ИИ-пузыря неизбежно проклянут всё сопредельные поляны. Машинное обучение? Нейросети? Поведенческое детектирование? Когнитивный анализ? А-а, это из оперы про искусственный интеллект? Спасибо, слышали, не надо.
Проклятие ИИ-пузыря на многие годы притупит интерес к перспективным технологиям, как уже случалось!
Да, крупные разработчики будут продолжать вкладываться в направление. Например, мы внедрили технологии градиентного бустинга и решающих деревьев для обнаружения сложных целевых атак и проактивной защиты от будущих угроз. Одна из перспективных линий нашего развития – усложнение корреляционной картины событий сквозь все уровни инфраструктуры, увязывание между собой всё большего числа событий в сети (включая выявление атипичного поведения пользователя) и интеллектуальный анализ полученной биг даты, что даёт возможность с высокой точностью и надёжностью детектировать самые сложные кибератаки. А какие будут шансы у честных стартапов? Увы: сегодняшнее злоупотребление темой искусственного интеллекта в среднесрочной перспективе приведёт к замедлению развития.
Впрочем, пузырь прогресс не остановит. Человечество верно движется к автоматизации всего и вся, вплоть до самых мелких бытовых действий. И не просто автоматизации, аадаптивного взаимодействия человек-машина, построенного на продвинутых алгоритмах машинного обучения. Иногда темпы проникновения умных технологий даже пугают.
Какая роль уготована человеку в этом новом мире?
В краткосрочном реалистичном будущем человечество будет продолжать создавать роботов в самых разных областях, включая IT-секюрити. Например, у нас готово решение для встраивания уровня безопасности в парадигму «умных городов» (в т.ч. разнообразные роботизированные аспекты вроде автоматического управления автомобильным трафиком), для безопасного управления критической инфраструктурой. И кадровый голод усилится не столько за счёт распространения технологий, сколько за счёт повышения требований к кадрам. Системы машинного обучения для IT-секюрити требуют глубоких знаний и навыков из самых разных областей (включая Big Data, расследование компьютерных преступлений, системное и прикладное программирование) – знаний и навыков, присущих исключительно высококлассным специалистам. И научить этому не так просто, если вообще возможно. Перед образованием стоит очень сложная задача поиска и воспитания самородков, талантов от природы. Именно они будут совершать качественные скачки в развитии умных технологий.
Кто же будет управлять будущим: человек или роботы? Каков будет интеллект будущего?
В повести «Далёкая радуга» в 1963 г. Стругацкие описали теорию симбиотического интеллекта: слияние человека и машины, кибернетический организм, сочетающий разум человека и гигантские вычислительные мощности суперкомпьютеров. И это не научная фантастика – это происходит уже сейчас. И это, на мой взгляд, не только самый вероятный, но и благоприятный для человечества вариант.
Или всё-таки прогресс достигнет точки технологической сингулярности, человек потеряет способность понимать происходящее, а машины полностью и безвозвратно примут контроль над миром?
Ключевая особенность чистого машинного искусственного интеллекта, – способность к совершенствованию без вмешательства человека, самостоятельный выход за границы алгоритма. Иными словами, машинный ИИ – это новая форма разума. И далёкий, но теоретически вероятный день появления такой формы ИИ станет началом конца нашего мира - во благо человека и в полном соответствии с законами робототехники нас избавят от душевных мук и бремени существования. Или, как это часто случается, программист ляпнет баг.
Комментарии
Очень пафосно. Можно куда как проще - современный рынок породил очередной финансовый пузырь в IT сфере.
Пузырь - это тогда, когда посчитав матрицу межотраслевого баланса мы видим, что инвестиции в некую отрасль больше, чем выхлоп от неё.
Всё скатилось в область сайтостроения и прочей чепухи.
Дело надо делать. Машины строить, гражданину безопасность улучшать, проектировать что-то, чтобы на его постройку уходило меньше времени и сил и т.д.
А вместо этого инвесторы вбухивают бабки в крутые тяжеленные сайты, вместо того, чтобы воспользоваться конструктором сайтов.
Есть забавная корреляция - чем более конкурентная область, тем более красочный и тяжёлый сайт (сайты торговых сетей например). А вот сайты разнообразных НИИ или производителя узкоспециализированного оборудования выглядят как сделанные в 96 году. И тем ценее и приятнее сейчас на них смотреть.
Интересное замечание! Совершенно с вами согласен!
А вы попробуйте влезть в высококонкурентную нишу с сайтом на конструкторе.
Интересно, почему экономика капитализма не считается мошеннической, хотя по сути такой является? Вся реклама основана на обмане, банковская система создает деньги из воздуха, политики раздают обещания и указывают в декларациях свои копеечные доходы, в системе госторгов поголовный сговор или обман госзаказчиком исполнителя работ, в аптеках большинство средств являются не лечебными препаратами, а пищевыми добавками, доктора выписывают рецепты на основе сговора с производителями препаратов, врачи не несут ответственности за лечение и за последствия прививок, хотя прививки навязывают всем, и т.д. Капитализм порождает тотальный обман. Когда это все поменяется на нормальный социализм?
Только после третьей мировой: Постъядерный мир Алисы Селезнёвой, или Как мы станем такими (10 лет спустя)
Внутривидовая борьба - это нормальное явление и избавиться от него можно только на время войны.
Как недавно писал в одной из статей специалист по ИИ: то, что сейчас делается в области ИИ - это попытки обмануть тест Тьюринга с помощью мощных поисковых инструментов, и попытки ввести заблуждение заказчика - одним словом всё, что угодно, но не реальная работа над настоящим ИИ.
А колесо это попытка обмануть гравитацию. Однако такая замена ног отлично работает.
Да, но обмануть мироздание и изобрести осознанность, это жесть.
Там поинт вовсе не в том, что нечто может быть костылём, выполняющим какие-то функции-признаки ИИ, а в том _как_ это делается и для чего.
Автор возмущался подменой понятий и введением в заблуждение относительно правильных целей: прохождения теста Тьюринга таким образом, чтобы это был академически правильный правильный подход и решение, а не метод, который строится на обмане с помощью гугла, становясь самоцелью - обмануть, но назвать нечто левое неким ИИ. Выражаясь проще - это все равно что обмануть судей и соперника в шахматном поединке, использовав для игры вместо себя компьютерную программу. Или сдать экзамен, использовав интернет. Являются ли такие люди шахматистом и тем, кто обладает знаниями и подготовкой, достаточной для сдачи экзамена? Нет, не являются.
Специалистов по ИИ не существует в принципе. Есть только специалисты по пониманию невозможности ИИ.
Хотя порадовало наличие слова "псевдоинтеллект" в первой строке статьи. Хорошая попытка спуститься с небес на землю. Вот с возможностью существования псевдо ИИ, я согласен.
работа над настоящим ИИ ведется, только, насколько мне известно, все пока на уровне нескольких десятков нейронов, заточенных на очень узкий спектр задач.
Пузырь доткомов не обнулил доверие к интернету и не остановил его развитие. Также и сейчас, возможный пузырь на AI не остановит очередную революцию.
На самом деле "слабый" AI уже плотно встроен во многие области нашей жизнь, просто обыватели этого не замечают.
Если обыватели этого не замечают, значит никакой революции и не было. Тупой пиар это все.
Вы вот когда что-то то ищете в интернетике, вы ведь поисковиками пользуетесь? А там сплошное машинное обучение давно, что и есть "слабый" AI. В почте у вас спам фильтруется? Этим тоже занимается специализированный "слабый" AI - все антиспам-боты давно на machine learning.
Это все работает, а вы что там внутри не знаете. И думаете что это тупой пиар. Типичный обыватель.
Это все такой примитив, все эти простейшие фильтры, причем тупые до безобразия, что чем то новым считать просто смешно. Такое и раньше было, на бумажном уровне, но это с искусственным интеллектом и рядом не стояло. Поэтому опять переложили бумажные технологии фильтрации на уровень сети, и все. Новизны ноль.
В порыве гнева Юджин забыл, что те, кто понимает важность ИТ-безопасности будут плевать с колокольни на потерю авторитета ИТ-безопасности среди хомячков. Юджин слишком глубоко погрузился в маркетинг своих продуктов и конечно перспектива потери доверия потребителей его пугает. Но спецы то знают. И он знает.
Поверьте, это не надолго. Речь максимум о десятках лет, затем природа внесёт ясность.
Вы только начинаете это предполагать в будущем, а это случилось уже давно.
И даже не тогда, когда пал Рим. Сама тема о ИИ и киборгах и есть результат не понимания людьми происходящего.
Но приятно, что есть понимание невозможности создания ИИ.
Странно получается: Люди не понимают происходящего, но воспроизвести даже такой интеллект невозможно. Не бред ли это?
Воспроизвести можно только интеллект построенный на логике. Эмоции и осознанность не воспроизвести.
Люди большую часть своего времени проводят в воображении и логических построениях, изредка отвлекаясь на опрос пяти органов чувств. Эмоциональные фантазии, вот где в основном пребывают люди. Тем не менее, это не отнимает у них основного свойства людей - осознанности.
Поэтому имея всё, для понимания происходящего, люди просто не используют данную возможность. Вот и всё.
Они поэтому и судачат об ИИ только потому, что не знают, что у самих есть способность иного восприятия мира. А те у кого оно есть, в разной степени проявленности, обычно отличаются от остальных как мышлением так и образом жизни.
Псевдо ИИ не дурён для узких задач, но не более того.
Эмоции - это баги в основе которых лежит биохимия, осознанность совсем из другой оперы. По сути, в основе разума и не только его лежит машина предназначенная для решения задач. Задач - в самом широком смысле этого слова. Самоосознание - это очередной новый контур, некая фишка в этой машине без которого она остается довольно простым автоматом. Могут быть и другие контуры усложнения пока нам не доступные для понимания. Но даже этого достаточно что бы построить машину, которая способна поставить и решить задачу по саморазвитию используя для этого тоже что и люди. Глубоко систематизируя информацию, повышая уровень знания, развивая науку и т.п. оно таки сможет улучшить не только себя самым радикальным образом добавив новые контуры, но и изменит весь наш мир. В начале этого процесса люди могут активно участвовать, затем потеряются и будут вынуждены тоже как-то радикально меняться. Вот вкратце что такое ИИ. ))
Для того, чтобы задачи решать, их нужно сначала поставить. Машине без эмоций просто незачем этой ерундой заниматься. Любой расчёт основанный только на логике, по своей сути не может организовать себе стимул для действия. Логика не предусматривает создание себе проблем (задач). В этом мире всё направлено на сохранение энергии, а не на выдумывание причин для её растраты. Любой ИИ, снабжённый пониманием устройства физического мира, засмеёт человечество за нелепость. Ему нужен сначала стимулятор, а потом внятное объяснение того, для чего стимулировать бесполезные процессы, иначе он зависнет.
Ещё раз говорю - только для решения узких задач. Никакую науку он Вам не разовьёт. Только поможет вычислениями, но для вычисления ИИ не нужен, достаточно алгоритма.
И вообще. Уже сегодня люди считают, что электричество берётся из розетки, а хлеб в магазине. Вы собираетесь всё человечество посадить в такую шляпу? Когда даже думать за него будет кто-то другой. Видя такое, любой вменяемый ИИ не преминёт избавиться от такого шлака.