Наличие огромных кластеров для тренировки нейросетей является абсолютно необходимым условием для выживания в этой гонке. Наличие в команде гениальных ученых и программистов без соответствующего "железа" не позволяет достичь прорывных результатов и занимать лидирующие позиции.
Теперь несколько фактов для размышлений:
1. Свежая новость от Маска - «В эти выходные команда xAI запустила наш кластер Colossus 100 000 процессоров H100», — написал Илон Маск в посте X. «От начала до конца все было сделано за 122 дня. Colossus — самая мощная система обучения ИИ в мире. Более того, через несколько месяцев она удвоится в размерах до 200 000 (50K H200s)».
2. Еще одна от того же автора от 26 августа - «вводится в строй гигантский новый суперкластер обучения искусственного интеллекта, который строится на фабрике Tesla в Остине для решения задач реального искусственного интеллекта», — написал Маск в своем посте на X.
Проект, названный Cortex, который близок к завершению, первоначально будет включать 50 000 графических процессоров Nvidia вместе с фирменным оборудованием Tesla на базе искусственного интеллекта и, как ожидается, будет способствовать развитию полностью автономного вождения автомобилей и роботов Tesla.
Генеральный директор Tesla Илон Маск подсчитал, что суперкомпьютер Gigafactory первоначально будет потреблять 130 мегаватт после развертывания и потенциально может масштабироваться до 500 мегаватт.
3. Суперкластер Cortex — не единственный суперкомпьютер, который Tesla построит для своих проектов FSD.
Ранее в этом месяце Tesla подписала соглашение с городом Буффало, штат Нью-Йорк, о продлении обязательств компании по эксплуатации фабрики Giga New York до 2034 года.
В рамках нового соглашения Tesla инвестирует 500 миллионов долларов в проект суперкомпьютера Dojo в Буффало, а до конца следующего года будет инвестировано 350 миллионов долларов.
Microsoft & OpenAi также не спят и планируют ввод в строй аналогичных систем.
Ещё одна история про полимеры.
У нвидии проблемы - надо подогревать интерес, иначе акции могут и в штопор уйти.
Маск в этом смысле - уже тяжёлая артиллерия. Если и он не спасёт - дело вааще тухло.
А так - да, процессоры нужны. Как же без них то???
Продолжаем наблюдать.
Комментарии
https://industry-hunter.com/rejting-stran-po-vycislitelnoj-mosnosti-kitajskaa-versia?ysclid=m0os82r6t0356617330
а по числу суперкомпутеров - Китай на 1-ом месте
Учитывая производственный мощности Китая - он легко может обойти США по вычислительной мощности, особенно если перестанет делать процессоры для США
вы смеетесь? В качестве доказательств приводить ссылку на статью более чем двухлетней давности.
Сегодня счет идет на дни и недели...
время покажет кто был прав
А вам не кажется, что такой экспоненциальный рост приведет не к прорыву, а к пузырю с последующим коллапсом?
Тихо, не портите людям праздник. Перефразируя старую историю - "Вы думаете мы тут искусственные интеллекты продаём? Нет, мы продаём акции!". Голоса разума уже тут и там появляются, значит пик хайпа уже не за горами. Потом надо только пережить этап разочарования и ИИ станет обычной частью жизни.
Особенно сильно это разочарование у тех кто вообще никогда не пользовался нейросетями, у тех кто вообще не понимает что это, зачем и почему и во что это выльется.
Никакого искусственного хайпа нет - нейронки действительно прорывная технология, уже нашедшая уйму применений. Просто она сырая. Это всё будет, но в будущем, когда появятся более совершенные технологии.
Она не столько сырая, сколько ее пытаются наделить несвойственными качествами и применить там, где она не может быть применена эффективно и рационально, например, в образовании или в социальном инжиниринге со всеми этими рейтингами. Отсюда создается впечатление, что теперь ИИ будет везде, со всеми вытекающими последствиями.
Когда ИИ займет свое реальное место в обществе и в экономике, для многих это будет разочарованием.
Вот когда новую технологию пытаются запихать в каждую дырку это и есть пик хайпа. Сколько уже их таких было. Блокчейн уже нашел себе какие-то применения помимо криптовалют? 3Д принтеры заменили поточное производство? Так и с нейронками будет - наиграются и найдут те области где их использование эффективно. А для остального введут значок «не сгенерировано ИИ» - что будет признаком уникальности и высокого качества.
Поддерживаю
Серьезно? Китай это сборочный конвейер. Причем наиболее серьезные вещи - это не совсем тот Китай. Тайвань.
Варианты, при которых Тайвань вообще перестанет что-либо подобное производить (ни для кого) - даже не рассматриваются?
Построить завод и обучить персонал - это грубо лет 5-10. В экстремальном режиме, сталинскими методами - пара-тройка лет. Если технологии и общий уровень(станки, сырье, отрасль) позволяет. А вот создать технологии и отрасль - это куда дольше. Китай в этом смысле отстает очень сильно. Он пользуется купленным оборудованием и технологиями для производства. Свое в разной степени отстает от запада. В отдельных вещах лет на 10-20. Конвейер.
Именно поэтому Китаю, пока имеет доступ к рынкам и технологиям, бомбить Тайвань нет никакого смысла. Ему он нужен «живым».
Это если есть кому строить, американские гомомигранты строить разучились.
https://aftershock.news/?q=node/1409570
Абсолютно бессовестная дезинформация, это как раз Америка отстаёт от Китая лет на 20. Нет в Америке своих чипов, компьютеры в СШП собирают из привозного китайского сырья. Т.е. делают чипы в Китае, а потом посылают в Америку. Недавно перестали. Вот Интел и разрушается, и от этого в т.ч.
https://aftershock.news/?q=node/1416814
Пусть лучше погибнет чем достанется американским свинособакам.
Шапки уже достигли гигатонной мощности. Остановите гонку вооружений. ! ;)
Не рассматриваются. Редкозёмы и чипы - ценные для всего мира ресурсы. Чуть Тайвань посмеет закочевряжиться - тут его и вколотят бомбами в золу почище чем Украину, или китайцы, или американцы.
я собственно имел в виду даже не "закочевряжется", но именно - вколотят бомбами, в процессе подавления островного сепаратизЬма. Совершенно случайно, конечно. Но в итоге, заводов, которые смогут делать - останется меньше. И у Китая они есть свои.
чей Тайвань ?
Смешной вопрос. Свой собственный, пока во всяком случае.
Смешной ответ - Тайвань - суверенная территория Китая. А вы теперь в Китае - персона нон-грата...
Какой ужас. ;)
Ну вообще-то суверенитет определяется возможностями суверена.
И тут у Китая как бы не всё гладко. Во всём мире могут признавать что угодно, например нерушимость границ Украины
совсем дурак ? у Китая есть ЯО, у Тайваня нет. И кто за Тайвань впишется ? Никто!
у украины нет ЯО, поэтому её судьбу решит ближайшая страна с ЯО, и никто за неё не впишется, т.к. никто не хочет умирать
СВО на Украине идет, а на Тайване - нет. Это факты.
Значит суверенитет Китая ограничен другими факторами, невоенными.
Наш ничему не ограничен.
А по поводу - не впишется, самому не смешно? Всё НАТО помогает Укре. Без этого она давно уже сдалась бы
СВО началась когда НАТО захотела базу на укре создать. На Тайване такого не было.
Про "впишутся" - ядерным оружием никто не впишется, а обычным Россию или Китай не победить
Китай вообще победить невозможно.
Китай на войну не явился
А это означает, что суверенитета у Китая над Тайванем нет. Тайвань де+факто независимый, что бы там не мрияли китайцы
Не тешьте своё американоимперское самолюбие, так было лет 30 назад, сейчас как раз США придаток к Китаю, Китай скупает США по частям, не исключена и ликвидация Интел. Времена поменялись, но в Фашингтоне этого видеть упорно не хотят.
Шапка я даже не знаю какой мощности. Вы погубите мир.
И как истинный придаток диктует волю китайским банкам и промке, можно работать с РФ или нет.
размер счёт не имеет такого значения, как мастерство расчётчика, знающего куда костяшки двигать
Душеспасительные истории про то, что "Искустный мечник завалит бойца с автоматом?"
Процессорная мощность имеет значение, причём огромное. Если вам на обучение соответствущей модели потребуется тысяча лет, то вы её даже не будете учить. Даже если у вас есть полные знания - как это делать.
Победит тот кто понимает что делает. Пока с этим все плохо.
Главное помнить, что современный ИИ это гибрид Алисы и робота в поисковиках
Наоборот. Алисы и поисковики подсасывают к себе разработки в больших языковых моделях.
Чуть умнее, он решает задачи с которыми пасует отупевший поисковик.
ламаркисты проиграли не начав.
экстенсивный путь упирается не только в ЭМ совместимость, не только в пропускную способность каналов - прежде всего в саму бинарную логику - плоскость идеи ума.
Но то ткае, научное.
Откуда вы взяли про "бинарную логику" применительно к нейросетям? Процесс обучения типично проходит в "float32", а это вещественная логика. И да, float32 обестпечивает точность сильно лучше, чем нейроны в мозгу. Т.е. это скорее ИИ должен говорить человеку о том, что "тонкие различия в данных человеку не доступны ".
тип данных, тип чисел - представленных в АЛУ, ....машинными кодами, в регистрах на основе...
Алгоритмами вы можете попытаться изобразить всё что угодо, даже плоскость идеи ума многомерным и объёмным объектом.
Вот только основой будет область определения, и область допустимых значений используемых функций.
Условно юноша
полярные координаты - вычёркиваем
овальные уравнения вычёркиваем
многомерную логику вычёркиваем - кора и отделы ГМ
ассоциативные связи - это условно ппзу, вычёркиваем
что остаётся?
- идея ума, не более.
О том, что опираясь на "информацию", кем то, куда то, по какому то алгоритму положенную, можно приблизиться к тому, что вам неведомо, можете и дальше фантазировать.
А как можно приблизится к тому что неведомо?
- РАЗ-витием, ума до РАЗ-ума например.
Тогда РАЗ-ум обостряет чувства, они дают ему более качественную картину - точку приложения, пищу для размышления, тем усиливая его, возникает положительная обратная связь - резонанс, переход системы на качественно иной энергетический уровень.
Горизонт и кругозор - увеличивается, становится доступным четвёртое внимание, развиваются дремлющие пласты сознания.
Это наука, Природоведение - Северная Традиция.
А почему капсом у вас выделен префикс (приставка) а не корень?
Вы считаете в ней основной посыл содержится?
{РАЗ} - единственное неопределяемое понятие, корнем которого является фронт первого гласа новорожденного - он уникален. Поэтому разум - уникален, его развитие - уникально.
Это многомерное понятие Северной Традиции.
Оно только переживаемо, словами не передаваемо.
Не, чето какието нетрадиционные у вас понятия.
Почему уникально только развитие а не например размер или разбор?
"папа где Море?" не ко мне.
В школе учат сравнивать сопоставимое - чувству Меры.
У вас этого нет, на том и закончим.
Вам камрад balmer всё правильно написал. Там float32 и любые полярные координаты, ассоциативные связи, а легко реализуются. А так-же реализуются все нелинейные функции (логарифмы, экспоненты,тригонометрические функции), за счет нелинейных функций активации (сигмоида, гиперболический тангенс, ReLU) в нейронах и использования нескольких слоев нейронов. Они используются для аппроксимации сложных функций.
Сам принцип работы глубоких нейросетей при прямом проходе (инференсе) сходен с биологическим нейронам в мозгах. Обучение конечно работает иным, более простым способом. Весь этот набор технологий очень интересный.
Сам принцип работы
современный ИИ это банальный перебор значений. Те очень хороший поисковик, и посредственный писатель. Но не более. В теории он сможет заменить всех инженеров-эксплуатационников и копирайтеров. Но не более.
- добавлю, если у ваятелей ии нет критериев истинности - как их алгоритм сможет оценить полученное "знание" на выходе?
- похожа свинья на ёжа?
Вы немного отстали от текущего положения вещей. На этот вопрос нейросети могут ответить, причём по многим параметрам и без предварительной разметки.
Сейчас достаточно такого критерия, что-бы нейросетка училась распознаванию: Нейросети предлагают кратко описать предмет, который она видит. Чтобы по этому краткому описанию она: 1. Могла понять, что это именно этот предмет (для нейросетей, которые распознают и классифицируют). 2. Могла нарисовать этот предмет максимально правдоподобно (для нейросетей, которые рисуют).
Если обобщённо - нейросети говорят "Краткость сестра таланта!" и она начинает стремиться к этому.
- и она, в отличие от вас, сможет отличить сарказм переносного смысла от серьёзного вопроса?
Вы ведь не поняли суть моего посыла, о критерии Истинности, о Мере, но уже отвечаете на незаданный вопрос.
Вы хоть различаете что такое сила, её Мера, и отражение в сознание людей чувством?
Тогда откуда всему этому взяться у ии?
Образ - это?
-...
Страницы