Почему мы ждем от ИИ полных и правильных ответов на любые вопросы? Есть ли у нас основания для этого? Отдельные мысли коротенько по этому поводу.

Навеяло обсуждениями дерзкого поведения ИИ-чата, который рекомендовал кожаному мешку умереть (раз, два и три).

Ведомство не признает оригинальность ПО банка для распознавания документов

Получив два отказа на заявление о регистрации патента, Сбербанк подал на Роспатент в Суд по интеллектуальным правам. Ведомство отказалось признать оригинальность системы, которую банк описал как изобретение способа обработки отсканированных документов и проверки полномочий подписантов.

Иск к Роспатенту

Сбербанк подал в Суд по интеллектуальным правам иск к Роспатенту из-за отказа регистрировать изобретение, связанное с распознаванием документов, выяснил RB.

Минцифры до конца года планирует создать единый прайс-лист для закупок софта госструктурами. Он должен снять возможные вопросы Счетной палаты к госзакупкам, которые сейчас могут сильно отличаться по цене.

По прогнозам уже в следующем году КНР обойдёт связку Nvidia+TSMC по производству AI-чипов, одновременно выходя на паритет по мощности одиночного изделия.

"Друзья мои, я опечален!"

Журналисты нашли еще один повод побояться ИИ. Оказывается (!) авторы конкретной ИИ-модели могут делать в ней "закладки", которые при определенных условиях - будут давать неправильные ответы или выполнять прочие не совсем ожидаемые действия. 

Гениальность данного открытия сложно осознать одномоментно, требуется специальная подготовка и соответствующий настрой. Так что - не спешите с выводами! (сарказм).

Пока - часто, скоро - всегда...

Конечно, мы надеемся, что это - преувеличение. Но результаты исследования группы из MIT, опубликованные в мае текущего года ("Обман ИИ: обзор примеров, рисков и потенциальных решений", ссылка - в перечне использованных материалов) показывают, что без активного вмешательства в процессы разработки ИИ - сей печальный прогноз легко может воплотиться в реальность в недалеком будущем. Итак:  

Обман — это систематическое побуждение ложных убеждений у других людей для достижения какого-либо результата, отличного от истины.

В материале утверждается, что современные системы ИИ уже научились обманывать людей. Приводятся множественные примеры обмана со стороны ИИ, реализованного в виде как систем специального назначения (например, CICERO от Meta), так и систем общего назначения (большие языковые модели), путем применения таких методов, как манипуляция, подхалимство и обман теста безопасности.

Нидерландская радиовещательная корпорация (Nederlandse Omroep Stichting, NOS) — одна из крупнейших государственных теле- и радиокорпораций Нидерландов - 28.08.2024г. в своих материалах сообщила о том, что несколько государственных служб пострадали из-за сбоя в ИТ-системе Министерства обороны. Сбой вызвал проблемы для экстренных служб, береговой охраны, Королевской военной полиции, DigiD, ряда муниципальных служб и GGD. (сам информационный ресурс в РФ заблокирован).

Примечательна точка зрения на инцидент министра юстиции Дэвида ван Вила, который считает, что в эпоху цифровых технологий все чаще происходят отказы в важнейших системах из-за сбоев, а значит граждане и государственные институты должны стать более устойчивыми к подобным потрясениям. По словам министра, подобные ситуации можно предотвратить за счет повышения уровня кибербезопасности, например, путем регулярного резервного копирования.

Задачи для ИИ, связанные с разработкой программного обеспечения, привлекают инвесторов, но возможности по зарабатыванию денег на генеративном искусственном интеллекте по-прежнему ускользают от многих.

На этом фоне проекты, связанные с использованием ИИ при составлении программного кода привлекли уже почти 1 млрд долларов инвестиций, претендуя на статус «убийственного приложения» (‘killer app’ status). Такие компании, как Replit, Anysphere, Magic, Augment, Supermaven и Poolside AI, только в этом году привлекли $433 млн, доведя общую сумму с января 2023 года до $906 млн, согласно Dealroom.

Творчество создается, а не генерируется.

Генеративный ИИ вырывает человечность из вещей. Построенная на основе воровства, эта технология ведет нас к бесплодному будущему. Мы думаем, что машинное обучение — это привлекательная технология с массой достоинств, но путь, по которому идет генеративный ИИ, нам не подходит.

Мы здесь для людей. Мы не гонимся за технологией, которая несет моральную угрозу нашему величайшему сокровищу: человеческому творчеству. В этой технологической спешке это может сделать нас исключением или риском остаться позади. Но мы видим этот менее проторенный путь как более захватывающий и плодотворный для нашего сообщества.

Хакерская атака, способная помешать выборам, маловероятна, однако эксперты опасаются, что любые уязвимости могут стать поводом для тех, кто захочет поставить результаты под сомнение.

Некоторые из лучших хакеров мира собрались в Лас-Вегасе на выходных, чтобы попытаться взломать машины для голосования, которые будут использоваться на выборах этого года, — все это с целью помочь должностным лицам выявить и устранить уязвимости.

Проблема в том, что их выводы, скорее всего, будут получены слишком поздно, чтобы внести какие-либо исправления до 5 ноября.

Становится ясно, что как оптимизм, так и пессимизм относительно потенциала ИИ сильно преувеличены.

После такой шумихи и триллионов долларов инвестиций пузырь ИИ, похоже, наконец-то лопнет . Большая часть краха рынка , произошедшего в прошлый понедельник, была сосредоточена среди технологических компаний, которые существенно инвестировали в ИИ. Больше всего проиграла знаменитая компания по производству чипов Nvidia, которая, по мнению автора статьи в MSN Криса Тейлора , «потеряла триллион долларов оценки, 30% от общей суммы, с момента своего пика в 2024 году».

Тейлор продолжает перечислять причины этого спада: чрезмерная шумиха от таких гуру ИИ, как Сэм Альтман, выгорание потребителей, которых теперь отпугивают продукты с использованием ИИ, и нетерпеливые инвесторы, такие как Goldman Sachs, желающие более быстрой окупаемости своих инвестиций. Итак, как и большинство пузырей, компании ИИ обещали слишком много и не выполнили обещаний, заставив рынок скорректировать себя.

Palantir Technologies (PLTR.N), заявила в четверг, что предложит свои продукты, включая платформу искусственного интеллекта (AIP), на облачных платформах Microsoft, которые обслуживают правительство США и федеральные агентства, такие как Министерство обороны.

Компания Palantir планирует развернуть свой набор продуктов — Foundry, Gotham, Apollo и AIP — в облаках Microsoft Azure Government, а также Azure Government Secret (DoD Impact Level 6) и Top Secret.

Компания также внедрит службу Azure OpenAI в средах Microsoft Secret и Top Secret.

Клиенты из сферы обороны и разведки смогут разрабатывать операционные рабочие нагрузки на основе ИИ, включая такие варианты использования, как логистика, заключение контрактов, расстановка приоритетов и планирование действий.

Экс-сотрудников российской «дочки» Oracle пытаются через суд обязать вернуть 50 млн руб. премий, которые они получили в 2022 году. Сумма может увеличиться — за ее счет планируется увеличить конкурсную массу в ходе банкротств. 

Есть ли шанс вернуть эти деньги кредиторам компании?

Elliott Management — хедж-фонд с активами на 70 миллиардов долларов, выразил серьезные опасения относительно Nvidia и индустрии искусственного интеллекта (ИИ) в целом. По сообщению Financial Times, фирма описывает ситуацию как "пузырь" и считает, что многие ИИ-приложения нежизнеспособны или неэффективны с точки зрения затрат.

Речь о скрытом вмешательстве правительства Израиля зашла после того, как консорциум медиаорганизаций во главе с парижской некоммерческой организацией Forbidden Stories , включая Guardian и израильских медиапартнеров, получил копию секретного постановления суда, касающегося изъятия внутренних файлов NSO в 2020 году.

Предположительно, правительство Израиля приняло чрезвычайные меры, чтобы сорвать крупный судебный процесс в США , который грозил раскрытием тщательно охраняемых секретов об одном из самых известных в мире хакерских инструментов, свидетельствуют обнародованные файлы.

В 2021 году во Флориде, при попытке проведения ареста подозреваемого в преступлениях сексуального насилия над детьми, погибли два агента ФБР и были ранены еще три. Злоумышленник начал стрелять в агентов, заметив их приближение при помощи камеры домофона.

После инцидента во Флориде Министерство внутренней безопасности (The Department of Homeland Security, DHS) начало исследовать, как устройства «интернета вещей» могут быть использованы для нанесения вреда сотрудникам правоохранительных органов, и обнаружило многочисленные публикации в Интернете, показывающие, как эти устройства могут взаимодействовать с физическим миром, создавая потенциальные «ловушки» для сотрудников правоохранительных органов. 

Во вторник клиенты по всему миру не смогли подключиться к службам Microsoft 365 и ее облачной платформе Azure. Компания заявила, что расследует эту проблему, и теперь она частично решена. 

Месяц назад Goldman Sachs опубликовали очередной выпуск глобального макроэкономического исследования, на сей раз посвященный инвестициям (конечно - пиндосским) в генеративный ИИ. Даже поверхностное ознакомление с материалом позволяет сделать вывод, что не все там кукухой поехали, и многие вполне себе трезво оценивают как перспективы этого самого «генеративного ИИ», так и целесообразность инвестирования в разработку и развитие ИИ. Ну, то есть откровенно хайповая накачка темы, продвигаемая Нвидией, Майкрософтом и Ко – скажем так, косвенно подтверждается. Но обо всём – по порядку.

В новостной репортаже компании JTBC (Joongang Tongyang Broadcasting Company) из Южной Кореи рассказывается о том, что интернет-провайдер KT активно устанавливал вредоносное ПО на компьютеры более полумиллиона абонентов. Вредоносное ПО было предназначено для вмешательства в трафик BitTorrent, предположительно, для реализации возможности его уменьшения. Полиция считает, что на сей подвиг компанию подтолкнули традиции экономить, присущие локальным пользователям. История началась в 2020 году, однако волну разгоняют сейчас. 

McDonald's прекращает тестирование системы искусственного интеллекта для обслуживания клиентов за рулем после того, как клиенты сообщили об ошибках в своих заказах, включая добавление бекона в мороженое.

Разработанная IBM система заказов на основе искусственного интеллекта для сети ресторанов быстрого питания использует распознавание голоса для обработки заказов и с 2021 года внедрена в более чем 100 точках McDonald's в США.