Microsoft упразднила комиссию по этике и обществу, которая курировала соблюдение компанией принципов ответственного использования искусственного интеллекта. В частности, в ее задачи входило выявление возможных проблем, которые могли бы возникнуть в будущем из-за внедрения ИИ. По некоторым данным, деятельность группы инженеров, дизайнеров и философов, негативно сказывалась на скорости вывода ИИ-продуктов компании на «разогретый» ChatGPT рынок. Под давлением высшего руководства Microsoft команда сперва была зачищена, а спустя полгода и вовсе ликвидирована.
Ликвидированная команда осуществляла контроль за соблюдением принципов ответственного подхода к использованию ИИ, сформулированных Microsoft, при разработке собственных программных продуктов на базе нейросетей.
Несколько лет назад команда подготовила специальную настольную ролевую игру под названием Judgement Call («Спорное решение»), которая призвана помочь разработчикам сформировать представление о том, какой вред потенциально способен нанести искусственный интеллект и учесть возможные негативные последствия в процессе создания конкретного продукта на его основе. В последствии игра была включена в состав «инструментария ответственных инноваций» (Responsible Innovation Toolkit), опубликованного командой.
Как отмечает The Verge, конфликт в Microsoft иллюстрирует противоречивое отношение технологических гигантов к созданным ими же самими подразделениям по вопросам этики и общества. С одной стороны, эксперты такого рода обладают навыками прогнозирования сценариев злонамеренного использования создаваемых компанией технологий, помогая разработчикам избавиться от «узких мест» в сервисах и ПО до их выхода на рынок. С другой, они способны и «тормозить» или вовсе блокировать вывод продуктов на рынок, обозначая риски, которые могут обернуться головной болью для юридического отдела компании в среднесрочной и долгосрочной перспективе.
Говорить о полном отказе Microsoft от принципов ответственного использовании ИИ не приходится.
Следует иметь в виду, что ликвидированная команда все же была не единственной структурой, занятой вопросами этичного ИИ. В строю, согласно официальному сайту Microsoft, остаются ORA (Office of Responsible AI), RAISE (Responsible AI Strategy in Engineering и Aether Committee. Первая, к примеру, сформулировала шесть основных принципов ответственного использования ИИ:
справедливость (fairness);
надежность и защита (reliability & safety);
конфиденциальность и безопасность (privacy & security);
доступность (inclusiveness);
прозрачность (transparency);
подотчетность (accountability).
© Дмитрий Степанов 6«Microsoft разогнала экспертов по этике ИИ, которые мешали повторить триумф ChatGPT» 1
Комментарии
Ликвидировали людей лишь за то что задавали неудобные вопросы... В высшем руководстве Microsoft точно нет ИИ?
Интеллект предполагает искусность. Судя по тому, что это попало в СМИ - руководство от природы не обладает искусным интеллектом, скорее его искусственностью.
Что за "неудобные вопросы"? Может это просто "отдел идеологии" был: следили чтоб ИИ негра негром не назвал, а пидора пидором.
Да, скорее всего. В ООН, помнится, жаловались, что ИИ в отделе кадров (пройдя обучение на личных делах сотрудников) решил, что лучше всех работают белые мужики и стал отдавать им приоритет при приеме на работу, а ИИ-криминалист (на основе изученных дел) в первую очередь начинал подозревать негров.
В высшем руководстве Microsoft точно есть ИИ - Иммитация Интеллекта.
Фактически даже такой убогий имитатор интеллекта, как ChatGPT, может создать очень большие проблемы человечеству. Например, создавая большое количество сгенерированного контента, бессмысленного, но похожего на осмысленный. Ещё более забить мусором весь интернет.
Обязательно какая-нибудь сволочь начнёт штамповать научные "статьи" с его помощью.
Поэтому хорошо, что доступ к нему из России, они сразу закрыли. Молодцы!
Есть обходные пути.
Но не для сволочей, я вот сегодня подключился
"Обязательно какая-нибудь сволочь начнёт штамповать научные "статьи" с его помощью."
Это, кстати, будет благом. Потому что моментально доведёт текущую ситуацию со статьями до абсолютного абсурда и она наконец то помрёт.
Текущие "научные статьи" претендентов на гранты имеют такое же отношение к развитию науки, как монологи аферистов-попрошаек к развитию культуры человечества.
Интеллект руководителей ЕС разве не искусственный? Искусственность интеллекта, его несамостоятельность разве принципиальна с точки зрения применения какого-то ПО? Разве Лысенко, угробивший Вавилова обладал интеллектуальным суверенитетом?
Для начала. Вавилова угробил не Лысенко.
Вавилова угробила фактическая растрата денег - без выдачи результатов. Взял грант и не осилил.
Он потратил кучу реального бабла на то, чтобы собрать данные для фундаментальной научной работы. Путешествия во всякие е**ня, сбор коллекций.
Но деньги ему давали под проблему повышения урожайности зерновых - а не под теоретически работы, которые дадут практический результат лет через 30-50 - потому что народу объективно было нечего жрать. Результата он не дал.
Та же ситуация, что с Королёвым, например - вот только Королёв хоть какие-то результаты показал, а Вавилов - нет.
Ну, а насчёт интеллекта Лысенко - ну так он вполне выдал неплохие результаты.
Практические результаты и методики. Которые используются до сих пор.
Теоретические его работы - вполне в духе того времени. То, что большая часть - ошибочна, ну так у всех тогдашних генетиков были ошибочные представления на тот момент времени.
Большущее спасибо. Содержательно. Но вот же - угробили мировое светило в тюрьме за фундаментальность подхода. И никто не защитил.
Там все биологическое сообщество пыталось защитить. не помогло.
Один из участников те события назвал - еврейскими погромами в советской науке. Что должно бы намекнуть на состав защитников
И? "Мировое светило" не человек? И не должен отвечать за свои действия?
С точки зрения государства, его растрата валюты привела к тому, что какое-то количество людей умерло с голоду.
Потому что валюта - от продажи зерна - СССР был в то время под санкциями, когда например Запад запретил СССР расплачиваться золотом.
Должен, но не смертью же, притом мучительной. Тем более ответственность явно не равноценна: не ответили не мировые светила за многочисленные провалы.
Уже штампуют, если судить по ссылкам на АШ - вот свежий пример https://aftershock.news/?q=comment/14194223#comment-14194223
Абсолютно точно.
"Почему в поезде стоп-кран красного цвета, а в самолёте – синего?"
Ответ ChatGPT:
"Какого цвета стоп-кран в самолёте?"
Ответ ChatGPT:
Анекдот, да и только! ;-))
Стоп-кран на самолете обычно окрашен в красный цвет, чтобы обратить внимание пилотов и других членов экипажа на его важность. Красный цвет является ярким и заметным, поэтому его часто используют для обозначения элементов, требующих особого внимания или сигнализирующих о возможной опасности.
ChatGPT - крайне полезная вещь, если использовать её как поисковик. Вместо перерывания выдачи Google просто читаешь лаконичный ответ. Да, есть опасность, что этот лаконичный ответ будут подкручивать под желания хозяина нейросети. Но если нужно что-то техническое или научное - замечательный инструмент. Думаю, каждая страна будет стремиться создать свой национальный ЖПТ.
Обычный пользователь ленив, проверять не будет. И тут-то рептилоидам карта попёрла...
Обычный пользователь и вики не проверяет...
Ага. Особенно когда оно, когда не находит ответ, начинает гнать лютую отсебятину
это не "опасность", а смысл существования всей приблуды. Уже протестировали здесь, на АШ. Для пользования подобными ассистами человеку нужны твёрдые навыки интеллектуального суверенитета, иначе здравствуй, синдром навигатора и внешнее управление. Не фентезийное, а вот прям прикладное.
ChatGPT нельзя использовать как поисковик. Это рекурсивное автодополнение текста по справочнику. ChatGPT интересует только форма предложения, чтобы оно было построено грамотно. Содержанием предложения он не занимается. Мои примеры см. выше. Не знаю о каком тесте Тьюринга идёт речь, если он тупо "стоп-кран" не способен пройти.
ЖПТ? - как-то подозрительно звучит! (Нет ли тут ЕГО(антисемитизму))??? (ЖидоПатологическийТрактат)
Пробовал. Выглядит удобнее, да. Вместо того чтобы продираться через миллион ссылок читая комментарии пользователей просто пишешь "а как сделать вот это" и получаешь развернутый ответ с объяснениями. Но есть нюансы - во-первых актуальность - если в языке что-то поменялось, то оно упорно будет выдавать неправильный ответ несмотря на все уточняющие намёки (уже попал на радикальные изменения синтаксиса с 2021 года). И когда оно не сработает всё равно пойдёшь искать в тот же гугл (только уже с отягощением в виде XY проблемы). Во-вторых - если Stackoverflow отучил программистов запоминать, то chatGPT отучит думать. Тебе прям всё разжёвывают и это затягивает. К примеру, надо составить особо заковыристый regexp - в гугле находишь что-то похожее, допиливаешь под себя, пытаешься разобраться, в особо запущенных случаях читаешь маны. ChatGPT просто даёт готовый ответ под твой случай. Тебе даже не надо понимать как оно работает. Проблема в том, что программист становится неспособен понимать и находить ошибки в "своём собственном" коде. А если учесть то, что там выше написали про стоп-краны (это по хорошему должно быть в-третьих), то использование chatGPT способно создавать в принципе не устраняемые проблемы.
В общем, как и любой инструмент, применять можно, но с осторожностью. Для обучения - параллельно с традиционными методами (книги, практика) - очень хорошо, пожалуй лучше гугла, если помнить о вышеописанных нюансах. В работе - исключительно в тех областях где вы и так хорошо разбираетесь, для экономии времени. Всё равно расслабляет, но тут уж от личной дисциплины зависит. Надо не лениться подтягивать себя в свободное время.
Кстати, про ИИ от Микрософта. Установил Bing GPT и, чтобы протестировать, попросил описать признаки заражения хлеба картофельной болезнью. Не сложный же вопрос, правда? Любой начинающий ИИ должен ответить не задумываясь. Ответ был неожиданным: Отказано в доступе к Yandex.ru. Что отказано в доступе к яндексу вопросов нет, это Украина и российский поисковик тут запрещен давно. Вопрос в другом - а это точно GPT от Микрософта, а не от Яндекса?
может, используется поисковик по умолчанию в браузере?
Пресловутый ChatGPT не обращается к поисковикам для своих ответов, или обращается незаметно для нас. Возможно, Бинг обращается. Но всё равно смешно: американский браузер при установке назначает по умолчанию не свой поисковик Бинг, а российский Яндекс. Конфуз однако
Это. видимо - маркетинг: люди понимают, как оснастить продукт, чтобы распространялся быстрее и давил конкурентов.
Три закона робототехники тоже отменяют?
В игровой трилогии Mass Effect хорошо прошлись по такой ситуации.
ИИ была поручена задача не допускать конфликтов среди подчиненных разумных рас в галактической империи.
ИИ, поразмыслив, принял наиболее оптимальное решение: выпилить всю органику. Включая создателей, Левиафанов.
Причем что характерно: когда были найдены последние выжившие левиафаны, они на полном серьезе утверждали, что все в порядке.
Чем-то напоминает нынешнюю ситуацию с США и прочим садом
Похоже ИИ прогрессирует. Возможно он пролоббировал это решение по разгону комиссии.
для прогресса нужно хотя бы дождаться появления ИИ. А его ещё доооолго будут имитаторами подменять...
Жадность и зависть победили страх и точность.
если мораль мешает зарабатывать бабки - нафиг такую мораль
это основной принцип капитализма
и это объективное его свойство
если ты весь такой моральный, а твои конкуренты - аморальны и это позволяет им заработать больше, то ты просто проиграешь конкуретную борьбу и тебя не станет как бизнес-единицы
именно для этого существует государство, чтобы всех ставить в равные условия и всем запрещать
но тут на сцену выходит уже конкуренция между государствами: то государство, которое будет меньше озабочено моралью в итоге выиграет конкуренцию и поглотит/подавит остальных
ну не знаю, меня его ответы вполне устраивают. Конечно, Гугл не отменяется из-за ЖПТ, но для знакомства с какой-нибудь новой темой - ЖПТ вполне неплох.
Вот пример моего общения с ЖПТ. Захотел я узнать про коал.
Я:
what koala look like?
ChatGPT:
As an AI language model, I do not have the ability to perceive visual information. However, I can tell you that koalas are arboreal marsupials native to Australia. They have a distinctive appearance with fluffy ears, a round face, a large nose, and sharp claws for climbing trees. They are mostly gray in color with white on their chest and stomach.
Я: [не помню как на английском "подвид"]
подвид in English
ChatGPT:
"Подвид" in English is "subspecies."
Я:
Are there any subspecies of koala?
ChatGPT:
Yes, there are three recognized subspecies of koala: the Queensland koala, the New South Wales koala, and the Victorian koala.
Как видите, вполне информативный диалог. Плюс больше нет необходимости лазить в переводчик
Т.е.выжимка информации из встроенного парсера.