Убедительная ерунда

Машинный перевод.

Хайп
Официальный чат-бот Нью-Йорка с искусственным интеллектом распространяет о законе ложную информацию
Проект в США напоминает о чат-боте AMS. Несмотря на многочисленную критику, они верят, что смогут взять проблему под контроль.
31 марта 2024 г., 18:00

Примерно через год после пика нынешней шумихи вокруг ИИ можно было бы подумать, что фундаментальные недостатки таких систем к настоящему времени уже устранены. Это включает в себя тот факт, что чат-боты, основанные на больших языковых моделях, очень хороши в создании убедительно звучащих текстов, но они часто промахиваются, особенно там, где необходима точная информация. И все же для многих компаний и организаций искушение украсить себя «чем-то с искусственным интеллектом» кажется слишком большим. Последним примером того, к чему это ведет, является американский мегаполис Нью-Йорк.

Убедительная ерунда

Вот уже несколько недель в городе работает собственный чат-бот под названием «MyCity», задача которого — предоставлять компаниям достоверную информацию, например, предоставлять информацию по юридическим вопросам или нормативным актам по запросу. Для этого бот был специально обучен с использованием более 2000 сайтов и статей на эти темы. Однако исследование The Markup теперь показывает, что все это работает так же, как чат-бот AMS, который вызвал сенсацию в Австрии несколько недель назад: версия для Нью-Йорка предоставляет крайне неверную информацию даже по основным вопросам. Это варьируется от неправильных ответов в отношении рабочего времени и зарплаты (например, утверждения о том, что начальники могут брать часть чаевых) до неверных заявлений о юридических требованиях к домовладельцам. Если бы они последовали рекомендациям чат-бота, то нарушили бы закон.

Основа

Чат-бот MyCity использует в качестве основы службу Microsoft Azure AI Bot, но аналогичных результатов можно ожидать и от других решений. В конце концов, такие галлюцинации являются неотъемлемой проблемой этих инструментов. Реакция на подобную информацию в США примерно такая же, как и в Австрии: в городе говорят, что это пока пилотная программа и со временем эти проблемы будут решены. Это было почти слово в слово услышано в рядах АМН несколько недель назад.

Предупреждение

На примере США эксперт по искусственному интеллекту Эмили Бендер прямо предостерегает от такого мнения, заявив, что это опасное недоразумение. Чат-боты, основанные на больших языковых моделях, созданы для того, чтобы изобретать вещи. Это не ошибка, которую можно просто устранить, задача и используемая технология в таком случае просто не совпадают. (апо, 31 марта 2024 г.)