Городской чат-бот дает предпринимателям незаконные советы: Адамс говорит, что это нормально

Мэр Нью-Йорка Эрик Адамс защищает новый городской чат-бот с искусственным интеллектом. Как сообщает CTV News, в последние дни он начал раздавать владельцам бизнеса неправильные ответы и опасные советы, которые могут привести к нарушению закона, если им следовать.

В октябре 2023 чат-бот MyCity запустили в качестве пилотного проекта, его преподнесли как первую общегородскую технологию с использованием ИИ, которая призвана предоставлять владельцам бизнеса “действенную и достоверную информацию”. Нужно лишь сделать запрос на онлайн-портале.

Спустя пять месяцев после запуска стало ясно, что хотя бот выглядит авторитетным, информация, которую он предоставляет о жилищной политике, правах работников и правилах для предпринимателей, в лучшем случае неполная, а в худшем – «опасно неточная».

“В некоторых местах допускаются ошибки, и мы должны это исправить, – заметил Адамс подчеркнув, что это была пилотная программа. – Когда вы используете технологию, вам необходимо внедрить ее в реальную среду, чтобы найти и устранить все недостатки”.

Фанат технологий

Адамс всегда был ярым сторонником внедрения непроверенных технологий в городе с оптимизмом, который не всегда оправдывался. В прошлом году он разместил на станции метро “Таймс-сквер” огромного робота неопределенной яйцевидной формы, который, как он надеялся, поможет полиции сдерживать преступность. Примерно через пять месяцев его отправили в отставку, а пассажиры отметили, что он никогда ничего не делал и не мог даже пользоваться лестницей.

По теме: На дорогах Нью-Йорка появятся автоматизированные роботакси

Чат-бот по-прежнему в сети и продолжает периодически выдавать неверные ответы. Он сообщил, что владельцы магазинов могут свободно переходить на безналичный расчет, видимо, забыв о принятом в 2020 году законе, который запрещает магазинам отказываться от приема наличных. Он по-прежнему считает, что минимальная зарплата в городе – $15 в час, хотя с 2024 года её повысили до $16.

Чат-бот, который работает на базе сервиса Azure AI от Microsoft, похоже, сбился с пути из-за проблем, характерных для так называемых генеративных ИИ-платформ. Он, как и ChatGPT, иногда выдумывает информацию или утверждает ложь с уверенностью на 1000%.

Работа над ошибками

Компания Microsoft отказалась назвать причину проблем, но сообщила, что работает с городом над их устранением. В заявлении городского Управления технологий и инноваций говорится, что “уже на следующей неделе мы рассчитываем значительно сократить количество неточных ответов”. Ни Microsoft, ни мэрия не ответили на вопрос о том, что стало причиной ошибок и как их можно исправить.

Городские власти обновили предупреждения на сайте чат-бота MyCity и заметили, что “его ответы иногда могут быть неточными или неполными”. Они попросили предпринимателей “не использовать его ответы в качестве юридических или профессиональных консультаций”.

Эндрю Риджи, директор NYC Hospitality Allianc, который защищает интересы тысяч владельцев ресторанов, сказал, что он и другие предприниматели озадачены ответами чат-бота.

“Я одобряю попытку города использовать искусственный интеллект для помощи бизнесу, но он должен работать, – подчеркнул он. Но, по словам Риджи, следование некоторым рекомендациям бота может привести к серьезным юридическим последствиям. – Если я задаю вопрос, а затем мне нужно обращаться к своим юристам, чтобы узнать, правильный ли ответ, то это сводит на нет всю цель этого нововведения”.