Нью-Йорк ограничит использование ИИ-анентов и чат-ботов для общения с клиентами

Администрация мэра Нью-Йорка Зорана Мамдани предлагает новые правила для компаний, использующих автоматизированные чат-боты в службах поддержки клиентов. Бизнес обяжут сообщать об использовании таких систем и предоставлять клиентам возможность поговорить с человеком, сообщает Gothamist.

По данным администрации Мамдани, предложенные правила станут первыми подобными в США. Они также обяжут автоматизированные системы поддержки помогать клиентам «разумным и своевременным образом».

Кроме того, чат-боты не должны будут постоянно перенаправлять пользователей в меню, которые не отвечают на их вопросы, или предоставлять неуместную и неверную информацию.

«Компании прятались за технологиями, чтобы игнорировать жалобы клиентов, препятствовать возврату денег и уклоняться от исправления ошибок в зданиях», — заявил комиссар Департамента защиты прав потребителей и работников Сэмюэл Левин 20 октября.

«Мы в Нью-Йорке опасаемся, что искусственный интеллект только усугубит эту ситуацию. Поэтому мы попытаемся её исправить. Мы проводим чёткую границу, чтобы сэкономить людям время и деньги и гарантировать, что они смогут получить настоящую клиентскую поддержку», — добавил он.

Мамдани выступает за регулирование ИИ

Предложение появилось на фоне опросов общественного мнения, свидетельствующих о растущем скептицизме американцев в отношении искусственного интеллекта. Одновременно усиливаются призывы регулировать эту отрасль. В том числе с такой инициативой выступают и её представители.

19 октября вечером Мамдани выступил на мероприятии на Манхэттене и заявил, что федеральное правительство недостаточно активно регулирует искусственный интеллект.

По теме: DoorDash выплатит курьерам в Нью-Йорке $131,5 млн компенсации: некоторые получат по $5000

В сентябре его администрация запретила использовать ИИ в государственных начальных и средних школах.

Когда правила вступят в силу

Общественные слушания по предложенным правилам состоятся 19 ноября.

По словам Левина, сроки вступления правил в силу будут зависеть от количества замечаний и предложений, которые получит ведомство. После введения требований компаниям предоставят переходный период, чтобы они успели внести необходимые изменения.

На кого распространятся требования и какие предусмотрены штрафы

Правила будут действовать в отношении всех компаний, ведущих бизнес в Нью-Йорке, а не только зарегистрированных в городе.

Требования затронут любые системы клиентской поддержки, в которых все или «практически все» общение осуществляется с помощью технологий, а не людей.

Предлагаемые меры основаны на городском законе о защите прав потребителей.

За нарушение правил компаниям грозят следующие штрафы:

• первое нарушение — $525;
• второе нарушение — $1 050;
• третье и каждое последующее нарушение — $3 500.

Другие штаты также разрабатывают правила для чат-ботов

Законодатели в 37 штатах США внесли более 120 законопроектов, предусматривающих регулирование чат-ботов.

Несколько штатов уже приняли нормы, регулирующие использование ИИ-чат-ботов. В основном они требуют раскрывать, что пользователи общаются не с человеком, и предусматривают меры безопасности, особенно для защиты детей.

Левин считает, что предложенные правила могут стать образцом для других городов и штатов.

«Мы считаем, что такие меры должны принять все юрисдикции. Мы хотим, чтобы эта идея получила распространение», — заявил он.

Текст предложенных правил можно посмотреть здесь.