Искусственный интеллект под контролем: в Нью-Йорке появился уполномоченный по делам роботов

Сотрудник будет работать при мэрии Нью-Йорка и контролировать, чтобы использование искусственного интеллекта не ограничивало возможности отдельных групп населения, например, из-за расовой дискриминации. Об этом сообщает издание Engadget.

«Нью-Йорк хочет избежать предвзятости искусственного интеллекта и других алгоритмов, и создает роль, прежде всего, для обеспечения равного обращения», – сообщает издание.

Мэр Билл де Блазио издал исполнительный приказ о создании должности сотрудника по управлению алгоритмами и политике в области алгоритмов.

О должности

Сотрудник на этой должности будет работать в мэрии Нью-Йорка и выступать в качестве «архитектора руководства по алгоритмам и источника информации по алгоритмической политике», пояснил источник.

«Этот человек будет следить за тем, чтобы городские алгоритмы соответствовали принципу справедливости, честности и подотчетности», – сообщили в мэрии.

Сотрудник будет пользоваться помощью консультативных и руководящих комитетов. Те, в свою очередь, будут привлекать назначенных общественных деятелей и городских чиновников для обсуждения алгоритмов. Это позволит сотруднику на новой должности лучше понимать, как алгоритмы применяются в реальном мире, пояснило издание.

По теме: Основатель Google рассказал, как будет защищать человечество от искусственного интеллекта

Это заметно отличается от других технологических инициатив Нью-Йоркского университета, но это неудивительно. Это скорее надзорная функция в области этики во всех городских органах власти, в том числе в тех областях, где технические специалисты могут присутствовать лишь в ограниченном количестве.

Почему эта должность важна?

Алгоритмическая предвзятость может привести к расовой дискриминации, недостаточному финансированию проектов или другим серьезным проблемам, какими бы непреднамеренными они ни были, пояснил источник.

Специальный сотрудник теоретически гарантирует, что искусственный интеллект и аналогичные технологии расширят права и возможности каждого, а не только отдельных групп. Пока не ясно, кто займет эту позицию.