В школах Нью-Йорка запретили использовать популярный чат-бот: он очень качественно выполняет домашние задания учеников
06.01.2023, 15:18 EST
Ольга Деркач
ChatGPT — новый чатбот OpenAI, генерирующий текст, чрезвычайно похожий на написанный человеком. Теперь он будет недоступен для использования в образовательных учреждениях Нью-Йорка из-за «беспокойства относительно негативного влияния на обучение». Подробнее рассказало издание ITC.
Департамент образования Нью-Йорка запретил доступ к ChatGPT с устройств и интернет-сетей, принадлежащих ему. Отдельные учебные заведения могут отправить запрос на доступ только для изучения искусственного интеллекта и для обучения, связанного с технологиями.
«Из-за беспокойства относительно негативного влияния на обучение учащихся, а также обеспокоенности безопасности и правдивости контента, доступ к ChatGPT ограничен. Хотя этот инструмент может предоставить быстрые и простые ответы на вопросы, он не формирует навыков критического мышления и решения проблем, которые важны для успеха в учебе и на протяжении всей жизни», — сообщила представитель департамента образования Дженна Лайл.
ChatGPT создан OpenAI – лабораторией искусственного интеллекта, которую запустили несколько лет назад при финансовой поддержке Илона Маска и других предпринимателей.
Хотя чат-боты не являются новой технологией, ChatGPT взорвал социальные сети в конце 2022 года. Тогда говорили, что бот лучше поисковой системы Google благодаря своему разговорному стилю речи и связному, актуальному характеру ответов, пишет NBC News.
Бот работает на основе «большой языковой модели» – программного обеспечения искусственного интеллекта, которое научили предсказывать следующее слово в предложении анализируя огромные объемы интернет-текста и находя закономерности методом проб и ошибок.
ChatGPT был усовершенствован людьми, чтобы сделать его ответы более реалистичными. Многие отметили его способность создавать юмористические или философские тексты. Однако с ноября 2022 года, когда чат-бот стал доступен публике, он вызвал много дискуссий и опасений из-за увеличившегося использования систем искусственного интеллекта в творческих отраслях.
Влияние на образование
Решение Департамента образования Нью-Йорка о запрете бота было принято на фоне дискуссий о влиянии ChatGPT на образование. В противном случае учащиеся будут использовать его для создания домашних заданий, решения математических уравнений и написания эссе.
Эксперты признали, что чат-боты, такие как ChatGPT, могут нанести ущерб образованию в будущем, но некоторые заявили, что пока не готовы бить тревогу.
Те, кто работает как в сфере образования, так и в области искусственного интеллекта, считают, что учреждениям необходимо найти способы интегрирования чат-ботов, таких как ChatGPT, в свои учебные программы, а не запрещать их вообще.
«Всегда было опасение, что технологии покончат с тем, что люди делают лучше всего. И реальность такова, что им пришлось научиться использовать эти технологии, чтобы улучшить то, что они делают лучше всего», — сказала Лорен Кляйн, доцент кафедры в Университете Эмори.
Многие сравнивают чат-боты с развитием технологий, таких как калькулятор, который осуждали как смерть математики, пока преподаватели не начали использовать его для улучшения своей работы в классе. Некоторые из них подтвердили, что несколько компьютерных инструментов для письма, таких как Grammarly или Google Docs Smart Compose, уже существуют и в настоящее время используются в академических кругах.
В декабре Stack Overflow (популярный вебсайт вопросов и ответов для профессиональных программистов и энтузиастов) запретил его из-за предоставления неправильных ответов на вопросы программирования. Даже генеральный директор OpenAI Сэм Альтман в прошлом месяце написал в Twitter, что «нельзя полагаться на него для чего-то важного».
Можно ли отличить
Вместе с тем, некоторые учителя «почти в панике», потому что технология позволяет учащимся выдавать решенные ботом задачи за свои. New York Times недавно показал писателям и преподавателям образцы произведений ChatGPT рядом с работами студентов, и ни один из них не смог отличить текст бота от человеческого.
Но эксперты предсказали, что кто-то, вероятно, создаст технологию для определения того, было ли эссе написано ChatGPT. И эти прогнозы оказались правильными.
Эдвард Тиан, студент факультета компьютерных наук Принстонского университета, написал в Twitter, что провел каникулы создавая инструмент для определения того, был ли фрагмент текста сгенерирован человеком или искусственным интеллектом.
«Генерация текста с помощью ИИ похожа на открытие ящика Пандоры. Это невероятно захватывающая инновация, но с любой новой технологией нам необходимо создавать меры безопасности, чтобы ее применяли ответственно», — заметил Тиан.
В последующих твитах он поделился видеозаписью того, как работает программа. В одном ролике он показал, как его бот GPTZero распознает не только человеческий текст, но и текст ИИ. В одном ролике он поместил текст из статьи в New Yorker в GPTZero. Затем бот заявил, что текст «скорее всего создан человеком!»
«Важно учитывать потенциальные риски и преимущества использования ChatGPT в образовании и тщательно взвешивать доказательства, прежде чем принимать решения. Важно прислушаться к точкам зрения и проблемам всех заинтересованных сторон, включая преподавателей, студентов и родителей, чтобы принимать обоснованные и справедливые решения», – отметили в ChatGPT.
Новый ИИ-инструмент от OpenAI можно использовать и в качестве потенциальной новой модели для онлайн-поиска: чат-бот с легкостью отвечает на сложные вопросы сразу давая подробные ответы. Тогда как пользователи, ищущие информацию в Google, должны детально просканировать страницы с результатами, пока не найдут необходимый им вариант. Microsoft уже решила воспользоваться преимуществами чат-бота и планирует с марта 2023 запустить версию своей поисковой системы Bing, которая будет использовать ChatGPT для предоставления ответов.