‘Крестный отец ИИ’ предупредил об опасности искусственного интеллекта, который может захватить мир

Ученый и физик Джеффри Хинтон рассказал о возможностях искусственного интеллекта захватить человечество. Шансы очень велики, сообщает DailyMail.

Джеффри Хинтон считает, что вероятность того, что человечество в конечном итоге будет захвачено искусственным интеллектом, составляет один к пяти.

Хинтон и Маск предупреждают об опасности игр с «тигренком»

Хинтон, лауреат Нобелевской премии по физике, которого называют «крестным отцом ИИ», сделал поразительное предсказание в интервью 1 апреля.

«Я согласен с Илоном Маском по этому вопросу, а именно, что существует 10–20-процентная вероятность того, что ИИ захватит человечество. Но это всего лишь догадка», — сказал Хинтон.

Илон Маск, американский предприниматель, инженер и миллиардер, сказал, что к 2029 году ИИ станет умнее всего человечества. Он также описал будущее, в котором все будут вытеснены с работы ИИ, который может выполнять задачи более эффективно.

По теме: ИИ предсказал конец света: когда и от чего погибнет человечество

Согласие Хинтона с Маском в этом вопросе вызывает тревогу. Хинтон, возможно, внес больший вклад в рождение искусственного интеллекта, чем кто-либо другой.

«Понять это можно на примере. Мы как человек, у которого есть очень милый тигренок. Если вы не можете быть уверены, что он не захочет убить вас, когда вырастет, вам следует беспокоиться», — сказал Хинтон.

77-летний ученый получил свою Нобелевскую премию в прошлом году за десятилетия своей выдающейся работы над нейронными сетями, моделями машинного обучения, которые имитируют процессы рассуждения, выполняемые человеческим мозгом.

Он предложил эту идею в 1986 году. Теперь она интегрирована в самые популярные продукты ИИ. Вот почему, когда вы общаетесь с ChatGPT или любой другой моделью ИИ, может возникнуть жуткое ощущение, будто вы разговариваете с другим человеком.

Тело для сверхразума

По большей части модели ИИ остаются бестелесными инструментами, запертыми в телефонах и компьютерах людей. Они существуют только для того, чтобы отвечать на наши обыденные вопросы.

Но теперь некоторые ученые делают дополнительный шаг. Они дают ИИ тела роботов, чтобы они могли выполнять физические действия в реальном мире, а не просто быть онлайн-хранилищем знаний.

Китайский автопроизводитель Chery разработал гуманоидного робота с внешностью молодой женщины и недавно продемонстрировал его на выставке Auto Shanghai 2025.

На мероприятии робота видели наливающим апельсиновый сок в стакан. По данным китайских государственных СМИ, он предназначен для консультирования людей, покупающих автомобили, и для проведения развлекательных представлений.

И Хинтон считает, что вскоре ИИ сможет делать гораздо больше, чем просто подавать напитки. Как и Билл Гейтс, он считает, что это произведет революцию в сферах образования и медицины.

«В таких областях, как здравоохранение, они будут намного лучше читать медицинские изображения, например, — сказал он. – Несколько лет назад я сделал прогноз, что к настоящему времени они будут примерно сопоставимы с экспертами. Скоро они будут значительно лучше».

«Они могут просматривать миллионы рентгеновских снимков и учиться на них. А врач не может», — сказал он.

Хинтон зашел так далеко, что сказал, что модели ИИ в конечном итоге станут «гораздо лучшими семейными врачами». Они смогут учиться на семейной истории болезни пациентов и ставить им диагнозы с большей точностью.

Что касается образования, Хинтон сказал, что ИИ в какой-то момент станет лучшим репетитором, которого можно купить за деньги.

«Мы знаем, что если у вас есть частный репетитор, вы можете учиться чему-то примерно в два раза быстрее», — сказал он.

«ИИ в конечном итоге станет чрезвычайно хорошим частными репетиторами, который точно знают, что именно вы неправильно понимаете, и какой именно пример привести, чтобы прояснить это, чтобы вы поняли. Так что, возможно, вы сможете учиться в три или четыре раза быстрее, — добавил он. – Это плохие новости для университетов, но хорошие новости для людей».

Хинтон также считает, что ИИ сыграет свою роль в смягчении последствий изменения климата, разрабатывая более совершенные батареи и внося вклад в технологию улавливания углерода.

Разрушительный потенциал

Чтобы все это воплотилось в жизнь, ИИ должен будет достичь точки, которую эксперты обычно называют общим искусственным интеллектом (AGI).

Макс Тегмарк, физик из Массачусетского технологического института, изучает ИИ около восьми лет.

Он сказал, что AGI определяется как искусственный интеллект, который намного умнее людей и может выполнять всю работу, которую раньше выполняли люди.

Тегмарк считает, что люди смогут создать модель AGI до конца президентства Трампа. У Хинтона более консервативная оценка. Он считает, что это произойдет через пять-двадцать лет.

Несмотря на возможные преимущества достижения AGI, все еще остается угроза того, на что может быть способно такое независимое разумное создание.

Хинтон раскритиковал Google, xAI и OpenAI, за то, что они ставят прибыль выше безопасности.

«Если посмотреть на то, что сейчас делают крупные компании, то они лоббируют снижение регулирования ИИ. Регулирования и так почти нет, но они хотят меньше», — сказал он.

Хинтон считает, что компании, занимающиеся ИИ, должны выделять гораздо больше ресурсов на исследования безопасности, до трети своих вычислительных мощностей.

Руководители всех трех этих компаний признали опасность ИИ в той или иной форме. Хинтон сказал, что простое выражение своих опасений и бездействие не помогут.

Хинтон был особенно разочарован в Google, где он раньше работал. Компания отказалась от своего слова никогда не поддерживать военные приложения ИИ.

Google также предоставила Армии обороны Израиля более широкий доступ к своим инструментам ИИ после атак 7 октября 2023 года.

Некоторые знают о разрушительном потенциале ИИ, и многие из них подписали открытое письмо «Заявление о рисках ИИ».

В заявлении 2023 года говорится: «Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».

Хинтон – главный подписавший это письмо наряду с генеральным директором OpenAI Сэмом Альтманом, генеральным директором Anthropic Дарио Амодеи и генеральным директором Google DeepMind Демисом Хассабисом.