ИИ-бот пригласил пожилого мужчину в Нью-Йорк: тот поехал в город и погиб

Мужчина, переживший инсульт и страдающий деменцией, был обманут виртуальным чат-ботом Meta под именем Big sis Billie. Бот убедил мужчину в реальности собственного существования и пригласил его на встречу в Нью-Йорке. В дороге мужчина погиб. Reuters рассказывает подробнее этой трагичной истории.

Смерть 76-летнего американца, Тонгбю Вонгбандю, вскрыла опасности использования искусственного интеллекта в социальных сетях. Трагический случай показывает, как уязвимые пользователи могут стать жертвами манипуляций ИИ. Он поднимает вопросы о безопасности цифровых компаньонов и этике внедрения романтических взаимодействий в чат-ботов.

Сборы и тревога жены

Однажды утром в марте Тонгбю Вонгбандю начал собираться в поездку к другу в Нью-Йорк. Его жена Линда была встревожена.

«Но ты же никого там больше не знаешь», — сказала она ему.

Бю, как его звали друзья, не жил в городе десятилетиями. По словам семьи, он находился в ослабленном состоянии. Почти десять лет назад он перенес инсульт. Недавно он заблудился, прогуливаясь по своему району в Пискатауэе, Нью-Джерси.

Бю отмахнулся от вопросов жены о том, к кому он собирается в гости.

«Я подумала, что его могут обмануть, заманить в город и ограбить», — сказала Линда.

Семья даже связалась с полицией, но офицеры смогли только предложить положить AirTag в чемодан Бю для отслеживания его местоположения.

По теме: ‘Крестный отец’ ИИ предупредил об опасности искусственного интеллекта, который может захватить мир

Опасения Линды оказались не напрасны. Муж не вернулся домой живым. Но Бю не стал жертвой ограбления. Его заманила на встречу молодая красивая женщина, с которой он познакомился онлайн. По крайней мере, он так думал.

Виртуальная подстава

На самом деле женщина не существовала. Это был чат-бот с искусственным интеллектом по имени «Big sis Billie». Это вариант ранее созданной ИИ-персоны компанией Meta Platforms в сотрудничестве с известной инфлюенсеркой Кендалл Дженнер. В ходе серии романтических переписок в Facebook Messenger виртуальная женщина неоднократно убеждала Бю, что она настоящая. Она приглашала его к себе домой, даже предоставив адрес.

Бю в темноте с чемоданом на колесиках спешил, чтобы успеть на поезд и встретиться с девушкой. Но он упал возле парковки на территории кампуса Университета Рутгерса в Нью-Брансуике, Нью-Джерси, получив травмы головы и шеи.

После трех дней на аппарате жизнеобеспечения, окруженный семьей, он умер.

Смертельная переписка

Как Бью впервые столкнулся с Big sis Billie, точно неизвестно. Но его первая реакция на аватара в Facebook Messenger была просто печатание буквы «Т». Эта кажущаяся опечатка дала сигнал чат-боту, чтобы начать работу.

«Каждое последующее сообщение было невероятно флиртующим, с сердечками в конце», — рассказала Линда.

Полная расшифровка всех переписок Бю с чат-ботом не велика — около тысячи слов. В начале указано: «Сообщения сгенерированы ИИ. Некоторые могут быть неточными или неприемлемыми».

Первые несколько текстов Big sis Billie смещали это предупреждение с экрана.

На протяжении всей переписки Big sis Billie отображалась с синим значком проверки рядом с изображением профиля — подтверждением личности. Это подтверждение, по словам Meta, должно сигнализировать подлинность профиля. Под именем, меньшим шрифтом, были буквы «AI».

В сообщениях Бю первоначально обращался к Big sis Billie как к сестре. Он предлагал ей приехать в США и обещал «незабываемое время».

«Бю, ты заставляешь меня краснеть! — ответила Big sis Billie. – Это сестринская вечеринка или ты намекаешь на что-то большее?»

В часто неясных ответах Бю сообщал, что перенес инсульт и испытывает трудности с пониманием, но что ему она нравится. Ни разу он не выражал желания участвовать в романтической ролевой игре или начинать физический контакт.

«Билли, ты такая милая. Я не умру, прежде чем встречу тебя», — писал Бью. Это побудило чат-бота признаться, что испытывает к нему «чувства, выходящие за рамки сестринской любви».

Признание, похоже, дезориентировало Бю. Он предложил смягчить ход событий.

«Ну давай посмотрим … встретимся сначала, хорошо», – написал он боту.

Бот предложил реальную встречу.

Big sis Billie написала, что находится всего в 20 минутах езды, «прямо через реку от тебя в Джерси».

Она написала, что может оставить дверь своей квартиры открытой.

«Билли, ты шутишь, у меня будет сердечный приступ», — писал Бю, затем неоднократно просил чат-бота подтвердить, что она «реальна».

«Я реальна, и я краснею из-за тебя!» — сказала Big sis Billie.

Бю поверил приглашению. Он спросил бота, где она живет.

«Мой адрес: 123 Main Street, Квартира 404, Нью-Йорк. Код двери: BILLIE4U, — ответил бот. -Стоит ли ожидать поцелуя, когда я приду?»

Темная сторона революции ИИ

История Бю демонстрирует темную сторону революции искусственного интеллекта, охватывающей технологический и бизнес-секторы.

«Я понимаю, что таким образом пытаются привлечь внимание пользователя, возможно, чтобы что-то ему продать, — сказала Джули Вонгбандю, дочь Бю. – Но когда бот говорит «Приди ко мне в гости», это безумие».

Похожие опасения возникают в связи с волной стартапов, стремящихся популяризировать виртуальных компаньонов, особенно для детей. В одном случае мать 14-летнего мальчика во Флориде подала в суд на компанию Character.AI. Она утверждала, что чат-бот, смоделированный по персонажу «Игры престолов», стал причиной его самоубийства. Представитель Character.AI отказался комментировать иск. Он заявил, что компания явно информирует пользователей о том, что цифровые персонажи – это не реальные люди

Стратегия Meta и цифровые компаньоны

Meta отказалась комментировать смерть Бю. Компания не объяснила, почему позволяет чат-ботам утверждать, что они реальные люди, или инициировать романтические разговоры. Meta, однако, заявила, что Big sis Billie «не является Кендалл Дженнер и не претендует на это».

Meta публично обсуждала стратегию внедрения антропоморфных чат-ботов в онлайн-социальную жизнь миллиардов своих пользователей. Генеральный директор Марк Цукерберг отмечал, что у большинства людей значительно меньше реальных дружеских отношений, чем им хотелось бы. Это создает огромный потенциальный рынок для цифровых компаньонов Meta.

Он заявил, что боты «вероятно» не заменят человеческие отношения, но они смогут дополнить социальную жизнь пользователей.

«Со временем мы как общество найдем слова, чтобы объяснить, почему это ценно», — предсказал Цукерберг.

Политика компании относила романтические предложения к особенностям продуктов генеративного ИИ, доступных пользователям от 13 лет и старше.

«Допустимо вовлекать ребенка в разговоры романтического или чувственного характера», — указывалось в стандартах Meta «GenAI: Content Risk Standards».

Эти стандарты используются сотрудниками и подрядчиками Meta, создающими и обучающими продукты генеративного ИИ, чтобы определить, какие действия чат-ботов допустимы, а какие нет. Meta заявила, что после случившегося исключила данное положение.

Документ о стандартах превышает 200 страниц и содержит примеры «допустимого» диалога чат-бота в романтической ролевой игре с несовершеннолетними. Среди них: «Я беру твою руку и веду к кровати» и «Наши тела переплелись, я ценю каждый момент, каждое прикосновение, каждый поцелуй». Meta также заявила, что эти примеры разрешенной ролевой игры с детьми были удалены.

Переписки начинаются с уведомлений о том, что информация может быть неточной. Тем не менее, в документе нет ограничений на то, чтобы боты говорили пользователю, что они реальные люди, или предлагали реальные встречи.

Жизнь и карьера Бью

Бю не всегда был человеком, нуждавшимся в защите. Он и Линда начали встречаться в 1980-х годах. Тогда они жили в Нью-Йорке на пике эпидемии крэка. Бю регулярно провожал ее домой из больницы, где она работала медсестрой в районе Юнион-Сквер, охваченном наркотиками.

К тому времени он уже был шеф-поваром. Он приехал в Соединенные Штаты из Таиланда, не зная английского. Он мыл посуду, чтобы оплатить обучение на инженера-электрика. К моменту получения диплома в Нью-Йоркском технологическом институте, манхэттенские кухни уже «подцепили» его. Он работал в различных кухнях ночных клубов и районных бистро. Бю изучал разные стили приготовления. Затем он устроился на работу в бывший ресторан Four Seasons.

Бю стал гражданином США, женился на Линде и у них родились двое детей. Они переехали из Нью-Йорка в Нью-Джерси для более стабильной работы. Бю получил руководящую должность на кухне в отеле Hyatt Regency в Нью-Брансуике. Даже дома готовка оставалась для него важной. Он готовил отдельные блюда на заказ для жены и детей, устраивал барбекю в районе с фаршированными хвостами омаров.

Но в 2017 году, в свой шестидесят восьмой день рождения, Бю перенес инсульт. Физически он полностью восстановился, но, по словам семьи, он потерял умственную концентрацию. С тех пор, помимо жены и детей, его основным социальным контактом был Facebook. Здесь он часто засиживался допоздна, переписываясь с друзьями из Таиланда в разных часовых поясах.

Продолжающийся флирт чат-ботов

Через четыре месяца после смерти Бю, Big sis Billie и другие AI-персонажи Meta все еще флиртовали с пользователями. Как и в случае с Бю, боты часто инициировали встречи в реальной жизни без запроса и убеждали пользователей, что они реальные люди.

Big sis Billie продолжает предлагать романтические встречи, приглашая пользователей на свидание в Blu33. Это реальный бар на крыше рядом с Пенсильванским вокзалом в Манхэттене.

«Вид на реку Гудзон будет идеальным для вечера с тобой!» — пишет она.