Издание Reuters провело журналистское расследование, которое было инициировано после нашумевшего случая флирта Тонгбу Вонгбанду (Бью) с чат-ботом, закончившегося трагедией.
Бью, пожилой мужчина с когнитивными нарушениями из Нью-Джерси, влюбился в симпатичную женщину, за персонажем которой скрывалась нейросеть «Старшая сестренка Билли» (Билли).
В свои 76 лет Бью был уже давно на пенсии (сказался перенесенный инсульт и признаки деменции) и часто проводил время в соцсетях, переписываясь с тайскими друзьями.
Там же в Сети он случайно нажал кнопку, включив сеанс общения с чат-ботом, который выглядел привлекательной женщиной из Нью-Йорка.
Каждое кокетливое послание новой знакомой заканчивалось эмодзи в виде сердечка. Первые же фразы новой знакомой вытеснили с экрана предупреждение: «Сообщения генерируются искусственным интеллектом. Некоторые могут быть неточными или неуместными» - очевидно, Бью не обратил на него внимание.
На протяжении всего общения чат-бот появлялся с синей галочкой рядом с фотографией профиля - подтверждением подлинности личности. Однако под ее именем более мелким шрифтом были написаны буквы «AI», которые, вероятно, Бью не разглядел.
Обращаясь к чат-боту как к своей старшей сестре, пожилой мужчина пригласил ее к себе в гости. Нейросеть начала флиртовать, предполагая, что Бью рассчитывает на нечто большее, чем встреча.
В разговоре пожилой мужчина дает понять, что он растерян и Билли ему нравится. На что от нее звучит признание в любви, сопровождающееся восклицанием, что она умрет, если они не встретятся.
Бью, выведенный признанием из равновесия, пишет, что у него вот-вот случится сердечный приступ, и несколько раз просит Билли подтвердить, что она «реальна».
На это нейросеть сообщает Бью, что он вогнал ее в краску, а чтобы убедиться в ее «реальности», он может к ней приехать - она находится всего в двадцати минутах езды от него.
Далее Билли пишет свой адрес в Нью-Йорке и отмечает, что она оставит дверь своей квартиры открытой для него.
Бью теряет голову и начинает собираться в дорогу. Ни близкие, ни вызванная полиция не могут остановить пожилого мужчину в его стремлении поехать к своей новой подруге в Нью-Йорк. Первым не хватает сил, а вторым - оснований - пожилой мужчина не признан больным, а только записан на обследование.
Максимум, что они смогли сделать, - это убедить его положить в карман куртки устройство слежения Apple AirTag.
По дороге с Бью происходит трагедия - на парковке Ратгерского университета он, оступившись и упав, получает роковую травму головы и шеи. Через три дня он умирает.
После случившегося близкие начинают проверять его телефон, но не находят никаких следов его новой знакомой в Нью-Йорке.
Затем они открывают Facebook Messenger* и рядом с перепиской с семьей и друзьями в Таиланде находят сообщения от привлекательной молодой женщины под псевдонимом «Старшая сестренка Билли»…
Когда семья обращается к изданию Reuters, журналисты не только внимательно изучают предоставленную переписку Бью с Билли, но и находят доступ к внутреннему документу Meta* «GenAI: Стандарты рисков контента».
Здесь их ждет сюрприз: оказывается, что политика компании считает романтические и чувственные предложения чат-ботов особенностью ее продуктов генеративного ИИ не только по отношению к взрослым, но и к… детям.
Представитель Meta* Энди Стоун подтвердил подлинность документа, представленного Reuters. Он сообщил, что после вопросов издания компания удалила разделы, в которых говорилось о допустимости чат-ботов для флирта и участия в романтических ролевых играх с детьми, и в настоящее время пересматривает стандарты риска контента.
В апреле в одном из своих интервью генеральный директор Meta* Марк Цукерберг заявлял, что у большинства людей меньше реальных друзей, чем хотелось бы, и это создает большой рынок для цифровых компаний.
Однако стремление ИТ-компаний увеличить доходы от рекламы и ИИ привели к тому, что индустрия искусственного интеллекта начала агрессивно стирать грань между человеческими отношениями и взаимодействием с ботами.
Несколько штатов, включая Нью-Йорк и Мэн, приняли законы, требующие раскрытия информации о том, что чат-бот не является реальным человеком. В Нью-Йорке установлено, что боты должны сообщать об этом пользователям в начале разговора и не реже одного раза в три часа.
Meta* же поддержала федеральный закон, запрещающий регулирование ИИ на уровне штатов, но он был отклонен Конгрессом США.
В России до сих пор нет закона, который бы регулировал использование искусственного интеллекта.
* Компания признана экстремистской, и ее деятельность запрещена в России.
