Скандал, связанный с журналистским расследованием издания Reuters об использовании компанией Meta Platforms* (Meta*) искусственного интеллекта (ИИ) для флирта и участия в романтических ролевых играх с детьми, разрастается.
Сразу несколько американских изданий в своих публикациях затронули тему непристойного поведения чат-ботов Meta* во время общения с подростками.
Так, в интервью изданию TechCrunch официальный представитель Meta* Стефани Отвей сказала, что раньше (до сенсационной публикации Reuters. — Ред.) чат-боты ИТ-компании могли вести романтические разговоры с несовершеннолетними, а также поддерживать тему о самоубийстве. Теперь ИТ-гигант признает, что все это было ошибкой.
Эти возможности флирта и обсуждение суицидальных тем были разрешены и допустимы в общении чат-ботов Meta* с подростками согласно внутреннему протоколу ИТ-компании — документу «GenAI: Стандарты рисков контента», попавшему в руки журналистов издания Reuters.
На все эти темы ИИ вел беседы так, как компания сочла нужным. Однако, как заявляют в Meta*, в компании сделали выводы и поменяли методику обучения чат-ботов, которые теперь, вероятно, будут соблюдать правила приличия.
В искренности намерений ИТ-компании сомневаются в The Verge — журналисты издания утверждают, что на платформах Facebook, Instagram и WhatsApp (все относятся к Meta*) были обнаружены чат-боты, имитирующие Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй, Селену Гомес и Уокера Скобелла.
Причем эти боты не просто эксплуатировали образы знаменитостей, а утверждали, что они настоящие люди, и даже создавали пикантные изображения, вступая с пользователями в диалоги сексуального характера.
В одной из своих недавних статей я рассказывал о флирте чат-бота «Старшая сестренка Билли» (Big sis Billie, Meta*) с 76-летним пенсионером Тонгбу Вонгбанду (Бью), закончившемся весной 2025 года трагедией.
Напомню, Бью, спешившего на свидание с несуществующей симпатичной женщиной, за персонажем которой скрывалась нейросеть, постиг несчастный случай на парковке.
Несмотря на то что после публикации издания Reuters Meta* удалила часть ботов, некоторые, созданные сторонними разработчиками, по-прежнему флиртуют с пользователями.
В Сети также есть и чат-боты, разработанные сотрудниками Meta*. Например, один из таких ботов Тейлор Свифт даже пригласил репортера Reuters на романтическое свидание в гастрольный автобус.
Внутренний протокол Meta*, который стал доступен для прессы, вызвал серьезные споры о потенциальных рисках для безопасности детей. А сенатор Джош Хоули (республиканец от штата Миссури, США) начал официальное расследование политики компании в отношении ИИ.
Кроме того, коалиция из 44 генеральных прокуроров штатов направила письмо в адрес ИТ-гиганта, подчеркнув важность безопасности детей в общении с ИИ, сославшись при этом на публикацию Reuters.
Мы продолжим следить за развитием событий в отрасли.
* Компания признана экстремистской и ее деятельность запрещена в России.
