Нейросети на службе мошенников: как фейковые ИИ-блогеры продают копеечные товары втридорога

В социальных сетях набирает популярность новая схема манипуляции покупателями. Продавцы используют сгенерированных нейросетями персонажей, которые выдают себя за реальных людей, делятся вымышленными историями о трудностях ведения малого бизнеса и призывают к солидарности. На самом деле под видом уникальных изделий ручной работы пользователям продают дешевые товары массового производства с китайских маркетплейсов.

Слёзы на камеру ради продаж

Один из самых ярких примеров — видеоролики с участием темнокожей девушки по имени Алия. В коротких видеороликах она со слезами на глазах умоляет зрителей поддержать ее семейный бизнес по производству авторских ремней и пряжек ручной работы. В описании утверждается, что она продает уникальные аксессуары за 40 долларов (примерно 3700 рублей). Однако, как выяснили исследователи, Алии не существует, а точно такие же пряжки продаются на платформе Shein всего за 9 долларов (около 800 рублей).

Подобные аккаунты активно развиваются на платформах TikTok, Facebook* и Instagram*. Создатели используют схемы дропшиппинга — метода торговли, при котором продавец является лишь посредником, принимающим заказы, а отправка товара идет напрямую от стороннего производителя или крупного маркетплейса.

Масштабы проблемы и «приманка на эмпатию»

Специалисты по обнаружению ИИ-контента бьют тревогу. По словам директора профильной организации Riddance.ai Джереми Карраско, ежедневно выявляется до 100 новых аккаунтов, использующих цифровых аватаров для агрессивных продаж. Мошенники создают целые сети таких профилей, где виртуальные персонажи якобы создают вещи своими руками, посещают ярмарки и автоматически отвечают на комментарии пользователей, имитируя молодежный сленг.

Эксперты называют этот феномен «приманкой на эмпатию». Схема работает следующим образом:

• Создается трогательная история о борьбе малого бизнеса за выживание.
• В качестве главных героев выбираются представители уязвимых групп (чаще всего темнокожие женщины, латиноамериканки или представители коренных народов).
• Аудиторию призывают совершить покупку, чтобы продемонстрировать солидарность и помочь человеку в трудной жизненной ситуации.

Эта стратегия работает. Одно из видео с вымышленной Алией набрало более 6,5 миллиона просмотров и сотни тысяч лайков. В комментариях реальные предприниматели и даже знаменитости выражали поддержку и заявляли о готовности купить товар, не подозревая, что общаются с алгоритмом.

«Цифровой блекфейс» и манипуляция ценностями

Исследователи в области медиа называют подобную практику цифровым блекфейсом — явлением, при котором люди некоренных или нетемнокожих национальностей используют технологии для имитации культурного опыта и трудностей меньшинств ради финансовой выгоды. По мнению экспертов, мошенники эксплуатируют тему социального неравенства и борьбы за права, превращая реальные проблемы людей в маркетинговый инструмент.

В обзорах отмечается, что ИИ-генераторы стирают культурные особенности, превращая сложный социальный контекст в простой шаблон для генерации прибыли. При этом алгоритмы соцсетей лишь способствуют распространению обмана, показывая пользователям контент с персонажами их же этнической группы для повышения конверсии.

Как распознать обман в ленте новостей

Несмотря на растущее качество генерации, внимательный пользователь может заметить технические несоответствия:

• Роботизированный голос без эмоций, который не совпадает с мимикой и слезами на лице персонажа.
• Артефакты изображения: например, когда аватар вытирает слезу, влажный след на коже исчезает неестественно быстро.
• Нелогичные действия в кадре — персонаж может имитировать шитье там, где швов быть не должно.
• Ограниченная длительность видео: из-за технических лимитов современных нейросетей ролики с виртуальными людьми редко длятся дольше 15 секунд.
• Нестыковки в деталях: на крупных планах рук, держащих товар, цвет кожи может отличаться от цвета кожи лица аватара.

Для создания таких видео злоумышленники используют связку доступных инструментов. Тексты крадут у реальных блогеров и переписывают с помощью ChatGPT или Gemini, а затем генерируют визуальный ряд в нейросетях вроде Kling или Maxfusion, заменяя лица настоящих инфлюенсеров на виртуальные маски.

Специалисты подчеркивают, что платформы пока не справляются с маркировкой и модерацией подобного контента, поэтому пользователям необходимо самостоятельно развивать критическое мышление и перепроверять информацию перед покупкой.

* — деятельность компании запрещена на территории РФ