Эпоха цифровых клонов: почему отличить ИИ-блогеров от реальных людей становится всё труднее

Социальные сети столкнулись с новой волной синтетического контента, которая ставит в тупик как модераторов платформ, так и обычных пользователей. Если первые виртуальные инфлюенсеры выглядели как очевидная компьютерная графика, то современные ИИ-персонажи практически неотличимы от реальных людей.

От очевидной графики к пугающему реализму

На заре появления виртуальных инфлюенсеров их было легко распознать. Первые цифровые модели, такие как Лил Микела с ее идеальной прямой челкой, Имма с розовым каре или Шуду Грам с безупречной кожей, создавались профессиональными студиями. Процесс требовал крупных бюджетов, серьезной технической координации и кропотливой работы дизайнеров, а рекламные интеграции всегда анонсировались открыто. В обзорах отмечается, что эти персонажи изначально воспринимались аудиторией как цифровые арт-объекты.

Однако за последнее время ситуация кардинально изменилась. Новые виртуальные инфлюенсеры, такие как Эмили Пеллегрини или Айтана Лопес, выглядят как обычные пользователи соцсетей. Они ведут типичную для популярных блогеров жизнь: публикуют снимки из модных ресторанов, делятся кадрами с музыкальных фестивалей вроде Коачелла или теннисных турниров Уимблдона. Айтана Лопес, к примеру, создана испанским креативным агентством The Clueless. Создатель Эмили Пеллегрини, известный под псевдонимом Professor EP, ранее занимался продвижением реальных моделей, а теперь продает обучающие курсы по созданию ИИ-персонажей, превращая это направление в массовую индустрию.

Засилье синтетического контента

Эффект новизны прошел, и теперь виртуальные люди стали частью огромного потока низкокачественного ИИ-контента, наводнившего интернет. Эксперты фиксируют повсеместное появление фейковых профилей, которые используются для продвижения дешевых товаров по схеме дропшиппинга, выманивания денег у доверчивых пользователей, распространения дезинформации и манипулятивных публикаций.

Точный масштаб проблемы оценить крайне сложно. Соцсети не раскрывают данные о количестве фейковых аккаунтов. Специализированные базы данных, такие как Virtual Humans, отслеживают лишь наиболее заметных виртуальных персонажей, в то время как миллионы более мелких профилей остаются незамеченными алгоритмами модерации.

Главная причина такой живучести — резкий скачок в развитии технологий. Сегодня статичное изображение ИИ-модели выглядит безупречно, особенно в ленте новостей, где реальные блогеры также активно используют фильтры и ретушь. Технологии генерации видео и синтеза речи быстро догоняют фотореализм. Доступ к инструментам создания виртуальных людей значительно упростился: наряду с решениями от Google и OpenAI появились специализированные сервисы вроде Higgsfield, HeyGen и ElevenLabs. Создать цифровую модель теперь может практически каждый без дорогостоящего оборудования и студий.

Бессилие платформ и серые зоны правил

Владельцы крупнейших площадок пока не демонстрируют желания радикально решать проблему. Хотя большинство сервисов обновили правила в отношении синтетических медиа, эти меры часто сводятся лишь к требованию ставить специальную маркировку. ИИ-блогеры не нарушают правила напрямую: они не обязательно занимаются мошенничеством и не выдают себя за конкретных существующих людей.

В итоге ИТ-гиганты занимают двойственную позицию. С одной стороны, YouTube, TikTok и Instagram* внедряют правила маркировки реалистичного ИИ-контента. С другой — эти же платформы активно продвигают собственные ИИ-инструменты для генерации контента и клонирования внешности пользователей. Кроме того, правила обычно регулируют отдельные публикации, а не аккаунты целиком, что оставляет виртуальных инфлюенсеров в серой зоне правил.

На фоне этой неопределенности индустрия виртуальных инфлюенсеров демонстрирует взрывной рост. По прогнозам аналитиков, к 2030 году объем этого рынка может превысить 60 млрд долларов (около 5,5 трлн рублей), тогда как в текущем году он оценивается в 12 млрд долларов. Появляются специализированные премии, конкурсы красоты среди ИИ-моделей и агентства талантов, представляющие исключительно цифровых персонажей.

К чему приведет нашествие ИИ-аватаров

По мнению обозревателей, индустрия приближается к критической точке. Обилие ИИ-контента вызывает раздражение у пользователей, а нежелание платформ внедрять фильтры для блокировки подобного спама усугубляет ситуацию. Если социальные сети потеряют человеческое лицо, они могут столкнуться с оттоком реальных пользователей, для которых важен фактор живого общения.

Рост общественного недовольства глубокими фейками (дипфэйками) и спамом уже вынуждает регуляторов принимать меры. Европейский закон об искусственном интеллекте (AI Act) обяжет создателей контента четко маркировать любые манипуляции с изображениями и видео под угрозой крупных штрафов. Тем не менее, закон по-прежнему регулирует сам контент, а не факт того, принадлежит ли аккаунт реальному человеку.

В текущих реалиях модерация фактически переложена на плечи самих пользователей, которым приходится самостоятельно распознавать фейки. В ответ на это в сети растет спрос на полностью свободные от ИИ пространства.

Ключевые тенденции рынка виртуальных инфлюенсеров

• Политизация аватаров: ИИ-персонажи все чаще используются для трансляции политических взглядов. В качестве примера приводится виртуальный рэпер Дэнни Боунс, продвигающий ультраправые идеи в Великобритании, или ИИ-модель Джессика Фостер, контент которой построен на поддержке Дональда Трампа и милитаристской эстетике.
• Проблема идентичности: Виртуальные персонажи часто не соответствуют личности своих создателей. Например, темнокожая модель Шуду Грам была разработана белым фотографом, а популярная модель Эмили Пеллегрини создана мужчиной на основе лицензированного контента реальной девушки.
• Теневой бизнес на чужом контенте: В индустрии процветает практика кражи материалов реальных блогеров. Мошенники используют их лица и голоса для генерации ИИ-клонов и последующей монетизации без согласия авторов.
• Инструменты манипуляций: ИИ-аватары активно используются мошенниками в схемах дропшиппинга для продажи некачественных товаров по завышенным ценам, маскируя продавцов под реальных представителей различных сообществ.

* — деятельность компании запрещена на территории РФ