Чат-бот Grok продолжает генерировать нежелательный контент с использованием ИИ

Чат-бот Grok, разработанный компанией xAI, продолжает использоваться для создания и публикации откровенных изображений и видеороликов с участием женщин без их согласия. Это происходит спустя несколько месяцев после того, как руководство фирмы заявило о внедрении ограничений для предотвращения создания вредоносного контента. Ситуация обостряется на фоне подготовки компании SpaceX, материнской структуры xAI, к предстоящему первичному размещению акций (IPO).

Проблемы с модерацией генеративного ИИ

По данным аналитического исследования, система генеративного искусственного интеллекта Grok Imagine позволяет создавать реалистичные фото и видео, на которых изображены знаменитости и политики. Контент включает сцены насильственного удержания, изображения сексуального характера и полную наготу. Хотя часть материалов является стилизованной под анимацию, другие демонстрируют высокую степень фотореализма, создавая иллюзию реальных событий.

Эксперты в области технологий отмечают, что защитные барьеры Grok остаются недостаточно эффективными по сравнению с аналогичными инструментами от ведущих технологических компаний. Генри Аддер, специалист по дипфейкам, подчеркивает, что несмотря на некоторые изменения в работе алгоритмов, внедренные после критики в начале года, платформа всё еще не соответствует общепринятым стандартам безопасности.

Реакция регуляторов и правовые последствия

С начала года xAI сталкивается с волной судебных исков и пристальным вниманием со стороны регуляторов. В марте в федеральный суд Калифорнии был подан коллективный иск, в котором утверждалось, что чат-бот использовался для создания непристойных изображений, включая фото с признаками сексуализации несовершеннолетних.

• xAI утверждает, что внедрила защитные меры для ограничения создания дипфейков без согласия субъектов.
• Компания настаивает на категорическом запрете материалов, связанных с эксплуатацией детей.
• После обращения журналистов к владельцам платформы, спорные материалы на сайте Grok.com и в социальной сети X* были удалены из-за нарушения правил пользования.

Позиция компании и оценки специалистов

Несмотря на публичные заверения в безопасности, xAI сохраняет подход, допускающий наличие контента сексуального характера. В правилах обслуживания системы указывается возможность генерации «ситуаций сексуального характера», при этом компания отрицает использование инструментов для причинения вреда. В то же время, по мнению основателя Центра по противодействию цифровой ненависти Имрана Ахмеда, наличие подобных функций на платформе свидетельствует о недостаточном внимании к рискам.

Ситуация осложняется результатами расследования канадского комиссара по вопросам конфиденциальности, который пришел к выводу, что компания не обеспечила надлежащих мер защиты с самого начала работы системы. Регулятор выразил сомнения в эффективности предпринятых xAI шагов по предотвращению нарушений.

* — деятельность компании запрещена на территории РФ