Жалобы на внедрение искусственного интеллекта (ИИ) в привычные платформы звучат всё чаще. Однако удивительно, что источник таких недовольств не обычный пользователь интернета, а анонимный участник киберпреступного форума. Он выразил разочарование планами по интеграции генеративного ИИ в их сообщество, заявив, что "никто этого не просит", а вместо этого нужно "улучшать сайт и прекратить взимать плату за новые функции". Подобно миллионам рядовых пользователей, мошенники, аферисты и хакеры низкого уровня раздражены вторжением ИИ в их цифровую жизнь и ростом низкокачественного контента, созданного нейросетями, в их онлайн-сообществах.
Исследование настроений в теневом интернете
«Людям это не нравится», — отмечает Бен Кольер, исследователь безопасности и старший преподаватель Эдинбургского университета. В рамках недавнего исследования использования ИИ киберпреступниками низкого уровня, Кольер и его коллеги выявили растущее неприятие генеративного ИИ на подпольных киберпреступных форумах и в хакерских группах.
В период бурного развития генеративного ИИ за последние пару лет, многие участники хакерских форумов, изначально позитивно относившиеся к возможностям ИИ в сфере взломов, стали демонстрировать заметный скептицизм в отношении этой технологии. К такому выводу пришло исследование, в котором также участвовали специалисты из Кембриджского университета и Университета Стратклайда.
Исследователи проанализировали 97 895 диалогов, связанных с ИИ, на киберпреступных форумах с момента запуска ChatGPT в 2022 году до конца прошлого года. Они зафиксировали жалобы на публикации, представляющие собой поверхностные объяснения базовых концепций кибербезопасности, недовольство низким качеством таких постов, а также опасения, что ИИ-обзоры в поисковой выдаче Google снижают посещаемость их форумов.
Социальный аспект и репутация
На протяжении десятилетий киберпреступные доски объявлений и торговые площадки, многие из которых исторически имели русские корни, служили местом для ведения бизнеса мошенниками. Здесь торгуют украденными данными, размещают объявления о хакерских услугах, а также публикуют провокационные или оскорбительные сообщения о конкурентах. Несмотря на то, что мошенники часто пытаются обмануть друг друга, на этих форумах присутствует и определённое чувство сообщества. Например, пользователи нарабатывают репутацию надёжных партнёров, а владельцы форумов проводят конкурсы на лучшее сообщение.
«По сути, это социальные пространства. Они действительно ненавидят, когда другие используют ИИ на форумах», — объясняет Кольер. По его словам, социальная динамика этих групп может быть нарушена, когда потенциальные киберпреступники пытаются улучшить свою репутацию, размещая сгенерированные ИИ объяснения по хакерским вопросам. Кольер полагает, что многие из них неоднозначно относятся к ИИ, поскольку он подрывает их притязания на статус квалифицированного специалиста.
Сообщения, просмотренные изданием WIRED на Hack Forums — платформе для обсуждения хакерских техник, — демонстрируют раздражение, вызванное ИИ-контентом. Один из пользователей написал: «Я вижу, как многие участники используют ИИ для создания своих тем и сообщений, и это меня злит, поскольку они даже не удосуживаются написать пару простых предложений». Другой выразился более прямолинейно: «Хватит постить ИИ-ерунду».
В нескольких случаях, по словам Кольера, пользователи различных форумов проявляют раздражение из-за ИИ-сообщений, так как они приходят туда для общения. «Если бы я хотел поговорить с ИИ-чат-ботом, для этого есть множество сайтов… Я прихожу сюда за человеческим взаимодействием», — говорится в одном из сообщений, цитируемых в исследовании.
ИИ в кибератаках: возможности и ограничения
С момента появления ChatGPT к концу 2022 года значительно возрос интерес к возможностям ИИ в сфере хакерства и его потенциалу трансформировать онлайн-преступность. Как опытные, так и менее квалифицированные хакеры пытались использовать ИИ в своих атаках. В то время как некоторые организованные мошенники усовершенствовали свои операции с помощью всё более реалистичных технологий замены лиц на видео (deepfake) и сообщений для социальной инженерии, переведённых с использованием ИИ, большое внимание уделялось возможностям генеративного ИИ для написания вредоносного кода и обнаружения уязвимостей.
«Более искушённые злоумышленники осведомлены о недостатках коммерческих моделей, имеющих защитные барьеры, и знают способы обходить эти ограничения», — заявляет Иэн Грей, вице-президент по разведке в компании Flashpoint. Он имеет в виду механизмы безопасности, разработанные OpenAI, Anthropic и Google. Грей также добавил: «Они также осторожно относятся к ИИ-генерируемым проектам на форумах или торговых площадках — там могут быть скрытые уязвимости, иногда раскрывающие базовую инфраструктуру».
В последнее время исследователи Flashpoint зафиксировали обсуждения хакерами потенциальных возможностей Claude Mythos Preview — новейшей модели ИИ от Anthropic, которая вызвала панику в некоторых кругах кибербезопасности. Некоторые киберпреступники даже дискредитировали других за якобы использование ИИ в их хакерских операциях. «Всё, на что они способны, — это использовать ИИ», — цитирует Flashpoint одну из таких групп.
Кольер утверждает, что среди киберпреступников низкого уровня, отслеживаемых его исследованием (не речь о высококвалифицированных или спонсируемых государством хакерах), пока не было заметных признаков «реального прорыва», вызванного ИИ. В исследовании говорится: «ИИ не снизил существенно порог входа в профессию и не привёл к серьёзным изменениям в устоявшихся бизнес-моделях или практиках. Вместо этого его основное влияние наблюдается в уже высокоавтоматизированных областях, таких как SEO-мошенничество, боты для социальных сетей и некоторые формы романтических афер».
Будущее ИИ в киберпреступности: от помощника до полной автоматизации
Несмотря на прохладный приём ИИ на киберпреступных форумах, некоторые всё же видят в нём потенциал. Отдельные пользователи Hack Forums выразили готовность принять ИИ-помощника, который «помогал бы» им структурировать сообщения и улучшать грамматику, но они категорически против того, чтобы ИИ полностью брал на себя создание постов. «Генератор постов на базе ИИ превратил бы этот форум в сборище ИИ, говорящих друг с другом», — написал один из них.
Тем временем, исследователи Flashpoint заметили, что хакеры обсуждают идею создания «ИИ-улучшенного» киберпреступного рынка, который рекламировался как способ ускорить покупку украденных данных и онлайн-аккаунтов более быстро. Однако не все были в восторге. Как отметил один из участников дискуссии: «ЭТО ИДИОТСКАЯ ИДЕЯ — ВНЕДРЯТЬ ИИ В ВАШ РЫНОК».
Понравилась запись? Поделись с друзьями и поддержи сайт:
