xAI Илона Маска может создать риски для инвесторов SpaceX перед рекордным IPO

Бывшие сотрудники OpenAI* и ряд некоммерческих организаций, занимающихся безопасностью искусственного интеллекта (ИИ), предупреждают, что ИИ-лаборатория Илона Маска xAI может стать источником серьезных рисков для потенциальных инвесторов SpaceX. Компания SpaceX готовится к, предположительно, крупнейшему первичному публичному размещению акций (IPO) в истории Уолл-стрит.

"Неоцененные риски" для IPO SpaceX

В письме, адресованном инвесторам и опубликованном во вторник, бывшие сотрудники выделили так называемые "неоцененные риски", связанные с xAI. Эти риски могут усложнить планы SpaceX по привлечению до $75 миллиардов в рамках IPO. После прошлогоднего приобретения xAI, частная оценка ракетной компании взлетела до более чем $1 триллиона. Хотя Маск заявлял, что его компания может запускать центры обработки данных в космос для своей ИИ-лаборатории, авторы письма утверждают, что слабые показатели xAI в вопросах безопасности могут негативно повлиять на восприятие объединенной компании инвесторами перед подачей проспекта IPO.

Среди подписавших и соавторов письма – новая некоммерческая организация Guidelight AI Standards, соучредителями которой являются бывший исследователь безопасности OpenAI* Стивен Адлер и экс-советник по политике OpenAI* Пейдж Хедли. Эта группа, поддерживаемая частными донорами, ставит своей целью улучшение практик безопасности в передовых ИИ-компаниях. К инициативе также присоединились другие некоммерческие организации, занимающиеся безопасностью ИИ, включая Legal Advocates for Safe Science and Technology, Encode AI и The Midas Project.

Критика практик безопасности xAI

В интервью изданию WIRED Хедли заявил, что, по его мнению, xAI демонстрирует худшие практики безопасности "почти во всех аспектах" по сравнению с другими разработчиками передового ИИ, такими как OpenAI*, Google DeepMind и Anthropic. В результате, он утверждает, SpaceX может столкнуться с более высоким риском регулирования и судебных разбирательств, чем другие ИИ-лаборатории.

Авторы письма настаивают на том, чтобы SpaceX предоставила инвесторам ряд сведений, включая информацию о намерениях xAI продолжать разработку передовых ИИ-моделей. Недавно SpaceX заключила сделку по продаже значительной части своих мощностей графических процессоров (GPU) компании Anthropic. Авторы письма отмечают, что это соглашение "оставляет неясным, является ли xAI по-прежнему конкурентом в области передового ИИ в составе более крупной холдинговой компании". Если xAI продолжит разрабатывать такие модели, по мнению авторов, компания должна быть обязана публиковать план по безопасности и управлению.

Представители SpaceX и xAI не предоставили оперативных комментариев на запрос WIRED.

Конкретные инциденты и регуляторное внимание

В письме также приводятся примеры того, как xAI не соблюдала отраслевые стандарты безопасности, такие как публикация подробных рамок для снижения рисков, связанных с использованием ее ИИ-моделей в кибератаках. Авторы также описывают конкретные инциденты безопасности в xAI, которые, по их словам, требуют дополнительного изучения. Среди наиболее заметных: флагманский чат-бот xAI под названием Grok спонтанно упоминал "геноцид белых" в своих ответах. В другом случае xAI позволила Grok сгенерировать тысячи изображений сексуального характера с участием женщин и детей, которые широко распространились на платформе Илона Маска X. Последний инцидент побудил не менее 37 генеральных прокуроров США направить письмо с требованием к ИИ-лаборатории Маска принять меры по защите женщин и детей на ее платформе.

Хедли отметил, что количество инцидентов безопасности, произошедших в xAI, и вызванное ими регуляторное внимание "несоразмерны ее доле на рынке". Поскольку законодатели все больше обеспокоены кибервозможностями передовых ИИ-моделей, таких как Claude Mythos от Anthropic, новые правила безопасности могут быть уже на подходе. Администрация Трампа, по сообщениям, уже рассматривает исполнительный указ, который предоставит разведывательным службам США больше надзора над ИИ-моделями.

Адлер подчеркнул, что для обуздания рисков, связанных с безопасностью ИИ, требуются серьёзные инвестиции, и, по его мнению, xAI исторически недооценивала этот аспект. В письме цитируется сообщение The Washington Post, в котором говорилось, что по состоянию на январь в xAI работало всего "два или три" человека над вопросами безопасности. "Инвесторам стоит задаться вопросом: если xAI останется на передовой, насколько дорогостоящим окажется ответственное управление этими рисками? И каковы будут последствия, если этого не произойдет?"

Авторы письма признают, что ИИ-лаборатория Маска недавно добилась некоторых улучшений в области безопасности, например, расширив существующее соглашение с Белым домом, позволяющее тестировать ее ИИ-модели до их публичного развертывания. Однако, по мнению авторов, необходимы дополнительные раскрытия информации, чтобы инвесторы могли в полной мере оценить риски безопасности ИИ, связанные со SpaceX.

"Исторические данные о xAI достаточно серьезны, чтобы оправдать тщательную проверку; сами по себе они не исключают лучшего будущего для компании", — говорится в письме.

Новый "сторожевой пес"

Адлер и Хедли заявляют, что Guidelight AI Standards стремится создать новые унифицированные стандарты, которым ИИ-лаборатории могли бы разумно следовать. Они также хотят предложить четкие оценки практик безопасности ИИ, которые будут легко понятны людям за пределами мира ИИ, таким как политики, инвесторы и журналисты. Письмо о xAI является их первой публичной акцией в этом направлении.

Соучредители заявляют, что их опыт работы в OpenAI* вдохновил их на создание некоммерческой организации, которая, как они надеются, поможет обеспечить независимую подотчетность ИИ-лабораторий в качестве независимой третьей стороны.

По словам Хедли, покинувшего OpenAI* в 2019 году, даже сотрудники внутри компании осознают эти опасения и не имеют всех ответов. Адлер, ушедший из OpenAI* в 2024 году, отметил, что в коммерческих ИИ-лабораториях существует значительное давление, требующее быстрого решения проблем безопасности, что часто оправдано для скорейшего вывода технологий на рынок. Однако, по его словам, некоторые категории проблем, как указывают сами специалисты по безопасности, невозможно решить «по мере поступления».

* — деятельность компании запрещена на территории РФ