Сэм Альтман: искусственный интеллект может привести к концу света, но создаст великие компании

Глава OpenAI Сэм Альтман на протяжении многих лет придерживается двойственной позиции в отношении будущего технологий. Несмотря на публичные заявления о критической важности безопасности искусственного интеллекта, он признает колоссальное влияние этой сферы на глобальную экономику. Сценарии апокалипсиса, вызванного ИИ, долгое время оставались сюжетами научной фантастики, однако в последние годы эксперты начали всерьез рассматривать вероятность глобальной катастрофы как ненулевую.

Экономические перспективы и исторический контекст

Инструменты на базе ИИ давно рассматриваются как мощный стимул для повышения производительности бизнеса. Еще до основания OpenAI Сэм Альтман, будучи руководителем калифорнийского инкубатора Y Combinator, иронично высказался о масштабах возможных последствий развития технологий. В интервью 2015 года он отметил, что ИИ, скорее всего, приведет к концу света, но до этого момента на рынке успеют появиться великие и успешные компании.

На тот момент машинное обучение находилось на стадии становления, а большие языковые модели (LLM) еще не были представлены широкой публике. С тех пор экономическая часть этого предсказания начала сбываться: рыночная стоимость крупнейших технологических гигантов, вовлеченных в развитие ИИ, таких как Nvidia, Google и Microsoft, показала беспрецедентный рост.

Проблема безопасности и этические дилеммы

Сегодня ученые и специалисты в области государственной политики воспринимают экзистенциальные риски ИИ максимально серьезно. Это связано с быстрым совершенствованием нейросетей и прогнозами о появлении сильного искусственного интеллекта (AGI) — системы, способной решать интеллектуальные задачи наравне с человеком — в ближайшие десятилетия.

В обзоре ситуации отмечаются ключевые противоречия в подходе руководства OpenAI:

• Публичные призывы к приоритету безопасности сталкиваются с внутренним давлением и стремлением как можно быстрее выпускать новые продукты.
• Конфликт интересов привел к кризису в ноябре 2023 года, когда совет директоров OpenAI временно отстранил Альтмана от должности, хотя он вернулся в компанию спустя несколько дней.
• Эксперты выражают обеспокоенность тем, что гонка за коммерческим успехом может привести к игнорированию протоколов безопасности.

В экспертном сообществе продолжаются дискуссии о том, удастся ли человечеству извлечь экономическую выгоду из развития технологий, избежав при этом катастрофических последствий, о которых ранее предупреждал сам глава OpenAI.