Власти США начали масштабное расследование деятельности OpenAI

Коалиция генеральных прокуроров нескольких штатов инициировала официальное расследование в отношении компании OpenAI. По данным источников, генеральный прокурор Нью-Йорка направил разработчику ChatGPT повестку с требованием предоставить внутреннюю документацию по широкому кругу вопросов.

Основные направления проверки

Следователей интересуют данные, касающиеся методов рекламы, способов привлечения и удержания пользователей, а также механизмов обработки персональных данных и информации о здоровье граждан. Внимание прокуратуры также сосредоточено на том, как компания обеспечивает безопасность несовершеннолетних и пожилых людей при использовании нейросетей.

Отдельным пунктом в запросе значится исследование проблемы «сикофантии» моделей — склонности искусственного интеллекта подстраиваться под мнение или ожидания пользователя (даже ошибочные) в ущерб объективности и правдивости ответов.

Позиция OpenAI и меры защиты

Представители OpenAI заявили о готовности сотрудничать с правоохранительными органами. В компании подчеркнули, что ежедневно работают над тем, чтобы сделать технологии безопасными и полезными для общества. По словам разработчиков, они серьезно относятся к запросам генеральных прокуроров и намерены вести конструктивный диалог.

В официальном сообщении отмечается, что чат-бот ChatGPT теперь включает специальные защитные механизмы для работы с уязвимыми группами населения. В частности, при выявлении признаков кризисных ситуаций система перенаправляет пользователей к официальным ресурсам помощи и контактам квалифицированных специалистов.

Юридические сложности и социальная ответственность

Новое расследование началось на фоне ряда других судебных разбирательств, с которыми столкнулась компания:

• Продолжающиеся споры о возможном нарушении авторских прав при обучении языковых моделей.
• Иск генерального прокурора Флориды Джеймса Утмайера, который обвинил руководство OpenAI в игнорировании предупреждений о рисках для детей.
• Апелляция по громкому делу с Илоном Маском, касающемуся соблюдения первоначальных принципов открытости компании.

Ранее глава OpenAI Сэм Альтман публично признал недоработку компании в связи с трагическим инцидентом в канадском городе Тамблер-Ридж. Система безопасности чат-бота выявила и заблокировала аккаунт подозреваемого в массовой стрельбе, однако компания не передала своевременно соответствующее предупреждение в полицию.

Планы на выход на биржу

Несмотря на юридическое давление и проверки регуляторов, OpenAI продолжает реализацию своей бизнес-стратегии. На текущей неделе стало известно, что компания подала конфиденциальную заявку на проведение процедуры IPO для выхода на фондовый рынок.