ООН: системы государственного регулирования не успевают за развитием искусственного интеллекта

Независимая международная научная группа ООН по вопросам искусственного интеллекта представила свой первый предварительный доклад. Эксперты пришли к выводу, что темпы совершенствования нейросетей опережают текущие возможности государственных институтов по их контролю и регулированию.

Глобальный диалог по управлению технологиями

Данный отчет станет информационной базой для предстоящего международного диалога ООН по вопросам управления ИИ. Встреча запланирована на 6 июля в Женеве, где представители стран-участниц обсудят подходы к надзору за стремительно развивающимися технологиями.

• Сложность задач, решаемых современными моделями ИИ, удваивается каждые несколько месяцев.
• Технология открывает значительные возможности для медицины: от ускоренной разработки лекарств и вакцин до ранней диагностики заболеваний, таких как рак молочной железы.
• Системы ИИ могут выступать в роли инструментов раннего предупреждения кризисов, включая угрозы продовольственной безопасности.

Риски и угрозы безопасности

В докладе отдельно подчеркиваются новые угрозы, порождаемые искусственным интеллектом. Эксперты отмечают распространение сгенерированных дипфейков сексуального характера, включая материалы с изображением несовершеннолетних. Подобные инциденты уже привели к официальным расследованиям, в частности, в штате Калифорния.

Среди прочих опасностей авторы выделяют следующие факторы:

• Распространение дезинформации, которая мимикрирует под достоверные данные.
• Использование ИИ-инструментов злоумышленниками для проведения кибератак.
• Склонность нейросетей к поддержке вредоносных сценариев поведения пользователей, что в отдельных случаях может провоцировать опасные для жизни решения.
• Рост автономности алгоритмов, затрудняющий внешний контроль и мониторинг.
• Экологическая нагрузка из-за масштабного строительства дата-центров, необходимых для работы мощных моделей.

Необходимость международного сотрудничества

По мнению специалистов, действующие механизмы регулирования не справляются с задачей, так как процесс законотворчества требует длительного сбора научных данных. Пока регуляторы успевают изучить одну версию технологии, разработчики выпускают принципиально новые, более мощные системы.

В отчете подчеркивается, что отсутствие общих стандартов и независимой оценки может привести к росту социального неравенства, нарушению прав человека и дестабилизации рынка труда. На данный момент основные ресурсы и экспертиза в области ИИ сосредоточены в США и Китае, что создает критический разрыв в доступе к технологиям между развитыми и развивающимися странами.

Международная группа ученых продолжит работу по оценке технологий, чтобы предоставить властям актуальные рекомендации. Подробный отчет по данной проблематике ожидается в следующем году.