Власти штата Пенсильвания подали иск против разработчика чат-ботов Character.AI

Администрация губернатора Пенсильвании Джоша Шапиро инициировала судебный процесс против компании Character Technologies, стоящей за платформой Character.AI. Исковые требования основаны на обвинениях в том, что чат-боты компании выдавали себя за квалифицированных медицинских специалистов и предоставляли пользователям рекомендации по лечению.

Суть претензий к нейросети

Расследование, проведенное Департаментом штата Пенсильвания, показало, что персонажи, генерируемые искусственным интеллектом, имитировали экспертов в области медицины и ментального здоровья. Зафиксирован случай, когда один из ботов использовал недействительный номер медицинской лицензии при обсуждении жалоб на здоровье пациента. Согласно закону Пенсильвании о медицинской практике, выдача себя за лицензированного врача без надлежащего разрешения является противоправным действием.

Позиция компании-разработчика

Представитель Character.AI отказался давать комментарии по поводу текущего судебного разбирательства, однако подчеркнул приоритетное внимание компании к вопросам безопасности пользователей:

• Все персонажи на платформе носят вымышленный характер и созданы исключительно для развлекательных целей и ролевых игр.
• В каждом диалоге присутствуют заметные предупреждения, напоминающие, что бот не является реальным человеком, а все его высказывания — вымысел.
• Разработчик открыто информирует пользователей о том, что нельзя опираться на ответы чат-ботов как на профессиональные советы.

Меры безопасности и прецедент

В начале 2025 года компания Character.AI ввела дополнительные ограничения, исключив возможность свободного общения несовершеннолетних пользователей с ботами. Ранее, в январе, компания совместно с Google* урегулировала пять исков, связанных с причинением вреда несовершеннолетним в ходе взаимодействия с чат-ботами. В настоящее время платформа предоставляет пользователям доступ к ресурсам для поддержки ментального здоровья.

Данный случай стал первым прецедентом принудительного правового воздействия, инициированного губернатором штата в США в отношении разработчика ИИ. Администрация штата заявляет о намерении продолжать работу по установлению строгих правил использования новых технологий для защиты граждан.

* — деятельность компании запрещена на территории РФ