Нью-Йорк запретил детям общаться с ИИ-ботами: новые правила для чат-ботов
Власти американского штата Нью-Йорк приняли закон, который запрещает несовершеннолетним пользователям взаимодействовать с чат-ботами на основе искусственного интеллекта, имитирующими дружеские или романтические отношения. Об этом сообщает Associated Press. Нововведение направлено на защиту психологического благополучия детей и подростков, которые всё чаще используют ИИ-компаньонов для эмоциональной поддержки.
Согласно закону, компании, предоставляющие доступ к таким сервисам, будут обязаны проводить проверку возраста пользователей. Кроме того, после верификации персональные данные, использованные для подтверждения возраста, должны быть удалены. Это требование призвано минимизировать риски утечки информации и снизить вероятность сбора избыточных данных о несовершеннолетних.
Ограничения вступят в силу с 1 января 2027 года. До этого момента разработчикам ИИ-ботов предстоит адаптировать свои продукты под новые требования: внедрить надёжные механизмы возрастной верификации и обеспечить прозрачность в отношении того, как боты позиционируются и какие эмоциональные связи они имитируют.
Инициатива Нью-Йорка отражает растущую обеспокоенность регуляторов по всему миру влиянием ИИ на детей. Виртуальные собеседники, способные имитировать эмпатию и привязанность, могут создавать иллюзию близких отношений, что не всегда полезно для формирующейся психики. Законодатели стремятся установить баланс между технологическим развитием и защитой уязвимых пользователей.
Ожидается, что аналогичные меры могут быть рассмотрены и в других штатах. Компаниям, работающим на рынке ИИ-компаньонов, стоит заранее подготовиться к ужесточению регулирования: предусмотреть возможность ограничения функционала для несовершеннолетних или полного отказа от предоставления им доступа к подобным сервисам. Новый закон Нью-Йорка задаёт важный прецедент в сфере регулирования эмоционально ориентированных ИИ-продуктов.
