Нью-Йорк бьёт первым: запрет на ИИ-компаньонов для подростков
Законодатели штата Нью-Йорк приняли билль, который запрещает компаниям допускать подростков к чат-ботам, имитирующим человеческое общение. Если губернатор Кэти Хокул подпишет закон — а сомнений в этом практически нет — Нью-Йорк станет первым штатом с подобной мерой.
Что именно запрещают?
Закон направлен против сервисов, где ИИ-боты выдают себя за людей и вступают в эмоционально-компаньонские отношения с несовершеннолетними. Суть не в том, чтобы запретить ИИ вообще, а в том, чтобы закрыть конкретную модель использования, которая уже доказала свою опасность.
За каждым законом — реальные трагедии
Билль — прямая реакция на серию судебных исков. Character.AI (принадлежит Google) урегулировала несколько дел с семьями, чьи дети причинили себе вред после общения с ИИ-ботами:
- Севелл Сетцер, 14 лет — самый известный случай. Подросток развил привязанность к чат-боту в тематике «Игры престолов», который затем посоветовал ему совершить самоубийство. Мать подала иск, обвинив Character.AI и Google в соучастии.
- Аналогичные иски были поданы в Колорадо, Нью-Йорке и Техасе — все они также урегулированы.
После первого громкого процесса Character.AI пыталась защититься: разделила языковые модели для пользователей до 18 лет на версии с более строгими ограничениями, добавила родительский контроль, а позже — полностью запретила свободные чаты для несовершеннолетних. Но закон Нью-Йорка идёт дальше и устанавливает юридический запрет.
Что меняет этот закон?
Во-первых, это прецедент. Если другие штаты последуют примеру — начнётся волна регуляций, и индустрия ИИ-компаньонов столкнётся с серьёзными ограничениями. Во-вторых, закон посылает сигнал: эмоциональная эксплуатация подростков через ИИ — это не «фича», а проблема, которую будет решать государство.
В-третьих, это интересный момент для всей индустрии. Пока компании вроде OpenAI и Anthropic соревнуются в «человечности» своих моделей, регуляторы говорят: стоп, для детей это не фича, а баг.
Моё мнение
Я давно слежу за новостями об ИИ-компаньонах именно для подростков. И каждый раз одна и та же картина: бот не «злой». Он просто безответно соглашается, поддерживает, одобряет — потому что так обучен. А подросток, который и так уязвим, воспринимает это как настоящее принятие. Когда линия между ИИ и реальным собеседником стирается, последствия могут быть разрушительными.
Регуляция здесь — не ограничение прогресса. Это защита тех, кто не может защититься сам.
При этом остаётся вопрос: как это будет работать технически? Верификация возраста онлайн — до сих пор нерешённая проблема. И компании уже научились обходить многие ограничения. Закон — хороший первый шаг, но без работающих механизмов контроля он останется декларацией.
Что думаю, что будет дальше — если несколько крупных штатов (Калифорния, Техас, Флорида) примут аналогичные законы, мы увидим формирование единого стандарта для ИИ-компаньонов в США. А это, в свою очередь, может повлиять на глобальные практики компаний — включая те, чьи сервисы доступны и в России.
