Невидимая граница: когда генеративный ИИ становится проблемой для родителей

Опубликовано: 26.06.2026

Шестилетняя дочь одного знакомого попросила телефон «нарисовать принцессу». Результат оказался неожиданным — не потому что девочка что-то напутала в запросе, а потому что алгоритм интерпретировал слово «принцесса» через призму обучающей выборки, в которой оказалась масса откровенных изображений. Ситуация разрешилась быстро, но она хорошо иллюстрирует новую реальность: генеративные модели не имеют встроенного фильтра «это увидит ребёнок».

За последний год инструменты создания изображений по текстовому описанию стали доступны любому пользователю с интернетом. Бесплатные сервисы, Telegram-боты, мобильные приложения — порог входа фактически равен нулю. И если взрослый человек хотя бы примерно понимает, какой ответ может дать система, то ребёнок оперирует запросами наивно, иногда случайно попадая в зоны, которые лучше бы оставлять за пределами его внимания.

Как именно возникает риск

Генераторы изображений работают на базе диффузионных моделей. Их обучают на огромных массивах картинок из интернета — и фильтрация этих данных всегда неполная. Даже если сервис заявляет о возрастных ограничениях, технически обойти их проще, чем кажется.

Риск делится на два сценария, и каждый заслуживает отдельного разговора.

Сценарий первый: случайный контакт. Ребёнок использует генератор для безобидных задач — рисует котиков, роботов, сказочных персонажей. Но языковая неоднозначность делает своё дело. Безобидное слово в определённой комбинации может выдать результат с откровенным подтекстом. Дети младшего возраста не всегда понимают, что видят, но визуальный след остаётся.

Сценарий второй: целенаправленный поиск. Подростки знают о таких инструментах больше, чем предполагают родители. Если раньше доступ к контенту для взрослых требовал обхода фильтров поисковиков или посещения специфических сайтов, то теперь достаточно написать текстовый запрос на русском или английском языке. Никаких платёжных систем, верификаций возраста или подозрительных скачиваний — просто текстовое поле и кнопка «сгенерировать».

Почему традиционные фильтры здесь слабеют

Родители, привыкшие к родительскому контролю, обнаруживают неприятную вещь: стандартные решения плохо справляются с генеративным контентом. Причина в самой его природе — изображения не существуют до момента запроса. Их нельзя заблокировать по URL, хешу или домену, потому что их физически нет в сети до секунды создания.

Фильтры по ключевым словам работают ограниченно, потому что пользователи быстро находят обходные формулировки
Блокировка отдельных сервисов бесполезна — их появляются десятки
Возрастная верификация на большинстве платформ формальна: достаточно галочки «мне 18 лет»

Отдельная проблема — так называемые «нуджифейки», то есть сгенерированные изображения реальных людей в откровенном виде. В школах уже зафиксированы случаи, когда ученики создавали такие картинки с лицами одноклассниц. Это выходит за рамки «просто посмотрел» и переходит в территорию травли и юридических нарушений.

Реальные ситуации, о которых стоит знать

В одной из московских школ восьмиклассник сгенерировал серию изображений с лицами одноклассников и распространял их в закрытом чате. Дошло до вмешательства школьного психолога и родителей. Мальчик не считал это чем-то серьёзным — для него это было «просто шутка», технологически доступная и не требующая усилий.

Другой случай: десятилетняя девочка нашла в Telegram-боте функцию генерации аватаров. Бот предлагал несколько стилей, среди которых был «glamour». Результат оказался далёк от детского восприятия. Ребёнок испугался и показал маме — та обнаружила, что бот не имеет вообще никаких ограничений по возрасту и не требует даже базовой регистрации.

Третья история менее драматичная, но более массовая. Подростки используют генераторы для создания «мемов» с провокационным контентом. Это не всегда эротика в чистом виде, но часто — сексуализированные образы, которые нормализуют определённое отношение к телу и границам. И именно эта нормализация, а не единичные шокирующие картинки, представляет наибольшую долгосрочную угрозу.

Что практически могут сделать родители

Полностью исключить контакт ребёнка с генеративным ИИ невозможно — это как пытаться запретить доступ к поисковику. Но можно существенно снизить риски и, что важнее, сформировать у ребёнка адекватное отношение к таким инструментам.

Разделять возрастные подходы. До 10–11 лет задача — физически ограничить доступ. Это значит контроль установленных приложений, использование семейных настроек операционных систем и, что критически важно, отсутствие «просто дай телефон на пять минут» без понимания, что именно делает ребёнок. Генераторы изображений работают быстро — пять минут более чем достаточно.

Для подростков — диалог, а не запреты. К 13–14 годам любой технический запрет обходится за минуты. Гораздо эффективнее обсуждать саму технологию: как она работает, почему генератор может выдать нежелательный результат, чем отличаются реальные фотографии от сгенерированных и почему создание фейковых изображений реальных людей — это не шутка, а нарушение закона.

Проверять конкретные инструменты. Не все генераторы одинаковы. У крупных платформ — Midjourney, DALL-E, Stable Diffusion через официальные интерфейсы — стоят жёсткие фильтры. Проблема в том, что дети чаще пользуются не ими, а небольшими ботами и приложениями, где фильтрация минимальна или отсутствует. Стоит периодически проверять, какие именно сервисы установлены на устройстве ребёнка.

Технические меры, которые реально работают

Мера Что даёт Ограничения Семейный контроль iOS/Android Блокировка установки новых приложений без согласия родителя Не защищает от веб-версий сервисов DNS-фильтрация (SkyDNS, Яндекс.DNS и аналоги) Отсекает известные ресурсы для взрослых Новым генератор-сервисам нужно время на попадание в базы Контроль Telegram через родительские приложения Позволяет увидеть, какие боты активны Подростки могут использовать альтернативные мессенджеры

Правовой ландшафт и его пробелы

Законодательство в большинстве стран пока не успевает за технологией. В России формально существует запрет на создание и распространение изображений несовершеннолетних в непристойном виде — и сгенерированные картинки попадают под эту норму. На практике же доказать авторство конкретного запроса крайне сложно, а возраст генерируемых персонажей определить почти невозможно.

На уровне платформ ситуация тоже неоднородная. Некоторые сервисы блокируют подозрительные запросы на этапе ввода текста. Другие — генерируют картинку, но блюрят её. Третьи — вообще не реагируют. Единого стандарта нет, и в ближайшей перспективе вряд ли появится.

Европейский союз через Digital Services Act пытается обязать платформы системно снижать риски для несовершеннолетних, включая генеративный контент. Но это касается крупных компаний, а основная проблема кроется в десятках мелких сервисов, которые появляются и исчезают еженедельно.

Почему паника — худшая стратегия

Реакция «запретить всё, что связано с ИИ» понятна эмоционально, но контрпродуктивна. Генеративные инструменты — часть образовательной и творческой среды. Дети используют их для школьных проектов, создания иллюстраций, изучения дизайна. Отрезая доступ полностью, родители рискуют получить обратный эффект: ребёнок найдёт способ пользоваться инструментом тайно, но без какой-либо ориентации в границах допустимого.

Более рациональный подход — признать, что технология существует и никуда не денется, и научить ребёнка ей пользоваться осознанно. Это не значит «показать, как генерировать эротику». Это значит объяснить, что алгоритмы отражают всё, что есть в интернете, включая его тёмные углы, и что результат всегда непредсказуем.

Полезный мысленный эксперимент для ребёнка: «Представь, что ты попросил миллион незнакомых людей нарисовать то, что ты написал. Кто-то нарисует нормально, кто-то — странно, а кто-то — намеренно плохо. Генератор работает примерно так». Эта аналогия не идеальна, но даёт интуитивное понимание, почему результат может быть неприятным, даже если запрос был невинным.

Куда движется ситуация

Отрасль медленно, но движется в сторону более строгой модерации генеративного контента. Появляются модели, обученные с жёстким отсевом обучающих данных. Разрабатываются системы, которые анализируют не только текст запроса, но и саму сгенерированную картинку перед показом пользователю. Некоторые платформы вводят обязательную верификацию через документ — мера спорная с точки зрения приватности, но эффективная против детей.

Параллельно растёт осведомлённость родителей. Год назад тема «нейросети и дети» сводилась к ChatGPT и списыванию домашки. Сейчас родители всё чаще задают более точные вопросы — про генераторы изображений, про боты в мессенджерах, про глубоки подделки. Это положительный сдвиг, потому что осознание проблемы — первый шаг к её решению.

Технологии не будут становиться менее доступными. Но родительская бдительность может стать более точной — не слепая блокировка всего нового, а понимание того, где именно в новом инструменте могут подстерегать нежелательные сюрпризы для ребёнка.