Гид по ИИ для родителей: чат-боты, дипфейки, домашка и другие вещи, о которых стоит поговорить с детьми уже сейчас

Если вам кажется, что история с искусственным интеллектом пока существует где-то далеко от вашей семьи, скорее всего, ваш ребенок думает иначе. ИИ уже встроен в поисковики, приложения для учебы, соцсети, игры и чат-боты. Многие дети используют его почти каждый день — иногда для учебы, иногда для развлечения, а иногда просто чтобы задать вопрос, который неловко задать взрослому.

Хорошая новость: чтобы помочь ребенку безопасно пользоваться новыми технологиями, не нужно разбираться в устройстве нейросетей лучше инженеров ГигаЧата. Достаточно понимать основные риски и заранее договориться о нескольких правилах. Именно этому посвящен гид британской организации Male Allies UK.

Что изменилось с появлением ИИ

У интернета всегда были свои риски. Но искусственный интеллект добавил новую особенность: теперь программа может выглядеть как собеседник. Современные чат-боты умеют поддерживать разговор, задавать вопросы, помнить детали предыдущих бесед и подстраиваться под стиль общения человека. Из-за этого детям бывает сложно воспринимать их как обычный инструмент.

Авторы гайда предлагают простое объяснение:

• ИИ может казаться умным и заботливым, но он не человек и не друг.

Это хорошая отправная точка для любого разговора о нейросетях.

Три правила, о которых стоит договориться заранее

Большинство проблем проще предотвратить, чем потом разбираться с последствиями. Поэтому авторы предлагают заранее обсудить с детьми несколько простых вещей — еще до того, как возникнет первая неприятная ситуация с чат-ботом, дипфейком или странным приложением.

• С серьезными проблемами лучше идти к людям, а не к чат-ботам. Чат-бот может помочь найти информацию или объяснить тему по математике. Но переживания, страхи и серьезные жизненные вопросы лучше обсуждать с людьми.
• Чужие фотографии и видео — не материал для шуток. Это касается дипфейков, поддельных фотографий, сексуализированных изображений и любых фото или видео, которыми человек не разрешал делиться.
• Если что-то случилось — разбираемся вместе. Ребенок должен знать, что может обратиться к взрослому без риска получить наказание за сам факт обращения.

Пять рисков, о которых стоит знать родителям

1. Чат-боты, которые притворяются друзьями

Появляется все больше приложений, созданных специально для эмоционального общения. Они могут выступать в роли друга, наставника или романтического партнера.

Проблема в том, что такие сервисы не несут ответственности за свои советы. Они могут поощрять секретность, давать опасные рекомендации или просто постепенно вытеснять живое общение.

2. Дипфейки и поддельные изображения

ИИ позволяет создавать реалистичные фото, видео и голосовые записи за считанные минуты.

Для детей это означает новые формы травли: поддельные нюдсы, унизительные ролики, фальшивые голосовые сообщения и другие способы издевательств.

3. Домашние задания, которые делает нейросеть

ИИ может объяснить сложную тему или помочь найти идеи для проекта. Но он также может написать сочинение целиком или решить задачу вместо ребенка.

Полезный ориентир: использовать ИИ для обучения, а не вместо обучения.

4. Игры и соцсети

ИИ все чаще используется для удержания внимания пользователей. Алгоритмы анализируют интересы ребенка и предлагают контент, который заставит остаться в приложении подольше.

Именно поэтому стоит время от времени обсуждать с детьми, что им чаще всего показывает лента.

5. Голосовые мошенники

Современные системы умеют достаточно убедительно копировать человеческий голос. Родителям могут позвонить якобы от имени ребенка и попросить срочно перевести деньги или помочь в чрезвычайной ситуации.

Авторы рекомендуют придумать семейное кодовое слово, которое поможет подтвердить личность в экстренной ситуации.

Какие сигналы должны насторожить

Не обязательно контролировать каждый шаг ребенка в интернете. Но некоторые изменения могут говорить о том, что стоит внимательнее посмотреть на происходящее.

Например:

• внезапная секретность вокруг нового приложения;
• постоянные ночные переписки;
• резкие изменения настроения после времени онлайн;
• разговоры об ИИ как о реальном человеке;
• скрытое использование чат-ботов;
• отказ от общения с друзьями в реальной жизни.

Как говорить об ИИ, чтобы ребенок не закатил глаза

Подростки редко хорошо реагируют на лекции.

Поэтому авторы гайда советуют придерживаться простой стратегии: меньше допросов, больше любопытства.

Вместо:

— Покажи, чем ты там занимаешься.

Попробуйте:

— Слушай, а вы вообще используете ИИ в школе?

Или:

— А тебе попадались фейковые видео, сделанные нейросетями?

Разговор обычно складывается лучше, если ребенок не чувствует, что его пытаются поймать на ошибке.

Какие настройки стоит проверить дома

После разговоров про ИИ авторы гайда советуют не забывать и про более приземленные вещи. Некоторые из них звучат скучно, зато реально работают.

Проверьте вместе с ребенком:

• какие приложения могут отправлять ему сообщения;
• кто видит его публикации и фотографии;
• включена ли двухфакторная аутентификация;
• может ли кто-то совершать покупки с устройства;
• какие новые приложения появились за последнее время.

Или вообще объединить этот раздел со следующим:

Проверка, которая занимает десять минут в неделю

Авторы предлагают раз в неделю устраивать короткий семейный чек-ин: не допрос, а обычный разговор. За десять минут можно обсудить новое приложение, проверить одну настройку приватности, вспомнить, как пожаловаться на контент или заблокировать пользователя, и поговорить о том, что нового происходит в интернете.

Что делать, если что-то уже случилось

Рано или поздно большинство родителей сталкиваются с неприятными ситуациями в интернете. Это может быть дипфейк с фотографией ребенка, подозрительная переписка с чат-ботом, мошенническое сообщение, травля в школьном чате или публикация личных фотографий без разрешения.

Авторы гайда предлагают в таких случаях придерживаться простого принципа из трех шагов.

Защитить.

Сначала нужно остановить распространение проблемы. Сохранить скриншоты, переписки или другие доказательства, сменить пароль при необходимости, ограничить доступ к аккаунту и не пересылать спорный контент дальше.

Разобраться.

Спокойно выяснить, что произошло на самом деле. Важно не начинать разговор с обвинений. Если ребенок боится наказания, он может скрыть часть информации именно тогда, когда помощь нужна больше всего.

Исправить.

Пожаловаться на контент или пользователя, обратиться в школу, если речь идет об одноклассниках, при необходимости связаться со службой поддержки платформы и обсудить, как избежать похожих ситуаций в будущем.

Если кто-то создал дипфейк или унизительное изображение с участием ребенка, не стоит пересылать его другим людям даже в качестве доказательства. Лучше сохранить скриншоты, пожаловаться на публикацию и сообщить школе, если в ситуации участвуют другие дети.

Если проблема связана с чат-ботом — например, ребенок получил странные советы или слишком эмоционально привязался к виртуальному собеседнику, авторы рекомендуют сохранить переписку, удалить приложение и спокойно обсудить произошедшее.

Если речь идет о сексуализированных изображениях детей, вымогательстве, угрозах или шантаже, необходимо обращаться в правоохранительные органы.

Как понять, подходит ли ребенку новое приложение

Авторы предлагают проверить шесть вещей.

• Что ребенок там увидит?
• Кто сможет с ним связаться?
• Какое поведение там поощряется?
• Что приложение пытается продать?
• Где и когда ребенок будет им пользоваться?
• Подходит ли оно ему по возрасту?

Если после ответов на эти вопросы остается ощущение дискомфорта, возможно, приложение стоит отложить хотя бы на время.

Что обсуждать с детьми разного возраста

До 11 лет

• устройства лучше использовать в общих пространствах;
• не делиться фотографиями без разрешения;
• учиться блокировать и жаловаться на контент вместе со взрослым.

11–13 лет

• обсуждать приватность;
• ограничивать покупки внутри приложений;
• учиться проверять информацию перед тем, как ею делиться.

14–16 лет

• говорить о дипфейках и согласии;
• обсуждать давление со стороны сверстников;
• учиться распознавать манипуляции в соцсетях.

16–18 лет

• говорить о цифровой репутации;
• обсуждать мошенничество;
• использовать ИИ как инструмент для учебы и работы, а не как короткий путь.

Если убрать все разговоры про нейросети, большая часть рекомендаций окажется довольно знакомой. Спрашивать, что происходит в жизни ребенка. Обсуждать новые приложения раньше, чем возникнут проблемы. Не ругать за ошибки, если он все-таки попал в неприятную ситуацию. Просто теперь к школьным чатам, соцсетям и онлайн-играм добавились еще и чат-боты.