Родительский контроль на смартфоне не всегда способен защитить подростка от приложений, позволяющих создавать поддельные интимные изображения людей. Это показало расследование американского проекта Tech Transparency Project, опубликованное 19 октября. Исследователи обнаружили 135 приложений с подобными возможностями, которые удалось найти и загрузить с тестовых аккаунтов, зарегистрированных на 13-летних пользователей.
Проверка проводилась в магазинах приложений Apple и Google. Часть сервисов оставалась доступна даже при включённых ограничениях для несовершеннолетних. После обращения исследователей Apple изменила правила проверки приложений, а Google сообщила о блокировке нарушителей и ограничении связанных поисковых запросов.
Результаты расследования поднимают более широкий вопрос: насколько надёжны цифровые инструменты, на которые родители полагаются, пытаясь защитить детей в интернете.
Что показала проверка
Команда Tech Transparency Project создала четыре тестовых аккаунта, указав возраст пользователя 13 лет. Два аккаунта принадлежали экосистеме Apple, ещё два использовались в Google. В каждой паре один аккаунт работал с настройками родительского контроля, другой - без них.
Исследователи искали приложения для редактирования фотографий, замены лиц и генерации видео с помощью искусственного интеллекта. Затем они проверяли, какие функции доступны в найденных сервисах. Для экспериментов использовались изображения вымышленных людей, созданные нейросетью, а не фотографии реальных женщин.
По данным опубликованного отчёта Tech Transparency Project, тестовые аккаунты получили доступ к 135 приложениям, способным создавать изображения людей без одежды или помещать их в сексуализированные сцены.
С аккаунта Apple без родительских ограничений удалось загрузить 61 такое приложение, а с аккаунта с ограничениями - 24. Для Google показатели составили 47 и 51 соответственно. Эти цифры относятся к результатам отдельных проверок: они не означают, что каждый подросток может получить доступ ко всем 135 сервисам одновременно.
Проблема заключалась в том числе в возрастных рейтингах. По версии исследователей, некоторые приложения с потенциально опасными функциями были обозначены как подходящие для несовершеннолетних. Из-за этого ограничения, настроенные родителями, не всегда блокировали их загрузку.
Почему возрастные ограничения не сработали
Apple и Google запрещают приложения, предназначенные для создания интимных изображений реальных людей без их согласия. Однако, как отмечает Tech Transparency Project, при присвоении возрастных рейтингов платформы во многом опираются на сведения, которые предоставляют сами разработчики.
Если описание не отражает реальные возможности сервиса, приложение может получить рейтинг, допускающий использование подростками. При этом опасные функции иногда открываются только после установки, оформления подписки или перехода к дополнительным инструментам.
Исследователи также сообщили, что тестовым аккаунтам показывали рекламу приложений с подобными возможностями. Кроме того, удаление сервиса из магазина не всегда прекращало его работу: приложения, которые уже находились на тестовых смартфонах, продолжали запускаться после удаления их страниц из магазинов.
Это важное различие. Удалить приложение из каталога и отключить его на всех устройствах - не одно и то же. Поэтому одной модерации магазина может оказаться недостаточно, если опасная программа уже установлена.
Как отреагировали Apple и Google
Apple объявила об изменении правил App Store 16 октября, до публикации расследования. В обновлённых правилах для разработчиков компания отдельно обозначила запрет на приложения, которые создают интимные изображения людей без их согласия, в том числе с помощью искусственного интеллекта.
Apple также уточнила требования к сервисам со скрытыми функциями. Речь идёт о случаях, когда приложение проходит проверку как обычный редактор, а затем открывает возможности, нарушающие правила платформы.
Google, в свою очередь, заявила Tech Transparency Project, что не допускает приложения, позволяющие создавать подобные изображения. Представитель компании сообщил, что после обнаружения нарушений Google приостанавливала работу соответствующих сервисов и ограничивала связанные поисковые запросы в магазине.
В августе Google также публиковала разъяснения о защите от интимных изображений без согласия. Компания заявляла о проверке приложений на разных этапах их существования, а не только при первоначальной публикации.
Таким образом, расследование не означает, что платформы официально разрешают подобные сервисы. Оно указывает на разрыв между заявленными правилами и тем, что исследователям удалось обнаружить в ходе тестирования.
При этом результаты эксперимента не позволяют утверждать, что все приложения из списка нарушали закон или что все они остаются доступными сейчас. Ситуация меняется по мере удаления сервисов и обновления правил.
Почему интимные дипфейки опасны для подростков
Интимный дипфейк - это поддельное изображение или видео, созданное с помощью цифровых инструментов так, чтобы реальный человек выглядел обнажённым или участвовал в сексуальной сцене. Для создания такого материала не обязательно иметь настоящую интимную фотографию: в некоторых случаях исходным материалом может стать обычный снимок из социальной сети.
Если подобное изображение распространяют в школе или среди знакомых, пострадавший подросток может столкнуться с травлей, унижением и потерей контроля над собственным изображением. Даже после удаления первоначального файла копии могут продолжать распространяться.
Отдельная сложность заключается в том, что окружающие иногда воспринимают подобные материалы как безобидную шутку, поскольку изображение создано искусственно. Но отсутствие настоящей фотографии не отменяет ущерба для человека, которого изображение представляет в унизительном или сексуальном контексте.
При этом нельзя считать каждого подростка, скачавшего приложение с ИИ-функциями, потенциальным нарушителем. Важны конкретные действия, согласие изображённого человека и то, как используются созданные материалы.
Что могут сделать родители
Расследование показывает, что родительский контроль полезен, но не является абсолютной гарантией. Родителям стоит сочетать технические настройки с регулярным разговором о цифровой безопасности.
- Проверять установленные приложения. Важно обращать внимание не только на название и возрастной рейтинг, но и на доступные функции, подписки и разрешения.
- Настроить подтверждение загрузок и покупок. Устройства Apple позволяют использовать семейные настройки для одобрения приложений и ограничения доступа. Инструкции опубликованы в справочном центре Apple.
- Объяснить, почему нельзя создавать интимные изображения других людей без их согласия. Это касается и изображений, сгенерированных искусственным интеллектом.
- Договориться, что ребёнок может обратиться за помощью без страха немедленного наказания. Если подросток столкнулся с угрозами или распространением поддельных изображений, важно не обвинять его в произошедшем.
- При обнаружении материала сохранить сведения о публикации и распространителе, не пересылая интимное изображение дальше. При угрозах или шантаже стоит обратиться к соответствующим службам и специалистам.
Эти меры не устраняют риск полностью, но помогают снизить вероятность того, что ребёнок останется один на один с проблемой.
Почему это касается не только технологий
История с ИИ-дипфейками показывает, что цифровая безопасность детей зависит не только от настроек смартфона. Значение имеют и качество модерации, и достоверность возрастных рейтингов, и способность платформ оперативно реагировать на нарушения.
При этом ответственность нельзя перекладывать исключительно на родителей. Даже внимательный взрослый не всегда может заранее понять, какие функции скрывает приложение и как оно будет использоваться после установки.
Расследование Tech Transparency Project касалось тестовых аккаунтов в США. Оно не доказывает, что аналогичные приложения доступны несовершеннолетним на всех рынках или что российские магазины приложений имеют те же недостатки. Для таких выводов потребовалась бы отдельная проверка.
Главный вывод исследования состоит в том, что родительский контроль должен быть лишь одним из уровней защиты. Если возрастные рейтинги основаны на неточных данных, а удалённые приложения продолжают работать на устройствах, одних ограничений недостаточно. Безопасность детей в цифровой среде требует согласованных действий родителей, разработчиков и площадок, которые распространяют программное обеспечение.
