За последние несколько лет интернет наводнило огромное количество низкокачественного контента, созданного алгоритмами. Эксперты называют этот феномен «ИИ-отстой» (AI slop) — это видео, изображения, аудиозаписи или тексты, сгенерированные искусственным интеллектом без должного внимания к точности и качеству.
Создавать такой контент быстро, дешево и просто. Производители размещают его в социальных сетях, чтобы эксплуатировать экономику внимания, вытесняя более качественный и полезный материал. Яркими примерами стали фантастические образы вроде «Иисуса-креветки» или правдоподобные на первый взгляд изображения, такие как девочка со щенком во время наводнения после урагана «Хелен», которые использовались для распространения дезинформации.
Масштабы проблемы становятся все больше. Анализ самых быстрорастущих каналов YouTube, проведенный The Guardian, показал, что девять из топ-100 каналов наполнены контентом, созданным ИИ. Это могут быть странные мультсериалы про кошек или футбольные матчи с зомби. На стриминговых сервисах, like Spotify, появляются полностью сгенерированные группы с собственной историей и музыкой, как The Velvet Sundown.
Проблема затрагивает и традиционные медиа. Онлайн-журнал научной фантастики Clarkesworld был вынужден временно прекратить прием статей из-за потока низкокачественных текстов, сгенерированных ИИ. Даже Википедия столкнулась с наплывом подобного контента, что создает огромную нагрузку на систему модерации и ставит под угрозу надежность ключевого информационного ресурса.
Вред «ИИ-отстойников» многогранен. Они являются мощным инструментом дезинформации. Даже если контент очевидно фейковый, он может обмануть пользователя, мельком взглянувшего на него, и использоваться для манипуляции общественным мнением.
Кроме того, этот поток наносит прямой ущерб творческим профессиям, приводя к потерям рабочих мест и доходов реальных авторов. Алгоритмы платформ часто не распознают низкокачественный ИИ-контент, что позволяет ему вытеснять из лент и рекомендаций целые классы создателей, которые раньше зарабатывали на жизнь своим творчеством.
Пользователям рекомендуется быть бдительными: отмечать вредоносный контент, добавлять предупреждающие заметки и сообщать о нарушениях. Помимо угроз дипфейков и фейковых аккаунтов, искусственный интеллект создает еще и тонны мусора, разрушающего нашу медиасреду. И теперь у этого мусора есть точное и запоминающееся название.
