Кали Робинс из штата Юта опубликовала в Facebook* видео, на котором она поет в машине с одной из своих дочерей. Лицо девочки было видно, но ее имя не называлось. Через некоторое время под публикацией появился вопрос от встроенного помощника Meta* AI: кто этот ребенок-пассажир.
Робинс, по ее словам, сначала хотела просто отклонить предложение, но затем решила нажать на него, чтобы понять, что произойдет. Результат ее шокировал. Meta* AI начал выдавать подробную информацию о двух ее дочерях: имена, даты рождения, фотографии и видео. Система собрала эти данные из старых постов, которые публиковали не сама Робинс, а ее родственники, включая бабушку девочек.
Что именно выкопал искусственный интеллект
По словам Робинс, Meta* AI не остановился на именах. Система предложила вопрос о том, сколько лет дочерям Кали, а затем выдала информацию об их возрасте, весе при рождении и даже предположила, в каком классе они могут учиться. Также всплыли их любимые пляжи, книги и места для походов.
Самым тревожным моментом стало предложение спросить у ИИ, где живет Кали Робинс. После нажатия система, по словам женщины, начала анализировать старые и новые публикации, связывая ее с местами, где она жила, и отобразила сообщение об определении местоположения.
Робинс утверждает, что Meta* AI также показал фотографию, которую она удалила много лет назад. Она не стала притворяться, что знает, как это работает, но заявила, что точно знает: эта фотография не лежала на ее странице годами.
Реакция Meta*
Представитель Meta* Дина Эль-Кассаби заявила, что компания промахнулась с этой функцией. По ее словам, ИИ может искать контент самого пользователя и общедоступную информацию в интернете, но предложенные Робинс вопросы никогда не должны были появляться.
«Мы создали эту функцию, чтобы помочь людям получать больше информации по интересующим их темам или публикациям, - заявила Эль-Кассаби. - Когда кто-то нажимает на подсказку и использует эту функцию, генерируемый ответ основан на информации, к которой пользователь уже имеет доступ. Но мы допустили ошибку, потому что эта функция вообще не должна была задавать пользователю подобные вопросы, и мы исправили эту проблему».
При этом в Meta* отрицают, что ИИ выкопал удаленную фотографию. По версии компании, снимок был удален непосредственно перед созданием видео, а временный сбой в работе системы на короткое время оставил его видимым.
«С меня хватит»
Робинс рассказала, что после этого случая попросила родственников удалить или ограничить публикации с ее детьми. По ее словам, это далось им эмоционально тяжело, так как многие использовали эти посты для сохранения важных семейных моментов.
«Я думала, что мы поступаем безопасно и разумно», - сказала она, добавив предупреждение другим родителям: сделать так, чтобы эту информацию было очень трудно найти.
Робинс также сообщила, что удалила все идентифицирующие фотографии и видео своих детей из социальных сетей. Она подчеркнула, что проблема не в одном конкретном фото, а в том, что ИИ смог собрать информацию о ее детях из множества источников за считанные минуты.
Инцидент показывает, что даже публикация невинного видео может привести к сбору и систематизации личных данных о детях без ведома родителей.
Эксперты по цифровой безопасности рекомендуют российским родителям, как и их зарубежным коллегам, ограничить публикацию фотографий и видео с детьми в открытых аккаунтах. Даже если платформа недоступна официально, данные остаются в глобальной сети и могут быть использованы алгоритмами.
