Meta AI раскрыла сведения о детях через посты в соцсетях: что ответила компания
Meta внесла изменения в работу подсказок своего ИИ после истории жительницы американского штата Юта. Женщина утверждает, что Meta AI по видео с одной из ее дочерей смог назвать обеих девочек, а затем предложил узнать их возраст, интересы и место проживания семьи. В Meta признали, что такие подсказки не должны были появляться, пишет Digtial Business.
Как Meta AI нашел информацию о детях
Историей поделилась американка Кейли Робинс. Она опубликовала в Instagram видео, на котором поет в машине с одной из своих маленьких дочерей, а затем ролик оказался и на Facebook.
Под видео Meta AI предложил пользователю узнать: «Кто ребенок-пассажир?»
Робинс решила нажать на подсказку. По ее словам, ИИ не только определил девочку на видео, но и назвал ее вторую дочь, которой на записи не было.
При этом женщина утверждает, что сама не указывала имена детей в публикациях. Как выяснилось, информация о семье могла содержаться в старых постах родственников, в том числе поздравлениях с днем рождения и публикациях о рождении детей.
Посмотреть эту публикацию в Instagram
ИИ предложил узнать возраст и место жительства
На этом подсказки не закончились. По словам Робинс, Meta AI предложил узнать возраст ее дочерей, а затем сформировал информацию об их предполагаемых классах в школе, интересах, любимых книгах и местах для прогулок.
В одном из случаев система также предложила выяснить, где живет сама Робинс. По данным Futurism, ИИ при этом использовал старые публикации семьи, включая посты 2018 года.
Робинс рассказала, что после этого начала просить родственников удалять или ограничивать доступ к старым семейным публикациям.
Что ответила Meta
В компании признали, что функция сработала некорректно.
Представитель Meta Дина Эль-Кассаби заявила The Verge, что компания «промахнулась», а подобные вопросы «никогда не должны были предлагаться» пользователю. По словам Meta, проблему уже исправили.
При этом в компании подчеркнули важный момент: Meta AI может показывать пользователю только тот контент, к которому этот пользователь уже имеет доступ. Если публикация недоступна человеку, ИИ не должен возвращать ее в ответе.
То есть описанный случай, по заявлению Meta, не означает, что ИИ показал Робинс закрытые от нее данные. Речь идет о том, как система собрала и представила информацию, которая уже была доступна ей в экосистеме Meta.
Особенность ситуации в том, что отдельные публикации сами по себе могли казаться безобидными. Но ИИ смог объединить информацию из разных постов и источников, включая публикации родственников, в один подробный профиль семьи.
По словам Робинс, раньше она воспринимала Facebook как способ сохранять семейные воспоминания и делиться ими с родственниками. После истории она решила пересмотреть количество информации о детях, которая остается в открытом доступе.
Meta AI встроен в Facebook, Instagram, WhatsApp и Messenger и может отвечать на вопросы пользователей, работать с содержанием публикаций и помогать с другими задачами.