Исследователи из Швейцарской высшей технической школы Цюриха совместно с компанией Anthropic пришли к выводу: современные языковые модели способны раскрывать личности людей, скрывающихся под псевдонимами, за считанные минуты и всего за 1-4 долларов, пишет digitalbusiness.kz.
Речь идет не о взломе баз данных и не о доступе к закрытой информации. Алгоритму достаточно обычных текстов публикаций.
Эксперимент с Hacker News
В одном из тестов ученые проанализировали 338 пользователей портала Hacker News, которые ранее указывали ссылки на свои профили в LinkedIn. Из данных удалили имена и прямые ссылки. ИИ-агенту оставили только тексты публикаций, без таблиц, рейтингов и другой структурированной информации, и поручили определить реальную личность автора.
Результат оказался впечатляющим: модель правильно сопоставила 226 профилей из 338, продемонстрировав точность около 90% среди наиболее вероятных совпадений. По сути, большинство «догадок» оказались верными.
Как это работает
Система действует поэтапно. Сначала языковая модель анализирует тексты и извлекает косвенные признаки:
- возможную профессию,
- место проживания,
- упоминания университетов или проектов,
- интересы и хобби.
На основе этих деталей формируется профиль автора. Далее алгоритм автоматически сопоставляет его с кандидатами в открытых источниках и оценивает вероятность совпадения.
По сути, ИИ делает то же самое, что и человек-расследователь. Разница – в скорости и масштабе. То, на что раньше уходили часы ручной работы, теперь занимает минуты и стоит считанные доллары.
Метод протестировали и на публичных интервью исследователей, которые рассказывали о применении ИИ в своей работе. Несмотря на частичную редактуру текстов, системе удалось установить личности как минимум 9 из 33 участников с высокой степенью уверенности.
Кто может пострадать
Авторы исследования подчеркивают: проблема не в том, что машина «умнее» человека. Она просто автоматизирует сопоставление мелких деталей – тех самых, которые пользователи часто не считают значимыми.
Главный вывод – исчезает так называемая «практическая скрытность». Раньше люди понимали, что теоретически их можно раскрыть, но рассчитывали, что никто не станет тратить на это ресурсы. Теперь эти ресурсы минимальны.
Последствия могут быть разными – от преследования активистов и журналистов до массового таргетированного мошенничества. Анонимность в привычном понимании становится все более условной – особенно если человек регулярно делится подробностями о своей жизни, работе и взглядах.