Шум в эмбеддингах не защищает данные: проверил 8 схем, и при 100 известных парах узнаётся ~90% документов

Шум в эмбеддингах не защищает данные: проверил 8 схем, и при 100 известных парах узнаётся ~90% документов

Шум в эмбеддингах не защищает данные: проверил 8 схем, и при 100 известных парах узнаётся ~90% документов Коротко. Если хранить эмбеддинги с добавленным шумом, текст по ним восстановить трудно, но это не значит, что данные защищены. Я измерил, можно ли по защищённой записи узнать, какому документу она принадлежит, если атакующий знает часть соответствий (для основного сравнения 1000 из 5183 документов, ~19%). Для шума узнаётся 99% записей, даже когда качество поиска упало вдвое. При 100 известных парах (2% корпуса) узнаётся около 90%. С чего всё началось Векторные базы для RAG и поиска хранят…

Читать полностью →

Источник: Habr: ИБ

Подключаюсь к источникам…

30 главных источников
о мире ИИ

Каждое утро — свежий AI-дайджест: главные темы недели простыми словами. Плюс автоматический перевод сотен статей об искусственном интеллекте.

0
статей
0
источников
9
разделов