Перевод эмбеддингов между моделями без парных данных: новая атака на векторные базы

Harnessing the Universal Geometry of Embeddings

Исследователи из Cornell Tech представили первый метод перевода текстовых эмбеддингов из одного векторного пространства в другое без парных данных, энкодеров или заранее заданных соответствий. Их неконтролируемый подход преобразует эмбеддинги в универсальное латентное представление и обратно, достигая высокой косинусной близости между моделями с разной архитектурой, числом параметров и обучающими наборами. Авторы подчёркивают серьёзные последствия для безопасности векторных баз данных: злоумышленник, имеющий доступ только к векторам эмбеддингов, может извлекать конфиденциальную информацию о документах, достаточную для классификации и атрибутивного вывода.