임베딩 벡터만으로 문서 내용을 훔치는 공격, 최초로 성공

Harnessing the Universal Geometry of Embeddings

Rishi Jha, Collin Zhang, Vitaly Shmatikov, John X. Morris 연구진이 arXiv에 발표한 논문에서, 서로 다른 모델 간에 임베딩을 번역하는 최초의 비지도 학습 방법을 소개합니다. 이 방법은 쌍을 이루는 데이터나 인코더 없이도 임의의 임베딩을 보편적인 잠재 표현으로 변환하며, 서로 다른 구조와 파라미터 수, 학습 데이터를 가진 모델들 간에도 높은 코사인 유사도를 달성합니다. 이는 벡터 데이터베이스의 보안에 심각한 위협이 될 수 있습니다. 공격자가 임베딩 벡터에만 접근할 수 있어도 문서의 민감한 정보를 추출하고 분류하거나 속성을 유추할 수 있기 때문입니다.