埋め込みベクトルの普遍幾何学：ペアデータなしで異なるモデル間を翻訳する新手法

Harnessing the Universal Geometry of Embeddings

arXivに発表された論文「Harnessing the Universal Geometry of Embeddings」は、ペアデータやエンコーダー、事前定義されたマッチングを一切使わずに、テキスト埋め込みをあるベクトル空間から別のベクトル空間へ変換する初の教師なし手法を提案します。この手法は、Platonic Representation Hypothesisが提唱する普遍的な意味構造を利用し、異なるアーキテクチャ、パラメータ数、学習データを持つモデル間でも高いコサイン類似度を達成します。さらに、未知の埋め込みを変換可能にすることで、ベクトルデータベースのセキュリティに重大な影響を与える可能性を指摘。攻撃者が埋め込みベクトルのみから文書の機密情報を抽出し、分類や属性推論が可能になることを示します。