もう少し詳しく
データ同士の類似性を計算で扱いやすくするための表現です。文章の意味が近いかどうかを調べる検索などに利用します。
埋め込みは、語句の一致だけでは見つけにくい関連資料を検索するための表現として利用が広がりました。ベクトルの距離は選んだモデルとデータに依存するので、言語、専門分野、文書の長さに合う検索性能を実データで確認します。
HISTORY
開発された年代と歴史
この用語を大きな流れで見ると、2010年代〜に発展してきました。
- 2013word2vecが、語の意味関係をベクトルで表す方法を広めた。
- 2014〜文、画像、コードなどを埋め込む研究が発展。
- 2020年代検索、推薦、RAG、クラスタリングの共通部品になった。
キーマン・関わった研究者
Tomas Mikolov、Jeffrey Pennington、埋め込み研究者
技術の変遷
記号・キーワード → 分布表現 → 文脈を持つ多目的ベクトル
理解のポイント
- 文章などを数値の並びに変え、データ同士の近さを計算できる形にします。
- 数値の近さはモデルが捉えた特徴の類似性であり、文章の正しさを採点しているわけではありません。
- 実際の問い合わせと資料の組で、意味の近いものが適切に見つかるかを確かめます。
たとえば、こんな場面で
「代金を返してほしい」という問い合わせと「返金方法」という文書の関連性を調べます。
覚えておきたいこと
近さの表し方はモデルや用途によって異なり、似ていることと正しいことは別です。