01 / UNDERSTAND
仕組みと使いどころ
問い合わせと文書を独立して複数のベクトルへ変換し、その後に細かな単位で類似度を評価します。ColBERTでは、各問い合わせトークンについて文書内で最も近いトークン表現を探し、それらの最大類似度を合計して関連度を求めます。文書表現を問い合わせ前に計算して索引化できるため、問い合わせと各文書を一緒に処理する方式より検索時の計算を抑えながら、単一ベクトル方式より細かな対応関係を保持できます。一方、文書ごとに多数のベクトルを保存するため、一般に単一ベクトル方式より多くの保存容量と検索計算が必要です。
02 / IN PRACTICE
Late Interactionの活用例
たとえば、こんな場面で
文書検索やRAGの検索段階で、問い合わせの各語句に対応する箇所を文書内から細かく照合し、関連度の高い候補を選ぶ用途が考えられます。長い文書や表現の細かな違いを扱いたい場合の選択肢になります。
03 / GOOD TO KNOW
使うときのポイント
採用時は、単一ベクトル検索より細かな照合が必要かを確認し、複数ベクトルの保存容量と検索計算の増加を許容できるか検討します。使用するモデルと索引が同じ形式の複数ベクトルに対応していることも確認します。
参考資料
ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT （新しいタブで開きます）Multi-vector embeddings (ColBERT, ColPali, etc.) | Weaviate Documentation （新しいタブで開きます）An Overview of Late Interaction Retrieval Models: ColBERT, ColPali, and ColQwen | Weaviate （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。