O1 Embedderとは？思考を生成してから検索する埋め込みモデルの仕組みと精度

「O1 Embedder」を調べると、OpenAIが開発した埋め込みモデルだという説明が見つかります。これは誤りです。O1 Embedderは中国科学技術大学（USTC）と北京智源人工智能研究院（BAAI）を中心とした研究チームが提案した手法で、2025年2月にプレプリントが公開され、2026年のACL Findingsに採択されています。本記事では論文の採択版と著者が公開した実装をもとに、クエリから思考を生成してから検索する仕組み、公表されている実測スコア、そして実務に持ち込むときの制約を整理します。BGEの埋め込みモデルやFlutter、WordPressのプラグインなど、O1 Embedder以外の「embedder」を探している場合は、記事後半の「embedder」と呼ばれる別物との区別から読んでください。

まとめ

• O1 EmbedderはOpenAIの製品ではなく、USTCとBAAIらの研究チームによる手法です（arXiv:2502.07555、ACL 2026 Findings採択）。名称はOpenAI o1とDeepSeek R1に触発されたものだと論文の要旨に書かれています。
• 仕組みは、クエリに対してモデル自身が思考文を生成し、「クエリ＋思考」の埋め込みを平均して文書ベクトルと突き合わせる2段構成です。推論時の思考は3本です。
• MS MARCO devのMRR@10は43.1で、思考を切った同一モデルの41.7、RepLLaMAの41.2を上回ります。推論を要するBRIGHT-StackExchangeでは平均24.03で、BM25の17.21を大きく超えます。
• RepLLaMAにGPT-4o-miniの思考を付加した比較実験では、評価11データセットの平均が0.1ポイント下がりました。思考生成と検索の同時学習が前提の手法です。
• 公開されているのは学習コードと思考付き学習データで、学習済みモデルの重みは配布が確認できません。リポジトリにライセンス表記も無いため、社内導入は自前学習とライセンス確認から始まります。

以下では、誤解の出どころから順に、仕組み・学習方法・実測値・実務判断の材料を見ていきます。

O1 Embedderの出自と「OpenAI製」という誤解の出どころ

プレプリント版の著者3名とUSTC・BAAIの所属

O1 Embedderは、arXivに2025年2月11日に投稿されたプレプリント「O1 Embedder: Let Retrievers Think Before Action」（arXiv:2502.07555）で提案されました。プレプリント版の著者はRuiran Yan氏（USTC）、Zheng Liu氏（BAAI）、Defu Lian氏（USTC）の3名で、責任著者はZheng Liu氏です。OpenAIの研究者は含まれておらず、OpenAIの公式ドキュメントにもこの名前のモデルはありません。Zheng Liu氏はBAAIの埋め込みモデル群BGEの著者で、公式実装もBAAIのフレームワークFlagEmbeddingの上に作られています。系譜としてはOpenAIではなくBGE側の研究です。

ACL 2026 Findings採択版でのタイトル変更

この論文は査読を通り、Findings of the Association for Computational Linguistics: ACL 2026（2026年7月2日から7日開催）に採択されました。収録は32032ページから32052ページ、DOIは10.18653/v1/2026.findings-acl.1603です。採択版のタイトルは「Let Retrievers Think Before Action: Thought-Augmented Embedding for Dense Retrieval」に変わり、題名から「O1 Embedder」が外れています。手法名としては本文と要旨に残っているため、論文を探すときは採択版のタイトルとarXiv番号の両方を押さえておくと確実です。著者も7名に増え、所属はUSTC、北京工業大学、北京郵電大学、深圳大学、BAAI、認知知能国家重点実験室、香港理工大学にまたがります。

名称の由来とOpenAI o1系モデルの現況

誤解の出どころは名前です。要旨は推論指向モデルの例としてOpenAI O1とDeepSeek R1を挙げ、「Inspired by these advancements, we propose the O1 Embedder」と述べています。つまりO1は「思考してから答える」という発想の由来を示す名前で、OpenAIのモデル系列を指すものではありません。なおOpenAI側のo1-previewとo1-miniはAPIから撤去済みで、公式の廃止一覧ではo1-previewが2025年7月28日、o1-miniが2025年10月27日に停止し、廃止告知当時の推奨移行先はそれぞれo3とo4-miniでした。その後o4-miniも2026年10月23日に停止し、o3も2026年12月11日の停止が予告されています（いずれも後継はGPT-5.6系）。「o1系のAPIを呼べばO1 Embedderの機能が使える」という関係は最初からありません。

思考を生成してから検索する2段構成の仕組み

推論時の処理順と思考の平均プーリング

通常の密ベクトル検索は、クエリと文書をそれぞれ埋め込みモデルに通し、ベクトルの内積が最大の文書を選びます。O1 Embedderはこの前に思考の生成を挟みます。まず同じモデルがクエリに対して思考文を複数生成し、次に「クエリ＋思考」の組をそれぞれエンコードして平均プーリングで1本のベクトルにまとめ、最後にそのベクトルと文書ベクトルの類似度で上位N件を取ります。生成と埋め込みを1つのモデルが担うため、推論時に外部のLLMを呼ぶ必要はありません。検索工程全体の中でどこが置き換わるのかはリトリーバルとは？RAGの検索工程の仕組みと実装・精度改善の判断基準【2026年版】で整理した工程図と合わせて見ると分かりやすくなります。

思考の本数と精度の関係（1本・3本・5本の実測）

思考を増やすと生成とエンコードの回数が増えますが、精度の伸びは評価指標によって異なります。論文の追加実験では、サンプリング数を1本・3本・5本と変えた結果が報告されています。

1本でも42.9に届きます。1本から3本ではMS MARCOが0.2ポイント上がりますが、3本から5本では0.0ポイントで、DL20も0.1ポイントです。論文の既定設定も推論時3本です。レイテンシを詰めたい場合、削る余地があるのはここです（採択版・付録H・表10）。

思考付き学習データの作り方と同時学習

候補生成と検索委員会4種による多数決

学習には「クエリと正解文書」の組に加えて「クエリと思考」の組が必要ですが、後者は既存データセットに存在しません。そこで論文は探索と精錬（Exploration-Refinement）の2段でデータを合成します。探索ではLlama-3.1-70B-Instructに指示文と少数の実例を与えて候補となる思考を複数生成させます。精錬では複数の検索器が候補ごとに正解文書との類似度を測り、各検索器が選んだ最良候補を多数決にかけて1本を採用します。論文が検索委員会に使ったのはBM25、BGE-EN-large-v1.5、GTE-large、Stella-EN-1.5B-v5の4種です。公開実装では候補生成がdata_preparation/gen_gpt.py、投票がdata_preparation/vote.pyに分かれており、委員会の顔ぶれは--model_zoo引数で外から渡す設計です。vote.pyはこの引数に既定値を持たず、渡されたモデル名をSentenceTransformerで読み込みます。Sentence Transformers形式で読める検索器なら日本語向けのものにも差し替えられますが、差し替えた委員会でのデータ品質は論文では検証されていません。

公開データ1行の中身と思考の分量（実測）

合成された学習データはRuiran/msmarco_thoughtとして公開されており、Hugging Faceのdatasets-server APIで中身を確認できます。1行はquery（クエリ）、pos（正解パッセージ）、neg（不正解パッセージ）、pos_scores・neg_scores（各パッセージのスコア）、thought（合成された思考）の6列です。次は実データの1行で、長い列は省略しています。

{
  "query": "_________ justice is designed to repair the harm to victim, the community and the offender caused by the offender criminal act. question 19 options:",
  "pos": ["Restorative justice The approach is based on a theory of justice that considers crime and wrongdoing to be an offense against an individual or community, rather than the State. ..."],
  "neg": ["What is Restorative Justice? ...", "（ほか24件）"],
  "pos_scores": [95.3125],
  "neg_scores": [95.0, 90.25, 88.1875, "（ほか22件）"],
  "thought": "Restorative justice is designed to repair the harm to victim, the community, and the offender caused by the offender criminal act. The goal of restorative justice is to restore justice to all those involved in the crime, not just the offender. Restorative justice practices encourage dialogue between the offender and the victim and their respective support systems in order to foster understanding and healing."
}

穴埋め問題のクエリに対して、思考は空欄の答え（Restorative justice）と、その考え方の説明を書き出しています。クエリには無い「dialogue between the offender and the victim」のような語が思考に入り、それが正解パッセージの語彙と重なることで、文書側のベクトルに近づきやすくなる仕組みです。

全体の傾向を見るため、全465,813行のうち先頭・10万行目・20万行目・30万行目・40万行目から100行ずつ、計500行を取り出して数えました（2026年11月4日）。思考の長さは中央値96語（最小7語、最大223語）で、クエリの中央値6語の約16倍です。抽出した500行では、不正解パッセージが各行に25件ずつ付いており、500行中198行（39.6％）では不正解のどれかのスコアが正解のスコア以上でした。見分けにくい不正解をあえて混ぜた構成と読めますが、スコアの算出方法はデータカードが無いため明記されていません。なおデータはJSON Lines形式のfinal.jsonl1ファイルで、サイズは約5.25GBあります。

正解文書を思考に流用しない理由

一見、正解文書そのものを思考として使えば手間がかかりません。論文はこれを明確に否定しています。思考は「その思考をもとに正解文書を見分ける」ために使うので、正解文書やその言い換えを思考に入れると答えを先に渡すことになり、埋め込み側の学習が成立しなくなるためです。合成データを自作するときに避けるべき設計で、投票による品質管理もハルシネーションを含む候補を落とすために置かれています。

生成と埋め込みの同時学習と学習設定

学習は2つの損失の加重和です。思考生成側は教師データを真似る行動クローニング、埋め込み側は正解文書と近づけ不正解から離す対比学習で、これを1つのモデルに対して同時に最適化します。報告されている設定は、投影層をLoRA（rank 32、alpha 64）で微調整、BF16、学習率1×10⁻⁴、A800を8基、バッチサイズ64、クエリ1件あたりハードネガティブ15件、クエリ長32トークン・パッセージ長192トークン、思考生成は最大256トークンです。クエリのエンコード結果を2つのタスクで共有するメモリ節約策も報告され、Qwen 1.5Bでバッチ64のとき27.8GBから19.1GBへ下がっています。なお論文の主要実験はLlama-2-7Bですが、公開実装のscripts/train.shの既定ベースモデルはQwen/Qwen2.5-7Bです。同スクリプトは<query>・</query>・<thought>・<emb>の4つを追加の特殊トークンとして登録しています。生成側の境界を示すトークンと、埋め込みを取り出す<emb>を分けているのが、2つのタスクを1モデルに同居させる実装上の要点です。

RepLLaMAへの思考追加と同時学習の比較結果

「手元の埋め込みモデルに、LLMが書いた思考を足すだけでも効くのでは」という発想は自然です。論文はこれを、学習済みのRepLLaMAへGPT-4o-miniが生成した思考を渡す構成で検証しており、結果はタスクによって分かれました（採択版・表4）。NQは2.7ポイント、HotpotQAは3.2ポイント上がる一方、TREC-COVIDは5.0ポイント、FiQAは5.6ポイント、DL19は1.9ポイント、SciFactは1.4ポイント下がり、11データセットの平均は0.1ポイントのマイナスです。同じ比較で同時学習したO1 Embedderは全データセットで改善し、平均は2.2ポイントのプラスでした。思考の有無だけでなく、思考を使えるように埋め込み側も一緒に訓練されているかどうかが効いていると読めます。既存のRAGに外付けのクエリ拡張を足す施策とは、前提が違う手法です。

公表されている精度の実測値

MS MARCOとTREC DLでのスコア

学習データはMS MARCO（パッセージ検索）のみで、同じ分布での評価がMS MARCO devとTREC DL19・DL20です。MRR@10は最初の正解が上位10件の何位に出たかを逆数にして平均した値、Recall@1kは上位1,000件に正解が含まれた割合、DL19・DL20の列は上位10件の関連度と並び順を評価するnDCG@10で、いずれも100倍した値で高いほど良い指標です。RepLLaMA、Promptriever、O1 EmbedderはLlama-2-7Bを共通の土台としていますが、表にはBM25やquery2docも含まれます（採択版・表1）。

思考を切った版が41.7でRepLLaMA並み、思考を入れると43.1まで上がります。採択版では、MRR@10・DL19・DL20の3指標について思考なし版との差が有意水準0.05の対応ありt検定で有意と注記されています。

ゼロショット9データセットの平均

ゼロショット評価はBEIRの8データセットにコード検索のCosQAを加えた9本で、指標はnDCG@10です。BEIRの規約どおりタスク別の追加学習は行っていません（採択版・表2）。

平均61.4は思考なし版の59.1に対して2.3ポイント高く、伸び幅が大きいのはNQ（3.9ポイント）とHotpotQA（3.0ポイント）です。逆に医療のTREC-COVID、金融のFiQA、科学のSciFactでは1ポイント台にとどまります。論文はこの差を、汎用のQAでは事前学習の知識が効くが専門領域では生成される思考が雑音になりうるためと説明しています。専門ドメインのRAGに持ち込むなら、この非対称は見込んでおく必要があります。

推論を要するBRIGHT-StackExchangeでの差

採択版では、推論を要する検索ベンチマークBRIGHTのStackExchange部分をnDCG@10で評価しています。以下の表は7分野のスコアとその平均で、列はBio.＝生物学、Earth.＝地球科学、Econ.＝経済学、Psy.＝心理学、Rob.＝ロボティクス、Stack.＝Stack Overflow、Sus.＝サステナビリティです。O1 Embedder以外の思考強化手法は、思考の生成役に同規模のGritLMを使っています（採択版PDF・表3）。

目を引くのはBM25の17.21が、密ベクトル検索のRepLLaMA（13.69）とPromptriever（13.91）を上回っている点です。推論を要する検索では、埋め込みだけの検索が単語一致の統計に負ける場面があるという実測で、ベクトル検索を全文検索の上位互換と考えると外します。両者の関係はベクトル検索とセマンティック検索の違い：目的と手段の関係・仕組みと日本語での実測で整理しています。O1 Embedderの24.03は、GritLMに思考を作らせる構成の20.40を3.6ポイント上回ります。ただし土台のモデルが違うため、この差をそのまま同時学習の効果とは読めません。採択版では推論特化の検索モデルとも比較しており、同じBRIGHT-StackExchangeでReasonIRが24.76、RaDeRが21.61、O1 Embedderが24.03です。ドメイン特化の学習データを使わずにReasonIR並みに届いている一方、Stack Overflow部分では16.2対23.9と差を付けられています。

実務で使うときの判断材料

公開物と未公開物の切り分け

著者は公式実装をGitHubのRuiranYan/o1embedderで公開しています（2025年6月30日作成、mainの最新コミットは2026年7月29日、Python、BAAIのFlagEmbeddingを同梱）。思考付きの学習データもHugging FaceのRuiran/msmarco_thoughtとして配布されています。一方、学習済みモデルの重みは配布が確認できません。Hugging Faceでo1-embedderを検索しても該当はなく、著者アカウントで公開されているモデルはQwen系の別実験のものだけです。つまり手元で使うには自分で学習する前提になります。加えてリポジトリにLICENSEファイルが無く、ライセンスが明示されていません（2026年11月4日に再確認）。商用の社内システムに組み込む場合は、まず著者への確認が必要です。手順としては、約5.25GBの学習データを取得してから学習と評価を回す流れになります。

# 公式実装の呼び出し例（学習・評価の実行は未検証）
# train.shの既定値はGPU 8基。実行環境に合わせた設定確認が必要
git clone https://github.com/RuiranYan/o1embedder.git
cd o1embedder
pip install -r requirements.txt
huggingface-cli download --repo-type dataset Ruiran/msmarco_thought final.jsonl --local-dir dataset
bash scripts/train.sh
bash scripts/eval.sh

推論コストと適用領域の限界

論文の限界の節には、実務判断に直結する内容が並んでいます。第一に、思考の品質は生成元LLMの知識に依存し、専門領域では雑音や誤りが混じります。第二に、思考を複数生成してエンコードする分だけ推論時のコストが増えるため、レイテンシに厳しい用途や大規模検索では適用しにくく、いつ「遅い思考」を使うかを自動で切り替える仕組みも現時点ではありません。第三に、思考は1回きりで構造を持たず、集約は平均プーリングに固定されています。裏を返せば、思考を切った高速モードでもRepLLaMA相当の精度は出るため、クエリの難しさで2つのモードを使い分ける設計は現実的です。なお生成役を教師LLMから学習済みモデル自身に替えても差は0.5ポイント以内と報告されており、推論のたびに外部APIを呼ぶ必要はありません。

汎用の埋め込みAPIとの使い分け

社内文書のRAGを作る段階では、OpenAIのtext-embedding-3-small（1536次元、コンテキスト8192トークン）のようなAPIを使うのが依然として手数の少ない選択です。ゼロショット評価で比較対象に入っているOpenAI-Ada-002の平均53.7に対しO1 Embedderは61.4ですが、自前学習とGPUの用意という前提が付きます。この比較対象はtext-embedding-ada-002であり、直前に挙げたtext-embedding-3-smallとの優劣を示す結果ではありません。判断の目安は、対象クエリが多段の推論を要するか（マルチホップQA、コード検索、BRIGHT型の調査タスク）です。多段の推論を要しない用途では、まず汎用モデルを基準に自社クエリで検索品質を評価し、不足があれば検索側の設計も検証します。評価用クエリの作成から埋め込みモデルの比較、検索構成の見直しまでを外部に任せる場合は、当社のRAG構築支援でも対応しています。モデル選定の基準は埋め込みモデルとは？仕組みと日本語モデルの選び方・RAG実装での判断基準【2026年版】、インデックス側の詰め方は近似最近傍探索とは？HNSW・IVF・PQの選び分けとRecall調整を実装目線で解説【2026年版】にまとめています。日本語やマルチモーダルを含む要件なら、Gemini Embedding 2の料金と使い方｜GA版の単価・1件あたりの実額と001からの移行【2026年10月】も選択肢に入ります。

「embedder」と呼ばれる別物との区別

「embedder」は「埋め込むもの」という一般的な英単語なので、分野ごとにまったく別の技術や製品を指します。検索結果にも、AIの埋め込みモデル、モバイルアプリの基盤、WordPressのプラグイン、組込み開発向けの製品が混在しています。次の表は2026年11月4日に各公式ページで確かめた内容です。

AIの文脈では、embedderは埋め込みモデルの別名です。BGEの公式ドキュメントは「Embedder, or embedding model, bi-encoder」と書き出しており、AIエージェント用フレームワークのAgnoも、テキストをベクトルに変換する部品を「Embedders」と呼んで、OpenAIやOllamaなどの埋め込みモデルを差し替えられるようにしています。O1 Embedderはこの意味のembedderの一種です。

Flutterのembedderは、Flutterの公式ドキュメントで「the native OS application that hosts all Flutter content」と説明されるネイティブ側の土台です。Android向けはJavaとC++、iOSとmacOS向けはSwiftとObjective-C（Objective-C++を含む）、WindowsとLinux向けはC++で書かれており、AIのベクトル化とは関係がありません。

WordPressのPDF Embedderは、WordPress.orgのプラグイン情報APIで見ると版5.0.2、有効インストール数30万以上、最終更新2026年8月14日です。embedder.comのEmbedderは、VS Codeの拡張機能とターミナルのembedderコマンドから使う商用製品で、ボードの立ち上げやファームウェアのデバッグを実機に対して行うと説明されています。どちらも本記事のO1 Embedderとは無関係です。

よくある質問

O1 EmbedderはOpenAIが提供しているモデルですか？

いいえ。USTCとBAAIらの研究チームによる手法で、OpenAIのモデル一覧にも料金表にも存在しません。名称は推論モデルOpenAI o1に触発されたと論文の要旨に書かれているだけで、OpenAIのAPIから呼べるものではありません。

embedderとembeddingは何が違うのですか？

embedderはテキストや画像をベクトルに変換するモデルそのもの、embeddingはその出力であるベクトルを指します。BGEの公式ドキュメントも「Embedder, or embedding model, bi-encoder, is a model designed to convert data, usually text, codes, or images, into sparse or dense numerical vectors (embeddings)」と定義しており、埋め込みモデルとバイエンコーダの同義語として使われます。

O1 Embedderは日本語の検索でも使えますか？

論文の学習と評価は英語データセット（MS MARCO、BEIR、CosQA、BRIGHT）で行われており、日本語での評価結果は公表されていません。土台のLLMはLlama、Mistral、Qwenで差し替えられるため、日本語向けに学習し直す余地はありますが、そのまま日本語RAGに載せて精度が出るという根拠はありません。

学習済みモデルはどこからダウンロードできますか？

2026年11月時点で、学習済みの重みの配布は確認できません。公開されているのはGitHubの学習・評価コードと、Hugging Faceの思考付き学習データ（Ruiran/msmarco_thought）です。論文の主要実験ではA800を8基使用していますが、必要なGPU構成はベースモデルの規模や学習設定によって異なります。

OpenAIのo1-previewを呼べば同じことができますか？

できません。o1-previewは2025年7月28日にAPIから撤去され（告知当時の後継はo3）、o1-miniも2025年10月27日に停止しています。o3自体も2026年12月11日の停止が予告されています。加えてこれらは生成モデルで、検索用のベクトルを返すものではありません。O1 Embedderの要点は、思考の生成と埋め込みを1つのモデルで同時に学習した点にあります。

関連記事

• 埋め込みモデルとは？仕組みと日本語モデルの選び方・RAG実装での判断基準【2026年版】
• リトリーバルとは？RAGの検索工程の仕組みと実装・精度改善の判断基準【2026年版】
• ベクトル検索とセマンティック検索の違い：目的と手段の関係・仕組みと日本語での実測
• 近似最近傍探索とは？HNSW・IVF・PQの選び分けとRecall調整を実装目線で解説【2026年版】
• Gemini Embedding 2の料金と使い方｜GA版の単価・1件あたりの実額と001からの移行【2026年10月】