グーグルリサーチ（Google Research）のペンチェン・ジャン（Pengcheng Jiang）氏（Student Researcher）とジュディス・ユエ・リ（Judith Yue Li）氏（Senior Research Engineer）らは、検索の「ファンアウト」を速くする枠組み「リトリーブ・フォー・トレイン（Retrieve-for-Train、R4T）」を、2026年9月15日付の研究ブログで紹介しました。論文はアーカイブ（arXiv）2603.06397です。国際機械学習会議（ICML）2026のポスターでも発表されています。共著者にはジアウェイ・ハン（Jiawei Han）氏らがおり、ジャン氏とハン氏はイリノイ大学アーバナ・シャンペーン校（UIUC）所属を含みます。以下の数字は、いずれもブログと論文側の説明です。
ファンアウト検索は、広い検索意図から、関連する候補を「セット」として返す処理です。ゼロショットの大規模言語モデル（LLM）だけに任せると、言い換えが似た文ばかりになる「言い換えの崩壊（paraphrastic collapse）」が起きます。文を一つずつ出す自己回帰も、待ち時間が長くなります。
R4Tは三段階です。第一に、強化学習（報酬で望ましい答えへ寄せる学習）でファンアウト言語モデル（広い問い合わせを複数の短い問い合わせに分けるモデル。以下FOLM）を訓練します。報酬は、実在データへの寄り（根拠）、セットのばらつき（ベンディ・スコア）、元の意図との一致を組み合わせます。学習の枠はソフト・ジーアールピーオーとソフト・ピーピーオー（どちらも、複数候補を比べて方針を少しずつ直す強化学習のやり方）です。ベースはジェマ3-4B（Gemma3-4B）とクウェン3-4B（Qwen3-4B）で、副問い合わせは毎回ちょうど10本です。
第二に、訓練したFOLMで「問い合わせ→目標セット」の組を、本番の外であらかじめ（オフライン）合成します。人手ラベルは不要です。第三に、約5390万（53.9M）パラメータの拡散型の検索モデルへ教え込み（蒸留）し、一度の処理で全方向を出します（文を一語ずつ出さない非自己回帰）。中間の副問い合わせがないため、R4T拡散では根拠への寄りは評価対象外です。
評価は、ファッションのポリボア（Polyvore。画像と文章を同じ空間で比べる仕組み＝CLIP系）と、音楽プレイリスト（音楽と文章を同じ空間で比べる仕組み＝MuLan、産業用の社内データ）です。開かれた抽象検索の品質（Table1・ジェマ3-4B）では、R4TのFOLMのポリボア平均は49.1です。比較相手のBest-of-N（同じやり方を何度も試し、いちばん良い結果を選ぶ）は40.9、ゼロショットは38.5です。多様性は76.8（ゼロショット56.0）です。音楽平均は58.1（Best-of-N 49.2）です。
待ち時間は、バッチ8で自己回帰が約1.46秒、拡散が0.07秒です。バッチ1024では約50秒対4.21秒です。12〜20倍速いです。多様性の報酬を外すと「line ending line ending」のような崩れた文字列へ寄ります。ベンディ・スコアが、その崩れを抑える錨になります。
| 公表されている説明 | こちらで確認できていないこと |
|---|---|
| 2026-09-15ブログ。アーカイブ2603.06397。ICML 2026ポスター | 第三者による指標の再測定 |
| 強化学習でFOLMを訓練し、人手ラベルなしでデータ合成し、53.9M拡散へ蒸留（ブログ／論文） | 訓練計算コストの独立再計測、学習レシピの完全再現手順 |
| ソフト・ジーアールピーオー／ソフト・ピーピーオー。ジェマ3-4B／クウェン3-4B。副問い合わせは毎回10本（同） | 他ベースモデルでの追試結果 |
| 開かれた抽象検索（Table1・ジェマ3-4B）: ポリボア平均49.1（Best-of-N 40.9／ゼロショット38.5）。多様性76.8（ゼロショット56.0）。音楽平均58.1（Best-of-N 49.2）（同） | 開かれた抽象検索の一部がLLM判定（ジェミニ系）であることの第三者検証 |
| バッチ8で1.46秒→0.07秒。バッチ1024で約50秒→4.21秒。12〜20倍高速（同） | 本番検索バー上の実測レイテンシ |
| 多様性なしだと退化文字列。ベンディ・スコアが対策（同） | 音楽データの外部再現（社内プロプライエタリ） |
| ICML 2026で発表 | 検索製品への搭載有無（ブログ・論文に明示なし） |
音楽セットは社内データのため、外部からの同じ再実験はできません。
BtoBの部品カタログでは、規格の違う候補をセットで返し、待ち時間を短い拡散側に寄せます。自治体の手続き案内では、必要書類・窓口・期限をセットで先に出し、人が並びだけ直します。社内ヘルプデスクでは、権限・申請・FAQをセットで返し、対面に残す問いだけ残します。地域の観光案内では、宿・食事・移動の組み合わせを先にセットで作り、人が最終の並びだけ直します。
広い意図をセットで返すとき、重い自己回帰のまま毎回考えさせず、報酬で一度そろえた振る舞いを軽い拡散側へ移します。ポリボア平均49.1や12〜20倍などの数字は、グーグルリサーチ側の報告です。
