グーグル・リサーチ（Google Research）の研究者は2026年10月27日、言語モデルが使われ始めたあとも新しい知識を覚え続けられるようにする方法を、ブログで紹介しました。人が眠っている間に記憶を整えるのにならい、モデルに入力を止めて覚え直す「睡眠」の時間を作ります。論文の試験では、読んだ文章の中身を何も見ずに答える問題の正答率が、その文章を学ばせていない元のモデルの31.9%から48.9%になりました。先行研究の方法の46.7%も上回りました。論文に名前が出ているモデルは10億〜80億パラメーターの小さめのものです。ほかの研究者による確認はまだありません。
この記事はグーグル・リサーチのブログ（10月27日）と、研究者がアーカイブ（arXiv）という公開サイトに出した論文（6月2日に初版、7月10日に第2版）にもとづきます。論文には、グーグルとコーネル大学の研究者4人が名を連ねています。論文によると、もとの版は2025年9月から、学会の査読に使われるサイト「オープンレビュー（OpenReview）」で公開されていました。査読の結果は、論文にもブログにも書かれていません。
言語モデルは作った時点までの知識で止まっています。新しい情報を使わせる方法は、主に2つです。
1. 質問のたびに資料を渡す。会話が終わると、その情報は消えます2. 新しいデータで追加の学習をする。前に覚えたことを大きく忘れてしまうことがあります
研究者はこの2つの間をつなぐ方法として睡眠の時間を考えました。
モデルは「起きている時間」と「睡眠の時間」を繰り返します。起きている間は、入力を受けて答え、新しい情報を一時的な記憶に置きます。睡眠の間は入力を止め、次の2つの段階を行います。
1. 記憶の書き移し：一時的な記憶にある情報を、あらかじめ用意しておいた空きの部品に書き移します。前の知識が入っている部品は書き換えません。書き移したあと、一時的な記憶は空けます2. 夢：モデルが自分で練習問題を作ります。その中から、力を伸ばしそうなものを選んで学習し、覚えた知識を復習します
ブログは、「睡眠」や「夢」は脳の研究から借りた言葉だと断っています。仕組みは決まったモデルの形のまま、人が決めた学習の手順に沿って動くとも書いています。
論文はいくつかの試験で、睡眠ありのモデルをほかの方法と比べています。
| 測ったこと | 睡眠あり | 比べたもの |
|---|---|---|
| 📚 読んだ文章の中身を、文章を見ずに答える試験（文章1つ） | 48.9% | 文章を学ばせていない元のモデル：31.9% 追加の学習をして、夢の段階がないもの：33.4% 睡眠から夢の段階を外したもの：35.7% 先行研究の方法（SEAL。自分で学習用の文を作って覚える）：46.7% |
| 📚 同じ試験（文章200本をまとめて覚え、974問に答える） | 46.2% | 元のモデル：31.9% 追加の学習をして、夢の段階がないもの：32.0% 睡眠から夢の段階を外したもの：36.2% SEAL：43.2% |
| 🧮 米国の高校生向け数学大会の問題（AIME-24）アリババのモデルQwen3-8B、16回の平均 | 79.2% | 元のモデル：73.8% 通常の追加学習（SFT）：75.5% 強化学習（GRPO）：76.4% 自分の答えから学び直す方法（OPSD）：76.6% |
| 🌐 2つの新しい言語を続けて覚えたあとの翻訳 | 1つずつ覚えたときの成績にほぼ戻った書き移しを3段にした版 | 資料を渡すだけの方法：大きく下がり、学ぶ前に近い成績に戻った数値は図だけで、本文に数字はない |
数字はグーグル・リサーチの研究者による論文（2026年7月の第2版）の表と本文による。
知識の試験で睡眠ありが先行研究のSEALを上回った幅は、文章1つで2.2ポイント、文章200本で3.0ポイントです。睡眠から夢の段階を外すと、元のモデルとの差は3.8ポイント（文章200本では4.3ポイント）まで縮みます。数学の試験は、元のモデルと比べた伸びがAIME-24で5.4ポイント、翌年の大会の問題（AIME-25）で0.9ポイントでした。
もとになったのは、研究したグーグル・リサーチ自身のブログと論文です。
| 📢 公表されている説明 | ⚠️ こちらで確認できていないこと |
|---|---|
| 新しい知識を覚え、前に覚えたことを忘れにくい論文と10月27日のブログ | ⚠️ ほかの研究者が同じ結果を出せたか ⚠️ 査読を経たか ⚠️ 80億パラメーターより大きなモデルで同じになるか ⚠️ 知識の試験に使ったモデルの名前（先行研究の設定に従うとだけ書かれている） ⚠️ 実際の製品で使われているか |
| 長い文章から答えを探す試験（BABILong）で、1000万トークン（AIが文章を区切る単位）の長さまでほぼ満点。GPT-4などを上回るブログ。論文の図の説明では、GPT-4などは追加の学習なし、睡眠ありは追加の学習をした側 | ⚠️ 同じ条件で比べたときの差 |
| 数学の3つの試験で同じ点数に届くまでの時間は、通常の追加学習のほうが3.6〜4.8倍かかる。学習の回数をそろえると、通常の追加学習のほうが4倍速い論文の付録 | ⚠️ 知識の試験など、数学以外の試験でかかった時間 |
凡例：📢＝当事者が公表している説明 ⚠️＝出典に書かれておらず、またはこちらで確認できていない点
説明は、グーグル・リサーチのブログ（2026年10月27日）と論文による。
社内のAIに、新しい商品や変わった規程を覚えさせたい情報システムの担当者に関係します。たとえば、毎月変わる旅館の料金表や、薬局で扱う新しい薬の情報です。
AIの導入を提案する人は、どの知識がどのくらいの頻度で変わるかを先に洗い出しておくと、資料を渡す方法、追加の学習、この研究のような方法のどれが合うかを比べやすくなります。
グーグル・リサーチは、AIに入力を止めて覚え直す時間を作り、前の知識の部品を書き換えずに新しい知識を足していく方法を示しました。知識の試験では先行研究の方法を上回りましたが、差は2〜3ポイントです。ほかの研究者による確認や、製品で使った例はまだありません。
