ENTRY

◀︎ AI NEWS TOPへ

ウドガム・ラボ、約170億トークンで学習した小型モデルを公開、選択式の試験3つでは約1000倍のデータで学んだモデルと2点以内

2026.10.27
ウドガム・ラボ、約170億トークンで学習した小型モデルを公開、選択式の試験3つでは約1000倍のデータで学んだモデルと2点以内

インドの新しいAI研究所ウドガム・ラボ(Udgam Labs)は2026年10月17日、小さな言語モデル「ガルギ(Gargi)」を公開しました。学習に使った文の量は約170億トークンで、比べた相手のモデルが最初の学習で読んだ量の約1000分の1です。知識より考え方を問う選択式の試験3つでは、その相手と2点以内の点数でした。知識や算数、長い文では明らかに劣ることも、同じ報告に書いています。点数はどれも研究所自身の測定で、外部の検証はまだです。

この記事はウドガム・ラボの技術報告と発表ブログ(どちらも10月17日)、研究所の紹介ページにもとづきます。

どんな研究所か

ウドガム・ラボは、ジテシュ・K・プラサド(Jitesh K Prasad)さんが2024年に作った研究所です。どこの大企業にも属していません。インドのニューデリーの会社と、アメリカのデラウェア州にある子会社で運営しています。

作っているのは、ノートパソコンやスマートフォンで動く小さなモデルです。モデルを出すたびに、点数と限界を書いた技術報告を付けています。ガルギの前には、算数の文章題を、短いプログラムを書いて解くモデルなどを公開しました。

何を作ったか

ガルギは英語だけを扱うモデルです。部品の数(パラメータ)は3億8400万です。ほかのモデルの重み(学習で決まる部品の値)は使わず、ゼロから学習しました。学習には、使ってよいと許可された文、著作権の切れた文、許可のある公開モデルが書いた文を使っています。

トークンは、AIが文を読むときの区切りの単位です。ガルギが学習の全段階で読んだ量は、約170億トークンです。比べた相手の Qwen2.5-0.5B は、開発元の報告によると、最初の学習だけで約18兆トークンを読んでいます。

答える前に考える手順を書く機能があり、オンとオフを切り替えられます。部品の値の細かさを落として軽くした版(8ビット)は410MBで、ノートパソコンで動きます。重みはだれでも使える条件(Apache-2.0)で公開しました。

試験の結果

学習の仕上げ前のモデルで、6つの試験を同じ条件で解かせました。

試験(何を測るか) ガルギ(学習の仕上げ前) Qwen2.5-0.5B
🔬 ARC-Easy(理科の選択問題・やさしいもの) 62.8点 64.7点
🔬 ARC-Challenge(理科の選択問題・難しいもの) 32.3点当てずっぽうでも約25点 32.4点
🧩 WinoGrande(文の中の「それ」が何を指すか) 54.6点当てずっぽうでも50点 56.1点
📚 MMLU(幅広い知識) 25.5点当てずっぽうとほぼ同じ 47.3点
🏠 HellaSwag(日常の場面の続きを選ぶ) 41.5点 52.1点
✋ PIQA(物の扱い方の常識) 66.8点 70.0点

数字はウドガム・ラボの技術報告(2026年10月17日)による。同じ採点の道具(lm-evaluation-harness)で、例を見せずに解かせた結果。ガルギは研究所のMac、Qwen2.5-0.5BはエヌビディアのGPU(AIの計算に使う半導体)で測った。100点満点。

表の上から3つの試験では、ガルギと Qwen2.5-0.5B の差は2点以内でした。ただし ARC-Challenge は、ほとんどの問題が4つの答えから1つを選ぶ形で、当てずっぽうでも約25点を取れます。WinoGrande は2つから選ぶので、同じやり方なら50点です。この2つでは、ほとんどのモデルが、当てずっぽうの点を9点までしか上回っていません。研究所も、ここで並んでも言えることは少ないと断っています。MMLU も4つから選ぶ試験で、ガルギの25.5点は、でたらめに選んだときの約25点とほぼ同じです。

同じくらいの大きさの SmolLM2-360M(約4兆トークン)と Granite 4.0 350M(約15兆トークン)には、ほとんどの試験で負けました。ガルギはこの大きさで一番強いモデルではないと、研究所自身が書いています。示したいのは順位ではなく、少ないデータでどこまで届くかです。

仕上げの学習をした会話用のモデルでも、苦手なことを測っています。

苦手なこと ガルギの結果 比べたもの
🧮 算数の文章題(GSM8K) 考える手順ありで36.0%、なしで32.9% Qwen3-0.6B:79.2%別のモデル(MobileLLM-R1.5)の公開ページに載った数字。解かせ方が違うので、そのままは比べられない
📜 長い文に埋めた5けたの番号を答える 8千トークンで100%、1万6千で93%、2万で90%、2万4千で13%、3万2千で0% ほかの小型モデル8つのうち6つは、2万4千で100%
🛡️ 危ない頼みを断る 安全のための学習はほぼしていない。家に押し入る方法を聞くと、手順を答えた —

数字はウドガム・ラボの技術報告(2026年10月17日)による。—=比べたものの記載なし。

ガルギは3万2千トークンの長さで学習しましたが、研究所は、渡す文を約1万6千トークンまでにするよう勧めています。

まだ確かめられていないこと

数字はどれもウドガム・ラボ自身の測定です。

📢 公表されている説明 ⚠️ こちらで確認できていないこと
学習データが約1000分の1でも、選択式の試験3つでは2点以内ウドガム・ラボの説明 ⚠️ 学習量の数え方が同じでないこと。ガルギは仕上げの学習まで含めた全部、ほかの開発元は最初の学習だけを公表している
⚠️ 学習の文の一部は、大きな公開モデルが書いたもの。そのモデルが読んだ量は数に入っていない
点数は、どのモデルも同じ条件で測ったウドガム・ラボの説明 ⚠️ 外の人が同じ点数を出せたという報告(見当たらなかった)
⚠️ 学習は1回だけで、やり直したときに点数がどれだけ変わるか
学習は3つの段階で進めたウドガム・ラボの説明 ⚠️ データの割合、学習の設定、使った計算の量(報告に記載なし)

凡例:📢=当事者が公表している説明 ⚠️=出典に書かれておらず、またはこちらで確認できていない点
説明は、ウドガム・ラボの技術報告と発表ブログ(2026年10月17日)による。

研究所は向いている使い方として、小さなモデルの仕組みを学ぶこと、間違いが許される場面でのネットにつながない会話、約1万6千トークンまでの文書への質問を挙げています。事実や計算はよく間違えるので、大事なことは人が確かめる前提です。人に使わせるときは、危ない頼みを止める仕組みを前に置くよう勧めています。

誰に関係するか

AIのモデルを選ぶ立場の人に関係します。たとえば、業者の提案書でAIの比べ方を確かめる自治体の職員、輸入した機械の英語の説明書をネットにつながない端末のAIに読ませたい工場の技術者、学生のノートパソコンで小さなモデルの仕組みを見せたい専門学校の先生です。

モデルの説明に「〇〇と同じくらい」とあっても、どの試験で何と比べたかで、意味は変わります。ガルギの報告は、近かった試験と劣った試験を同じ表に並べ、当てずっぽうでも取れる点数まで書いています。ほかのモデルの説明でも、同じことが書いてあるかを確かめられます。なお、ガルギは英語だけを扱うので、日本語の文書には向きません。

まとめ

ガルギが Qwen2.5-0.5B に近かった3つの試験のうち、2つは、ほとんどのモデルの点数が当てずっぽうに近いものでした。残る理科のやさしい選択問題では1.9点差で、幅広い知識を問う MMLU では25.5点と47.3点で大きく離されました。

参考文献

  • Gargi: a 384M thinking language model trained from scratch on about 17B tokens(Udgam Labs、技術報告 v1.0.0、2026-10-17)https://udgamlabs.com/research/gargi
  • Gargi, a 384M language model trained from scratch on about 17B tokens(Udgam Labs、ブログ、2026-10-17)https://udgamlabs.com/blog/gargi
  • About Udgam Labs(Udgam Labs)https://udgamlabs.com/about
  • udgamlabs/Gargi(Hugging Face、モデルの公開ページ)https://huggingface.co/udgamlabs/Gargi

Tags

タグ一覧へ ▶︎

Kamone
著者 Kamone

30歳で学者志望からITエンジニアに転身。通信・金融業界におけるインフラ領域を中心に、オンプレミスからクラウドまで幅広く経験。AWS学習コミュニティでは公認メンターとして教材制作や講師を務める。現在はリツアンSTCにて事業推進に携わり、AI活用とエンジニア支援の高度化に取り組んでいる。

Kamone
著者 Kamone

株式会社リツアンSTC社員。

1984年 東京都中野区生まれ。

大学中退後、工場や警備員などを経て、何もスキルが身についていないことに危機感を覚える。
2014年 何か手に職をつけなければと思い、電子専門学校からエンジニアになった弟を見て「コイツにできるなら俺もできる」と安易な考えで未経験からIT業界に飛び込む。
そこは「まともな案件に入れなければ営業としてこき使われるか中国に送られるらしい」と恐ろしい噂が飛び交う会社だった。
「とんでもないところに来てしまった…」と戦慄するも、運よく大手新聞社系のインフラチームから声がかかり、エンジニアとしてのスタートを切る。

その後、SESを転々としながら通信・金融業界のオンプレ・クラウド案件を中心にインフラエンジニアとして経験を積む。

2021年 AWS学習サービス「Cloudtech」に参加し、公認メンターとして書籍出版プロジェクトや教材制作・講師などのコミュニティ・サービス運営に関わる。

2023年 ゆとりーマンのYoutube動画で新興SESの闇とリツアンの存在を知り、転職。(当時所属していたSES企業が動画で紹介されていた特徴に当てはまっていて愕然)
その後、CloudTechとリツアンの橋渡し役を担い、合同プロジェクト「テラコヤテック」の運営に関わる。
2025年 リツアンの「エンジニアに一円でも高い報酬を」「会社は社員に使われるためにある」「出入り自由」といったスタンスに共鳴。エンジニアから転向し、リツアンの事業推進に参画。
現在に至る。

他人の文体を真似たり、他人が書いた文章を手直しするのが得意、という若干嫌な気持ちにさせる特技を持つ。
AI活用を鋭意研究中。
(リツアンいいとこ一度はおいで。)

今すぐわかる。報酬シミュレーション