ENTRY

◀︎ AI NEWS TOPへ

ペンシルベニア大学、客と話すAIを1体と3体の分担で比べ、13の組み合わせのうち12で分担のほうが成功率が低かった

2026.10.24
ペンシルベニア大学、客と話すAIを1体と3体の分担で比べ、13の組み合わせのうち12で分担のほうが成功率が低かった

米国のペンシルベニア大学(University of Pennsylvania)の研究者2人は2026年10月20日、客と話すAIを、1体で動かす場合と、3体に役割を分ける場合で比べた論文を出しました。航空会社・小売・通信の客対応を模した試験で、条件を満たした13の組み合わせのうち12で、3体のほうが成功率が低くなりました。費用は1体の1.4〜3.1倍でした。ただし、3体の作りには著者自身が認める不備があり、客もAIが演じています。論文は査読前です。

この記事は論文(arXiv:2610.27655、2026年10月20日提出)と、著者が公開したコードとデータ、メタ(Meta)の技術ブログ(10月19日)にもとづきます。

何をしたか

AIを何体かに分け、計画する役、調べる役、確かめる役を持たせる作り方(マルチエージェント)が増えています。どんなときに分けると得をするかについては、先行研究があります。キムら(Kim et al.)が2026年に専門誌ネイチャー・マシン・インテリジェンス(Nature Machine Intelligence)に出した研究です。1体での成功率がおよそ45%より低いうちは分けると得をし、それより高いと損をする、という目安を示しました。

ただ、その目安は、AIが客と話さずに一人で作業する試験から出たものです。ペンシルベニア大学のイーサン・ヤン(Ethan Yang)氏とシアンチョン・シー(Xiangcheng Shi)氏は、客と話しながら作業する場面でも同じことが言えるかを試しました。

試験にはタウ2ベンチ(τ²-bench)を使いました。航空会社・小売・通信の窓口を模したもので、AIは書かれた規程に沿って、客とやりとりしながら予約や注文を変えます。客の役は、別のAI(gpt-5.2)が演じました。最後に、データベースや機器の状態が正しくなっていれば成功です。

比べたのは、次の2つです。

  • 1体:試験に付いている標準のAI
  • 3体:同じモデルで、客と話して計画を立てる役、データベースを読み書きする役、規程を確かめる助言役に分けたもの

モデルは3系統の6種類です。業種と組み合わせて、1つの組み合わせにつき50の課題を3回ずつ解かせ、会話は全部で約7,950回になりました。18の組み合わせのうち、3体の出力が途中で切れていないかなどを調べ、条件を満たしたのは13です。

3体には、1会話でAIが書き出せる言葉の量(トークン数)に上限を付け、1体には付けませんでした。上限は、1体の会話の4分の3が収まる量の4倍です。試験の手順は事前に登録して公開し、途中の変更も記録に残しています。

試した結果

客の役を同じAIに固定した試験では、3体が1体を上回ったと言える組み合わせはありませんでした。

試したこと 3体の結果 比べたもの
🔢 条件を満たした13の組み合わせ(モデル×業種)で、成功率はどうか 12で低く、1つははっきりした差なしその1つは3体が2.7ポイント上だが、誤差の範囲 同じモデルの1体
📉 13のうち、主な分析に使った12の組み合わせ(オープンAIとグーグルの4モデル)で、差に重みを付けて平均すると 28ポイント低い95%の確からしさの幅は12〜44ポイント低い 同じモデルの1体
🎯 1体の成功率が、誤差の幅を含めても45%を下回った2つ(先行研究なら分担が得をするはずの場面) 13ポイントと22ポイント低い 同じモデルの1体
♾️ 使える量の上限を外した場合 よくて同じそのとき使った量は1体の5.5倍 1体が使った量の中央値
✍️ 正解の手順にない書き込み(予約や注文の誤った変更) 減らなかった差は0.6ポイント減で、誤差の範囲 同じモデルの1体
💴 1つの組み合わせあたりの費用(定価) 1.4〜3.1倍 同じモデルの1体

数字はペンシルベニア大学の論文(arXiv:2610.27655、2026年10月20日提出、査読前)による。成功率は、1回の会話で課題を達成した割合(3回の平均)。ポイントは、その割合の差。

先行研究の目安どおりなら、1体の成功率がはっきり45%を下回った2つでは、3体が得をするはずでした。実際には、2つとも3体のほうが低くなりました。上限を外して好きなだけ使わせても、よくて1体と同じで、そのとき使った量は1体の5.5倍でした。

3体に分けて得をする理由として著者が想定したのは、誤った書き込みを途中で止められることです。しかし、誤った書き込みは減りませんでした。その代わり、3体の1,950回の会話のうち666回が、上限まで使い切って終わりました。

定価で費用を出せた12の組み合わせのうち11では、1体のほうが成功率が高く、しかも安くなりました。実験全体で使ったお金は約516ドル(約7万7000円。1ドル150円で換算)です。

まだ確かめられていないこと

3体の作りには、不備があります。客と話す計画役は、データベースを操作する道具の仕様を見られませんでした。そのため、計画役が出した書き込みの指示のうち、そのまま実行されたのは25%でした。著者が事前に決めた基準は90%で、どの組み合わせでも満たしていません。論文はそのことを断ったうえで、作ったままの3体の結果を載せています。

仕様を見せる直しを入れた小さな試しでは、指示がそのまま実行された割合が25%から72%に上がりました。ただ、全体の試験はやり直していません。

📢 公表されている説明 ⚠️ こちらで確認できていないこと
客と話す場面では、3体に分けても成功率は上がらず、費用が増えた著者の試験の結果 ⚠️ 計画役に道具の仕様を見せる作りに直したとき、結果が変わるか(全体の再試験は未実施)
先行研究の「1体が弱いときは分担が得」という目安は、この場面では当てはまらなかった著者の解釈。はっきり45%を下回ったのは2つの組み合わせだけ ⚠️ 45%を下回る組み合わせを増やしても、同じ結果になるか
客役は別のAI(gpt-5.2)。人より協力的だと著者も書く著者の説明 ⚠️ 本物の客を相手にしたとき、1体と3体の差がどうなるか
コード・会話記録・データを公開したGitHub、Zenodo ⚠️ ほかの研究者が試し直して、同じ結果になるか(査読前で、外部の再現はまだ)

凡例:📢=当事者が公表している説明 ⚠️=出典に書かれておらず、またはこちらで確認できていない点
説明は、ペンシルベニア大学の論文(2026年10月20日提出)による。

ほかにも、著者が挙げている限界があります。誤差の幅を含めても1体の成功率が45%を下回った組み合わせは、2つしかありません。客の役を別のAI(gpt-4.1)に替えると、13のうち差がはっきりしなかった残りの1つで、3体が10ポイント上回りました。論文の中で3体が上回ったと言えるのは、この1か所だけです。また、使ったモデルは試験の問題を学習のときに見ていたかもしれず、著者はそれを否定できないと書いています。

外部の見方

この論文への外部の評価はまだ見当たりません。

論文とは別に、メタは10月19日の技術ブログで、AIを役割に分けた例を紹介しています。データの列を足す作業を1体のAIに任せると、知識を詰め込むほど取り違えが増えました。そこで、振り分けだけをする司令塔と、14の専門役に分けました。設定の準備にかかる時間は、人の手では3〜4日、この仕組みでは1時間未満です。

メタの作業は客と話さない社内の作業で、司令塔はAIに判断させず、決まった手順で振り分けます。論文の3体とは場面も作りも違い、並べて比べられるものではありません。著者も、客と話さない試験の結果は、客と話す場面にそのまま当てはまらないと書いています。

誰に関係するか

客と話しながら規程どおりに手続きを進める窓口なら、業種を問わず関係します。たとえば歯科医院の予約の変更、旅館の宿泊プランの変更、自治体の粗大ごみの受付、レンタカーの延長の手続きです。どれも、客が少しずつ情報を出し、途中で希望を変えることがあります。

論文の結果からは、こうした窓口のAIは、まず1体で作るのが無難だと言えます。役割を分けたくなったら、同じ問題の一覧で1体と比べ、成功率と費用の両方で上回るかを確かめてから決めます。分けると呼び出しの回数が増え、費用も上がるからです。

まとめ

ペンシルベニア大学の試験では、客と話すAIを3体に分けると、ほとんどの組み合わせで1体より成功率が低く、費用は高くなりました。試した3体は、計画役が道具の仕様を見られない作りです。仕様を見せて試し直したら結果が変わるかは、まだわかりません。コードと会話の記録は公開されており、ほかの研究者が確かめられます。

参考文献

  • Does Multi-Agent Collaboration Pay When Agents Serve Users? Testing Agent Scaling in Dual-Control Settings(Ethan Yang、Xiangcheng Shi、University of Pennsylvania、arXiv:2610.27655v1、2026-10-20提出)https://arxiv.org/abs/2610.27655
  • ethanyyang/agent-scaling-dual-control(コード・事前登録・変更記録、GitHub)https://github.com/ethanyyang/agent-scaling-dual-control
  • 会話記録・データ(Zenodo)https://doi.org/10.5281/zenodo.23458286
  • The Thin Orchestrator: How We Made Our AI Agents More Reliable by Giving the Router Less to Do(Engineering at Meta、2026-10-19)https://engineering.fb.com/2026/10/19/ml-applications/thin-orchestrator-ai-agent-architecture/

Tags

タグ一覧へ ▶︎

Kamone
著者 Kamone

30歳で学者志望からITエンジニアに転身。通信・金融業界におけるインフラ領域を中心に、オンプレミスからクラウドまで幅広く経験。AWS学習コミュニティでは公認メンターとして教材制作や講師を務める。現在はリツアンSTCにて事業推進に携わり、AI活用とエンジニア支援の高度化に取り組んでいる。

Kamone
著者 Kamone

株式会社リツアンSTC社員。

1984年 東京都中野区生まれ。

大学中退後、工場や警備員などを経て、何もスキルが身についていないことに危機感を覚える。
2014年 何か手に職をつけなければと思い、電子専門学校からエンジニアになった弟を見て「コイツにできるなら俺もできる」と安易な考えで未経験からIT業界に飛び込む。
そこは「まともな案件に入れなければ営業としてこき使われるか中国に送られるらしい」と恐ろしい噂が飛び交う会社だった。
「とんでもないところに来てしまった…」と戦慄するも、運よく大手新聞社系のインフラチームから声がかかり、エンジニアとしてのスタートを切る。

その後、SESを転々としながら通信・金融業界のオンプレ・クラウド案件を中心にインフラエンジニアとして経験を積む。

2021年 AWS学習サービス「Cloudtech」に参加し、公認メンターとして書籍出版プロジェクトや教材制作・講師などのコミュニティ・サービス運営に関わる。

2023年 ゆとりーマンのYoutube動画で新興SESの闇とリツアンの存在を知り、転職。(当時所属していたSES企業が動画で紹介されていた特徴に当てはまっていて愕然)
その後、CloudTechとリツアンの橋渡し役を担い、合同プロジェクト「テラコヤテック」の運営に関わる。
2025年 リツアンの「エンジニアに一円でも高い報酬を」「会社は社員に使われるためにある」「出入り自由」といったスタンスに共鳴。エンジニアから転向し、リツアンの事業推進に参画。
現在に至る。

他人の文体を真似たり、他人が書いた文章を手直しするのが得意、という若干嫌な気持ちにさせる特技を持つ。
AI活用を鋭意研究中。
(リツアンいいとこ一度はおいで。)

今すぐわかる。報酬シミュレーション