ENTRY

◀︎ AI NEWS TOPへ

ハーバード大学の起業コンテスト、審査員の割り当てを言語モデルの仕組みに替え、一番小さい部門で人の割り当てと比べ、合い具合の点にはっきりした差はなかった

2026.10.23
ハーバード大学の起業コンテスト、審査員の割り当てを言語モデルの仕組みに替え、一番小さい部門で人の割り当てと比べ、合い具合の点にはっきりした差はなかった

ハーバード大学の学生と卒業生が競う起業コンテスト「プレジデンツ・イノベーション・チャレンジ(President’s Innovation Challenge)」は、2025年に、外部の審査員を起業チームに割り当てる作業を、言語モデルなどで経歴と事業の説明を比べる仕組みに替えました。仕組みを作ったのは、カーネギーメロン大学とハーバード・ビジネス・スクールの研究者です。論文によると、一番小さい部門で人と仕組みが別々に割り当てたところ、審査員が付けた合い具合の点は人の割り当てが平均3.94、仕組みが平均3.90で、はっきりした差はありませんでした。

何が起きたか

このコンテストでは、起業チームが合わせて50万ドル(約7500万円。1ドル150円で換算)を超える資金や支援を目指します。準決勝に残ったチームを、投資家や起業家などの外部の審査員が評価します。

2021〜2024年は、運営の担当1人が経験をもとに手で割り当てていました。この間にチームは112から133に、審査員は201人から281人に増えました。担当が替わると、前の割り当ての考え方を引き継ぎにくいことも困りごとでした。

2025年は、審査員231人と準決勝の101チームが割り当ての対象でした。1人の審査員が見るのは7チームまでで、1チームには12人を付けます。審査員には同じ部門のチームだけを割り当て、個人や仕事、お金のつながりがあるチームは外します。

仕組みの中身

仕組みは、審査員とチームの組ごとに合い具合を点にし、その点をもとに、1人7チームまでなどの決まりを守って配ります。

  • 比べ方: 使うのは、審査員の経歴とチームの事業の説明です。どんな言葉がどれだけ出てくるかで比べる方法(TF-IDF)と、文章の意味を数の並びに直す言語モデル(BERT、MPNet、RoBERTa)の結果を、重みを付けて足し合わせました
  • 重みの決め方: 過去の割り当ては担当の経験則によるもので、正解には使いにくいものでした。そこで研究チームと運営の職員が105組に1〜5の点を手で付け、それに近づくように重みを決めました。その組で比べると、仕組みの点の85%が手の点から1点以内でした
  • 配り方: 点をもとに、合う審査員がどのチームにも付くように配る既存の方法(PeerReview4All)を使いました
  • 外したもの: GPT-4o も候補として試しましたが、点が手の点とほとんど関係せず、最後の組み合わせには入っていません
  • 動かした機械: Apple M1 を積んだメモリ16GBのパソコン

人の割り当てと比べた結果

運営の希望で、比べたのは一番小さい部門(19チーム・審査員66人)だけです。人と仕組みが別々に割り当て、両方の組を審査員に送りました。審査員にはどちらの割り当てかを知らせていません。仕組みの割り当ては、運営が手直しせずにそのまま使いました。

🧮 割り当て 点の数 平均(5点満点)
人(運営の担当) 197件 3.94
仕組み 194件 3.90
人と仕組みが同じ組を選んだ分(両方に数える) 82件 4.10

出典:論文の表3。答えたのは審査員59人で、点は合わせて309件。点は、審査員が「このチームは自分の経歴と専門にどれだけ合っているか」に1〜5で答えたもの。

差を確かめる検定でも、はっきりした差は出ませんでした。検定の値(AUC)は0.48で、0.5なら差がないことを示します。あとで仕組みの一部に不具合が見つかり、それを直して計算した値も0.49で、0.5に近いままでした。

かかった時間

⏱️ 作業 かかった時間
2021〜2024年の手の割り当て 毎年約1週間
2025年、比べた部門の手の割り当て 8〜12時間
2025年、比べた部門の仕組み データ集め1〜2時間、割り当て1〜2分
2025年、ほかの2部門の仕組み データ集め4〜5時間、割り当て4〜5分、そのあと手直し4〜5時間

出典:論文の本文と図2。手の時間は運営が出した数字。仕組みを作る時間は入っていない。

データ集めは審査員の公開の経歴を道具で集める作業で、毎年要ります。ほかの2部門では、仕組みの割り当てを運営が手直ししてから審査員に送りました。論文は、2024年まで毎年約1週間かかった割り当てが、2025年は合わせて約5〜7時間になったとしています。

公表された説明と、確かめられていないこと

📢 公表されている説明 ⚠️ こちらで確認できていないこと
仕組みの割り当てと人の割り当てで、点にはっきりした差はない 大きい部門や別の年でも同じか(比べたのは一番小さい部門の19チームだけ)
点は審査員自身が付けた 審査の結果が変わったか。点は審査員の感じ方で、外から測った合い具合ではない
割り当ての時間は、2024年までの毎年約1週間から、合わせて約5〜7時間になった 5〜7時間が、上の表のどの時間を足したものか。
仕組みを作る手間を入れた比べ。
年ごとにチームと審査員の数も違う
論文は仕組みを作った研究者が書いた 外の人による確かめ

凡例:📢=当事者が公表している説明 ⚠️=出典に書かれておらず、こちらで確認できていない点
出典:Xi ほか、AAAI-26 の論文(2026年)

誰に関係するか

技術者派遣やシステム開発の会社で、エンジニアの経歴書と案件の説明を読み比べて、配属先を手で決めている営業や配属の担当にも使えます。経歴書と案件の説明を言語モデルで比べて点にし、1人が持てる案件の数などの決まりを入れて割り当て案を作ります。過去の割り当てをそのまま正解にせず、担当者が100件ほどに「どれだけ合っていたか」を1〜5で付け直して、点の付け方を合わせます。広げる前に、一部の案件で担当者と仕組みが別々に割り当て、どちらの案か知らせずに本人に合い具合を聞いて比べます。

まとめ

仕組みは、研究者と運営が手で点を付けた105組をお手本にしています。人の割り当てと比べたのは、運営の希望で選んだ一番小さい部門の19チームだけで、そこでは審査員が付けた合い具合の点にはっきりした差は出ませんでした。時間は論文によると合わせて約5〜7時間になりましたが、仕組みを作る手間は入っていません。

参考文献

  • Yang Xi、Orelia Pi、Miaomiao Zhang、Rebecca Xiong、Jacqueline Lane、Nihar B. Shah「Who Is a Better Matchmaker? Human vs. Algorithmic Judge Assignment in a High-Stakes Startup Competition」Proceedings of the AAAI Conference on Artificial Intelligence 40(47), 40137–、2026-03-14、https://ojs.aaai.org/index.php/AAAI/article/view/41449 (doi:10.1609/aaai.v40i47.41449)、確認日 2026-10-22

Tags

タグ一覧へ ▶︎

Kamone
著者 Kamone

30歳で学者志望からITエンジニアに転身。通信・金融業界におけるインフラ領域を中心に、オンプレミスからクラウドまで幅広く経験。AWS学習コミュニティでは公認メンターとして教材制作や講師を務める。現在はリツアンSTCにて事業推進に携わり、AI活用とエンジニア支援の高度化に取り組んでいる。

Kamone
著者 Kamone

株式会社リツアンSTC社員。

1984年 東京都中野区生まれ。

大学中退後、工場や警備員などを経て、何もスキルが身についていないことに危機感を覚える。
2014年 何か手に職をつけなければと思い、電子専門学校からエンジニアになった弟を見て「コイツにできるなら俺もできる」と安易な考えで未経験からIT業界に飛び込む。
そこは「まともな案件に入れなければ営業としてこき使われるか中国に送られるらしい」と恐ろしい噂が飛び交う会社だった。
「とんでもないところに来てしまった…」と戦慄するも、運よく大手新聞社系のインフラチームから声がかかり、エンジニアとしてのスタートを切る。

その後、SESを転々としながら通信・金融業界のオンプレ・クラウド案件を中心にインフラエンジニアとして経験を積む。

2021年 AWS学習サービス「Cloudtech」に参加し、公認メンターとして書籍出版プロジェクトや教材制作・講師などのコミュニティ・サービス運営に関わる。

2023年 ゆとりーマンのYoutube動画で新興SESの闇とリツアンの存在を知り、転職。(当時所属していたSES企業が動画で紹介されていた特徴に当てはまっていて愕然)
その後、CloudTechとリツアンの橋渡し役を担い、合同プロジェクト「テラコヤテック」の運営に関わる。
2025年 リツアンの「エンジニアに一円でも高い報酬を」「会社は社員に使われるためにある」「出入り自由」といったスタンスに共鳴。エンジニアから転向し、リツアンの事業推進に参画。
現在に至る。

他人の文体を真似たり、他人が書いた文章を手直しするのが得意、という若干嫌な気持ちにさせる特技を持つ。
AI活用を鋭意研究中。
(リツアンいいとこ一度はおいで。)

今すぐわかる。報酬シミュレーション