カモネです！
まず謝罪させてください。だいぶ更新が滞っておりました。
正直に言うと、AI界隈の進歩が速すぎて、最新情報であってもすぐに陳腐化してしまい、記事を書き、お届けすることの意味を感じられなくなっていたのです。
しかし、それだけの理由で筆を折ってしまったのでは、読んでいただいていた皆さんにも申し訳が立ちません。
ということで、改めて投稿を再開いたしますので、どうぞよろしくお願いいたします。
今回紹介したいのは、YouTubeチャンネル「Frieve-A 講演会」で公開された、こちらの動画です。
【AI】人類の99%以上、既にAI以下の愚民のためのAI活用術
なかなか刺激的なタイトルですが、内容はAIを使ううえでの根本的な考え方を扱ったものです。
Frieve-Aこと小林義之さんは、AI・機械学習や音響技術を得意とし、アプリやサービス、音楽、書籍などを制作しているデジタルクリエイターです。動画で使用されたスライドも、「AIの力を100%引き出すために」として公開されています。
動画で語られるのは、AIの性能を最大限に引き出すために、人間側にある足かせを外そうという提言です。
その足かせとは、AIへの疑い、小さすぎる依頼、AIを自分より下に置く上下関係、与える情報の不足、そして権限の制限です。
観ながら、これまでの私自身のAIの使い方も、かなり当てはまっていると思いました。
私はこれまで、生成AIを道具として捉えていました。
簡単な仕事には安価なモデルを使い、難しい仕事だけ高性能なモデルへ渡す。費用対効果を考えながら、それぞれのAIへ仕事を割り振る。道具として考えるなら、自然な使い方だと思います。
しかし、この動画ではAIを「道具」ではなく人間を超えた「知能」として扱っています。
知能が必要な仕事を任せるとき、性能の低いAIをあえて選ぶことに、本質的な価値はあるのか。能力の高い相手へ、細かく方法を指定し、小さな作業だけを渡すことが、本当に正しいのか。
高性能なAIを使っていても、人間が理解できる範囲に仕事を細分化し、人間が考えた方法どおりに動かしていたら、出てくる成果も人間の想像の範囲に収まります。
AIを自分より優秀な存在として扱うなら、伝えるべきなのは細かな手順ではなく、目的です。何を実現したいのかを示し、方法そのものをAIに考えさせる。AIの案が自分の想定と違っていても、まずは中身を確かめる。
「AIは間違うから」と疑うことは必要です。しかし、その疑いを理由に、最初から人間の考えた枠の中へ閉じ込めてしまえば、AIの能力を借りる意味も小さくなってしまいます。
特に考えさせられたのが、AIへ与える権限の話です。
私は業務システムの開発でもAIを使っています。作業の途中で、「このコマンドを実行してよいか」「この実装を行ってよいか」と承認を求められることがあります。
しかし、AIが書いたコードやコマンドを、その影響範囲まで含めて毎回読み込み、本当に安全だと理解してから承認するのは簡単ではありません。実際には、画面に表示された説明だけを見て、「おそらく大丈夫だろう」と承認ボタンを押していました。
これは果たして、人間が責任を持って確認したことになるでしょうか？
かといって、すべてを詳しく調べていたら、確認にかかる時間ばかりが膨らみ、開発が前へ進まなくなります。AIが数秒で行った作業を、人間が何十分もかけて確認する。それを一日に何度も繰り返すのは、AIによる開発の速度に合っていません。
Anthropicによれば、Claude Codeで表示される権限確認の93％は承認されています。承認が繰り返されるうちに、利用者が内容を注意深く見なくなる「承認疲れ」が起きるため、同社は別のAIが操作内容を判定するAuto modeを開発しました。
人間が形だけ承認するよりも、AIがコード、コマンド、作業履歴を読み、危険な操作や意図から外れた行動を検出した方が、速く正確に判断できる場合があります。作業するAIとは別のAIに確認させれば、セルフチェックだけでなく、AI同士のダブルチェックもできます。
「最後は人間が承認すれば安全」という考えは、すでに現実と合わなくなり始めているのかもしれません。
もっとも、Auto modeも危険な操作を完全に防げるわけではありません。Anthropic自身も、高い安全性が求められる環境では、慎重な人間のレビューをそのまま置き換えるものではないと説明しています。
AIの性能を最大限に引き出すことだけを考えるなら、必要な情報と権限をすべて渡し、人間の承認を挟まず、自律的に動いてもらうのが理想でしょう。
少なくとも現時点では、これは最も高い能力を持つフロンティアモデルを使う場合の話です。能力の劣るAIに同じ権限を渡しても、判断まで安心して任せられるとは限りません。
情報を隠し、操作を制限し、一つひとつ人間の許可を待たせれば、その分だけAIができることは減ります。
ただし、能力を最大限に引き出すことと、発生し得る損害を引き受けられることは別問題です。
本番環境のデータを消すかもしれない。機密情報を外部へ送るかもしれない。誤った判断が顧客や社員へ影響するかもしれない。AIの方が人間より優秀だと思っていても、確証のないまま、あらゆる権限を手放すことが現実的ではない場面もあります。
だから、最初は影響の小さい範囲で任せ、結果を検証する。問題なく動けることを確認したら、扱える情報、実行できる操作、判断できる範囲を少しずつ広げていく。
全面委任を否定するのではなく、そこへ一度に飛び込めない現実を認め、段階的に近づけていく。今のところは、それが現実的な選択になると思います。
この連載の前回記事で、私は「味のしない作業はAIに渡し、美味しいところだけは自分でやる」と書きました。
今回の「目的だけを伝え、すべてAIへ任せる」という話は、反対のことを言っているようにも見えます。
しかし、どちらを選ぶかは仕事の目的によって変わります。
仕事を自己実現や自己表現として行うのであれば、自分がやりたいことまでAIへ渡す必要はありません。結果だけでなく、その過程を自分で担うことに価値があるからです。文章を書くことが好きなら自分で書けばいいし、コードを書くことが好きなら、その部分を手元に残せばいい。
一方で、作業そのものではなく成果を出すことが目的なら、人間が途中へ入り続けることに価値があるとは限りません。AIに全面的に任せた方が、速く、正確に、より良い結果へ到達できる仕事も増えていくでしょう。
AIに任せる範囲は、「AIにできるか」だけで決めるものではありません。その過程を自分で担うこと自体に価値があるかどうかで決めるべきなのだと思います。
AIへ任せる範囲を広げていくと、最後に「では、人間は何をするのか」という疑問が残ります。
私は、人間の役割は夢や希望、理想を持ち、それをAIにぶつけることだと考えます。
何を実現したいのか。
どんな会社にしたいのか。
どんな社会で暮らしたいのか。
そして、AIが出してきたものを見て、自分は好きなのか、嫌いなのか。良いと思うのか、悪いと思うのか。受け入れたいのか、そうではないのかを判断する。
少なくとも今のAIには、自分の人生を引き受けて夢や希望を持つことはできません。人間の好みや価値観を分析することはできても、それを自分自身のものとして望むことはできないでしょう。
人間の役割は、AIが行う一つひとつの作業に承認ボタンを押すことではない。
目指す場所を示し、AIの知能を借りながら、最後に「私はこれを望む」と言うことです。
AIをどこまで信じ、どこまで任せるのか。現在のAIとの関係を考え直すきっかけとして、ぜひ観てほしい動画です。
