AIと法社会の関わり

いつも記事書いている鈴木瑞人です！
今回は、後輩の法学生の卵が”AIと法社会の関わり”について記事を書いてくれました！
法律関連の専門の人にオススメの記事です！
しっかりした文章・抜け目ない調査、何をとっても素晴らしいので、できるだけ手を加えないでおきたいくらいなのですが、最後に少しだけ僕が思うことを加筆しました。蛇足感があるので僕のコメントは時間と興味ある方のみご覧ください。

それではお楽しみください！

ーーーーーーーーー
「AI（人工知能）が人間の仕事を奪う」というのはよく言われる話である。では弁護士の仕事はどうだろうか。六法と主要な判例を頭に入れ、それを駆使して弱者のために働く、正義の味方は人間ではなく機械になっていくのか。
一方、法学上、法律行為を行うことができる法主体は自然人か法人とされる。つまり、2045年に到達すると言われるシンギュラリティ（技術的特異点）を迎え、AIが人間の知能を越えたとしても、その行為を今の法律では裁くことができないのだ。人間がAIを利用する立場にある現在でさえ、自動走行車の事故の責任の所在特定など、現行法の延長が必要とされている。AIが人間のコントロールを離れたときどうするのか、そもそもそんなAIの誕生を許容していいのか、というロボット倫理に話が至るまで、法律に関わる懸念事項はつきないが、研究に対する過度な法規制は発展を妨げてしまう。
技術の発展という流れを取り込みつつ、AIが暴走せずに人間と共生していくために、法社会は今後どのように変化していけばいいのだろう。

壮大な問題考察の第一歩として、以下、AIが法律分野でどう活用されているのか、また現在その利用は法律でどう規制されているのか、最後に、今後法社会とAIがどう相互作用をして変化していくかを考察していく。

(1)AIの法律分野での利用の現状

「弁護士や医者などの知識集約型の職業は、やがてAIに代替される」は本当か？
一口に法律業務と言っても、大きく①その事件における法的事実の認定②類似判例・通説を参考に、規範を当てはめ法的論立てをすることに分けられる。以下、AIに置き換え可能か順に見ていく。

①その事件における法的事実の認定
これは最も人間の力が必要とされる部分である。というのも、ニーチェが言ったように、世界には「事実は存在しない。存在するのは解釈だけだ。」からである。事件の当事者各々が異なる解釈をする中で整理されていないそれぞれの主張を噛み砕き、法的事実に再構成することは、非論理的思考に慣れていないAIには難しい。また、主張に必要な要件がわかったとして、それを会話の中で引き出すコミュニケーションにおいて、人間が相手の方が当事者も答えやすい。
その帰結として、交通事故や過払い請求、企業法務といった明らかな事実が存在する事例におけるAIの活用は進み、離婚裁判など、個人の感情が重要な意味を持つ事例における活用は進まないと予想される。すでにアメリカでは、2016年にスタンフォードの大学生が「罰金を受けた時に標識はしっかり見えていたか？」「周囲に駐車スペースは十分に作られているか？」と言った質問に答えるだけで、交通違反切符の異議申し立てが可能か判断できるチャットbot “DoNotPay” を実用化している。また、アメリカの大手法律事務所Baker & HostetleやDentonsrは、破産法担当者としてIBM watsonを利用したAI弁護士 “Ross” を導入している。企業法務に関しては、同様に機械学習を利用して、事業に関連する法律を抜き出してコンプライアンス向上に役立てる動きもある。
今後自然言語解析技術が発展すれば、完全に代替とはいかずとも、代替可能な分野は増えるだろう。

②類似判例・通説を参考に、規範を当てはめ法的論立てをする
次の段階として、自らの主張の正当性を示すため、類似の判決がなされた判例を探すという作業がある。ここはAIの得意分野で「30年後に消える仕事TOP10」などの常連であり、総務省が法令データベースをリニューアル公開するなど、ますますAIの活用しやすい環境は整ってきている。前述の”Ross”も常に法律ニュースを監視し、膨大な法律資料から関連度の高い判例を差し出す。そして機械学習が進むとその精度は高くなっていく。しかし、これは弁護士というより弁護士補助（パラリーガル）の仕事であることを付け加えておく。
次に論立ての部分では、①で認定した事実を判例から導き出した規範に当てはめ、自らの主張の正当性を論証していく。ここは「勝率◯％の最強弁護士」が存在するように、弁護士の個性が表れる所である。しかし、裁判の判決を最終的に下す担当裁判官の判決傾向の分析を元に、論立ての戦略を練ることも可能になってきている。以前から裁判官の政治的立場に基づいた予測は行われていたが、2016年、ユニヴァーシティ・カレッジ・ロンドン(UCL)、シェフィールド大学、ペンシルベニア大学の研究チームが、AIに欧州人権裁判所の裁判文書を分析して司法判断を予測させたところ、79%の精度で的中したという。
裁判の目的は事実に基づいた善悪の判断であり、裁判官に合わせて事実が変わってはならないが、当事者にとっては勝敗も重要であるから、こうしたAIの活用はさらに進むだろう。

以上を踏まえて冒頭の問いを考えてみると、AIの活用で確実に法律業務の効率化は進み、AIを使いこなせる法律家、また当事者の感情が重要となる民事訴訟を扱う法律家が生き残るのだろうか。

近年は、シリア難民に関して、英語のわからない難民がアラビア語で質問に答えれば、難民申請書を英語で作成してくれるサービスや、フライトが遅れた際に航空会社に損害賠償を請求する法律文書を自動作成するサービスなどが開発され、AIが社会的に疎外された人々の役に立つ場面も増えている。

弁護士からすれば、今後どの分野の法律業務が代替されていくか戦々恐々だが、多くの人の利益になる形で住み分けをするのが理想である。

(2)  技術の法規制の現状

もちろん、法社会も技術の発展に追いつこうと変化しているが、検討を要する法律課題は尽きない。例えば、プライバシー（憲法）知的財産と不法行為責任（民法）詐欺やサイバー犯罪（刑法）安全保障とテロ対策（国際法）などである。さらには人間の知能を超えるAIを開発することが許されるのかというロボット倫理、法哲学の話にまで及ぶ。ここでは日本における、知的財産法でのAIの著作物の取扱、AI開発に対する法規制についてのみ触れる。

AIが書いた記事は誰のもの？
現在、様々な分野の知的財産創作にAIが利用されている。例えば、2016年11月、中部経済新聞は自然言語処理で「中部経済新聞らしさ」を学習させたAIに、70周年記念記事を執筆させ、朝刊に掲載した。スペインのマラガ大学は作曲をする人工知能「ラムス(lamus)」を開発、実際に作曲された楽曲をオーケストラが演奏したり、それを収録したＣＤや音源の販売もされている。今後は、AIのプログラミング自体をAIが行うことも予想される。では、これらの著作物の著作権や特許が誰が所有するのか？
英国1988年改正著作権法では「（コンピュータで生成された著作物（プログラム著作物）の場合に）著作物の創作に必要な準備(necessary arrangements)を行った者」に帰属するとしているが、日本ではAIによる著作は現行法で規定されていない（つまり著作権法の保護が及ばない）可能性が高い。職務著作の主体を自然人か法人と想定しているからだ。現在内閣官房 知的財産戦略推進事務局が法改正を検討しており、創作的意図を持って人間がアルゴリズムを作成したAIの創作物に関しては人間に権利が発生し、AIが人間の補助を越えて作り出した著作物には権利が発生しないとする方向が有力である。AIの普及により、現行の特許制度は大きく影響を受けると思われる。なぜならば、ビッグデータにより先行技術が容易に見つかり特許の取得が難しくなる、特許認容率が大幅に低下する可能性があるなど、不確定事項は多い。しかしなにはともあれ、法整備を急いで、欧米企業に権利を持っていかれないようにするのが重要であることは間違いない。

AI開発に対する最善の法規制とは？
一方、AIの開発の法規制については、官民それぞれの組織がガイドラインを策定を試みている。

①総務省「AIネットワーク社会推進会議」
まず官の動きとしては、総務省の情報通信政策研究所の「AIネットワーク社会推進会議」が2016年にAI開発のガイドラインを作成した。AIの開発指針を巡っては、欧米を中心に議論が進んでいるため、経済協力開発機構（OECD）などに先進国共通のAI開発ガイドライン案として提案し、国際的な議論を主導したいと考えて作られたもので、日本の法制度に直接反映させようとして作られたわけではないという。また、発展途上のAI開発をハードロー（条文規定）で拘束してしまうとバグが発生し、将来の発展を妨げる懸念があるため、専門家の意見を集積させたソフトロー（法的強制力のない規範）で統制しようという狙いがある。
ガイドラインでは透明性、制御可能性、セキュリティ確保、安全保護、プライバシー保護、倫理、利用者支援、アカウンタビリティの8つが開発原則とされ、透明性の原則では、AIの挙動を後から検証できるよう、入出力データやログの保存を求める。また制御可能性の原則では、制御不能になるリスクがあるAIについて、人間や他のAIによる監視や停止などの機能を求める。セキュリティ確保の原則では、AIへのサイバー攻撃で利用者や第三者の安全に危害が及ぶリスクを評価したうえで、必要なサイバー攻撃耐性を実装するよう求める。
ここまでの規制は妥当に思えるが、問題は山積している。例えば委員会にはNTTデータ、NEC、Preferred Networks、日立製作所、日本マイクロソフト、ドワンゴ、富士通、日本IBMなど、AIに積極的な企業が構成員として参加しているが、「汎用AIと特定AIを区別せず議論しており、SF（サイエンスフィクション）で語られる汎用人工知能に対する脅威論が、会議でもそのまま展開されていた」などとして深層学習AIスタートアップのPreferred Networks（PFN）が委員会を離脱した。「論点整理では、AI開発者と、AIに学習データを入力する利用者の責任分担について議論できていない」との批判もある。加えて、「政府策定のガイドライン」という名称が独り歩きをして、世論の動きによってハードローの制定を余儀なくされるという懸念さえある。やはり、開発を行う民の側の意見を吸い上げるのが重要なのだ。

②OpenAI / AI社会論研究会
では、民の動きとしてここでOpenAIとAI社会論研究会を取り上げる。
OpenAIは起業家イーロン・マスクが2015年に立ち上げた人工知能を研究する非営利団体である。「利益追求ではなく人類のためにデジタルな知能を発展させること」を目標とし、最先端の研究をオープンソースとしている。「AIは人間の意思の延長であるべきで、自由を重んじる立場から、より広く、平等な形で安全に広がっていかなければならない」という方針のもと、企業の独占によりAIが誤った方法で利用され暴走することがないよう、民主的な管理を試みているのである。
一方、日本にはAI社会論研究会がある。これは専門家たちが哲学（Humanity)、経済学(Economics)、法学（Law）、政治学(Politics)、社会学(Sociology)といった多様な観点から社会でのAI活用にアプローチするものである。日本にはAIに関する学術的研究が少ない中、AIの発展とともに社会構造が変化するにあたり、「人工知能が社会に与える影響」について議論がされている。

いずれにしても、AIの開発・利用に関しては、現状ではガイドラインのみがあり、法規制はまだない。しかし悪用を防ぐという点については、②で示したように、AIの社会に与える影響を世間に発表しつつ、民主的な管理に任せることも一手かもしれない。

(3)  AIと法社会の今後について

以上を踏まえると、AIの活用により煩雑な法律業務が効率化され、処理速度が上がると同時に、AIの不法行為や著作物に関する審議など、扱う事件自体、AIによるものが増えていくと予想される。AIが社会で普及する前に、開発ガイドラインを策定し、関連する法課題に対する一定の解を用意しておかなければ、法社会から人間が疎外される未来が待っているであろう。AI法曹がAIの起こした事件を審議して、人間は傍観することしかできない、そんな未来が来ないことを願う。
以上が、法社会の現状と未来に関する、法律初学者の一考である。

東京大学学部生　Ms.ポテンシャル

ーーーーーーーーー

いかがでしたか？
かなりよく考えられ、良く調べ上げ、良くまとまった記事でしたね。

それでは、僕、鈴木瑞人がこの記事を読んで思ったことを徒然と書きたいと思います。

まず、よく言われる、”2045年に到達すると言われるシンギュラリティ（技術的特異点）”について。以前Googleのレイ・カーツワイルらが”人工知能が人を超えるとき”を”シンギュラリティ”と命名し、それを2045年ごろだろうと予言しました。

個人的には、シンギュラリティという単語は何か具体的な意味を持つものではないため、シンギュラリティという言葉は好きではありませんが、以前レイ・カーツワイルらが意図した、”人工知能が人の知能を超える時期”というのは間違いなく2045年よりも早いと思ます。2020年代か遅くとも2030年代前半でしょう。次世代スーパーコンピューターの開発者、齊藤元章氏（PEZY Computing社長）も”2025年にはプレシンギュラリティ、2030年にはシンギュラリティ“と言っています。

というのも、ここ数年のDeepLearning関連の実装・研究がうまくいきすぎているからです。2016年には、あと5年～10年かかるといわれていた自動翻訳(英→日など)が人とほぼ同じ精度に達してしまいました。
AIが囲碁でプロに勝てるのはあと10年かかるといわれていたのに、2017年に世界最強棋士,柯潔（カ・ケツ）選手がGoogle傘下のAIベンチャーDeepMindが作ったAlphaGoに大敗しました。

個人的な予測ですが、今までのGoogleのプロダクトと最近のDeepMind社の深層強化学習と汎用人工知能の研究スピードを見ていると、今、AI研究での次なる壁と言われているAIの”言語の深い理解”は、あと1-3年後には解決され、一つの頭脳で、様々なタスクをこなす”汎用人工知能(AGI: artificial general intelligence)”のは、今後3-7年後には実現され、AIが社会の仕組みを大きく変えるのは、今後7-10年後くらいだと思います。

さて今回の記事についてのコメントに戻りましょう。
今回の記事で扱われているAIは基本的に”エキスパートシステム”です。(エキスパートシステムとは特定のタスクに特化したシステムのことで、たとえばAlphaGoは囲碁に特化したAIで自分で歩いて帰るなど他のタスクはできません)”現状のAI技術”が社会とどう融合するかを扱ってくれています。

“現状のAI技術”とは、検索技術、教師有機械学習の回帰・分類、教師なし機械学習のクラスタリング・次元削減、ネットワーク解析などです。

“未来のAI技術”とは、言語を深く理解して言語が扱えるようになった人工知能と、汎用人工知能のことを指します。汎用人工知能とは、一つの頭脳で、画像処理・音声処理・自然言語処理・運動制御など様々なタスクがこなせるものをいいます。

重要なことは、今後10年でAIが社会にもたらす変化と、10年より後でAIが社会にもたらす変化は大きく異なりうるということです。その違いは汎用人工知能の誕生からきます。では、それぞれについて考えていきましょう。

【今後10年でAIが社会にもたらす変化】
・AIを導入した様々なアプリ・ソフトウェアが開発される。
・人の仕事の一部をAIや機械が担うようになる。
・AIを使いこなせる人とそうでない人との貧富の差が大きくなる。
・言語の壁がなくなる。

【今後10年より後でAIが社会にもたらす変化】
※正直汎用性AIが何をもたらすか正直想像がつかないです。
・普通に道を歩いている人の一部が、ロボットで、人と同じように歩く・話す・働く、ができる。
・ほとんどのタスクの精度に関して汎用人工知能が人を上回る。
・AIや機械を導入・運用することに関して税金が課されるようになる。
・政府が、国民の雇用に関して介入するようになり、個人の適性を調べ、雇用の割り振りを行うようになる。
・増税に苦しめられた富裕層が独立して海上国家などの独立国家を築く。
・反AIの国家や、反AIの反政府勢力ができる。

では、我々はどうすべきなのでしょうか？

僕はやるべきことは一つしかないと考えています。
“技術がどのように発展するか常に見定め、社会の理想の形を常に考え、理想の社会を形作るために、最適な行動をする”
ことです。

パーソナルコンピュータの父Alan Keyが昔言っていたことですが、
“The best way to predict the future is to invent it.(未来を予測する最善の方法は、自分で未来を発明することである)”

その通りだと思います。

ではどのような行動を起こすべきなのでしょうか？
これには様々な正解があると思います。

僕の個人的な考えでは、進めるべき方向にAI研究を進め、正しいAIの使い方を実践していき、それを社会に広めていくことが重要だと考えています。

具体的な職業としては、研究者兼会社経営者がよいと思います。

世の中にはいろいろな職業がありますが、例えば、サッカーに例えるなら、医者や弁護士はあくまでコート外で選手をサポートする役であり、官僚は、白線を引いたり、ルールを決めたり、審判をする役で、研究室長(PI:Principal Investigator)や会社経営者が、コート内で研究者とビジネスマンを引き連れて走る監督と思います。

理想としては、はじめは、研究者兼会社経営者兼ビジネスマンから始めて、のちに、研究室長兼研究者兼会社経営者になるのがよいと思っており、その方向で頑張っています。僕の直感なので特に明確な根拠があるわけではありません。

社会にはいろいろな職種があり、いろいろな人がいるおかげでこの社会は成り立っていますが、現在コートで戦うプレイヤーが少ない気がしてなりません。時代によって繁栄するコートと衰退するコートがあると思うので、反映しているコートへできるだけ行くべきでしょう。そして、自分で戦況を見極め、進むべき方向に行って戦うことが重要だと思います。

プレイヤーは、これを学んだらOKということもなく、この試験を受かったらOKということもなく、文字通りサバイバルで、将来の見通しも不透明ですが、”自分で未来を作る”人だと思います。

いろいろ書いてきましたが、この辺で筆をおきたいと思います。
ではまた！

鈴木瑞人
東京大学大学院 新領域創成科学研究科 メディカル情報生命専攻 博士課程
東京大学機械学習勉強会 代表
NPO法人Bizjapan テクノロジー部門 BizX チームリーダ