フランスで民事・刑事の最高裁にあたる破毀院（Cour de cassation）は、判決文から人の名前などを深層学習で見つけて伏せる仕組みを、2020年のはじめに本番に入れました。法律で、判決は名前を伏せたうえで無料で公開することになっています。前のソフトでは手直しが追いつかず、年に18万件集まる判決のうち、公開できたのは1万5000件未満でした。2022年末には、過去の分も含めて約68万6000件の判決が公開されています。
2018年から2019年まで使っていた伏せ字のソフトは、決めた規則で名前を探す方式でした。誤りが約5%あり、職員の手直しに時間がかかりました。規則を直すのにも手間と費用がかかりました。
破毀院は、国の外部人材の制度で専門家を受け入れ、自前で仕組みを作りました。まず、自分たちの判決約200万件で、言葉の使われ方を学ぶモデルを作りました。次に、職員が名前・生年月日・会社名などに印を付けた約18万3000文を例にして、文の中から伏せる語を見つける深層学習のモデルを学習させました。モデルの見落としは、8つの決まった規則で後から補います。たとえば、ある名前が1つの判決の中で2回より多く見つかったら、その名前はすべて伏せます。
判決は毎週まとめて自動で伏せられ、確認の画面に送られます。1〜2文字だけの名字のように迷いが残る箇所は、画面にメモとして出ます。2021年4月からは、ラベル（LABEL）という画面を使っています。事件の繊細さに応じて、人の確認の厚さを変えられます。
| 📢 破毀院の数字 | ⚠️ こちらで確認できていないこと |
|---|---|
| 前の規則のソフトは誤り約5%。年18万件のうち公開は1万5000件未満。今のモデルは試験データで、名字を見つける点（F1）が約0.97、住所は約0.87（公開コードの説明） | 本番の判決での見落としの割合。前のソフトの約5%と同じ物差しの数字 |
| 2022年末に約68万6000件を公開（破毀院約50万7000件、控訴院約17万9000件） | 1947年以降の過去分約48万件を含む。法律で公開の範囲が広がった影響と、AIの効果は分けられない |
| 毎週自動で伏せ、繊細さに応じて人が確認 | 人の確認にかかる時間が、前と比べてどれだけ減ったか |
📢＝当事者が公表している説明（左の列）。⚠️＝出典に書かれておらず、こちらで確認できていない点（右の列）。数字は破毀院自身の年次報告と公開コードの説明。
外部の研究者が2021年前半に現場を調べた論文（学術誌RESET、2023年）があります。ただ、職員の分担や印付けの仕事を記録したもので、数字を測り直したものではありません。
職員100〜200人規模の社会福祉法人で、事故やヒヤリハットの報告書を外部の委員会に出す前に、利用者や職員の名前を伏せる仕事に当てはまります。過去に手で伏せた報告書を例にして名前や住所を自動で見つけ、迷いの残る箇所だけ人が見ます。虐待に関わる報告書のように繊細なものは、全部を人が見るように分けておきます。
フランスの破毀院は、判決文の名前などを深層学習で見つけて伏せる仕組みを、2020年に本番に入れました。2022年末には、過去の分も含めて約68万6000件の判決を無料で公開しています。数字は破毀院自身のもので、本番での見落としの割合は公開されていません。
