France司法官と弁護士との関係シンポ

3月23日に破毀院で開催されたJournée nationale de la relation magistrat-avocatの第３回シンポは、「拡張された法律家：明日のための倫理とは？」というテーマで、具体的には司法におけるAIの利用に関して様々な立場からの発言があった。

シンポジウムは、企画趣旨、基調講演２つ、そしてパネルディスカッション2つという構成で行われた。

冒頭では、まずChristophe Soulard破毀院院長が企画趣旨を述べた。司法の理念の一つに「人間性」があること（日本法的に言うなら、人間の顔をした司法ということであろうか）を前提に、生成AIの利用にリスクがあること、生成AIが人間に取って代わることはできず、その利用には倫理的な制限が加えられる必要があること、そのためにも法曹養成過程の段階から生成AIの利用とその限界について教育される必要があると強調された。

次に破毀院付き検事長Avocat généralのRémy Heitz検事の基調講演では、生成AIの利用が法律家の能力を飛躍的に高める一方で、直感や感性、良心と人間性に満ちた判断に機械的な計算が取って代わることのないようにしなければならないとし、ハルシネーションや不透明性、情報漏洩のおそれなどを踏まえて、倫理的な原則の必要性と、特に先日亡くなったユルゲン・ハバーマスの対話的倫理に言及して、対話こそが正当かつ公正なものを定義するための深く人間的な手法であるとした。

冒頭発言の最後にThomas Lyon-Caenコンセイユ・デタ・破毀院付き弁護士は、生成AIを利用すべきかどうかという段階からいかに利用するかという段階にあることを踏まえ、生成AIを利用する弁護士がその利用結果に対して検証するなど責任を負うこと、推論し、疑い、説得することは、裁判官や弁護士という人間にしかできない行為であって、生成AIはその代替とはなり得ず、その拡張ができるだけとした。

引き続き、２つのパネルディスカッション（Table ronde）のうちの最初のものは、Soraya Amrani-Mekki教授がモデレーターとなり、生成AIの利用に関する職業倫理déontorogieが議題となった。

メキ教授は、AIの利用が法律家の仕事に大きな変革をもたらし、法律家が本来果たすべき役割が逆に「縮小」する懸念が否定できないとする。欧州EU法に基づいて人間のコントロールが必要であるとしても、AIに依存することで適切に制御する能力自体が損なわれるリスクがあることを警告する。さらに、書記官への権限委譲、判決の定型化、膨大な弁護士書面といった既存の問題がAIにより増大する可能性もある。これらのリスクに対処するための職業倫理が必要だとした。

次にChristian Vigourouxコンセイユ・デタ評議員は、司法におけるAIの利用に関してポジティブなガイドラインを設けることを中心とすべきだと主張した。そしてAIの利用により裁判官が創造性を失って機械的判断にとどまることが最大のリスクだという。

破毀院事務局のSandrine Ziantara裁判官は、Claudeを利用して司法の各職業内で求められている倫理原則を以下の6つにまとめた。

1. AIは支援ツールであり、人間の判断の代替ではない。
2. 法律家の個人的な責任は維持される。
3. AI生成物の体系的な再読と検証の義務。
4. アルゴリズムのバイアスに対する警戒。
5. 機密データおよび個人情報の保護。
6. AIツールに関する継続的な教育の義務。

そして、意外なことに意思決定支援のためにAIを利用することは高リスクだとされても禁止はされていないことから、そのコントロールのための倫理的ガイドラインが必要だとする。

全国弁護士会CNBのHélène Ludic-Baron理事は、弁護士のAI利用における基本姿勢として、既存の弁護士倫理に照らしてAI利用を評価すること、弁護士も依頼者もAI利用を透明化して説明責任とリスク明示を行うこと、依頼者となる市民からの信頼を維持するには「人間的な専門知識をAIに委ねて失うのではなく、AIを使いこなしつつも、人間としての判断、疑い、説得という核心を守り抜くことが重要」だとする。

以上の各発言に引き続き、AIに疑う能力が欠けていることへの懸念、AI利用による効率化に対して「思考の希薄化」や「司法判断の自動化」を招かないよう、倫理的な均衡を保つ必要があること、統計分析や機械翻訳、あるいは判断の根拠となる推論のステップにAIを用いた場合にはAI利用を開示する必要があることなどが議論された。

続いて２つ目のパネルディスカッションは、AIの実務的利用とその影響について焦点を当てて、Sonya DJEMNI WAGNERコンセイユ・デタ・破毀院付き検事長がモデレーターとなった。
モデレーターは、既に3分の2の弁護士が生成AIを利用し、企業内弁護士に至っては80%が使っているという現状、ただし中小規模の法律事務所での利用はそれほどでもない中で、弁護士の間でも格差が広がることを指摘し、司法における実践を明らかにする必要があると指摘した。

最初の発言者は司法省の職員で、名札はマダムであったが男性なので、多分代理出席であるが、データが司法省のサーバーまたは省庁間共通のクラウド内にあり、外部に漏れないことをデータ主権と呼び、これに対して民間の汎用的な生成AIへのアクセスをシャドーAIと呼ぶと、シャドーAIが月に約2万回記録され、機密の保持が危機に瀕しているという。

司法省の開発中のツールは、メールの作成、文書の要約、定型業務の効率化を目的とした事務補助ツールとしての司法省版AIアシスタント、刑事事件の一件記録を要約する刑事アシスタント（ただしこれは裁判官がチェックしないと要約が完成しない仕組みとなっている）、弁護士の書面（conclusion=主張書面）を要約し、争点を整理するツールである民事アシスタントの３つである。そのほか、司法省内部にAI利用の倫理的逸脱を監視する機関をおき、また例えばフランス人らしい名前の当事者名をアフリカ系らしい名前に入れ替えたことによる変化など、差別チェックも行っているという。

次にシャンベリ控訴院のMarie-France Bay 院長は、生成AIが文書の要約や事件の振り分けに関する実務効率化が極めて大きいことを指摘し、弁護士を介さない当事者本人の申請の処理にも威力を発揮すると述べる。

さらにCNB副会長のSerge Deygas 弁護士は、大規模事務所でのAI利用が盛んで個人事務所との格差が広がる懸念に加え、大規模事務所の弁護士によるシャドーAIが問題視されているという。将来的には弁護士が自身の経験やノウハウをAIに学習させ、自分の分身のようなアシスタントを構築するエージェントとしてAIが活用される可能性があり、効率化とともにスキルの伝承の妨げともなりうるという。そしてブラックボックス化に対する懸念と批判を述べた。

最後にパリ弁護士会のAnne-Guillaume Serre 弁護士は、「AIを適切に使うこと」自体が、現代の弁護士の備えるべき専門性の一つとなっているとし、自身の事務所では当事者名の仮名化による機密保持と出力結果の検証とを絶対義務として課しているという。そして、若手弁護士が「AIを使っていません」と嘘をつく状況が最も危険であり、正直に利用を認めた上で、その質を共に検証する文化を作るべきこと、裁判官と弁護士が同じ研修（ENMなど）を通じて、AIの活用限界を共有する「共通の基盤」を作ることを提案した。

ディスカッションでは、AIによる書面の増大の危険への懸念、人間弁護士による口頭弁論の再評価、ハルシネーションの見逃しは職業倫理違反であること、AIが判決文を平易にして市民のアクセスを拡大する可能性などが話題となり、全体として「AIによって拡張された（augmented）法律家は、責任においても拡張されていなければならない」という強いメッセージが発せられた。

以上の内容紹介には、NotebookLMの要約を活用している。