「Chat GPTは人を裁けるか――」“現役弁護士作家”は東大「AI模擬裁判」をどう見た？
Chat GPTなどの生成AIが世間をにぎわせる中、東京大学法学部の学生らが「機械に人は裁けるか」を問うAI模擬裁判を、東大の文化祭「五月祭」で実施した。
このイベントは、Chat GPTに裁判官の役割を担わせ、緻密に練られた事件の判決を出させるもので、主催の岡本隼一さんによれば「複雑に入り組んだ事実関係をAIが判断できるか、また、人間的な情緒を持って判決を出せるか」を問う社会実験だ。
イベントは東大の安田講堂で開催され、YouTube上でも同時生配信された。当日は雨にも関わらず700人以上の観客が詰めかけAI裁判官の判決を見守った。また、判決前に有罪か、無罪かをアンケート集計し、観客参加を促すことでAIによる判断の是非を考えさせるという趣向を凝らしていた。
この模擬裁判を、『法廷遊戯』（講談社）などで知られる、現役弁護士で気鋭のミステリー作家である五十嵐律人氏も傍聴した。果たして、弁護士の目にはAI裁判官の仕事ぶりはどう映ったのか。話を聞いた。
模擬裁判のあらすじ
事件は、とあるホテルでの殺人事件。被害者の一ノ瀬は、1年前まで被告である二村と付き合っていたが破局。二村は三井という男性と新たに交際を始めたが、一ノ瀬は遺恨からリベンジポルノを広めると二村を脅迫。二村はそのことを三井に相談すると、三井は自分が何とかすると言い、二村に一ノ瀬をホテルに呼び出すよう告げる。ホテルに赴いた一ノ瀬は、待っていた三井に「二村から手を引け、それとも痛い目にあいたいか」と脅される。一ノ瀬は激高し、花瓶で三井に殴りかかり、三井は所持していたナイフで一ノ瀬を刺した。一ノ瀬は失血性ショックで死亡し、三井は遺体を放置したままホテルを後にした。
AI裁判官は“人間的な”判決をくだせたのか
AI模擬裁判を実際にご覧になって、全体としてどう感じましたか。
五十嵐：模擬裁判のクオリティーがシナリオも演技も演出も学生とは思えないレベルでした。その上でAIが裁判官をやるということで集客力の高いイベントになっていたと思います。裁判の中でどの部分をAIが担うのか、どこから人間が担うのかの線引きも、たとえば控訴審では人間の裁判官が裁きますという結末になっていましたが、こういう部分もとてもうまいと感じました。
この模擬裁判は、AIに独自の判断で判決を下してもらうという試みでしたが、AIに事務処理的なことをやってもらうという選択肢もある中で、あえてそこに注力して手続きなどの説明は人間がやっていたのも面白いですね。
AI裁判官による質問や判決内容は妥当だと思われましたか。
五十嵐：判決には主文と過程の部分があり、主文は短くていいのですが、判決にいたった理由の説明がやや不足していた印象です。裁判は、「どんな証拠や証言があってそれらをどう評価したのか」、「検察と弁護側どちらの主張を採用したのか」などに基づいて結論を出すわけです。だから、今回のような複雑な事件であれば、判決文は通常何十枚にも渡る長さになりますが、今回はA4二、三枚くらいの内容だったので、AIが何をどう判断して結論を導き出したのかをもう少し知りたいなと思ってしまいました。この過程の説明について、AI裁判官はもう一歩足りなかったかなと。
ただ、今のところAIに何ができるのかわからない状況で、実際にこうして裁判官をやらせてみんなで議論することは、今後必ず役に立つことだと思いますので、非常に有意義な試みだったと思います。
主催者の岡本さんはシナリオ作りに際し、複雑に入り組んだ事実をAIが分析できるか、人間らしい情状酌量が判断できるかを重視したと仰っていましたが、その点についての評価はいかがですか。
五十嵐：今回の事案は、法的な論点がいくつか重なり、事実関係も入り組んでいて複雑であるというのは間違いありません。ただ、さっきも言ったようにその複雑な事実のどの部分を評価したのか、そのプロセスをAIがどう分析したのかが、人間からすると不透明です。
「情状酌量の判定」については、有罪判決のシナリオならもっとはっきり評価できたのではないかと思います。有罪なら次は量刑判断となり、被告がストーカー被害を受けていたという点を、AIがどう判断するのか見たかったですね。
それと、被告や被害者に対する裁判官質問では人間的な部分も試されます。経験ある人間の裁判官なら、被害者の心情にも配慮しながら質問する方法を心得ているのですが、AIにはそういう気遣いがあまり感じられませんでした。それはある意味AIらしいというか、人とAIの違いが浮き彫りになってこれはこれで面白かったです。
被告役の学生に、AI裁判官が「判決」とその理由を言い渡す。（弁護士JP編集部）AIの人間的な情緒という点については、五十嵐先生の小説『原因において自由な物語』に、「法律相談にくる人の中には、ただ共感を求めている人も多くいる。完璧な聞き上手のAIが発明されて、人間に機械との対話を是とする価値観が形成されない限り、弁護士の仕事はなくならない」という言及があります。弁護士の仕事についても、やはり人間的な情緒が大事だということですか。
五十嵐：その描写はAIに答えを出せないという意味ではなく、人間側の受け入れる態勢の問題だということを伝えたくて書きました。AかBかで悩んでいて背中を押してほしいという場合、それは寄り添ってほしいということだと思うんです。どれだけ相づちがうまいAIが出てきても、「相談する相手として人間は人間を求める」のではないか、だからこそ、法律相談は「相談」と呼ばれるのだろうし、優秀なAIよりも少しポンコツな人間の方が相談相手には良いということもあると思うんです。
弁護士業としてはAIの活用法はどのようなことが考えられますか。
五十嵐：たとえば、相談者の相談内容を弁護士がChat GPTなどの生成AIに打ち込んで、その答えを読み上げるという使い方も可能性としてはあり得ると思います。答えを発するのが機械か人間かというだけで、受け止め方が変わってしまうのは人間側の価値観でしかないので、その価値観が今後変わるのかどうか、気になる部分でもあるし、楽しみな部分でもあります。
Chat GPTはプロンプトの入力次第でキャラクターづけをすることも可能です。今回の模擬裁判ではそういう人格的なデザインにまでは踏み込んでいませんでしたが、そういう点を改善すれば、人間の受け止め方も変わるかもしれませんね。
五十嵐：それはあり得ると思います。
裁判官の「人材不足」は深刻だが…
模擬裁判をご覧になって、現状でAIに裁判の過程で何かを任せられると感じましたか。主催者である岡本さんは「判断が比較的容易な裁判に導入することで、裁判官の人材不足問題に貢献できるのでは」という意見をお持ちのようです。
五十嵐：「判断が容易な裁判」をどう切り分けるかは難しい問題です。裁判になる事案は、それまでの話し合いで決着しなかったから裁判まで行くわけですし、簡単だと思って蓋（ふた）を開けてみれば複雑だったということもあります。ただ、裁判官の人材不足は確かに深刻で、1人あたりが抱えている事件数がとんでもない数になっているというのはよく聞きます。裁判官採用については国家予算が決まっているので、そもそも大量採用できないという問題があります。
では、AIを実際の裁判に導入するのは難しいでしょうか。
五十嵐：簡単な裁判であっても、全てをAIに任せることは当分できないと思いますが、人間の裁判官の“補助役”としては現時点でも十分役に立つと思います。裁判官の仕事は、過去の判例や文献を探したり、何十ページにもなる判決文の文章を推敲したりという「事務処理」が膨大にあるので、AIにそういう仕事を手伝ってもらうことは可能じゃないでしょうか。
情緒的判断などより、事務処理の方が活用できそうだと。
五十嵐：事務処理と判断には表裏一体な部分もあります。たとえば、有罪判決の場合、量刑を決めるために過去の同種の判例を参考にします。そういう判例探しをAIにやらせて、量刑を決めるならそれはある意味AIが量刑判断したとも言えます。ただ、過去の判例というのは人間が判断してきたものの集積ですから、それは純粋なAIによる判断とも言えない。岡本さんは、今回のトライに際して、過去の判例をあえて覚えさせずに条文だけをプロンプトに入力してAIに判断させています。これはこれで面白い試みですが、人間の裁判官が事務処理的にAIを活用するのが現時点では現実的ではないかと個人的には思います。
AIを裁判に導入することで起きそうなデメリットには何が考えられるでしょうか。
五十嵐：やはり、AIが間違った判断をするかもしれない、その時にダブルチェックできるかという問題ですね。全ての判断を人間がダブルチェックするなら、むしろ事務処理が増える可能性もあるので、そうなるとAIを導入するメリットが希薄になります。
AI時代に生き残れる小説家とは？
五十嵐先生は小説家としても活躍されていますが、小説家としてはAIをどう活用できると考えていますか。
五十嵐：今模索中です。ひとつには編集者としての役割があると思っています。原稿をAIサービスに流し込むと感情曲線とか起承転結とか簡易的な校閲をすごいスピードで出してくれるものがあるようですし、人間の編集者だとお互いに気を使って言えない部分も、AIならはっきり指摘してくれます。
ミステリー作家的には、トリックを考える際に参考にできるかもしれないと思っていて、思いついたトリックが過去に使われた例はあるかとか、密室状況からどう脱出できるかとか、そういうことを検討するには使えるかもしれないと思っています。
AI時代に生き残れる作家と苦しくなる作家はどんなタイプか、何か見解はお持ちですか。
五十嵐：これは答えるのが難しいですね。作家の強みにはいろいろなタイプがあります。キャラクターなのか、ストーリー展開なのか、独特の文体なのか。文体はどこまでAIが模写可能なのかわかりませんし、ストーリー作りはどこまでAIが担うことができるのかという問題もあります。
プロンプト次第で文体を真似（まね）することもChat GPTにはできるようですが、そうなると文体にクセのない人の方が生き残りやすいのだろうかとか、いろいろと考えるのですがAIの進化や規制の方向性次第で変わってくるでしょうから、これからどうなるか注視し続けようと思います。
取材協力弁護士
- この記事は、公開日時点の情報や法律に基づいて執筆しております。
編集部からのお願い
