モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜～金曜6:00～9:00）。4月24日（木）放送のコーナー「リポビタンD TREND NET」のテーマは「補助金交付や保育園の入園審査にAIを活用」。情報社会学が専門の学習院大学・非常勤講師 塚越健司さんに解説していただきました。

※写真はイメージです

◆行政判断のAI活用が進む

政府は各省庁や自治体で、AIが作業の効率化にとどまらず補助金交付や保育園の入園審査に使われる可能性を想定し、説明責任のあり方や決定を不服とする人の救済策など、必要なルール整備に着手しました。

吉田：そこで、行政判断にAIを使うことについて、塚越さんと考えていきたいと思います。

ユージ：塚越さん、補助金交付や保育園の入園審査のような、行政が何かを決定する際にAIを導入する自治体が出てきているようですね。

塚越：東京都は、都民や事業者からの補助金申請の手続きを、AIを使って迅速化します。今年度中に3つの事業の補助金審査にAIを試験導入します。2028年度をめどに、希望する都庁内の各局で本格的な運用をするということです。実際に東京都武蔵村山市は、保育所の選考に関する事務にAIを活用しています。保護者からの申請書をもとに、AIで施設を割り当てます。この選考事務にかかる時間ですが、従来は約107時間かかっていたのが1時間に激減したということで、保護者への通知も2週間以上早まったということです。

やはり自治体も人員不足の問題がありますし、人が選ぶとバイアス(偏り)が発生することもあるので、AIのほうが適していることもあります。

◆「人間の偏見」がAIに反映されトラブルが起きる可能性も

吉田：行政判断へのAIの導入は、これから進んでいきそうですが、ルール整備はどうなるのでしょうか？

塚越：人の場合は偏りが発生すると話したのですが、AIの判断にも偏りが発生する場合があり、それをどうするかが問題です。まず、AIの判定は順位付けの基準やプロセスが明確ではありません。AIが何を基準に判断しているのかが分からない、ブラックボックス化が発生しています。

海外で起こったAIについての問題を例に出しましょう。例えば、白人男性に関する認識は精度が高いのに、女性や黒人の方については精度が低く、彼らのことを誤って犯罪者とAIが認識してしまうことも多く発生しています。いわゆる「マイノリティ」に対する人間の偏見が、AIにも反映されてしまうことが問題になっています。

AIの基準は不明確なので、市民にとっては結果に納得がいかないこともあります。そのため、透明性の確保や説明責任の問題が出ています。私はよく「AIにできないことは『責任を取ること』」だと話していますが、例えば保育園の入園の可否をAIが決める場合、その結果について、理由をどこまで人間が説明するかなどルールを作っておく必要があります。

ユージ：自分が何かに落ちたときの説明が、「すみません、AIが決めたので」だと、確かに納得いかないかなと思います。

塚越：「人間が出てきて説明してくれ」という話ですよね。その点で言うと、不服申立ての制度も必要です。AIの判断に不服がある場合は、従来通りの不服申立てや救済策の仕組みを強化する必要があります。また行政はできる限り、市民に損害が生じた場合の責任救済方法も検討しなければなりません。

さらにいうと、人間の関与を残すことも必要です。AIにすべてを任せるのではなく、個別の事情がある場合や前例がないものに関して、あるいは通常の判断に関しても、最終的には人間がおこなう必要があります。行政としても、どこまでがAIが判断し、どこからは人間が判断するかについて、一定の基準を作っておくことが重要です。

実際に起こった問題として、オランダでは2010年代に育児手当の給付にAIを活用していたら、「あなたは不正に手当を受け取っている」と、移民や低所得者の方を中心に間違って返還要求していた……という事例もありました。こうしたこともあって、フィンランドでは2023年に法改正をして、AIの行政判断にルールをつくり、人間と同じように理由の提示も義務付けました。こういった動きを各国で行っています。

◆AI活用は避けられないが、慎重な判断を

ユージ：塚越さんは、行政判断へのAIの導入、どう思いますか？

塚越：いろいろ懸念も話しましたが、人口も減っていく世の中なので、今後絶対に必要になるだろうと思います。AIの解析が進めば、例えば住民が申請していなくても、「あなたは“補助金交付”に該当していますよ」と、教えてくれてAIが手続きを円滑にやってくれることも考えられます。なかなか時間が作れない方や高齢の方、子育て世代には、AIの恩恵があるのかなと思います。

ちょっと大きな話になりますが、アメリカでは2010年代にロサンゼルスやシカゴの警察で、犯罪が起こりそうな場所を予測したり、将来的に犯罪を起こしたり被害に遭ったりする可能性の高い人をリスト化するなど、SF映画のような取り組みを実際にやりました。これも人種に対する差別的なデータの偏りがあるとのことで、廃止になりました。行政や警察のように力のある組織がAIを使った場合、そこにデータの偏りがあると、取り返しのつかないことになる可能性があります。今は少しずつAIを使いながら、実績を作っていって、それを積み上げていくところから始めていくのが重要じゃないかなと思います。

吉田明世、塚越健司さん、ユージ

＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜～金曜6:00～9:00
パーソナリティ：ユージ、吉田明世