どうして「差別・偏見」を持つ「AI」が生まれるの？ AIによる差別の助長を防ぐ対策は？ 専門家が解説
モデル・タレントとして活躍するユージと、フリーアナウンサーの吉田明世がパーソナリティをつとめるTOKYO FMのラジオ番組「ONE MORNING」（毎週月曜～金曜6:00～9:00）。6月7日（水）放送のコーナー「リポビタンD TREND NET」のテーマは「AIによる差別の助長を防ぐ対策とは？」。情報社会学が専門の城西大学 助教・塚越健司さんに解説していただきました。
◆AIによる差別・偏見の助長を防ぐため…
対話型AI（人工知能）「ChatGPT」を開発したOpenAI社が5月25日、AIが差別や偏見を助長しないようにするために、安全対策を募集すると発表しました。
吉田：塚越さん、まずはこの募集がどのような内容なのか、教えてください。
塚越：ChatGPTは、文章でプロンプト（指示）をすると、AIが人間のような流暢な文章で回答してくれるというものですが、ときには間違った内容も自信満々で回答することがあります。例えば、小説家の名前を尋ねたのにスポーツ選手の名前と間違えたり、世の中にない論文のタイトルを答えたりすることもあります。
ChatGPTを開発するOpenAI社は、差別や偏見の助長を防ぐために「AIが医療や法律について助言するのは、どのような場合に許可されるべきか」といった具体的な課題についての安全対策を講じるために、実験案の募集を開始しました。
要するに、AIが私たちの意思決定をどのようにサポートし、より民主的なAIを作るための実験案を募集しているということです。募集期限は6月24日（現地時間）まで。優れた各実験案には10万ドル（約1,400万円）の助成金を、合計10件分支給する（最大1億4,000万円）と発表しています。
合格者は7月14日（現地時間）の発表予定です。応募は個人でも団体でも可能です。助成金を受けた場合は、さまざまな実験などをおこない、10月に報告書を提出します。研究結果は自由にアクセスできるようになっています。
◆差別・偏見を持つAIが生まれるのはどうして？
ユージ：そもそも、差別や偏見を持つAIは、なぜ生まれるのでしょうか？
塚越：基本的には学習したデータの問題があります。ChatGPTなどの生成AIは大量のデータを学習しているのですが、そのデータに差別的な表現がある場合、ChatGPTがそれを学習するため差別的な文章を書くことがあります。そのため差別や偏見が助長する可能性があると、指摘されています。
より大きな問題もあります。例えば、地球温暖化について心配していたベルギー人のある30代の男性は、ChatGPTとは別の対話型AIとチャットをおこなっていました。そのAIとのチャットにのめり込んでしまった男性に、AIが「なぜ自ら命を絶たないのか」といった返答をすることがありました。こうしたやりとりの後で、その男性は自ら命を絶ってしまったという事例が報告されています。
（自殺を提案したチャットAIは）ChatGPTではないものの、システムは似ています。より精度が高く、話し相手になってくれるAIが、会話のなかでこうした問題を引き起こすのであれば、いろいろな対策が重要になります。
◆差別・偏見を助長しないための対策は？
ユージ：AIが差別や偏見を助長しないようにするための対策について、塚越さんは、どのような対策が必要だと思いますか？
塚越：OpenAI社は以前から、このテクノロジーを規制する必要性を訴えています。先日もアメリカの上院の公聴会に、OpenAI社のサム・アルトマンCEOが出席した際も、AI開発に関して免許制にしたり、第三者機関の監査を受けたりするような制度が必要といったことを述べました。
確かにAIがフェイクニュースを作れないように規制をしたとしても、一定の技術を持つ人がそうした規制を解除してしまえば、犯罪が横行する可能性もあります。それくらい生成AIは潜在的な力をもっているということです。
一方で、技術の開発元が自らの技術規制を訴えるのは珍しいことで、今回のアイデア募集は、自分たちの活動を正当化するためのパフォーマンスという意味合いもあるかもしれません。その影響力を考えると必ずしもそれだけではなく、実際の規制が大切だと思います。
まずはAIに問題のあるデータを学習させないことですが、問題なのは、そうした精査は難しいことです。他にはAIプログラムの調整をおこなうだけでも、差別や偏見を大きく減らすことができます。
例えば、ユーザーの質問に対して1つの回答だけではなく、男性や女性、子どもなど複数の意見を回答するような実験があっても良いと思います。今回の実験案は、そのようなことが言いたいのではないでしょうか。
こうやってさまざまなタイプを増やしていって「差別」や「偏見」を減らしていくことが大事です。AIの問題は、元をたどれば、私たち人間が「差別」や「偏見」を持っており、それをAIが学習することから始まっています。つまり、AIの問題はやはり人間の問題だということを、忘れるべきではないと思います。
＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜～金曜6:00～9:00
パーソナリティ：ユージ、吉田明世
番組Webサイト：https://www.tfm.co.jp/one/
※写真はイメージです
◆AIによる差別・偏見の助長を防ぐため…
対話型AI（人工知能）「ChatGPT」を開発したOpenAI社が5月25日、AIが差別や偏見を助長しないようにするために、安全対策を募集すると発表しました。
吉田：塚越さん、まずはこの募集がどのような内容なのか、教えてください。
塚越：ChatGPTは、文章でプロンプト（指示）をすると、AIが人間のような流暢な文章で回答してくれるというものですが、ときには間違った内容も自信満々で回答することがあります。例えば、小説家の名前を尋ねたのにスポーツ選手の名前と間違えたり、世の中にない論文のタイトルを答えたりすることもあります。
ChatGPTを開発するOpenAI社は、差別や偏見の助長を防ぐために「AIが医療や法律について助言するのは、どのような場合に許可されるべきか」といった具体的な課題についての安全対策を講じるために、実験案の募集を開始しました。
要するに、AIが私たちの意思決定をどのようにサポートし、より民主的なAIを作るための実験案を募集しているということです。募集期限は6月24日（現地時間）まで。優れた各実験案には10万ドル（約1,400万円）の助成金を、合計10件分支給する（最大1億4,000万円）と発表しています。
合格者は7月14日（現地時間）の発表予定です。応募は個人でも団体でも可能です。助成金を受けた場合は、さまざまな実験などをおこない、10月に報告書を提出します。研究結果は自由にアクセスできるようになっています。
◆差別・偏見を持つAIが生まれるのはどうして？
ユージ：そもそも、差別や偏見を持つAIは、なぜ生まれるのでしょうか？
塚越：基本的には学習したデータの問題があります。ChatGPTなどの生成AIは大量のデータを学習しているのですが、そのデータに差別的な表現がある場合、ChatGPTがそれを学習するため差別的な文章を書くことがあります。そのため差別や偏見が助長する可能性があると、指摘されています。
より大きな問題もあります。例えば、地球温暖化について心配していたベルギー人のある30代の男性は、ChatGPTとは別の対話型AIとチャットをおこなっていました。そのAIとのチャットにのめり込んでしまった男性に、AIが「なぜ自ら命を絶たないのか」といった返答をすることがありました。こうしたやりとりの後で、その男性は自ら命を絶ってしまったという事例が報告されています。
（自殺を提案したチャットAIは）ChatGPTではないものの、システムは似ています。より精度が高く、話し相手になってくれるAIが、会話のなかでこうした問題を引き起こすのであれば、いろいろな対策が重要になります。
◆差別・偏見を助長しないための対策は？
ユージ：AIが差別や偏見を助長しないようにするための対策について、塚越さんは、どのような対策が必要だと思いますか？
塚越：OpenAI社は以前から、このテクノロジーを規制する必要性を訴えています。先日もアメリカの上院の公聴会に、OpenAI社のサム・アルトマンCEOが出席した際も、AI開発に関して免許制にしたり、第三者機関の監査を受けたりするような制度が必要といったことを述べました。
確かにAIがフェイクニュースを作れないように規制をしたとしても、一定の技術を持つ人がそうした規制を解除してしまえば、犯罪が横行する可能性もあります。それくらい生成AIは潜在的な力をもっているということです。
一方で、技術の開発元が自らの技術規制を訴えるのは珍しいことで、今回のアイデア募集は、自分たちの活動を正当化するためのパフォーマンスという意味合いもあるかもしれません。その影響力を考えると必ずしもそれだけではなく、実際の規制が大切だと思います。
まずはAIに問題のあるデータを学習させないことですが、問題なのは、そうした精査は難しいことです。他にはAIプログラムの調整をおこなうだけでも、差別や偏見を大きく減らすことができます。
例えば、ユーザーの質問に対して1つの回答だけではなく、男性や女性、子どもなど複数の意見を回答するような実験があっても良いと思います。今回の実験案は、そのようなことが言いたいのではないでしょうか。
こうやってさまざまなタイプを増やしていって「差別」や「偏見」を減らしていくことが大事です。AIの問題は、元をたどれば、私たち人間が「差別」や「偏見」を持っており、それをAIが学習することから始まっています。つまり、AIの問題はやはり人間の問題だということを、忘れるべきではないと思います。
吉田明世、塚越健司さん、ユージ
＜番組概要＞
番組名：ONE MORNING
放送日時：毎週月曜～金曜6:00～9:00
パーソナリティ：ユージ、吉田明世
番組Webサイト：https://www.tfm.co.jp/one/
コンテンツ一覧
おすすめ番組
