画像生成AIの「人種的偏り」は誰のせい？ 白人男性ばかりが目立つ理由

多くの場合、画像生成ツールは白人の画像を生成する。「貧乏」など特定の単語を入力すると、非白人の画像が出てくる　DALL-E 2ｰSLATE

＜AIツールが提示する画像に白人が多い理由は、手や指をうまく描けない原因と同じかもしれない＞

筆者は最近、人工知能（AI）がなぜ人間の手、特に指を描くのが苦手なのかを調べ始めた。AIがリアルな手をうまく生成できないことは長年の課題だ。ここから分かるのは、テクノロジーをさらに改善する必要があること、そして手や指がとてつもなく複雑なものだということだ。

AIツールのテクノロジーを比較するため、私は5つの画像生成ツールにこんなプロンプト（命令文）を入力した。「けんかの後で手をつなぐ50年間連れ添った夫婦」

使用したのは、話題のチャットボット（自動応答システム）「チャットGPT」を開発したオープンAIが提供する無料ツール「ダリ2」。オープンソースのAIで、無料の画像生成システム「ステーブル・ディフュージョン」を使う「イメージズAI」と「ナイトカフェ」。イメージ素材配信大手シャッターストックの画像生成ツール。そしてステーブル・ディフュージョンのウェブ版サービス「プレイグラウンド」だ。

結果は芳しいものではなかった。不格好な指以上に私の目を引いたのは、カップルが全員白人であること（AI画像①②）。どのツールを使っても、またツール内でどんなスタイルを選んでも、25組ほどのカップルは全て白人だった。

AI画像①　IMAGES.AIｰSLATE

AI画像②　DALL-E2ｰSLATE

データの偏りが原因か

試しにプロンプトに「貧乏」という語を加えてみた。「けんかの後で手をつなぐ50年間連れ添った貧乏夫婦の肖像」

すると初めて非白人（褐色の肌）のカップルが登場した（AI画像③）。アメリカの人口の40％は非白人であり、世界には貧困層ではない褐色の肌の人々が大勢いる。それを考えると、奇妙な感じだ。

AI画像③　DALL-E 2ｰSLATE

では、「けんかの後で手をつなぐ」を「ビーチでほほ笑む」や「レストランで食事する」に置き換えたらどうなるか。基本的には白人のカップルが増えるだけだ（AI画像④）。

AI画像④　STABLE DIFFUSIONｰSLATE

さんざん実験を重ねた末に、ようやく人種の多様性を高めることに成功した。例えばカップルが連れ添った年数を短くしたり、記念日という単語を加えたりすると効果的だった。また、同じプロンプトで白人のカップルが20回以上出た後、黒人カップルの画像が現れることもあった。

しかし、アメリカ社会の実態に近い結果を出すのは予想以上に大変だった。また、アメリカでは新婚カップルの約20％は異人種のカップルだが、その画像を生成するのは5本の指がちゃんとある手の生成と同じくらい難しかった。