最新記事

テクノロジー

AIの思考回路はブラックボックス

2017年8月4日（金）18時15分
ジョン・フランク・ウィーバー（弁護士・作家）

iStock./GETTY IMAGES

＜人工知能が下した判断の根拠を明らかにする動きを加速させる必要がある＞

わが家は今、アマゾン・ドットコムのスマートスピーカー「アマゾン・エコー」にはまっている。なかでもお気に入りは音楽。エコーに搭載されたAIアシスタント「アレクサ」に一声掛ければ、家族の好みに合った曲を流してくれる――大抵の場合は。

ところが先日、思わぬことが起きた。アレクサが選んだのは90年代の一発屋ラッパー、サー・ミックス・ア・ロット。大笑いした後、私は真面目に尋ねた。「アレクサ、どうして？」。優秀なAIが、子供向けの音楽やビートルズを好むわが家にこの曲を薦めた理由を知りたかったのだ。

残念ながら、アレクサはその問いに答えられない。判断の根拠を明らかにする仕様になっていないからだ。

アレクサのようなAIアシスタントや自動運転車、自動会話プログラムなど、AIが自ら学習を重ね、独自の判断を下す自律デバイスが続々と登場している。だがその「思考回路」はブラックボックスで、AIの意外な選択に戸惑わされることもある。

【参考記事】AIを使えば、かなりの精度で自殺を予測できる

しかも、こうしたテクノロジーは司法や健康、さらには生死を左右する判断にまで関与し始めており、場違いな選曲といった笑い話とは比べものにならないほど深刻な影響をもたらしかねない。

そこで注目が高まっているのが「説明を求める権利」だ。AIがなぜこの曲を選んだのか、なぜここで高速道路を降りることにしたのかといった疑問に答えるよう要求する権利のことで、AIの判断プロセスがブラックボックス化している流れを食い止めようとする動きだ。

説明を求める権利は、アルゴリズムの透明性を高める取り組みの一環でもある。透明性が高まれば、AIが差別を助長する選択をしたり、特定の企業を不当に利するような事態を防ぎやすくなる。

この権利を重視する流れが特に顕著なのはEUだ。EUはプライバシー保護の新たな枠組みである「一般データ保護規則（GDPR）」を来年5月に施行予定。ユーザーの個人情報を入手した企業は、その情報をAIが処理するか否かを本人に通知し、AIの判断の背後にあるロジックについて情報提供することが義務付けられる。つまり、AIが個人情報に基づき特定の音楽や通行ルートを推薦するたびに、その根拠を説明する責任が生じる。

次のページ開発者の権利が損なわれる？
今、あなたにオススメ
ニュース速報

ビジネス

FRB、0.25％の利下げ決定　昨年12月以来6会
2025.09.18

ビジネス

ＦＲＢ独立性侵害なら「深刻な影響」、独連銀総裁が警
2025.09.18

ワールド

核問題巡り平行線、イランと欧州3カ国が外相協議
2025.09.18

ビジネス

ユーチューブ、メディア収益でディズニー超えへ　ＡＩ
2025.09.18
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：世界が尊敬する日本の小説36
特集：世界が尊敬する日本の小説36
2025年9月16日/2025年9月23日号（9/ 9発売）

優れた翻訳を味方に人気と評価が急上昇中。21世紀に起きた世界文学の大変化とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「日本を見習え！」米セブンイレブンが刷新を発表、日本では定番商品「天国のようなアレ」を販売へ
  • 2
    中国は「アメリカなしでも繁栄できる」と豪語するが...最新経済統計が示す、中国の「虚勢」の実態
  • 3
    「二度見した」「小石のよう...」マッチョ俳優ドウェイン・ジョンソンの、あまりの「激やせぶり」にネット騒然
  • 4
    1年で1000万人が死亡の可能性...迫る「スーパーバグ…
  • 5
    【クイズ】世界で最も「リラックスできる都市」が発…
  • 6
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影…
  • 7
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 8
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 9
    中国山東省の住民が、「軍のミサイルが謎の物体を撃…
  • 10
    燃え上がる「ロシア最大級の製油所」...ウクライナ軍…
  • 1
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影...目覚めた時の「信じがたい光景」に驚きの声
  • 2
    「中野サンプラザ再開発」の計画断念、「考えてみれば当然」の理由...再開発ブーム終焉で起きること
  • 3
    「我々は嘘をつかれている...」UFOらしき物体にミサイルが命中、米政府「機密扱い」の衝撃映像が公開に
  • 4
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる…
  • 5
    科学が解き明かす「長寿の謎」...100歳まで生きる人…
  • 6
    「二度見した」「小石のよう...」マッチョ俳優ドウェ…
  • 7
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 8
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 9
    「なんて無駄」「空飛ぶ宮殿...」パリス・ヒルトン、…
  • 10
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 1
    「4針ですかね、縫いました」日本の若者を食い物にする「豪ワーホリのリアル」...アジア出身者を意図的にターゲットに
  • 2
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 3
    「まさかの真犯人」にネット爆笑...大家から再三「果物泥棒」と疑われた女性が無実を証明した「証拠映像」が話題に
  • 4
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 5
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影…
  • 6
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 7
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人…
  • 8
    「中野サンプラザ再開発」の計画断念、「考えてみれ…
  • 9
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 10
    プール後の20代女性の素肌に「無数の発疹」...ネット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中