最新記事

テクノロジー

AIの思考回路はブラックボックス

2017年8月4日（金）18時15分
ジョン・フランク・ウィーバー（弁護士・作家）

iStock./GETTY IMAGES

＜人工知能が下した判断の根拠を明らかにする動きを加速させる必要がある＞

わが家は今、アマゾン・ドットコムのスマートスピーカー「アマゾン・エコー」にはまっている。なかでもお気に入りは音楽。エコーに搭載されたAIアシスタント「アレクサ」に一声掛ければ、家族の好みに合った曲を流してくれる――大抵の場合は。

ところが先日、思わぬことが起きた。アレクサが選んだのは90年代の一発屋ラッパー、サー・ミックス・ア・ロット。大笑いした後、私は真面目に尋ねた。「アレクサ、どうして？」。優秀なAIが、子供向けの音楽やビートルズを好むわが家にこの曲を薦めた理由を知りたかったのだ。

残念ながら、アレクサはその問いに答えられない。判断の根拠を明らかにする仕様になっていないからだ。

アレクサのようなAIアシスタントや自動運転車、自動会話プログラムなど、AIが自ら学習を重ね、独自の判断を下す自律デバイスが続々と登場している。だがその「思考回路」はブラックボックスで、AIの意外な選択に戸惑わされることもある。

【参考記事】AIを使えば、かなりの精度で自殺を予測できる

しかも、こうしたテクノロジーは司法や健康、さらには生死を左右する判断にまで関与し始めており、場違いな選曲といった笑い話とは比べものにならないほど深刻な影響をもたらしかねない。

そこで注目が高まっているのが「説明を求める権利」だ。AIがなぜこの曲を選んだのか、なぜここで高速道路を降りることにしたのかといった疑問に答えるよう要求する権利のことで、AIの判断プロセスがブラックボックス化している流れを食い止めようとする動きだ。

説明を求める権利は、アルゴリズムの透明性を高める取り組みの一環でもある。透明性が高まれば、AIが差別を助長する選択をしたり、特定の企業を不当に利するような事態を防ぎやすくなる。

この権利を重視する流れが特に顕著なのはEUだ。EUはプライバシー保護の新たな枠組みである「一般データ保護規則（GDPR）」を来年5月に施行予定。ユーザーの個人情報を入手した企業は、その情報をAIが処理するか否かを本人に通知し、AIの判断の背後にあるロジックについて情報提供することが義務付けられる。つまり、AIが個人情報に基づき特定の音楽や通行ルートを推薦するたびに、その根拠を説明する責任が生じる。

次のページ開発者の権利が損なわれる？
今、あなたにオススメ
ニュース速報

ビジネス

米国株式市場＝まちまち、イラン関連報道で一時動揺も
2026.04.03

ビジネス

スペースＸ、ＩＰＯ評価額目標を２兆ドル超に引き上げ
2026.04.03

ビジネス

ＦＲＢ、不確実な経済に対応可能　中東戦争で見通し困
2026.04.03

ビジネス

ＮＹ外為市場＝ドル上昇、トランプ氏演説受け「有事の
2026.04.03
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本企業に迫る サステナビリティ新基準
特集：日本企業に迫る サステナビリティ新基準
2026年4月 7日号（3/31発売）

国際基準の情報開示や多様な認証制度──本当の「持続可能性」が問われる時代へ

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    なぜイスラエルは対イラン戦争を支持するのか...「イラン恐怖」の正体
  • 2
    年金は何歳からもらうのが得？ 男女で違う「最適な受給年齢」
  • 3
    破産申請の理由の4割以上が「関税コスト」...トランプ関税が米国民に与える「破産」の苦しみ
  • 4
    攻撃開始日も知っていた?──イラン戦争を巡る巨額取引…
  • 5
    血圧やコレステロール値より重要？死亡リスクを予測…
  • 6
    日本の男女の賃金格差は世界でも突出して大きい
  • 7
    人口減の自治体を救う「小さな浄水場」──誰もが常に…
  • 8
    先進国が出生数の減少を嘆く必要はない？　「経済的…
  • 9
    「一般市民に敵意なし」...イラン大統領が米国民宛て…
  • 10
    200年前の沈没記録が裏付けられた...捕鯨船を海の藻…
  • 1
    「根底にあるのは怒り」...日本の「3Dプリンター住宅」企業が救う、ウクライナの未来
  • 2
    「水に流す」日本と「記憶する」韓国...気候と地理が育んだ「国民意識の違い」とは？
  • 3
    ヘンリー・メーガン夫妻の豪州訪問に3万6000人超の反対署名...「歓迎してない」の声広がる
  • 4
    記憶を定着させるのに年齢は関係ない...記憶の定着度…
  • 5
    ロシア経済を支える重要な港、ウクライナのものと思…
  • 6
    攻撃開始日も知っていた?──イラン戦争を巡る巨額取引…
  • 7
    映画『8番出口』はアメリカでどう受け止められた？..…
  • 8
    なぜイスラエルは対イラン戦争を支持するのか...「イ…
  • 9
    中国最大の海運会社COSCOがペルシャ湾輸送を再開──緊…
  • 10
    オランウータンに「15分間ロックオン」された女性のS…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 3
    「根底にあるのは怒り」...日本の「3Dプリンター住宅」企業が救う、ウクライナの未来
  • 4
    メーガン妃、娘リリベット王女との新ショット公開...…
  • 5
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 6
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 7
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 8
    「日本より、自分の国（フランス）を心配すれば？」…
  • 9
    米軍も防ぎきれないイランのドローン攻撃──イラン製…
  • 10
    メーガン妃、娘リリベット王女との「お手伝い姿」公…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中