最新記事

AI

MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」

2016年7月7日（木）16時50分
伊藤穰一

　この懸念に対処する方法は二つある。一つは「人間参加型 (human-in-the-loop)」にして、人間の裁判官の能力を補ったり支援したりするのに機械を使うというものだ。これはうまくいくかもしれない。その一方で、医療や飛行機の操縦といったいくつかの分野の経験を見ると、人間は機械の判断を取り消してまちがった判断を通してしまうことがあり、一部の場合には人間が機械の判断を取り消せないようにしたほうがいい。でも人間が投げやりになったり、結果を盲目的に信用するようになったりして、機械にすべて任してしまう可能性もある。

　第二の方法は、機械を世間によって訓練させること（社会を参加させる）だ----人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練してもらえばいい。これは前例がないことではない----多く意味で、理想的な政府は、それが十分に物事を理解しており、熱心だと人々が思っているので、それが自分を代弁していると感じ、そして政府の行動に対して自分が最終的に責任を負うと感じるようなものだ。

社会が機械の価値観や行動を試験し、監査する手法が必要

　社会が訓練できて、社会が信用できるほど透明性があるようにすることで、社会の支持と代弁能力を獲得できる機械を設計する方法があるのかもしれない。政府は、競合して対立する利害と対処できているし、機械だってそれができるかもしれない。もちろんややこしい障害はたくさんある。たとえば伝統的なソフト（コードは一連のルールだ）とはちがい、機械学習モデルはもっと脳みたいなものだ----一部だけを見て、それが何をするか、今度どう動くかをずばり理解するのは不可能だ。社会が機械の価値観や行動を試験し、監査する手法が必要だ。

　この機械の究極の創造者にしてコントローラーとしての社会からインプットを得て、そしてその支持を得る方法を編み出せれば、それはこの司法問題の裏面も解決するかもしれない----人間が作った機械が犯罪を犯したらどうするか、という問題だ。
　
　たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか。

　機械が社会からの入力をどのように得て、社会によりどう監査されコントロールされるかという問題は、人命を救い正義を実現するために人工知能を導入するにあたり、開発されるべき最も重要な領域となるかもしれない。それにはおそらく、機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ。


Credits
*イヤド・ラフワン (Iyad Rahwan) - 「社会参加型 (society-in-the-loop)」など多くのアイデアについて
*カルシック・ディナカール - 「人間参加型 (human-in-the-loop)」機械学習について教えてくれたことと、ぼくのAIの先生となってくれたこと、その他のアイデアについて
*アンドリュー・マカフィー (Andrew McAfee) - 仮出所審査委員会についての研究紹介と考え方を教えてくれた
*ナタリー・サルティエル - 編集作業
*訳：山形浩生
CC BY 2.1 JP

この記事は、JOI ITO ブログからの転載です。


joi2.jpg伊藤穰一
MITメディアラボ所長。株式会社デジタルガレージ共同創業者で取締役。ソニー株式会社社外取締役。The New York Times、Knight財団、FireFox 開発の Mozilla Foundationのボードメンバー。 2008年米国Business Week誌にて「ネット上で最も影響力のある世界の25人」、2011年米国Foreign Policy誌にて「世界の思想家100人」、2011年英オクスフォード大学インターネット研究所より特別功労賞受賞。
Photograph of Joichi Ito by Mizuka. CC BY 2.0

今、あなたにオススメ

関連ワード

ニュース速報

ビジネス

再送（11日配信記事）豪カンタス、ＬＣＣのジェット
2025.06.16

ビジネス

豪当局、証取ＡＳＸへの調査拡大　安定運営に懸念
2025.06.16

ワールド

豪首相、ＡＵＫＵＳの意義強調へ　トランプ米大統領と
2025.06.16

ワールド

イラン、イスラエル北部にミサイル攻撃　「新たな手法
2025.06.16
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：非婚化する世界
特集：非婚化する世界
2025年6月17日号（6/10発売）

非婚化・少子化の波がアメリカもヨーロッパも襲う。世界の経済や社会福祉、医療はどうなる？

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「タンパク質」より「食物繊維」がなぜ重要なのか？...「がん」「栄養」との関係性を管理栄養士が語る
  • 2
    ブラッド・ピット新髪型を「かわいい」「史上最高にかっこいい」とネット絶賛　どんなヘアスタイルに？
  • 3
    「サイドミラー1つ作れない」レアアース危機･第3波でパニック...中国の輸出規制が直撃する「グローバル自動車産業」
  • 4
    サイコパスの顔ほど「魅力的に見える」？...騙されず…
  • 5
    林原めぐみのブログが「排外主義」と言われてしまう…
  • 6
    若者に大不評の「あの絵文字」...30代以上にはお馴染…
  • 7
    メーガン妃とキャサリン妃は「2人で泣き崩れていた」…
  • 8
    さらばグレタよ...ガザ支援船の活動家、ガザに辿り着…
  • 9
    ハルキウに「ドローン」「ミサイル」「爆弾」の一斉…
  • 10
    構想40年「コッポラの暴走」と話題沸騰...映画『メガ…
  • 1
    庭にクマ出没、固唾を呑んで見守る家主、そして次の瞬間...「信じられない行動」にネット驚愕
  • 2
    大阪万博は特に外国人の評判が最悪...「デジタル化未満」の残念ジャパンの見本市だ
  • 3
    「セレブのショーはもう終わり」...環境活動家グレタらが乗ったガザ支援船をイスラエルが拿捕
  • 4
    ブラッド・ピット新髪型を「かわいい」「史上最高に…
  • 5
    「サイドミラー1つ作れない」レアアース危機･第3波で…
  • 6
    ファスティングをすると、なぜ空腹を感じなくなるの…
  • 7
    今こそ「古典的な」ディズニープリンセスに戻るべき…
  • 8
    右肩の痛みが告げた「ステージ4」からの生還...「生…
  • 9
    アメリカは革命前夜の臨界状態、余剰になった高学歴…
  • 10
    脳も体も若返る！ 医師が教える「老後を元気に生きる…
  • 1
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害と環境汚染を引き起こしている
  • 2
    【定年後の仕事】65歳以上の平均年収ランキング、ワースト2位は清掃員、ではワースト1位は？
  • 3
    日本はもう「ゼロパンダ」でいいんじゃない？ 和歌山、上野...中国返還のその先
  • 4
    一瞬にして村全体が消えた...スイスのビルヒ氷河崩壊…
  • 5
    庭にクマ出没、固唾を呑んで見守る家主、そして次の…
  • 6
    大爆発で一瞬にして建物が粉々に...ウクライナ軍「Mi…
  • 7
    「ママ...！」2カ月ぶりの再会に駆け寄る13歳ラブラ…
  • 8
    あなたも当てはまる？ 顔に表れるサイコパス・ナルシ…
  • 9
    ドローン百機を一度に発射できる中国の世界初「ドロ…
  • 10
    【クイズ】EVの電池にも使われる「コバルト」...世界…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中