最新記事

AI

MITメディアラボ所長 伊藤穰一が考える「社会参加型人工知能 」

2016年7月7日(木)16時50分
伊藤穰一

人工知能 (AI) は裁判官の仕事を奪えるのか? Photo by wp paarz via Flickr - CC BY-SA

<人工知能 (AI)が、ますます社会の重要な分野に進出した時、社会にどう監査され、コントロールされるかという問題は、最も重要な領域となるかもしれない> 

社会参加型 (society-in-the-loop) 機械学習とは

 社会参加型 (society-in-the-loop) 機械学習という用語を使うのをぼくが初めて聞いたのは、イヤド・ラフワンがそれを口にしたときだった。かれはScience に掲載されたばかりの論文を説明していたところで、その論文は自動運転車に人々がどんな判断を行ってほしいと思うかについて世論調査を行うというものだった----哲学者たちが「トローリー問題」と呼ぶものの現代版だ。

 この考え方は、世間の優先順位や価値観を理解することで、社会が倫理的と考えるやり方で機械が振る舞うように訓練できるというものだ。また、人々が人工知能 (AI) とやりとりできるようにするシステムを作って、質問をしたり行動を見たりすることで倫理を確かめてもいい。

【参考記事】MITメディアラボ所長 伊藤穰一が考える「AI時代の仕事の未来」

 社会参加型 (society-in-the-loop) 機械学習は、人間参加型 (human-in-the-loop)機械学習を拡張したものだ----人間参加型 (human-in-the-loop)機械学習機械学習は、メディアラボのカルシック・ディナカールが研究してきたもので、AI研究の重要な一部として台頭しつつある。

 ふつう、機械はAIエンジニアたちによって、大量のデータを使い「訓練」される。エンジニアたちは、どんなデータを使うか、どう重み付けをするか、どんな学習アルゴリズムを使うか、といった各種パラメータをいじって、正確で効率よくて正しい判断をして正確な洞察を与えてくれるようなモデルを作り出そうとする。

 問題の一つは、AIというかもっと厳密には機械学習がまだとてもむずかしいので、機械を訓練する人々は通常、その分野の専門家じゃない。訓練するのは機械学習の専門家で、学習後に完成したモデルを試験するのも専門家であることが多い。

 大きな問題は、データの中のバイアスやまちがいは、そうしたバイアスやまちがいを反映したモデルを作り出す、ということだ。こうした例としては、令状なしの身体捜索を許容する地域からのデータだ----その標的になったコミュニティはもちろん、犯罪が多いように見えてしまう。

 人間参加型 (human-in-the-loop)機械学習機械学習は、専門家とのやりとりを通じて学習する機械を作り出すことにより、その分野の専門家が訓練をやるか、少なくとも訓練に参加できるようにすることだ。人間参加型 (human-in-the-loop)コンピューティングの核心にある発想は、モデルをデータだけから構築するのではなく、そのデータについての人間的な視点からもモデルを作るということだ。

 カルシックはこのプロセスを「レンズ化 (lensing)」と呼んでいる。つまりある領域の専門家が持つ人間的な観点またはレンズを抽出し、訓練期間中にデータと抽出されたレンズの両方から学ぶようにするわけだ。これは確率的プログラミングのためのツール構築と、機械学習の民主化の両方にとって意味があることだとぼくたちは思っている。

機械が裁判官の仕事を奪うという可能性について議論した

 哲学者、聖職者、AIや技術の専門家たちとの最近の会合では、機械が裁判官の仕事を奪うという可能性について議論した。データがらみのことなら機械がとても正確な評価を下せるという証拠はあるし、裁判官が決める保釈金の額や仮釈放の期間といったものは、人間より機械のほうがずっと正確にできると思うのは無理もないことだ。

 さらに、人間の専門家は適切に保釈金額を決めたり仮釈放の判断をしたりするのが苦手だという証拠もある。仮釈放判定委員会による聴聞が昼ご飯の前か後かで、結果にはかなりの影響が出てしまう(この論文で引用された研究についてはいくつか批判があり、論文著者たちはそれに対して答えている)。

 議論の中で、一部の人はある種の判断、たとえば保釈金額や仮釈放などを裁判官ではなく機械に任せてはどうかと提案した。哲学者と聖職者数名は、それが効用主義的な観点からは正しく思えても、社会にとっては裁判官が人間だというのが重要なのだと説明した。そのほうが「正しい」答えが出るよりも大事なんだという。

 効用を重視すべきかという問題はさておき、どんな機械学習システムだろうと、社会が受け入れるかどうかはとても重要になるし、この観点に取り組むのは不可欠なことだ。

関連ワード

ニュース速報

ワールド

米が9年ぶり有人宇宙飛行、初の民間船をISSへ

ワールド

特別リポート:なぜブラジルは「コロナ感染大国」に転

ワールド

暴動に発展のミネソタ黒人死亡事件、殺人容疑で元警官

ビジネス

訂正-米FRB、社債買入制度通じた27日時点のET

MAGAZINE

特集:コロナ不況に勝つ最新ミクロ経済学

2020-6・ 2号(5/26発売)

意思決定の深層心理から人間の経済行動を読み解く── コロナ不況を生き残るため最新の経済学を活用せよ

人気ランキング

  • 1

    中国請負の高速鉄道建設が工期遅延に予算超過 インドネシア、入札に敗れた日本の参加要望

  • 2

    ロンドンより東京の方が、新型コロナ拡大の条件は揃っているはずだった

  • 3

    韓国、アイドルファンも抗議デモ 愛すればこそ、裏切られた怒りは激烈

  • 4

    「集団免疫」作戦のスウェーデンに異変、死亡率がア…

  • 5

    デーブが語る、『テラハ』木村花さんの死は何が問題…

  • 6

    ミネアポリスの抗議デモが暴動に......略奪から店舗…

  • 7

    過激演出で話題のドラマ、子役2人が問題行動で炎上 …

  • 8

    新型コロナの死亡率はなぜか人種により異なっている

  • 9

    ギター人気復活を導く「スーパークール」な和製ギター

  • 10

    コロナ禍で制約を受けるアメリカの日常は、黒人にと…

  • 1

    東京都、新型コロナウイルス新規感染14人に急増 緊急事態宣言解除の目安、3項目中2項目が基準下回る

  • 2

    「イギリスが香港のために立ち上がらないことこそ危機だ」パッテン元総督

  • 3

    過激演出で話題のドラマ、子役2人が問題行動で炎上 背景には韓国の国民性も?

  • 4

    新型コロナの死亡率はなぜか人種により異なっている

  • 5

    「集団免疫」作戦のスウェーデンに異変、死亡率がア…

  • 6

    ギター人気復活を導く「スーパークール」な和製ギター

  • 7

    ロンドンより東京の方が、新型コロナ拡大の条件は揃…

  • 8

    北朝鮮の民間経済を圧迫する独裁者の国債

  • 9

    気味が悪いくらいそっくり......新型コロナを予言し…

  • 10

    東京都、新型コロナウイルス新規感染15人 2桁台で3…

  • 1

    「集団免疫」作戦のスウェーデンに異変、死亡率がアメリカや中国の2倍超に

  • 2

    気味が悪いくらいそっくり......新型コロナを予言したウイルス映画が語ること

  • 3

    金正恩「死んだふり」の裏で進んでいた秘密作戦

  • 4

    スズメバチが生きたままカマキリに食べられる動画が…

  • 5

    過激演出で話題のドラマ、子役2人が問題行動で炎上 …

  • 6

    コロナ禍で露呈した「意識低い系」日本人

  • 7

    日本の「生ぬるい」新型コロナ対応がうまくいってい…

  • 8

    コロナ独自路線のスウェーデン、死者3000人突破に当…

  • 9

    優等生シンガポールの感染者数が「東南アジア最悪」…

  • 10

    ロックダウンは必要なかった? 「外出禁止は感染抑…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
CCCメディアハウス求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
Wonderful Story
メールマガジン登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

絶賛発売中!

STORIES ARCHIVE

  • 2020年6月
  • 2020年5月
  • 2020年4月
  • 2020年3月
  • 2020年2月
  • 2020年1月