フェイスブックの辣腕AI交渉人は、相手の心を読みウソもつく

Tawatdchai Muelae/iStock.

＜「外交官ボット」のデビューも近い？　進化を続ける人工知能がもたらす不気味な未来＞

フェイスブックが開発している人工知能（AI）は、すご腕の交渉人らしい。私たちには理解できない言語を話し、ウソもつく。まさか「AIトランプ」でも製造しているのだろうか。

同社のAI研究チーム「FAIR」は先頃、人間や他のAIと交渉できるチャットボット（自動会話プログラム）を開発したと発表した。AIの可能性に興味をかき立てられるが、同時に不気味な不安も湧き上がる。人間のふりがうまくなり過ぎて、プログラムなのか人間なのか区別がつかなくなったら......。

インターネット上で人間の代わりに旅行の計画を立てて予約を取り、腕のいい水道工事業者を探し出す「AIアシスタント」は、開発者の長年の夢。小売サイトで支払いを代行するだけの受け身の作業にとどまらない、有能な「交渉人ボット」だ。

8月にオーストラリアのメルボルンで開催された「国際自動交渉エージェント競技会（ANAC）」は、今年で早くも第8回。テーマの1つは、「さまざまな状況で、見知らぬ相手と熟練した交渉ができる実用的な交渉エージェントの設計を促進する」ことだ。

「外交戦略ゲーム」部門では、20世紀初頭のヨーロッパを舞台にボットが本物さながらの外交交渉を競い合った。レックス・ティラーソン米国務長官のボットと北朝鮮の金正恩（キム・ジョンウン）国務委員長のボットが、地球の運命を交渉する日も近いのだろうか。

現在のAIは人間との短い対話やレストランの予約などの単純作業はこなすが、微妙な駆け引きを重ねて合意に達することはできない。

これを実現するには、人間と同じように「交渉」するスキルが必要だ。すなわち、相手の性格や意図を想像して反応を予想し、行間を読んで、人間の言語を流暢に操り、時にははったりもかける。

これらの能力を習得する方法も、AIが自力で学ぶ。FAIRの研究者が作成した機械学習のソフトウエアは、人間やほかのボットと練習を積みながら交渉の手法を改良している。

注目すべき点は、練習相手を務めた人間の大半が自分がボットと話していることに気が付かなかったことだ。AIと人間のアイデンティティーの混同は既に起きているようだ。

FAIRが開発したAIは人間の交渉人と同じくらいの頻度で有利な交渉をまとめられるようになったが、その過程でウソをつくことも覚えた。「（ウソをつく）行為はプログラミングしたのではなく、目標を達成する手段の1つとしてボットが見いだした」と、FAIRの研究者はブログに書いた。いずれは道徳的な指針をプログラミングする必要があるだろう。