AIはだませる？──サイバーセキュリティにAIを使う期待と不安

サイバーセキュリティ複合施設

イスラエルでサイバーセキュリティ産業が活発なのは、国民皆兵制度によって男性は3年、女性は2年、大学に入る前に軍務に就き、その過程でサイバーセキュリティに触れる若者が多いからだ。軍務で才能を見いだされた人は大学でさらにその腕を磨き、やがてスタートアップ企業を立ち上げる。失敗も多いが、米国西海岸のシリコンバレーのように失敗を許容する文化がイスラエルにもあり、若者たちはどんどんチャレンジしていく。

ベングリオン大学併設のサイバーセキュリティ複合施設の一棟

ベングリオン大学でサイバーセキュリティを教えるユーヴァル・エロヴィッチ教授は、駅の向こう側にあるベングリオン大学の古いキャンパスから、サイバーセキュリティ複合施設の一角に拠点を移し、内外の企業から多額の資金を受け入れながらラボを運営している。

エロヴィッチ教授が取り組んでいるのは、いわゆるサイバーセキュリティだけではなく、電子戦にも応用できそうな情報空間と物理空間の複合領域である。彼のラボの研究成果は欧米のメディアでも広く取り上げられている。

例えば、飛んでいるドローンが自分の家を覗いているかどうか分かる技術や、まったくネットワークに接続されていないコンピュータのキーボード入力を、FM周波数を使って盗み見る技術といったもので、映画の世界に出て来そうである。

AIはまちがえる

軍で7年間を過ごしてから学界に入ったエロヴィッチ教授は、日焼けした肌とランニングで鍛えた細身の体を保持している。来日したときにも都内でランニングをし、日本の巨大なカラスに驚いたと笑っていた。

エロヴィッチ教授は、AIとの関連でビッグデータは確かに有用であるという。例えば、どうやってポケットから携帯電話を出すかという行動のデータを大量に集めて解析したところ、携帯電話の持ち主が男か女かは簡単に分かるようになったそうだ。携帯電話からいろいろなデータを集めると、持ち主がたばこを吸っているかどうか、パブでどれくらいのアルコールを飲んだかまで推測できるようになる。

エロヴィッチ教授との議論で最もおもしろかったのは、AIはだませるということだ。AIが各所で使われるようになれば、悪者ハッカーたちは確実にAIを騙すことを考えるようになると教授は指摘する。深層学習のプロセスを騙すことはとても原始的なやり方だともいう。我々は、いったん便利なツールを使い始めると、その良いところしか見えなくなる。そこを悪者ハッカーたちは突いてくる。

エロヴィッチ教授は、自分は実践的な人間であり、〇か×かの極端な議論は嫌いだという。AIを使うときには、その限界を理解することが必要だというのが彼の主張だ。