最新記事

ビッグデータ

「パナマ文書」解析の技術的側面

2016年4月12日（火）18時25分
大野圭一朗

テキストデータへの変換

　この記事によれば、画像の多くは紙の書類をスキャンしたものだったようで、そこから文字情報を引き出そうとする場合、OCRという技術が必要になります。OCRとは要するに画像から文字を認識して切り出す技術です。日本でもユーザーの多いEvernoteなどでも利用されている技術です。写真に写った飲み物のラベルの文字が文字列検索で引っかかることがあると思いますが、あの技術のことです。最近はラップトップと家庭用スキャナの組み合わせでも行うことができる、広く普及した技術です。ただし今回は画像の数が膨大なため、時間を短縮するために、商用クラウドコンピューティングサービス（要するに計算機の時間貸し屋さんです）であるAmazon Web ServiceのEC2を使ったようです。どのインスタンスタイプかまでは確認できませんでしたが、30台から40台のEC2インスタンスを用いて、ひたすら画像データを文字情報に変換する作業をまず行いました。

データのグラフ化

　OCRによるテキスト化を行うと、ひとまず計算機上での扱いは容易になります。極端な事を言えば、テキストで保存してある限り、それをエディタで開いて文字列検索することでも、ある程度は何が書いてあるかを読めるようになります。しかし詳細な調査には最終的にはスキャンされた書類や会計報告などを専門家が読み込む必要があり、人や企業のネットワークから、キーワード検索でさらに詳細を調べられるようにしなくてはなりません。それを構築するために用いられるのが全文検索エンジンと呼ばれるものです。実際に使われたものはApache Solrで、メタデータやテキストの切り出しにはTikaが使われました。これらを利用し、彼らはまずファイルの集合からメタデータを切り出しました。ここでいうメタデータとは、ファイルタイプやタイムスタンプなどで、これをインデックス化することにより大量のファイルがより検索しやすくなります。

　しかし、今回のデータにはおよそ215,000もの会社（おそらく多くがペーパーカンパニー）が含まれており、そこを流れるカネを分析するためにはもう一工夫が必要です。ある会社の会計報告や登記簿を読んでいる場合、その会社の関係者、そしてその会社に関連する他の企業などのつながりを見られるようになれば、カネの流れを把握するのに大いに役立ちます。もちろんこれは文章でも表現できます。例えば専門家は今回の文書を実際に読むことにより以下のような情報を得たとします:

・A社の現在の社長はx氏
・A社はB社の取締役であるY氏によって設立された
・Y氏は『A社』というキーワードが大量にヒットするメールをZ氏に頻繁に送っている
・αという住所にA社があり、B社の所在地はβである
・αとβはグランドケイマン島の、γビル内の同じフロアに存在する
・Z氏はγビルのオーナーである

　このレベルのつながりならば、ここから


　X氏とY氏にはA社の創業者とその後継者という繋がりがあり、B社はA社と何らかの繋がりがある。そして会社の登記には名前がないが、Z氏とA社にはY氏を介しておそらく何らかの関係性が存在する。そして両社の所在地から、これらは同一ブローカーが関与して設立されたペーパーカンパニーの可能性がある。そのブローカーはZ氏の可能性がある。


　というような推論が人間にも可能です。ところがこのような繋がりが数十万、数百万というレベルで存在するとどうでしょう。もはやその全体像を人間がこのように文章に書き下して一つづつ把握するのは不可能です。そのために彼らはデータのグラフ化を選択しました。

今、あなたにオススメ
ニュース速報

ワールド

カタール空爆でイスラエル非難相次ぐ、国連人権理事会
2025.09.16

ビジネス

タイ中銀、金取引への課税検討　バーツ4年ぶり高値で
2025.09.16

ワールド

「ガザは燃えている」、イスラエル軍が地上攻撃開始　
2025.09.16

ビジネス

独ＺＥＷ景気期待指数、9月は予想外に上昇　「リスク
2025.09.16
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：世界が尊敬する日本の小説36
特集：世界が尊敬する日本の小説36
2025年9月16日/2025年9月23日号（9/ 9発売）

優れた翻訳を味方に人気と評価が急上昇中。21世紀に起きた世界文学の大変化とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影...目覚めた時の「信じがたい光景」に驚きの声
  • 2
    「二度見した」「小石のよう...」マッチョ俳優ドウェイン・ジョンソンの、あまりの「激やせぶり」にネット騒然
  • 3
    腹斜筋が「発火する」自重トレーニングとは？...硬く締まった体幹は「横」で決まる【レッグレイズ編】
  • 4
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる…
  • 5
    ケージを掃除中の飼い主にジャーマンシェパードがま…
  • 6
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 7
    電車内で「ウクライナ難民の女性」が襲われた驚愕シ…
  • 8
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 9
    「この歩き方はおかしい？」幼い娘の様子に違和感...…
  • 10
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 1
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 2
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影...目覚めた時の「信じがたい光景」に驚きの声
  • 3
    「中野サンプラザ再開発」の計画断念、「考えてみれば当然」の理由...再開発ブーム終焉で起きること
  • 4
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 5
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる…
  • 6
    科学が解き明かす「長寿の謎」...100歳まで生きる人…
  • 7
    「二度見した」「小石のよう...」マッチョ俳優ドウェ…
  • 8
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 9
    埼玉県川口市で取材した『おどろきの「クルド人問題…
  • 10
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 1
    「4針ですかね、縫いました」日本の若者を食い物にする「豪ワーホリのリアル」...アジア出身者を意図的にターゲットに
  • 2
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 3
    「まさかの真犯人」にネット爆笑...大家から再三「果物泥棒」と疑われた女性が無実を証明した「証拠映像」が話題に
  • 4
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 5
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影…
  • 6
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 7
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人…
  • 8
    「中野サンプラザ再開発」の計画断念、「考えてみれ…
  • 9
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 10
    プール後の20代女性の素肌に「無数の発疹」...ネット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中