WEBからの未来情報マイニング - 情報処理学会 データベースシステム

DEIM 2012チュートリアル
WEBからの未来情報マイニング
NEC 河合英紀
1
アジェンダ
• 背景
• 第1部:未来学
– 未来学の歴史
– 未来予測の手法
• 第2部:未来情報マイニング
– 世の中の「トレンド」のマイニング
– 未来の「イベント」のマイニング
– 予測の「ロジック」のマイニング
• 結論
2
背景:激動の時代
3
「未来の姿」から戦略を考える
あるべき
未来の姿
あるべき
未来の姿
?
目標に対する
中長期戦略
対処療法的改善
現在の
社会
フォアキャスティング
現在の
社会
バックキャスティング
4
ビジネスのための未来予測
• ビジネスの環境変化を予測する
– 市場規模の変化
– 技術動向の変化
– 業界動向の変化
• 自社のビジョンや技術を宣伝する
– IBM 5 in 5
– Microsoft Productivity Future Vision
– Apple Future Vision 1987
• Knowledge Navigator ≒ Siri
5
ビジネスのための未来予測
• ロイヤル・ダッチ・シェル社
– 第一次オイルショック、1986年の
石油価格暴落の可能性を察知
• 1970年には7大メジャー中最弱だっ
たが、1990年には最大に
– ゴルバチェフ登場以前にソ連経
済の崩壊を予見
• ペレストロイカでは、ソ連の天然ガ
スや油田の権益獲得を有利に交渉
6
政府/自治体のための未来予測
• 政策立案
– イノベーション25
• 内閣府
– 新成長戦略
• 経済産業省
– 科学技術イノベー
ション政策
• 文部科学省
– 新事業創出戦略
• 総務省
NEDO,未来の社会に貢献!ナノテク・材料分野のプロジェクト成果を発表,
http://www.nedo.go.jp/news/press/AA5_100082.html
7
大学のための未来予測
• 研究のテーマ設定/資金獲得
– 競争的資金制度
• イノベーション教育
– d.school@スタンフォード大学
– i.school@東京大学
– サマー/スプリングデザインスクール
@京都大学
– イノベーション創出戦略マネジメント
講座@慶応義塾大学
8
未来予測への注目度が高まる[治部,2011]
• 未来予測関連論文の発表件数は増加傾向
• 主なトピックは「企業の未来シナリオ」「国ごとのキーテク
ノロジー戦略分析」「分野別研究戦略分析」「リスク分析」
[治部2011]より
未来予測関連論文件数の推移
9
未来予測関連論文の引用関係
未来を予測する方法
• 占い
• 経験と勘
• 科学的手法:未来学
–統計学、地政学、・・・
10
亀甲獣骨文字@Wikipedia
未来に関する3種類の事象[武藤,2009]
「事件」
• トレンド
– 変化の方向性
「イベント」
• 尐子高齢化、グローバル化
• イベント
「トレンド」
– トレンドの延長線上で生じる出来事
• 米国でのアフリカ系大統領の誕生
• 事件
– トレンドとは無関係で、偶発的な出来事
• アラブの春、東日本大震災
未来予測は、「トレンド」を読み、「イベント」が実現され
るタイミングを推測すること(「事件」は予見できない) 11
未来予測における課題
• 重要な未来予測は突然はじまる
– 大事件⇒未知の情報⇒短期間で分
析/展望
• 幅広い分野の知識が必要
– 特定分野の専門知識+マクロな動
向の知識
• 繰り返し継続的に行う必要がある
– 戦略構築/組織学習の核
12
未来予測への情報学的アプローチ
• 課題に対し、情報学が貢献できること
– 未来予測に必要な情報を素早く網羅的に収集
– ユーザが未知の情報を解りやすく要約/可視化
– 未来予測結果のナレッジベース化と再利用
本チュートリアルの焦点:
Webからの未来情報マイニング
13
アジェンダ
• 背景
• 未来学
– 未来学の歴史
– 未来予測の手法
• 未来情報マイニング
– 世の中の「トレンド」のマイニング
– 未来の「イベント」のマイニング
– 予測の「ロジック」のマイニング
• 結論
14
未来学(Futurology)とは[浜田2005]
• 歴史上の状況を踏まえて、
未来での物事がどう変わっ
ていくかを詳細に調査・推
論する学問分野
• 「予測を当てる」こと自体は
重要ではない
• 「望ましい未来」や「最悪の
シナリオ」など、未来を多角
的に想定し、事前に対策を
立てることが目的
15
未来学の源流[浜田2005]
• 神秘的手段による「神のメッセージ」としての予言
– 死者の書(古代エジプト) B.C. 1400年頃
– アポロン神殿の巫女(古代ギリシャ) B.C. 570年頃
16
死者の書(古代エジプト)@Wikipedia
By [email protected]
Futurists:古代ギリシャ
• ツキジデス(BC460〜BC395)
– 過去の戦争の史実を丹念に積み
重ねることで、未来の戦争に備え
た
• プラトン(BC427〜BC347)
– 理想の社会をいかに実現するか
• ⇒ユートピア論
– 人間の価値観や行動様式を観察、
分析、評価の対象とし、データ収集
と解析の手法を提案
17
中世という暗黒時代
• 人々は聖書と封建主義に従わなければなら
なかった
– 自ら未来を考える力は途絶えた
• 新大陸アメリカの発見(1492年)
– 大航海時代:人口の増加と先進的な武器の開発
• [email protected]
– 実験(冒険)という手法を採用して、実証的に知
識体系を進歩させる科学的思考法が確立
– 人々が「未来」について考える力を取り戻す
18
Futurists:17〜18世紀[浜田2005]
• フランシス・ベーコン
– (1561年〜1626年)
– イギリスの哲学者、神学者
– 『ニュー・アトランティス』
(1627年)
• 架空の島ベンサレムという
科学技術を集結した理想の
社会「ユートピア」を展開。
• 「ソロモンの館」という科学
研究センターが、人間や自
然界の不思議を解明し、人
類が活躍できる領域を無限
に拡大する
フランシス・ベーコン@Wikipedia
19
Futurists:17〜18世紀[浜田2005]
• セバスチャン・メルシエール
– (1740年〜1814年)
– 『西暦2440年』(1770年)
• 18世紀に生きていた主人公が、
目覚めると25世紀に
• 未来の世界を描くことで、当時の
フランスの権威や習慣を厳しく批
判(ローマ法王、結婚制度、教育
制度)
• 母国フランスでは発禁処分。オラ
ンダで匿名で発行⇒ヨーロッパ全
土でベストセラーに
Sebastien Mercier@Wikipedia
20
Futurists:17〜18世紀[浜田2005]
• マルキド・コンドルセ
– (1743年〜1794年)
– フランスの数学者・政治家
– 『人類の進歩の歴史的素描』
(1794年)
• 未来は「知識や情報が主役にな
る」と予言。ヨーロッパ列強による
植民地支配の終焉をも予見
• 技術革新と人間心理の両面か
らの分析を通じて、理論的結論
を導く方法で未来を予測
Marquis de Condorcet@Wikipedia
21
余談:江戸の未来学[萩原1988]
• 恋川春町(こいかわはるまち)
– 『楠無益委記(くすのきむだいき)』(1779年)
• 当時の生活の逆を描いた逆説的な空想未来記
「親父けつくに道楽
をつくし、爺イ婆アの
芸者はやる」
⇒高齢化社会での
元気なお年寄りの姿
を予見
22
未来学元年@1893年[浜田2005]
• 19世紀=「科学技術の発展が人類の将来を明
るく照らしている」という希望が信じられる時代
• シカゴ世界博覧会(1893年)
–
–
–
–
アメリカ大陸発見400周年を記念して開催
テーマ「アメリカの技術発展と世界の未来」
電気が発明された直後⇒「光の教会」パビリオン
アメリカの頭脳を代表する100人が100年後のアメリ
カを予測
• 男女平等社会、テレビ電話の実現、自由貿易の発展
23
Futurists:19世紀〜大戦前[浜田2005]
• ジュール・ヴェルヌ
– (1828年〜1905年)
– フランスの小説家。SFの父
– 『月世界旅行』(1865年)
• 19世紀の科学知識を駆使し
た本格SF小説を確立
• 小説に刺激されて、アルミニ
ウムの実用化や米ソの月面
着陸競争が促された
ジュール・ヴェルヌ@Wikipedia
24
Futurists:19世紀〜大戦前[浜田2005]
• エドワード・ベラミー
– (1850年〜1898年)
– アメリカの小説家
– 『西暦2000年を振り返って』
(1888年)
• ラジオ、電気、空気清浄機など
の文明の機器が人々に快適な
生活を提供。完全雇用が保証
されている。人々は45歳で引退
し悠々自適に生活している。
• 当時25万部の大ベストセラー
に。「ベラミー・クラブ」設立。
エドワード・ベラミー@Wikipedia
25
Futurists:19世紀〜大戦前[浜田2005]
• チャールズ・リケット
– (1850年〜1935年)
– フランスの生理学者
– 『100年後』(1892年)
• 将来の人口増加に関する統計
的予測を実施。100年の間に
ヨーロッパの出生率が順次低
下し、1992年にはアメリカとロ
シアが世界最強の国家になっ
ていると結論
• エネルギーについても、太陽エ
ネルギーや地熱の利用の時代
が来ると述べた
Charles Richet@Wikipedia
26
余談:1901年の報知新聞の予言
日本総研HPより引用 http://www.jri.co.jp/page.jsp?id=7020
27
Futurists:戦後
• 主な流れ:東西冷戦による軍事的未来予測が発展⇒民間に普及
• ハーマン・カーン
– ランド研究所で冷戦下における戦略分析に従事。のちに未来学の研
究機関ハドソン研究所を創設
• ピエール・ワッツ
– シェルでシナリオプランニング法を使い、オイルショックを予測
• ピーター・シュオルツ
– シェルでソ連崩壊後とその対応に関するシナリオを作成
• デニス・メドウズ
– ローマクラブへの報告「成長の限界」で地球資源の有限性を指摘
• アルビン・トフラー
– 「デジタル革命」、「コミュニケーション革命」といった「情報化社会」の
実現を予言。
• ピーター・ドラッカー
– 巨大企業や組織マネジメント、個人の働き方の未来を予測
28
未来の予測手法
•
•
•
•
シナリオプランニング法
デルファイ法
ロードマッピング法
数理モデルシミュレーション法
29
シナリオプランニング法:概要
• 「起こりうる複数の外部環境シナリオ」を考察
し、それに基づいて戦略を案出する手法
• 第二次世界大戦後の米空軍の軍事計画研
究が発祥
• 1970年代、ロイヤル・ダッチ・シェル社が活用
し、石油危機に対処できた
変化要因を
集める
不確かで重要
な要因は?
シナリオを
記述
先行指標
を選択
30
シナリオプランニング法:適用例
• ロイヤル・ダッチ・
シェル
– 「Shell energy
scenarios to 2050」
[Shell,2009]
• IPCC
– 「排出シナリオに関
する特別報告書」
[IPCC,2000]
• 内閣府
– 「首都直下地震災
害からの経済復興
シナリオ作成の試
み」[永松,2010]
出典:IPCC Special Report on Emission Scenarios
シナリオプランニング法:利点と欠点
• 利点
– さまざまな要素をシナリオに取り込める
– 論理構築と発想の飛躍を両方利用出来る
– 因果関係をストーリーとして理解しやすい
• 欠点
– 幅広い分野のトレンドの知識が必要
– 変化要因として何を選択すべきか判断が難しい
– シナリオに仕立てる手間がかかる
32
デルファイ法:概要
• 専門家グループなどが持つ直観的意見や経
験的判断を反復型アンケートを使って、組織
的に集約・洗練する意見収束技法。
• 1950年代に米国のシンクタンクであるランド・
コーポレーションで開発(当初はソ連が必要と
する原子爆弾の数の推定に利用)
[Helmer1967]
対象となる未
来予測を列挙
専門家が実現
可能性を評価
平均値を共有
して再度評価
平均値を共有し
て再々度評価
33
デルファイ法:適用例
• 文部科学省による
技術予測調査
• フランス高等教育
研究省による技術
予測
• イギリス自然環境
リサーチ・カウンシ
ルによるデルファイ
調査の実施
未来技術予測で2040年の実現が見
込まれる有人人月面基地の予想図
(出典:JAXA
http://www.jspec.jaxa.jp/activity/humanlunar.htm
l)
34
デルファイ法:利点と欠点
• 利点
– 専門家の直感に基づく意見を集約できる
– 専門家のコミュニケーションを向上させる
– 定期的な実施で広範な技術情報の集積が可能
• 欠点
–
–
–
–
–
調査に時間とコストがかかる
長期技術予測のパフォーマンスが良いとは言えない
調査結果をどのように利用するかの部分が弱い
なぜそうなるのかの因果関係が不明
調査結果が保守的になりがち
35
ロードマッピング法:概要
• 具体的な達成目標を掲げ、優先順位を付け
た上で達成までの大まかなスケジュールを、
時系列で表現する方法
• 技術ロードマップ
– 未来における科学技術を予想し、達成目標、優
先順位、社会的インパクトを示し、目的達成まで
の道のりを時系列で表現したロードマップ
問題点と目標
の明確化
目標を小目標
に分割
小目標達成の 達成過程を時系
ための具体案
列で表現
36
ロードマッピング法:適用例
• 米国半導体産業による技術ロードマップ
• 米国光通信産業による光通信産業の技術ロードマップ
• 経済産業省によるエネルギー革新技術技術開発ロードマップ
出典:経済産業省 Cool Earth-エネルギー革新技術技術開発ロードマップ
37
ロードマッピング法:利点と欠点
• 利点
– 産官学連携や分野横断で技術計画を作成可能
– 技術発展の時系列的分析は、足りない技術の発
見や技術投資に関する長期的見通しが可能
• 欠点
– 技術の発展について不確実性が大きい場合には
シナリオ法など他の計画手法がふさわしい
– 技術ロードマップの恣意性
38
数理モデルシミュレーション法:概要
• 数学によって記述されたモデルを使って、複
雑なシステムのふるまいをシミュレーションに
よって観察/予測する方法
• ベイジアンモデリング、システムダイナミクス、
マルチエージェントシステム等、多数のモデ
ルが存在
• 実データと照合しモデルの正当性を検証可能
基礎データの
収集
モデルの選択
パラメータの
推定
予測と検証
39
数理モデルシミュレーション法:適用例
• 地球シミュレーターによ
る地球温暖化シミュ
レーション
• MITスローンのシステム
ダイナミクスグループに
よる『成長の限界』[メ
ドウズ,1972]
• AIM モデルによる環境
税導入の影響の試算
年平均地表気温上昇量の地理分布。2071~2100
年の平均気温から、1971~2000 年の平均気温を
引いたもの。
出典:国立環境研究所,
http://tenbou.nies.go.jp/science/description/detail.
php?id=29
40
数理モデルシミュレーション法:利点と欠点
• 利点
– 実際の実験が困難な場合でも最適解を探索できる
– 問題を数理的に定式化することで、トレードオフ関係
などについて考え方が明確になる。
– 数理モデルやシミュレーションにより、複雑な問題に
アプローチすることが可能となる
• 欠点
– データ不足のために、数理モデルのパラメーターの
推定が困難
– 非常に多くの要因があり、不確実性が高いために、
特定の要因のインパクトの統計的同定は殆ど無理
41
シナリオプランニングのステップ
1) 目的/スコープを決定する
2) 主要な変化要因を洗い出す
3) 変化要因の優先順位をつける
4) 要因間の因果関係を検討する
5) シナリオを記述する
6) 先行指標を選択する
42
シナリオプランニングのステップ
1) 目的/スコープを決定する
• シナリオを策定する目的はなにか
• どのようなことを見通しておく必要があるか
• シナリオの中で特に知りたいことは何か
• トレンド情報を収集する範囲を決定する
– 時間と場所(何年後?/日本?アジア?全世界?)
– マクロトレンド分析フレームワーク
• PEST(P:政治、E:経済、S:社会、T:技術)
– ミクロトレンド分析フレームワーク
• 3C(自社Company、競合他社Competitor、顧客Customer)
• ファイブフォース(売り手、買い手、競合、新規参入、代替品)
43
シナリオプランニングのステップ
2) 主要な変化要因を洗い出す
• 新聞記事や各種統計情報から、世の中の変化
を推進しそうな記事を列挙する
– メジャーなトレンドとして現れてきている事象
– まだマイナーだが「変化の予兆」となりそうな事象
– 未来に関する第3者の予測/目標
• 関連する記事をまとめ、変化要因(ドライビング
フォース)として表現する
– 例:企業の英語公用語化+秋入学検討本格化+外
国人労働者数増加⇒グローバル人材が流動化
44
シナリオプランニングのステップ
3) 変化要因の優先順位をつける
• 優先順位付けのための検討項
目
– インパクト(重要度/影響度)
– 確実性/不確実性
• 特に不確実性の高い主要要因
を不確実要因として選ぶ
A
• インパクトが強いドライビング
フォースを主要要因として残す
不
確
実
要
因
シナリオ1
シナリオ2
シナリオ4
シナリオ4
不確実要因B
– ⇒未来を分ける軸になる
45
シナリオプランニングのステップ
4) 変化要因間の因果関係を検討する
• 主要要因同士を因果関係で結び、各シナリオ
が実現する際のロジックを構築する
• 必要があれば補助要因を設定し、ロジックの
飛躍を防ぐ
主要要因
4
主要要因
1
補助要因
1
主要要因
2
主要要因
3
主要要因
5
補助要因
2
結果1
不確実
要因A
結果2
46
シナリオプランニングのステップ
5) シナリオを記述する
• 因果関係のロジックを参考に、各
シナリオが現時点からどのような
経緯で実現されていくかをストー
リーとして記述する
• シナリオの形式
– 物語形式
– 年表形式
• シナリオに対する戦略を考える
– 各シナリオに対する個別戦略
– 全てのシナリオに通用する共通戦
略
47
シナリオプランニングのステップ
6) 先行指標を決定する
• 各シナリオの発現を
予兆する動向/事件
を先行指標(EWS:
Early Warning Sign)と
して選定する
• 以後、定期的にEWS
をウォッチしていけば、
どのシナリオに近づき
つつあるかが分かる
48
情報学との関係
• シナリオプランニング法
– テキストからの変化要因や因果関係抽出
• デルファイ法
– 予測市場、群衆の叡智
• ロードマッピング法
– 関連技術マップの生成、技術動向分析
• 数理モデルシミュレーション法
– テキストと統計量の関係性分析
49
第1部まとめ
• 未来学の歴史
– 時代によって未来予測の内容は変わる
• 17〜18世紀:時代批判としての未来予測
• 19世紀〜戦前:技術革新による明るい未来
• 戦後〜現在:冷戦や経済危機等、緊迫した未来
• 未来予測の手法
– 代表的な4つの手法を紹介
– 未来予測に対する情報学の貢献が期待される
50
アジェンダ
• 背景
• 第1部:未来学
– 未来学の歴史
– 未来予測の手法
• 第2部:未来情報マイニング
– 世の中の「トレンド」のマイニング
– 未来の「イベント」のマイニング
– 予測の「ロジック」のマイニング
• 結論
51
未来情報マイニングとは
• 新聞記事やWebから
未来予測に必要な
情報を抽出し、ユー
ザの興味に合わせ
て検索したり構造化
/可視化を行う技術
52
未来情報マイニングの領域
• 世の中の「トレンド」をマイニングする
– 1. テキストからの動向分析
• 未来の「イベント」をマイニングする
– 2. 未来予測検索
• 予測のための「ロジック」をマイニングする
– 3. 因果関係抽出
53
1. テキストからの動向分析
• 目的
– 新聞やWebに現れるキーワードが株価や金
利などの統計データにどのような影響を与え
るかを分析・予測する
• 主なタスクと関連研究
– 統計データに影響するトピックの抽出[小川,2001]
– トピック変化から統計データの推移を予測[酒
井,2006]
– トピック変化を用いた投資戦略の決定[和
泉,2009][余野,2010]
54
1. テキストからの動向分析
統計データに影響するトピックの抽出
[小川,2001]
• 目的
株価
– 株価変動の外部要因をテキ
ストから特定する
• 統計データ:企業の株価
• テキスト:新聞記事(158のト
ピックに分類)
• タスク
– 企業の株価が単位期間後に
大きく変動した場合に、どの
ようなトピックの新聞記事が
特徴的に出現しているかを
推定する
日付
A A A A
A
新
B B B
聞 B
C C
C C
記
事 D
D
D
D
※A〜Dはトピック
55
1. テキストからの動向分析
統計データに影響するトピックの抽出
[小川,2001]
• キーアイデア
– 単位期間(1週間または1ヶ月)における変動の大きさ
をクラス分類
• 上昇(+10%以上の変動)
• やや上昇 (+5%〜+10%の変動)
• 平坦 (-5%〜+5%の変動)
• やや下降 (-5%〜-10%の変動)
• 下降 (-10%以下の変動)
– 各クラスに特徴的なトピックの候補をχ2法で決定
– 各特徴トピックの候補が適切かどうかを最大エントロ
ピー法で評価
56
1. テキストからの動向分析
統計データに影響するキーワードの抽出
[小川,2001]
• 実験
– 対象期間:1997年1月〜2000年5月
– 企業の株価として、TOPIXに対する富士通の株価
変動の相対値を用いた
– 日刊工業新聞14.6万件中、富士通に関する記事
2,189件を対象
トピックt出現時のクラスcの条件付き確率P(c|t)の推定結果
57
1. テキストからの動向分析
トピック変化から統計データの推移を予測
[酒井,2006]
新
聞
記
事
• 目的
– 新聞記事内容の企業株価
へのインパクトを判定する
• 統計データ:企業の株価
• テキスト:新聞記事
• タスク
– ある新聞記事が企業の株
価にインパクトを持つか否
かを推定する
株価
X社が1万
人規模の
リストラを
発表
上昇?
横ばい?
下降?
日付
58
1. テキストからの動向分析
トピック変化から統計データの推移を予測
[酒井,2006]
• キーアイデア
– 記事が出た日付の株価の前日比でインパクトを定義
• 8%以上上昇=ポジティブ
• 8%以上下落=ネガティブ
– インパクト記事中にのみ多く含まれる特徴語のスキッ
プバイグラムを素性としてSupport Vector Machine
(SVM)で判定
素性の例
59
1. テキストからの動向分析
トピック変化から統計データの推移を予測
[酒井,2006]
• 実験
– 学習データ:1990年〜2000年の日経新聞
• 正例:2,895件のインパクト記事を抽出
• 負例:株価の前日比が1%未満の記事をランダムに選択
– 評価データ:2001年の日経新聞
• 1,200件を人手で判定(うち244件がインパクト記事)
60
1. テキストからの動向分析
トピック変化を用いた投資戦略の決定
[余野,2010]
金利
• 目的
実測値
– テキストデータを用いて金融市
場の動向を予測し、投資戦略を
決定して自動運用する
売る
予測値
• 統計データ:英国スワップ金利
• テキスト:英国中央銀行の金融
政策委員会議事録
日付
議事録
• タスク
– 議事録から金利の動向を予測し、
予測値に応じて通貨を取引する
市場の目
1. テキストからの動向分析
トピック変化を用いた投資戦略の決定
[余野,2010]
• キーアイデア(基本的な手法の流れ)
1. テキストからの動向分析
トピック変化を用いた投資戦略の決定
[余野,2010]
• 実験
• ルール1:金利水準
の比較
• ルール2:金利変動
の比較
年
平
均
リ
タ
ー
ン
(
)
%
– 1997年〜2007年の
金利データと議事録
で訓練
– 2008年1月〜12月を
外挿予測
– 2種類の取引ルール
を試行
運用テスト結果
(BPSW1, 2, 5, 10はそれぞれ英
国スワップ金利の1年物、2年
物、5年物、10年物)
2. 未来予測検索
• 目的
– 新聞記事やWebに存在する第三者の未来予測を
網羅的に収集し、あるトピックに関する未来のイ
ベントがいつ頃起こりそうかを推定する
• 主なタスクと関連研究
– 未来のイベントの発生年の推定[Jatowt,2009]
– 未来の年度表現と予測文の関連性判定[Kawai,2009]
– 未来予測文の適合性ランキング[Kanhabua,2011]
64
2. 未来予測検索
未来のイベントの発生年の推定
[Jatowt,2009]
• 目的
– 大量の新聞記事から未来に
関する情報を要約する
• タスク
– 新聞記事に含まれる未来の
イベント情報を統合し、その
生起年度の確率分布を求
める
Q:××が起こるのはいつ頃?
生
起
確
率
年度
2. 未来予測検索
未来のイベントの発生年の推定
[Jatowt,2009]
• キーアイデア
– 新聞記事から未来の日付
が入った文を抽出⇒未来予
測文
– 未来予測文を、単語と日付
の類似性でクラスタリング
– クラスタ内に含まれる未来
の日付について、その表現
に応じて異なる確率分布を
重ね合わせて行く
• 適用する確率分布
– 未来の一点
• 例:in 2015
• ガウス分布
– 未来の完了点
• 例:by 2050
• 増加型指数関数
– 未来の開始点
• 例:from 2015
• 減衰型指数関数
– 未来の期間
• 例:from 2020 to 2040
• 一様分布
2. 未来予測検索
未来のイベントの発生年の推定
[Jatowt,2009]
• 実験:「NASA」の例
月への有人飛行再開
(2018年頃)
新規宇宙船の開発
(2014年頃)
惑星アポフィスが地球に衝突
(2029年頃)
2. 未来予測検索
未来の年度表現と予測文の関連性判定
[Kawai,2010]
• 目的
– ユーザの入力したクエリに
対して関連する未来情報を
検索する
• タスク
Q:万博
Y:2015
OK
Q:万博
Y:2012
NG
2012年にはロンドン五
輪、2015年にはミラノ万
博が開催される
NG
– 未来予測文中の未来の日
Q:五輪
付と、ユーザの入力したクエ Y:2015
リの関連性を判定する
OK
Q:五輪
Y:2012
2. 未来予測検索
未来の年度表現と予測文の関連性判定
[Kawai,2010]
• キーアイデア
– 訓練データ:年度tを含む2,927件の未来予測文⇒クエ
リqと年度tの適合性を人手で判定
– 下記の素性を組み合わせた特徴ベクトルを作成し、
Support Vector Machine (SVM)を適用
• UG:検索結果タイトルおよびスニペット中の単語uni-gram
• LM:時間限定詞(年に、年頃、etc.)の出現の有無
• CT:コンテキスト語(達成、目標、etc.)の出現の有無
• SS:クエリqと年度tが同一文中に出現しているか
• IY:クエリqと年度tの間に異なる年度t’が出現しているか
2. 未来予測検索
未来の年度表現と予測文の関連性判定
[Kawai,2010]
• 実験
– クエリQを含む未来予測文の年度表現tを全て「関連あり」と判
定した場合(Baseline)に比べ、特徴量を全て使った場合
• 適合率が0.65→0.83に、
• F値が0.79→0.85に向上した
Precision
Recall
F-value
Baseline
0.648
1.000
0.786
UG
0.798
0.851
0.824
UG+LM
0.806
0.856
0.830
UG+LM+CT
0.807
0.861
0.833
UG+LM+CT+SS
0.820
0.865
0.842
UG+LM+CT+SS+IY
0.825
0.873
0.848
2. 未来予測検索
未来予測文の適合性ランキング
[Kanhabua,2011]
• 目的:ユーザの入力した新聞記事に対し、関連す
る未来情報を検索/ランキングする
予測文の例(TEXT)
1999年に、2005年の健康保険に関して言及
記事を入力すると、関連する予測文を検索してランキング
2. 未来予測検索
未来予測文の適合性ランキング
[Kanhabua,2011]
• キーアイデア
– Learning Rankを適用。学習に使う特徴量として、クエリと予測文
の間の4種類の類似度を提案
• Term Similarity
– 検索エンジンLuceneが出力する文書類似度と、bm25f
• Entity-based Similarity
– どのくらいエンティティが重複して出現しているか。タイトル中での重
複度、最初の出現位置の近さ等、さらに細かく8種類を定義
• Topic Similarity
– LDAを使ってトピックモデルを構築した際の、トピックの重複度
• Temporal Similarity
– クエリとなる記事の出版年と、予測文の出版年の近さ
2. 未来予測検索
未来予測文の適合性ランキング
[Kanhabua,2011]
• 実験
– New York Timesの記事20年分180万記事で評価
– 4434万文中、予測文は55万文。未来の日付は94万件
– 記事単位でみると、25%の記事に一つ以上の予測文が存在
– 42種類の評価クエリに対して8000件のクエリ-予測文ペアに
人手で5段階評価⇒クロスバリデーションで精度評価
QE: エンティティのみのクエリ
QT: トピック語のみのクエリ
QC: QE+QT
ベースライン:検索エンジン
Luceneでランキング
提案手法でランキング
3. 因果関係抽出
• 目的:大規模な文書群から事象間の因果関
係、相関関係などを抽出・構造化する
74
3. 因果関係抽出
• 主なタスク:単文や複文から手がかり表現を
元に因果関係にある事象同士を抽出⇒ネット
ワークとして統合
企業は米国で起きた金融危機を理由に、経済悪化が深刻化し・・・
日本では長年、バブル崩壊に伴う経済悪化に苦しめられて・・・
秋から年末にかけて経済悪化が深刻化して企業倒産が激増した・・・
金融危機
経済悪化
企業倒産
バブル崩壊
75
3. 因果関係抽出
• アプリケーション
– 未来予測のための因果関係可視化ツールのイン
プットとして利用できる
•
•
•
•
Futures Wheel
Cross-impact matrix
Causal Loop Diagram
Causal Chain Analysis
例1:Futures Wheel
• 「××が起こったら
どうなるか」を網
羅的に想定するた
めに利用
– 関心がある未来の事
象を中心に置く
– その事象が起こった
ら何が起こるかを周
辺に記述
– さらに、周辺の事象
が起こったら何が起
こるかを追加していく
M. Lindgren and H. Bandhold, Futures Research Methodology Version 3.0, Washington, D.C, USA: Amer Council
for the United Nations, 2009
77
例2: Cross-impact Matrix
• 最もインパクトの高い事象が何かを特定するための手法
– n x nの事象間の因果関係の強さをスコア付けし、マトリックス化
– スコアの合計が高い⇒インパクトが高い事象
Kenneth Chao, A New Look at the Cross-Impact Matrix and its Application in Futures Studies, Journal of Futures
Studies, vol. 12, no.4, pp. 45-52, 2008.
78
例3: Causal Loop Diagram
• 因果関係をシステムダイナミクスに使うためのモデル化
• 主要な変化要因同士の強め合う/弱め合う関係をフィード
バックループで表現する
R. Gong, Q. Li, X. Liu and Q. Wang, “Modeling for business process design: A methodology based on causal loop
diagram,” in Proc. 2004 IEEE Intl. Conf. on Systems, Man and Cybernetics (CSMC), 2004.
79
例4: Causal Chain Analysis
• 表面に出てきた問題の根本原因を探るために利用
S. Michael and P. Douglas, “Root cause analysis: The NSW health incident management system,” in Australasian
Anaesthesia, pp. 51-61, 2003.
80
3. 因果関係抽出
• 関連研究
– 対象文書群に関する分類
• 新聞記事、有価証券報告書、特許、Web
– 抽出方法に関する分類
• ルールベース、教師あり学習、教師なし学習
– 可視化方法に関する分類
• モダリティ、類似ノードの統合、事象の発生順序/
インパクトの推定
3. 因果関係抽出
• 対象文書群に関する分類
– 新聞記事における因果関係の出現特性の調査
[乾,2005]
– 有価証券報告書からのリスク情報の可視化[白
井,2009]
– 特許文書からのテクノロジーマップの自動生成[西
山,2007]
– Webを大規模コーパスとして利用した因果関係抽
出[青野,2010][Kawai,2011]
3. 因果関係抽出
特許文書からのテクノロジーマップの自動
可能性表現の例
生成[西山,2007]
• 目的
– 技術戦略のためのテクノ
ロジーマップの作成を支
援する
• キーアイデア
– 注目技術分野の可能性
表現抽出
– 可能性表現の特性判定
• ビジネスインパクト
• 実現可能時期
– テクノロジーマップに成形
83
3. 因果関係抽出
Webを大規模コーパスとして利用した因果
関係抽出[Kawai,2011]
• 目的:ユーザの興味に関連する因果関係を抽出する
• キーアイデア
– 名詞と動向表現の組をファクトとして定義⇒頻出名詞句をキーファクターに
– 共起するキーファクターを網羅的に収集
– キーファクター同士の因果関係を判定
np3
np2
tvp2
np5
np1
tvp1
np4
tvp3
温暖化/が/進行/する/と/、/気温/が/上昇/し/、/異常/気象/の/発生/回数/が/増加/する
f1 = <温暖化 , 進行>
f2 = <気温 , 上昇 >
f3 = <異常気象の発生回数 , 増加 >
f4 = <異常気象 , 増加 >
f5 = <発生回数 , 増加 >
ファクト集合中の頻出名詞句
⇒キーファクター
84
3. 因果関係抽出
Webを大規模コーパスとして利用した因果
関係抽出[Kawai,2011]
• 実験例:エジプトに関する因果関係(2011年3月時点)
3. 因果関係抽出
• 抽出方法に関する分類
– ルールベース(手がかり表現)
• 順接の接続詞(〜ため、〜による) [乾,2005]
• 逆説の接続詞(〜にもかかわらず、〜なのに)[佐
藤,2006]
• 因果関係を示唆する動詞(kill, break)[Khoo,1998]
• 係り受けを利用 [青野,2010][坂地,2008]
– 教師あり学習[Higashinaka,2008][磯崎,2008][山田,2005]
• 原因事象、結果事象、手がかり表現の3項関係を学習
[山田,2005]
– 教師なし学習[阿部,2007][Chang,2006][Sakai,2008]
• ブートストラップ式因果関係抽出
3. 因果関係抽出
教師あり学習による因果関係抽出
[山田,2005]
• 目的
– デジタル放送のクローズド
キャプションから因果関係知
識を抽出する
• キーアイデア
– 名詞ペアとその間の構文構
造の3項関係が因果関係か
否かをEMアルゴリズムを
使って学習/判定する
• 実験
– 循環器系の話題を取り上げている
「きょうの健康」16番組2180文⇒3
項組1495件を抽出
– 1番組から抽出された3項組149件
の因果関係の有無を人手で判定
– 残り15番組に対して因果関係の
推定を行った
抽出された因果関係の例
87
3. 因果関係抽出
教師なし学習による因果関係抽出
[Chang,2006]
• 目的
– ラベル付けしないで
大量の因果関係を抽
出する
• キーアイデア
– 1) 名詞句のペアから
手がかり表現を抽出
– 2) 手がかり表現を満
たす別の名詞句ペア
を抽出
– 1)と2)を繰り返す
3. 因果関係抽出
• 可視化方法に関する分類
– モダリティを考慮した重み付け[佐藤,2006]
– 類似ノードの統合[青野,2010]
– 事象の発生順序/インパクトの推定[青野,2010][西
山,2007]
3. 因果関係抽出
モダリティを考慮した重み付け[佐藤,2006]
• 目的
– 様々な事象間の関係
を数値化する
• キーアイデア
– 「Aならば必ずB」のよ
うなモダリティについ
て、重みを変えてスコ
アリングする
モダリティスコア対応表
第2部まとめ
• 未来情報マイニングについて、3つの方向性
を紹介
– 世の中の「トレンド」をマイニングする
– 未来の「イベント」をマイニングする
– 予測のための「ロジック」をマイニングする
91
アジェンダ
• 背景
• 第1部:未来学
– 未来学の歴史
– 未来予測の手法
• 第2部:未来情報マイニング
– 世の中の「トレンド」のマイニング
– 未来の「イベント」のマイニング
– 予測の「ロジック」のマイニング
• 結論
92
今後の展望
• 標準的なタスクと評価方法の設定、および
データセットの整備
• 実際の未来予測の場面でのニーズと利便性
• 未来予測の信憑性診断
• 新聞⇒Web⇒ソーシャル⇒?
• テキスト処理とXの融合
– テキスト処理とシミュレーションの融合
– テキスト処理と述語論理の融合[Tsuchida,2011]
93
結論
• 未来学の紹介
– 未来学の歴史と未来予測の手法
• 萌芽的領域としての未来情報マイニング
– 未来に向けたトレンド、イベント、ロジック
• 「未来を予言する一番簡単な方法は、自分で
未来を創造すること」 by-アラン・ケイ
– 受動的に流されて行く感覚から、能動的に未来を
捕まえに行きましょう。
– 未来予測はそのための羅針盤になるはずです。
94
参考文献:第1部
•
•
•
•
•
•
•
•
•
[Helmer1967] Olaf Helmer, Analysis of the future: The Delphi method,
http://www.rand.org/pubs/papers/2008/P3558.pdf, (1967).
[IPCC,2010] Special Report on Emission Scenarios,
http://www.grida.no/publications/other/ipcc_sr/?src=/climate/ipcc/emission/, (2000).
[Shell,2009] Shell energy scenarios to 2050,
http://www.shell.com/home/content/aboutshell/our_strategy/shell_global_scenarios/s
hell_energy_scenarios_2050/, (2009).
[治部,2011] 治部眞理, 未来をとらえる科学とは フォーサイトを俯瞰する, 情報管理, vol.
54, no. 4, pp. 200-210, (2011).
[永松,2010] 永松伸吾、林 春男,首都直下地震災害からの経済復興シナリオ作成の試
み, http://www.esri.go.jp/jp/archive/e_dis/e_dis250/e_dis250.pdf
[萩原,1988] 萩原裕雄, 江戸おどろきなるほど未来学, 天山出版, (1988).
[浜田,1999] 浜田和幸,未来ビジネスを読む, 光文社, (2005).
[武藤, 2009] 武藤泰明, 未来予測の技法 リスクとチャンスをロジカルに読み解く, PHP
研究所, (2009).
[メドウズ,1976]ドネラ・H・メドウズ, 成長の限界—ローマ・クラブ人類の危機レポート,
(1972).
95
参考文献:第2部(和文)
•
•
•
•
•
•
•
•
•
•
•
•
•
[青野,2010] 青野壮志, 太田学, 要因検索による因果関係ネットワークの構築と因果知識の獲得, 第2回データ工学と情報マネジメント
に関するフォーラム(DEIM2010), (2010).
[阿部,2007]阿部修也, 乾健太郎, 松本裕治: 事態含意名詞を 用いた事態間関係知識の獲得, 言語処理学会第 13 回年次大会発表
論文集, (2007).
[和泉,2009] 和泉潔, 後藤卓, 松井藤五郎, テキスト情報による金融市場変動の要因分析, 第23回人工知能学会全国大会, (2009).
[磯崎,2008]磯崎秀樹, 東中竜一郎: パターンマイニングを用 いて「なぜ」に答えるシステム, 言語処理学会第14 回年次大会発
表論文集, pp.1025-1028, (2008).
[乾, 2005] 乾孝司, 奥村学, 文書内に現れる因果関係の出現特性調査, 情報処理学会自然言語処理研究会(NL-167-12), pp. 81-88,
(2005).
[小川,2001] 小川和也, 渡部勇, 株価データと新聞記事からのマイニング, 情報処理学会研究報告, 情報基礎とアクセス技術(IFAT),
Vol. 2001, No. 20, pp. 137-144, (2001).
[酒井, 2006] 酒井浩之, 増山繁, 経済新聞記事内容の個々の企業におけるインパクトの判定, 情報処理学会研究報告, 情報基礎とア
クセス技術(IFAT), Vol. 2006, No. 94, pp. 43-50, (2006).
[坂地,2008]坂地泰紀, 竹内康介, 関根聡, 増山繁: 構文パター ンを用いた因果関係の抽出, 言語処理学会第 14 回 年次大会発表
論文集, pp.1144-1147, (2008).
[佐藤,2006] 佐藤岳文, 堀田昌英: Web マイニングを用いた 因果ネットワークの 自動構築手法の開発, 社会技 術研究論文集,
Volume 4, pp.66-74, (2006).
[白井,2009] 白井康之, 小関悠, 小池亜弥, テキストマイニングによるトレンド情報抽出環境の構築, 三菱総合研究所所報, Vol. 51, pp.
110-123, (2009).
[西山,2007] 西山莉紗, 竹内広宣, 渡辺日出雄, 那須川哲哉, 前田潤治, 倉持俊之, 林口英治, 未来技術動向予測のための技術文書
マイニング, 第21回人工知能学会全国大会, (2007).
[山田,2005]山田一郎, 小早川健, 三浦菊佳, 住吉英樹, 八木伸 行, 崔杞鮮: クローズドキャプションを対象とし た因果関係知識
抽出の検討, 第 5 回情報科学技術 フォーラム (FIT2005), No.2, E-001, pp.113-114, (2005).
[余野,2010] 余野京登, 和泉潔, 後藤卓, 松井藤五郎,陳 昱, 英文経済レポートのテキストマイニングと市場分析, 第24回人工知能学会
全国大会, (2010).
96
参考文献:第2部(英文)
•
•
•
•
•
•
•
•
•
[Chang,2006] Du-Seong Chang, Key-Sun Choi: Incremental cue phrase learning and bootstrapping method
for causality extraction using cue phrase and word pair probabilities, Information Processing and
Management, Volume 42, Issue 3, pp.662- 678, (2006).
[Higashinaka,2008] Ryuichiro Higashinaka, Hideki Isozaki: Automatically Acquiring Causal Expression Patterns from Relation-annotated Corpora to Improve Question Answering for why-Questions, ACM
Transactions on Asian Language Information Processing (TALIP), Volume 7, Issue 2, (2008).
[Jatowt,2011] Adam Jatowt, Ching-man Au Yeung, Extracting Collective Expectations about the Future
from Large Text Collections, CIKM’11, (2011).
[Kanhabua,2011] Nattiya Kanhabua, Roi Blanco, Michael Mattews, Ranking Related News Predictions,
SIGIR2011, (2011).
[Kawai,2010] Hideki Kawai, Adam Jatowt, Katsumi Tanaka, Kazuo Kunieda, Keiji Yamada: ChronoSeeker:
search engine for future and past events. ICUIMC 2010, (2010).
[Kawai,2011] Hideki Kawai, Katsumi Tanaka, Kazuo Kunieda, Keiji Yamada: Node-First Causal Network
Extraction for Trend Analysis Based on Web Mining, KES2011, pp. 63-72, (2011).
[Khoo,1998] Christopher S. G. Khoo, Jaklin Kornfilt, Robert N. Oddy and Sung Hyon Myaeng: Automatic
Extraction of Cause-Effect In- formation from Newspaper Text Without Knowledge-based Inferencing,
Literary and Linguistic Computing, Volume 13, Issue 4, pp.177-186, (1998).
[Sakai,2008] Hiroyuki Sakai, Shigeru Masuyama, Cause Information Extraction from Financial Articles
Concerning Business Performance, IEICE - Transactions on Information and Systems archive, Volume E91D , Issue 4, pp. 959-968, (2008).
[Tsuchida,2011] Masaaki Tsuchida, Kentaro Torisawa, Stijn De Saeger, Jong-Hoon Oh, Jun’ichi Kazama,
Chikara Hashimoto, Hayato Ohwad, Toward Finding Semantic Relations not Written in a Single Sentence:
An Inference Method using Auto-Discovered Rules, IJCNLP2011, (2011).
97