サンバ運動の力学的位相構造による不変的表現 · • 日高昇平(2013)....
Transcript of サンバ運動の力学的位相構造による不変的表現 · • 日高昇平(2013)....
10/1/2013
1
模倣の基礎理論の構築およびシミュレーションによる実証
日高 昇平北陸先端科学技術大学院大学
知識科学研究科
第14回人工知能研究成果発表会 1
ご支援いただきありがとうございました。
• 平成23年度人工知能研究助成金(本研究)
• 後継研究に対する助成
– 平成24年度研究者支援「創造性研究奨励賞」(2013年2月, NPO法人ニューロクリアティブ研究会, 研究テーマ:「身体技能を創り・感じる脳の計算論的メカニズム」)
– 平成25年度科学研究費補助金挑戦的萌芽研究 (代表), 日本学術振興会, 研究課題「運動の位相的類似性による模倣の基礎理論の構築」
第14回人工知能研究成果発表会 2
関連する研究成果(2011-2013)
• Hidaka, S. & Fujinami, T. (2013). Topological Similarity of Motor Coordination in Rhythmic Movements. In Proceedings of The Thirty Fifth Annual Meeting of Cognitive Science Society, 2548-2553.
• Yurovsky D, Hidaka S, & Wu R (2012) Quantitative Linking Hypotheses for Infant Eye Movements. PLoS ONE 7(10): e47419. doi:10.1371/journal.pone.0047419.
• Hidaka, S. (2012) Identifying Kinematic Cues for Action Style Recognition. In Proceedings of The Thirty Fourth Annual Meeting of Cognitive Science Society, 1679-1684.
• Hidaka, S. (2012). Characterizing Multivariate Information Flows., eprint arXiv:1212.5449.• Hidaka S and Yu C (2011). Informational Coupling in Social Interaction as a Goodness of Communication. Front.
Comput. Neurosci. Conference Abstract: IEEE ICDL-EPIROB 2011.• Hidaka, S. & Yu, C. (2011) Information Theoretical Approach to Statistical Network in Bodily Actions. The 44th Annual
Meeting of the Society for Mathematical Psychology (SMP), Tufts University.• 日高昇平 (2013). 知識獲得の計算理論に向けて:多変量情報流による潜在的機構の推定.,日本認知科学会第30
回大会発表論文集 (O2-3).• 日高 昇平 (2013). 力学的不変量仮説:運動制御の最適化理論の上位原理として.,第15回身体知研究会予稿集,
9-15.• 日高 昇平 (2013). サンバ運動の力学的位相構造による不変的表現., 第27回人工知能学会全国大会 (1H3-OS-
02a-4).• 日高 昇平 (2013). データから知識へ:多変量情報流による潜在的機構の推定.,知識共創フォーラム (知識共創第
3号, III7-1-III7-10).• 日高昇平 (2011). 身体動作に内在する状況性への情報理論的アプローチ, 第32回社会的知能発生学研究会,
2011年12月22-23日, リッチモンドホテルプレミア仙台.• 日高 昇平 & 藤波 努 (査読中).サンバ運動の力学的位相構造による不変的表現.• 日高昇平 (in press). 人の多感覚コミュニケーションにおける情報ネットワークの可視化., 電子情報通信学会会誌
第14回人工知能研究成果発表会 3
模倣の基礎理論の構築
1. 社会的な学習
2. 身体運動表現の再考
3. 非線形時系列から情報ネットワークへ
4. まとめ
第14回人工知能研究成果発表会 4
社会的な学習~模倣
• 社会集団の中で多様な知性が育つ– 新皮質の相対重量と社会集団サイズの相関 (Dumbar, 1998)
• 近年、様々な分野で社会的知性に関心– 発達心理学、比較認知科学、認知神経科学など– 自己/他者認識、視線、意図、共感、心の理論、模倣
– ロボット工学では、自ら学習するロボット(プログラミングの効率化)
• 社会的学習の基礎:身体模倣– 本研究:身体模倣のメカニズムへの構成論的アプローチ
5
認知ロボット工学の模倣問題Breazeal & Scassellati (2002)
1. ロボット(人)は何を模倣すべきか、またそれをどのように決定するのか?– 運動の“構文解析”, “単語”の同定, 運動を超えた”目的”
の同定(Metlzoff & Moore, 2002)
2. 1.が決定されたとき、ロボットはそれに類似した動作をどのように実現するのか?– “見た”他者の運動を自己の”身体”で実現するには、「表現の変換」が必要
6
10/1/2013
2
模倣問題の分類本研究の目標:Learning to imitate
• Imitative behavior: ロボットが行為者の動きを再現する能力。学習によって獲得または先見的に与えられる。
• Learning by imitation: ロボットはある種の模倣行動を与えられ、これが更なる学習を促進するために用いられる
• Learning to imitate: 模倣行動自体が学習によって獲得される場合。ロボットは「対応付け問題」を自らの経験から学習する事で解決する。
• Learning by demonstration: 新規なタスクがロボットにより獲得されるが、模倣に関連してもしなくてもよい。模倣に関連しない場合、Task level imitationと呼ばれる。この場合、ロボットは行為者の物理的なタスクを学習するが、行為者の行動を模倣しない。
• True imitation: 他者の行為から、学習者にとって新規なタスクを、目的、行動様式、両方の観点で獲得できる場合、これをTrue imitationと呼ぶ。
7
より実現が難しい問題
Breazeal & Scassellati (2002)
知覚空間 運動空間
異種感覚の統合• 自己/他者と知覚/運動の壁
8
他者運動の認識(視覚的表現)
自己の運動生成(体性感覚的表現)
(b) 提案手法: 力学的な位相類似による模倣
自己他者
知覚空間
g1 g2
M1
M2M3
L1
L2
運動空間
必要なし 必要なし
q1 q2
m1
m2m3
l1
l2
g1 g2
M1
M2M3
L1
L2
v2
知覚空間 運動空間
他者 自己
(a) 従来の制御理論による模倣(川人, 1996など)
知覚空間運動空間
身体運動模倣のフレームワーク
第14回人工知能研究成果発表会 9
運動-知覚変換他者-自己変換
自己
模倣
他者
知覚-運動変換
動作の類似性(知覚)
観測不可能
観測可能/学習可能
模倣学習の誤差
動作の類似性(力学系の位相)
記号空間 記号空間
力学的位相推定力学的位相推定
模倣の基礎理論の構築
1. 社会的な学習
2. 身体運動表現の再考
3. 非線形時系列から情報ネットワークへ
4. まとめ
第14回人工知能研究成果発表会 10
身体運動表現の再考
• 動機– 身体運動メカニズム・その表現の解明
• 背景– 身体座標または空間座標による運動表現
– 最適化による身体運動の計算理論
• 本論– 力学系による身体運動の計算理論
• 実証的データ分析:身体運動の表現– サンバ運動の類似性と熟達
11第14回人工知能研究成果発表会
従来の運動記述
• 特定身体部位の位相、速度、関節角、角速度などに基づく記述
–成功例:ピッチング~下半身上半身手首ボールの順に速度のピークが移動
12第14回人工知能研究成果発表会
10/1/2013
3
運動の計算理論(川人, 1996)
13第14回人工知能研究成果発表会
最適化による不良設定性の解消
• 躍度最小モデル(Flash & Hogan, 1985)
• トルク最小モデル(Uno et al., 1989)
作業座標 制約
身体・運動座標𝐶𝜏 =1
2 0
𝑡0
𝑖=1
𝑛𝑑𝜏𝑖𝑑𝑡
2
𝑑𝑡
𝐶𝐽 =1
2 0
𝑡0 𝑑3𝑥
𝑑𝑡3
2
+𝑑3𝑦
𝑑𝑡3
2
𝑑𝑡
躍度最小軌道はtの5次方程式に帰着
躍度最小軌道はtの5次方程式に帰着
14第14回人工知能研究成果発表会
従来法でうまくいかない例:サンバ演奏運動
• 楽器を持つ右手の肩・肘・手首の関節角相当の特徴量の分析
– 1個人の異なる身体運動でも”非同期的”
– 5演奏家それぞれで異なる運動パタン
楽器の速度 楽器の速度ピーク 身体部位速度の位相差
位相差
15第14回人工知能研究成果発表会
問題点:従来の運動表現
• 作業空間・筋骨格空間では、運動を”適切な水準”で記述できない。
– “適切な”=我々がnaïveに類似と思う対象を同一視できるか
–従来法では細かい末端の動きを捉えられない
–多重・多関節運動(末端)の表現
–運動目標の多様性・冗長性
16第14回人工知能研究成果発表会
身体運動1 身体部運動2
符号化 解読 符号化 解読
位相的な共通表現を介した情報交換
位相的表現 位相的表現
観測データ(運動時系列)
相空間再構成 提案手法
観測データ(運動時系列)
相空間再構成
17
提案方法:アトラクタの位相構造に基づく運動表現
• 身体運動の1次的な物理量ではなく、その高次元に埋め込まれたアトラクタの構造を利用する
第14回人工知能研究成果発表会
力学系 Dynamical systemsxt+1 = f(xt): 状態と状態遷移則
• 身体と環境の相互作用は古典物理に従う
• 神経活動の基礎単位は力学的
–単一ニューロン活動は微分方程式でよく近似
18
-8 -6 -4 -2 0 2 4 6 8-10
-5
0
5
10
-3
-2
-1
0
1
2
3
Neural signals Motor coordination Vital signs 第14回人工知能研究成果発表会
10/1/2013
4
遅延座標埋め込みによるアトラクタ再構成
(a)
Ori
gin
al(b
) D
egen
erat
ed(c
) R
econst
ruct
ed
(1) Hennon map (2) Rossler System (3) Lorenz System
19第14回人工知能研究成果発表会
相空間の分析例: 振り子の保持運動
• 相空間(Phase portrait)表現
–振り子保持時の手首の運動(速度/位置)
– リミットサイクルのばらつき~アトラクタ次元
Mitra (1997) 20第14回人工知能研究成果発表会
リズム運動の解析熟達者によるサンバ演奏
(Yamamoto & Fujinami, 2008)
Head LHead R
Shoulder R
Elbow R
Hip R
Knee R
Foot R Foot L
Knee L
Thigh L
Hip L
Shoulder L
Thigh R
Knee
L
S
hak
er 1
Elb
ow
RH
ead R
(b) Raw Time Series (c) Phase Space (d) Local Linear Projection(a) Markers
Hand R1Hand R2
Shaker 2Shaker 1
Elbow L
(b) 時系列データ (c) 状態空間 (d) 情報量の計算(a) 各身体部位の運動計測
分析手続き
分析の詳細
• データ
– 5人のサンバ演奏者x5条件(60,75,90,105,120bpm)
– 43Hz and 75.5 sec long for each trial
– 18 markers: two on the shaker & 16 for body parts
• アトラクタ再構成– 元データ:各部の速度(1次元)時系列
– 31次元 x 遅延46msec
– { x(t), x(t + ∆t), . . . , x(t + 30∆t) }: ∆t = 46 ms
第14回人工知能研究成果発表会 23
相空間(速度の遅延座標系)
24
全身+楽器の18箇所にマーカ(表示は一部)
第14回人工知能研究成果発表会
10/1/2013
5
-5
0
5 -5
0
5-5
-4
-3
-2
-1
0
1
2
3
4
5
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject5 Trial5.fig
-6 -4 -2 0 2 4 6-5
0
5
10
-5
-4
-3
-2
-1
0
1
2
3
4
5
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject5 Trial4.fig
-5
0
5
10-5 -4 -3 -2 -1 0 1 2 3 4
-5
-4
-3
-2
-1
0
1
2
3
4PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject5 Trial3.fig
-50
5-50
5-4
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject5 Trial2.fig
-4 -3 -2 -1 0 1 2 3 4 5-4
-2
0
2
4
-4
-3
-2
-1
0
1
2
3
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject5 Trial1.fig
60bpm
75bpm
90bpm
105bpm
120bpm
-10 0 10-8 -6 -4 -2 0 2 4 6 8
-4
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject4 Trial5.fig
-4-2
02
46
8-6
-4
-2
0
2
4
6
-10
-5
0
5
10
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject4 Trial4.fig
-8 -6 -4 -2 0 2 4 6 8 -10
0
10
-4
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject4 Trial3.fig
-10 -50
5 10-10 -5 0 5 10
-5
-4
-3
-2
-1
0
1
2
3
4
5
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject4 Trial2.fig
-10-5
05
10-10-5
05
10
-4
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject4 Trial1.fig
-5 0 5-5
05
-3
-2
-1
0
1
2
3
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject3 Trial5.fig
-4-2
02
46
-5
0
5-3
-2
-1
0
1
2
3
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject3 Trial4.fig
-4
-2
0
2
4
6
-4 -3 -2 -1 0 1 2 3 4 5
-4
-2
0
2
4
6
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject3 Trial3.fig
-5
-4
-3
-2
-1
0
1
2
3
4
5-6
-4
-2
0
2
4
6
-6
-4
-2
0
2
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject3 Trial2.fig
-6
-4
-2
0
2
4
6
-6-4
-20
24
6
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject3 Trial1.fig
-10-5
05 10-6 -4 -2 0 2 4 6 8
-8
-6
-4
-2
0
2
4
6
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject2 Trial5.fig
-8 -6 -4 -2 0 2 4 6 8-10 0 10
-6
-4
-2
0
2
4
6PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject2 Trial4.fig
-10
-5
0
5
10-8 -6 -4 -2 0 2 4 6 8
-5
0
5 PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject2 Trial1.fig
-10010 -8 -6 -4 -2 0 2 4 6 8
-6
-4
-2
0
2
4
6PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject2 Trial3.fig
-10 -50 5 10-10 -5 0 5 10
-8
-6
-4
-2
0
2
4
6
8
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial5.fig
-10-5
05
10
-8-6-4-202468
-6
-4
-2
0
2
4
6
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial4.fig
-10 -5 0 5 10
-10-50
510
-5
-4
-3
-2
-1
0
1
2
3
4
5
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial3.fig
-10 -5 0 5 10-10 -5 0 5 10
-4
-3
-2
-1
0
1
2
3
4
5
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial2.fig
-10 -8 -6 -4 -2 0 2 4 6 8 10-10
-8
-6
-4
-2
0
2
4
6
8
10
-4
-3
-2
-1
0
1
2
3
4
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial2.fig
-8 -6 -4 -2 0 2 4 6 8-10 0 10
-5
-4
-3
-2
-1
0
1
2
3
4
5PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject2 Trial2.fig
Musician A Musician B Musician C Musician D Musician E
25第14回人工知能研究成果発表会
アトラクタの展開(低次元多様体への写像)
-10 -50 5 10-10 -5 0 5 10
-8
-6
-4
-2
0
2
4
6
8
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial5.fig
Unfolding
4x31次元埋め込み空間(シェイカー2 + 手・手首)
2~3次元アトラクタ多様体
26Isomap (Tenenbaum et al., 2000)第14回人工知能研究成果発表会
演奏者A B C D E
60
75
90
105
120
BP
M
演奏者A B C D E
BP
M
60
75
90
105
120
(a) 各運動速度の位相同期 (b) 各運動状態遷移の位相同期
123
6
4
5
7
8
910 11
12
15
18
13
14
16
17
演奏者
(c) 楽器/身体の位相同期
BPM
位相同期の比率
位相同期の分析結果
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
babi
lity
Subject 1, Tempo 60
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
babi
lity
Subject 2, Tempo 60
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
babi
lity
Sub
ject
2
R = 0.9587
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
babi
lity
Subject 1, Tempo 120
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
babi
lity
Subject 2, Tempo 120
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
babi
lity
Sub
ject
2
R = 0.8025
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
babi
lity
Tem
po 1
20
R = 0.7839
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
babi
lity
Tem
po 1
20
R = 0.9623
Musician A Musician D
Across-
Subject
Correlation
Across-
Condition
Correlation
Pro
bab
ilit
y
12
0b
pm
60
bp
m
R=0.784 R=0.962
R=0.803
R=0.959
State Indices
Pro
bab
ilit
y D
Pro
bab
ilit
y D
Probability A
Probability A
Probability 60bpm Probability 60bpm
Pro
bab
ilit
y 1
20
bpm
State Indices
演奏条件間・演奏者間の位相的類似: 生成分割に基づく記述
28第14回人工知能研究成果発表会
Subject A Trial 5
“コツ”の可視化
局所座標の長軸
局所座標の短軸
第14回人工知能研究成果発表会 29
アトラクタ~運動イメージ?
30
-10 -50 5 10-10 -5 0 5 10
-8
-6
-4
-2
0
2
4
6
8
PhaseSpace Shaker1Shaker2ElbowRightHandRight2HipRight Subject1 Trial5.fig
熟達者Kの運動イメージの描画 熟達者Kの運動から得たアトラクタ
第14回人工知能研究成果発表会
10/1/2013
6
身体表現の再考:まとめ
• 従来の運動表現:筋骨格空間/作業空間–ある種の滑らかさ原理に基づく最適化
–サンバのように多自由度の運動の記述は困難
• アトラクタに基づく記述–高次元遅延座標埋め込みアトラクタ再構成
–位相同期パタンの分析
– コツの可視化
–座標系によらない性質(次元など)を計算
–運動条件等によらない位相的な構造
31第14回人工知能研究成果発表会
提案手法: 力学的な位相類似による模倣
自己他者
知覚空間
g1 g2
M1
M2M3
L1
L2
運動空間
必要なし 必要なし
身体運動模倣のフレームワーク
第14回人工知能研究成果発表会 32
自己
模倣
他者
観測不可能
観測可能/学習可能
模倣学習の誤差
動作の類似性(力学系の位相)
記号空間 記号空間
力学的位相推定力学的位相推定
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 1, Tempo 60
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 2, Tempo 60
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
bability
Subje
ct
2
R = 0.9587
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 1, Tempo 120
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 2, Tempo 120
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
bability
Subje
ct
2
R = 0.8025
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
bability
Tem
po 1
20
R = 0.7839
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
bability
Tem
po 1
20
R = 0.9623
身体・運動条件に不変な位相的類似性
相空間再構成による表現
模倣の基礎理論の構築
1. 社会的な学習
2. 身体運動表現の再考
3. 非線形時系列から情報ネットワークへ
4. まとめ
第14回人工知能研究成果発表会 33
リズム運動の解析熟達者によるサンバ演奏
(Yamamoto & Fujinami, 2008)
• 複雑な運動から、運動の”質”の推定
–運動の熟達は可視化できるか?
時系列データから内部モデルの推定
数理モデル(未知)
時系列データ(観測)
x
z
y
現象の生成
Lorenz系
関係性グラフ
推定・洞察
精緻化・一般化
粗視化
(例)二変数の非線形結合系(カオス)に対する情報理論的記述
36
0 20 40 60 80 100 120 140 160 180 2000
0.5
1
t
X(
t )
(a) X
0 20 40 60 80 100 120 140 160 180 2000
0.5
1
t
Y(
t )
(b) Y
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 10
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
X( t )
Y(
t )
(c) Phase Space
X(t)
Y(t)
Y(t)
X(t)
t
X(t+1) = f(X(t), Y(t), a, b)
Y(t+1) = g(X(t), Y(t), a, b)非線形な相互作用をする ”XとY” (相関係数≒0)a: XYの影響の強さ, b: YXの影響の強さ
(a) X Y
(b) X Y
(c) X Y
真の関係
a=b>0
a>b>0
a>b=0
Y -> X X -> Y0
0.1
0.2
0.3
0.4
0.5
0.6
Tra
nsfe
r Entr
opy
Coupling Rate ( Y -> X ) = 0.300, Coupling Rate ( X -> Y ) = 0.300
Y -> X X -> Y0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
Tra
nsfe
r Entr
opy
Coupling Rate ( Y -> X ) = 0.100, Coupling Rate ( X -> Y ) = 0.300
Y -> X X -> Y0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
Tra
nsfe
r Entr
opy
Coupling Rate ( Y -> X ) = 0.000, Coupling Rate ( X -> Y ) = 0.300
Actual Data
Surrogate
Actual Data
Surrogate
Actual Data
Surrogate
データからTransfer entropy(方向つき従属性)の推定(後述)
関係性の推定
YX XY
YX XY
YX XY
10/1/2013
7
Day 1 Day 2 Day 3 Day4
Day 1 Day 2 Day 3 Day4
Day 1 Day 2 Day 3 Day4
Day 1 Day 2 Day 3 Day4
Day 1 Day 2 Day 3 Day4
81.0E =pH
0E =pH
81.0E =pH
1E =pH
0E =pH
情報理論(Shannon, 1948)情報量~エントロピー(不確定性)の減少=予測性の増分
エントロピー(
bit
s)
38
双方向情報理論(時系列の予測性)(Marko, 1973; Schreiber, 2000)
• どの程度「次の状態」を予測可能か?
• 随伴系列を知る事で、どの程度「次の状態」を予測可能か?
abeeebcd …
What’s next?
abeeebcd …bdedebbb ...
What’s next?
= エントロピーレート = k
nn
k
nn iipiipIH |log, 11
- エントロピーレート= Transfer entropy移送情報量
=
k
nn
l
n
k
nnl
n
k
nniip
jiipjiipIJT
|
,|log,,
1
11
データから情報論的な関係の推定
X(t+1)
Y(t+1)
Z(t+1)
精緻化X(t)
Y(t)
Z(t) Y
X
Z
45 50 55 60 65-20
0
20
X
Time
45 50 55 60 65
-20
0
20
Y
Time
45 50 55 60 65
10
20
30
40
Z
Time
時系列の生成
力学方程式 (Lorenz系) 情報の流れ (Z Xに因果関係なし)
現象(の一部/変換)の観測
時系列に潜在する情報論的な関係グラフの推定(事前知識なし)
データ概念モデル:一般的な定式化
• 観測から現象の分節化・関係性の記述– N個の状態を表す変数
– N個の関係(N(N-1)対)を記述
=関係グラフの特定
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
関係グラフ(N=3の場合対称性除き16通り)
1. 2. 3. 4.
5. 6. 7. 8.
9. 10. 11. 12.
13. 14. 15. 16.
高次情報量: 組み合わせ爆発
• 見た目の”21”因果関係?
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
1. 2. 3. 4.
5. 6. 7. 8.
9. 10. 11. 12.
13. 14. 15. 16.
2
1
3 2
1
3 2
1
3 2
1
3 2
1
3 2
1
3
正確な推定には潜在する偽相関を統制する必要がある
潜在的な関係グラフは超指数的増加N=3: 26=64通りN=4: 212=4096通りN=5: 220=1048576通り
42
多変量双方向情報理論Multivariate transfer entropy (Hidaka, 2012)
• 随伴系列を知る事で、どの程度「次の状態」を予測可能か?
• 「第3変数以降を統制しつつ」、随伴系列を知る事で、どの程度「次の状態」を予測可能か?
abeeebcd …bdedebbb …dsafreafda …
What’s next?
多変量移送情報量Multivariate TE
42
abeeebcd …bdedebbb ...
What’s next?
- エントロピーレート= 移送情報量Transfer entropy (TE)
=
k
nn
l
n
k
nnl
n
k
nniip
jiipjiipIJT
|
,|log,,
1
11
= T
t
tt
j
tt
j
t
ijiij XXXIT1
\
\
\
,\| |;
10/1/2013
8
シミュレーション: 関係グラフの情報論的推定非線形力学系から得られたデータ関係グラフ
• 結合写像格子(Kaneko, 1992)
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
2
1
3 2
1
3 2
1
3 2
1
3
関連性の強さパラメタ
(d) 3変量移送情報量(c) 2変量移送情報量
関係グラフ(未知)1. 2. 3. 4.
5. 6. 7. 8.
9. 10. 11. 12.
13. 14. 15. 16.
=
t
iij ij
t
iij
t
jij
t
it
i
xxfx
1
1 データ生成
潜在的関係の推定
問題設定 正解率多変量 正解率二変量
変数の数
関係対組合わせ ケース数
関係対の数
ケースベース
変数対ベース
ケースベース
変数対ベース
3 26 16 96 100% 100% 75.0% 93.75%
4 212 2182,61
6 90.78% 97.78% 9.22% 70.67%
5 220 9,608192,160 81.48% 95.41% 1.24% 71.23%
シミュレーション: 関係グラフの情報論的推定非線形力学系から得られたデータ関係グラフ
• N=3,4,5の結果
–関係グラフの推定精度が非常に高い
多変量Transfer entropy > Transfer entropy
リズム運動の解析熟達者によるサンバ演奏
(Yamamoto & Fujinami, 2008)
• 複雑な運動から、運動の”質”の推定
–運動の熟達は可視化できるか?Head LHead R
Shoulder R
Elbow R
Hip R
Knee R
Foot R Foot L
Knee L
Thigh L
Hip L
Shoulder L
Thigh R
シェイカー
2シェイカー
1
右手1
右ひじ
(b) 時系列データ (c) 状態空間 (d) 情報量の計算(a) 各身体部位の運動計測
Hand R1Hand R2
Shaker 2Shaker 1
Elbow L
分析手続き
熟達者 中上級者 中級者
楽器1楽器2
手首肘
有意な情報流の平均割合
情報流グラフ
時系列から情報へ: まとめ
• 時系列データから内部モデルの構築問題–少事前知識・汎用性
–潜在グラフの指数的組み合わせ爆発
• 多変量双方向情報理論–条件統制つきの双方向ネットワーク
–非線形力学系によるシミュレーション• 高い精度で関係グラフの構築・組合せ爆発に堅牢
• 複雑な身体運動への応用–運動の熟達化を情報流の密度として記述
10/1/2013
9
模倣の基礎理論の構築:まとめ
1. 社会的な学習– 異なる身体間で、どのように身体動作を同一視できるのか?
2. 身体運動表現の再考– 冗長な運動に対する力学系に基づく表現の有用性
3. 非線形時系列から情報ネットワークへ– 多変量情報ネットワークによる潜在的なメカニズムの推定が可能
– “他者運動”モデルの同定、自己-他者運動の類似性の定量化
第14回人工知能研究成果発表会 49
提案手法: 力学的な位相類似による模倣
自己他者
知覚空間
g1 g2
M1
M2M3
L1
L2
運動空間
必要なし 必要なし
身体運動模倣のフレームワーク
第14回人工知能研究成果発表会 50
自己
模倣
他者
観測不可能
観測可能/学習可能
模倣学習の誤差
動作の類似性(力学系の位相)
記号空間 記号空間
力学的位相推定力学的位相推定
情報論的モデル
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 1, Tempo 60
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 2, Tempo 60
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
bability
Subje
ct
2
R = 0.9587
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 1, Tempo 120
0 10 20 300
0.02
0.04
0.06
0.08
0.1
Symbol Series Index
Pro
bability
Subject 2, Tempo 120
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Subject 1
Pro
bability
Subje
ct
2
R = 0.8025
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
bability
Tem
po 1
20
R = 0.7839
0 0.05 0.1 0.15 0.20
0.05
0.1
0.15
0.2
Probability Tempo 60
Pro
bability
Tem
po 1
20
R = 0.9623
身体・運動条件に不変な位相的類似性
相空間再構成による表現
これからの研究について
• 運動“認識””生成”へ
–認識: 時系列(物理量)アトラクタ・符号列への抽象化
–生成: 抽象化表現筋骨格系への対応付け
• 不変量推定のリアルタイム化
第14回人工知能研究成果発表会 51
ありがとうございました
• 人工知能研究振興財団
– 研究をご支援いただきありがとうございました。
– 本研究の一部は科学研究費補助金(2330009, 25560297)、NPO法人ニューロクリアティブ研究会の助成によっても支援していだきました。
52第14回人工知能研究成果発表会