認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回:...

31
認知科学概論 (14) Introduction to Cognitive Science (14 th ) 認知科学入門の振り返り・演習についての解説 日高 昇平 Hidaka, Shohei shhidaka __jaist.ac.jp (知識I5F) July 27 th , 2016 1 Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved

Transcript of 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回:...

Page 1: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

認知科学概論 (第14回)Introduction to Cognitive Science (14th)認知科学入門の振り返り・演習についての解説

日高 昇平

Hidaka, Shohei

shhidaka_@_jaist.ac.jp (知識I棟5F)

July 27th, 2016

1Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved

Page 2: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

K121認知科学概論 (2016年度)講義予定 (月曜1限, 水曜2限,オフィスアワー月3)

K121講義資料:http://www.jaist.ac.jp/~shhidaka/

1. はじめに: 認知科学を歩くための地図 (6/13・月1限)2. 認知科学の方法論: 心の働きへのアプローチ (6/15・水2限)3. 認知科学の起こり 行動主義・人工知能・人工神経回路網モデル (6/20・月1限)4. 計算モデルの水準 (6/22・水2限)5. 情報処理の表現形式1:計算モデルにおける記号処理・分散処理 (6/29・水2限)6. 認知科学の方法論1:認知処理と計算モデル (7/4・月1限)7. 認知科学演習1 (7/4・月3限オフィスアワー)8. 中間試験 (7/6・水2限)9. 情報処理の表現形式2:脳機能マップ(7/11・月1限)10.認知発達1:言語・学習(7/11・月3限オフィスアワー)11.認知科学の方法論2:行動実験・脳機能イメージング (7/25・月1限)12.認知科学演習2 (7/25・月・3限オフィスアワー)13.認知発達2:社会的認知・身体性認知(7/13・水2限)14.講義の振り返り/期末試験(7/27・水2限)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved2

Page 3: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

本講義のねらいThe goal of this lecture

• 認知科学入門&演習を振り返る

• Reiew the whole lecture series (including the practice problems).

3Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved

Page 4: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

精神医学psychiatry

第1回: 学際的研究分野としての認知科学Cog.Sci. as Interdisciplinary fields

認知科学Cognitive Science

統計学Statistics

教育Education

経済学Economics

哲学Philosophy

人類学anthropology

言語学linguistics生物学

Biology

神経科学Neuroscience

ロボット工学Robotics

数学Mathematics

物理学Physics

人工知能/機械学習Artificial Intelligence/Machine Learning

心理学Psychology

情報科学Informatics

発達科学Developm

entalScience

me

本講義で取り上げる話題Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved

4

Page 5: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第2回: 6 “communicating” blinds

“the”の認知過程

6 cognitive scientists study on “the” cognitive process.

“the” is followed

by a noun phrase

“the” specifies a contextual

background

People retrieve memory what

“the” may indicate

Yes, people’s EEG show a specific

type of patterns.

Yes, our parser uses the idea of

“the-NP” association

The age of nouns and function words to be

acquired seems different

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved5

Page 6: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第3回:認知科学の歴史(古典的)人工知能~並列分散処理~統計モデリング

Locke (17C), Hume (18C), Mill (19C)経験主義

Descartes (17C), Kant (18C)生得主義

Watson 1920-行動主義

Williams 1890-機能主義

Wundt 1890-構成主義

Nat

ure

N

urt

ure

Chomsky 1950-論理言語学

1930-情報科学・計算機科学e.g., von Neumann, Shannon

Plato BC4-3観念的・イデア論

Aristotle BC3経験哲学

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved 6

GOFAIトップダウン

Rummelhart &McClellandPDP model 1986-

Minsky, Newell, McCarthy 記号的人工知能

認知革命

並列分散処理ボトムアップ

情報科学・統計学的モデル

2000ごろ~現在

フレーム問題など

(注)対立軸ではない

計算資源の増加+MCMC

Page 7: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第4回:Marrの計算理論の水準・逆問題

• 図A(図Bに対して)がアートたり得るのは?– 人は、元の3D構造を”勝手に”推定するから(+その推定した3D構造と現実がかけ離れているため)

– Why fig A is supposed an “art” (but not fig B.): we backward the original 3D from its shade

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved7

(A) 「ランチはヘルメットをかぶって・・・」 (福田繁雄,1987) (B) バイクの影 (unknown)

Page 8: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第5回: ニューラルネットワーク

入力1: x1

入力2: xN

重みN: wN

重み1: w1

出力: y

X: 荷重和 = w1x1 + w2x2 +・・+ wNxN

y=H(w1x1+w2x2)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved8

・・・

入力2: x2

重み1: w2

Heaviside function H閾値関数

0

1

X

H

シナプス1

シナプス2

軸索

電気的伝達

化学的伝達

Page 9: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第6回: 不良設定な逆問題

学習外界の情報

計算・推定による情報の補完省略・修飾Computation

反応

順方向:心的地図から反応(心的距離データ)の生成逆推定:心的距離データから心的地図の推定

心的イメージの推定

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved9

Page 10: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第9回: 脳機能マップ

• 身体のトポグラフィックな表現– 癲癇患者の外科手術のための局部麻酔の効果を調べるための電気刺激法から判明

– 患者は刺激された脳部位と対応する身体を触られる経験を報告

– 感受性(弁別閾)と脳領域に相関あり(Weinstein, 1968)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved10Penfield & Jasper (1954); Penfield & Boldrey (1958)

Page 11: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第10回: 認知発達~言語と学習

• 発達~時間を含む多次元空間の谷

–谷に沿って個体の表現形が発達する

–遺伝子型や個体発生に関わる環境発達の軌道を変化させる

–復元する傾向がある

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved11

Page 12: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第11回: 行動実験・イメージング

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved12

行動(課題) A B A B A B

神経活動

Block design

AverageNeural Signals

A B conditions

Brain mapping

Page 13: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

第13回:身体性認知・社会的認知

• 脳(神経系)、身体、環境の動的相互作用の生成する行為、行動を強調する考え方

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved13

Beer (2008) Handbook of cognitive science: an embodied approach

Page 14: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

認知科学

• ヒトの活動のほぼ全てを対象とする研究群

• 広く、深く、かつ道が無数にある研究分野

– ヒトそのものと同じ奥行き

–様々なアイデアが分野を超えて交錯する場所

–当然、本講義では語りつくせない

–興味のある分野に関しては、講義資料の引用文献などやキーワードをたどる事を勧める

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved14

Page 15: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

現時点での集計結果(中間試験以前)

• 中間試験

–平均 69.5点 (最高96点)

• 演習1

–平均 72点 (最高95点)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved15

Page 16: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

認知科学演習1の解説

• 演習1

–課題1: 逆問題

–課題2: パーセプトロン

–課題3: ホップフィールドネットワーク

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved16

Page 17: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

演習1・レポート課題1

• 事前課題の結果(当日配布)を踏まえて、以下の考察をしなさい。1. 推定されたあなたの認知的な地図・色空間は、1~5次

元空間のいずれで表現するのが妥当だと考えられるか。また、そう思う理由をあわせて、認知的な地図・色空間に関してそれぞれ書きなさい。

2. AさんとBさんの認知的な地図・色空間が同じであったとする。このとき、その二人は同じ心的都市あるいは同じ色の知覚(e.g., Aさんの「赤」はBさんの「赤」と同じ)を持つ、と言えるか。多次元尺度法の逆問題推定のメカニズムを考慮して考察しなさい。

• (文字数任意、ただし参考として(1),(2)それぞれにつき400~800文字程度)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved17

Page 18: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

心的イメージの推定

学習外界の情報

計算・推定による情報の補完省略・修飾Computation

反応

順方向:心的地図から反応(心的距離データ)の生成逆推定:心的距離データから心的地図の推定

心的イメージの推定

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved18

Page 19: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved19

事前課題(認知的な都市間の距離)から推定した結果

130 135 140 145

28

30

32

34

36

38

40

42

44

46

48

50

東京

大阪名古

札幌

神戸

京都

福岡

金沢

仙台

那覇

経度

緯度

MapGround truthAverage cognitive map

Page 20: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

推定された”認知地図”(平均)の次元

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved20

Stress = MDSの誤差(距離行列)Standardized error = 実際の地図との最小誤差

2次元でほぼ最小のStress

3次元以降でStressの改善がみられない

Page 21: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

解答のポイント1-1

1. 推定されたあなたの認知的な地図・色空間は、1~5次元空間のいずれで表現するのが妥当だと考えられるか。また、そう思う理由をあわせて、認知的な地図・色空間に関してそれぞれ書きなさい。– 誤差(Stress)がほぼ最小になり、かつそれより高い次元で誤差の減少の乏しい次元を選択しているか。

– 実際の色空間・都市の関係と心的表象の比較

• 減点された回答の例– 誤差に対する言及が無い。

– 地図は2次元・色は3次元であるべきという直感を理由とする

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved21

Page 22: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

解答のポイント1-2

• AさんとBさんの認知的な地図・色空間が同じであった

とする。このとき、その二人は同じ心的都市あるいは同じ色の知覚(e.g., Aさんの「赤」はBさんの「赤」と同じ)を

持つ、と言えるか。多次元尺度法の逆問題推定のメカニズムを考慮して考察しなさい。

• 色の知覚色間の心理的距離は(理論上)一意に定まる順問

題で、その逆は不良設定問題であるので、同じ知覚を持つとは必ずしも言えない。

• 減点された回答

–理由の言及がモデルに直接関係無い(個人差など)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved22

Page 23: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

演習1・レポート課題2-1

• [ 課題 2 Feed-forward network ]• 単純パーセプトロンとは以下のようなモデルである。

(2-1) 単純パーセプトロンは非線形問題(XOR問題など)を解く(分類する)ことが原理的にできない。以下の入力と出力の組(x1, x2, y)を満たすパーセプトロンを作れるか答えなさい。作れる場合、与えられた出力を満たす重み(w1,w2, b)の数値例を答えなさい。• (2-1a) { (x1, x2, y): (0, 0, 1), (0, 1, 1), (1, 0, 1), (1, 1, 0) }• (2-1b) { (x1, x2, y): (0, 0, 1), (0, 1, 0), (1, 0, 0), (1, 1, 1) }• (2-1c) { (x1, x2, y): (0, 0, 1), (0, 1, 0), (1, 0, 1), (1, 1, 0) }

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved23

Page 24: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

課題2-1

• 解答例

– (a) 構成可能 not AND. (例:w1=-1, w2=-1, b=-1.5)

– (b) 構成不可能 not XOR

– (c) 構成可能 (例: w1=0, w2=-1, b=-0.5)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved24

Page 25: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

演習1・レポート課題2-2

• (2-2) 単純パーセプトロンに線形関数での出力を受ける中間層を加えて拡張したのが以下のモデルである。

• この線形3層パーセプトロンを使った場合、XOR問題は分類可能であるか、またその理由を答えなさい。XOR問題とは以下の入力・出力の組である。

• (XOR問題) { (x1, x2, y): (0, 0, 0), (0, 1, 1), (1, 0, 1), (1, 1, 0) }• (文字数任意、ただし参考として: 400~1000文字程度)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved25

Page 26: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

課題2-2

• 解答例

– 3層に拡張された線形パーセプトロンではXOR問

題は分類できない。なぜなら、入力・中間層の出力は、入力層だけだったときと同じく線形境界になり、線形分離不可能なXOR問題は分類できないため。

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved26

補足解説

左記の定義より、y = H{ (w35w13+w45w14) x1 +(w35w23+w45w24) x2 }

よって、拡張線形パーセプトロンもやはり1つの線形境界による分類とみなせる。

Page 27: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

Learnability of Simple Perceptron

• 2真偽値(e.g., {0, 1})の分類

– “線形分離可能”な場合は分類可能

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved27

入力層 中間層 出力層

x1

x2

y

{0, 0}x1

{0, 1} {1, 1}

{1, 0}

x2

= 0, = 1X = w1x1 + w2x2

0 1X

分類に成功した境界

分類に失敗した境界

Page 28: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

Limitation in learnability of Simple PerceptronMinsky & Papert (1969)

• 2真偽値(e.g., {0, 1})の分類– “線形分離不可能”な場合は分類可能

– 例としてXOR問題など

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved28

{0, 0}x1

{0, 1} {1, 1}

{1, 0}

x2

= 0, = 1入力 x1 入力 x2 出力(教師)

状態 カレーライス ハンバーグ うれしい

空腹 0 0 0

満腹 1 0 1

満腹 0 1 1

食べすぎ 1 1 0

XOR問題: “1つだけ食べたい”

Page 29: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

演習1・レポート課題3

• [ 課題3 Recurrent network ]• 以下のような4つのニューロンをもつホップフィールドネットワークを考える。4つのニューロンの出力値を(x1, x2, x3, x4)と表示する。

• (3-1) あるネットワークが(1, 1, 1, 1)と(1, -1, -1, 1)を記憶できたとする。このとき、結合加重(w12,w13,w14, w23,w24,w34)と閾値(b1, b2,b3, b4)がどうであればよいか下記の表に数値を埋めて答えなさい。

• (3-2) (1, 1, 1, 1)と(1, 1, -1, 1)の二つのパタンを記憶するホップフィールドネットワークを作ることができるだろうか。その可否と理由を答えなさい。ヒント:上記の「連想記憶の条件」を使って答えなさい。

• (文字数任意、ただし参考として:50~100文字程度)

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved29

Page 30: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

課題3 解答例

• 3-1

• 3-2:

– (x1, x2, x4)=(1,1,1)に対し、定義からx3が一意に決まるため、(x1, x2, x3, x4)= (1,1,1,1)と(1,1,-1,1)を同

時に記憶するホップフィールドネットワークは作れない。

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved30

w12 W13 w14 w23 w24 W34 b1 b2 b3 b40.4 0.3 0.7 0.7 0.2 0.2 0 0 0 0

Page 31: 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回: 学際的研究分野としての認知科学 Cog.Sci. as Interdisciplinary fields 認知科学

おつかれさまでした(講義分)

• 質問?

• 授業アンケートの配布

–講義教員コード:K121

• この後、期末試験があります。

Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved31