化学 静岡大学 (前期)1 / 8...化学 静岡大学 (前期) 1 / 8 理学部(数学科・化学科・地球科学科)、工学部(電子物質科学科・化学バイオ工学科・
認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回:...
Transcript of 認知科学概論 第14回 - JAIST 北陸先端科学技術大学院大学€¦ · 第1回:...
認知科学概論 (第14回)Introduction to Cognitive Science (14th)認知科学入門の振り返り・演習についての解説
日高 昇平
Hidaka, Shohei
shhidaka_@_jaist.ac.jp (知識I棟5F)
July 27th, 2016
1Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved
K121認知科学概論 (2016年度)講義予定 (月曜1限, 水曜2限,オフィスアワー月3)
K121講義資料:http://www.jaist.ac.jp/~shhidaka/
1. はじめに: 認知科学を歩くための地図 (6/13・月1限)2. 認知科学の方法論: 心の働きへのアプローチ (6/15・水2限)3. 認知科学の起こり 行動主義・人工知能・人工神経回路網モデル (6/20・月1限)4. 計算モデルの水準 (6/22・水2限)5. 情報処理の表現形式1:計算モデルにおける記号処理・分散処理 (6/29・水2限)6. 認知科学の方法論1:認知処理と計算モデル (7/4・月1限)7. 認知科学演習1 (7/4・月3限オフィスアワー)8. 中間試験 (7/6・水2限)9. 情報処理の表現形式2:脳機能マップ(7/11・月1限)10.認知発達1:言語・学習(7/11・月3限オフィスアワー)11.認知科学の方法論2:行動実験・脳機能イメージング (7/25・月1限)12.認知科学演習2 (7/25・月・3限オフィスアワー)13.認知発達2:社会的認知・身体性認知(7/13・水2限)14.講義の振り返り/期末試験(7/27・水2限)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved2
本講義のねらいThe goal of this lecture
• 認知科学入門&演習を振り返る
• Reiew the whole lecture series (including the practice problems).
3Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved
精神医学psychiatry
第1回: 学際的研究分野としての認知科学Cog.Sci. as Interdisciplinary fields
認知科学Cognitive Science
統計学Statistics
教育Education
経済学Economics
哲学Philosophy
人類学anthropology
言語学linguistics生物学
Biology
神経科学Neuroscience
ロボット工学Robotics
数学Mathematics
物理学Physics
人工知能/機械学習Artificial Intelligence/Machine Learning
心理学Psychology
情報科学Informatics
発達科学Developm
entalScience
me
本講義で取り上げる話題Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved
4
第2回: 6 “communicating” blinds
“the”の認知過程
6 cognitive scientists study on “the” cognitive process.
“the” is followed
by a noun phrase
“the” specifies a contextual
background
People retrieve memory what
“the” may indicate
Yes, people’s EEG show a specific
type of patterns.
Yes, our parser uses the idea of
“the-NP” association
The age of nouns and function words to be
acquired seems different
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved5
第3回:認知科学の歴史(古典的)人工知能~並列分散処理~統計モデリング
Locke (17C), Hume (18C), Mill (19C)経験主義
Descartes (17C), Kant (18C)生得主義
Watson 1920-行動主義
Williams 1890-機能主義
Wundt 1890-構成主義
Nat
ure
N
urt
ure
Chomsky 1950-論理言語学
1930-情報科学・計算機科学e.g., von Neumann, Shannon
Plato BC4-3観念的・イデア論
Aristotle BC3経験哲学
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved 6
GOFAIトップダウン
Rummelhart &McClellandPDP model 1986-
Minsky, Newell, McCarthy 記号的人工知能
認知革命
並列分散処理ボトムアップ
情報科学・統計学的モデル
2000ごろ~現在
フレーム問題など
(注)対立軸ではない
計算資源の増加+MCMC
第4回:Marrの計算理論の水準・逆問題
• 図A(図Bに対して)がアートたり得るのは?– 人は、元の3D構造を”勝手に”推定するから(+その推定した3D構造と現実がかけ離れているため)
– Why fig A is supposed an “art” (but not fig B.): we backward the original 3D from its shade
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved7
(A) 「ランチはヘルメットをかぶって・・・」 (福田繁雄,1987) (B) バイクの影 (unknown)
第5回: ニューラルネットワーク
入力1: x1
入力2: xN
重みN: wN
重み1: w1
出力: y
X: 荷重和 = w1x1 + w2x2 +・・+ wNxN
y=H(w1x1+w2x2)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved8
・・・
入力2: x2
重み1: w2
Heaviside function H閾値関数
0
1
X
H
シナプス1
シナプス2
軸索
電気的伝達
化学的伝達
第6回: 不良設定な逆問題
学習外界の情報
計算・推定による情報の補完省略・修飾Computation
反応
順方向:心的地図から反応(心的距離データ)の生成逆推定:心的距離データから心的地図の推定
心的イメージの推定
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved9
第9回: 脳機能マップ
• 身体のトポグラフィックな表現– 癲癇患者の外科手術のための局部麻酔の効果を調べるための電気刺激法から判明
– 患者は刺激された脳部位と対応する身体を触られる経験を報告
– 感受性(弁別閾)と脳領域に相関あり(Weinstein, 1968)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved10Penfield & Jasper (1954); Penfield & Boldrey (1958)
第10回: 認知発達~言語と学習
• 発達~時間を含む多次元空間の谷
–谷に沿って個体の表現形が発達する
–遺伝子型や個体発生に関わる環境発達の軌道を変化させる
–復元する傾向がある
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved11
第11回: 行動実験・イメージング
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved12
行動(課題) A B A B A B
神経活動
Block design
AverageNeural Signals
A B conditions
Brain mapping
第13回:身体性認知・社会的認知
• 脳(神経系)、身体、環境の動的相互作用の生成する行為、行動を強調する考え方
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved13
Beer (2008) Handbook of cognitive science: an embodied approach
認知科学
• ヒトの活動のほぼ全てを対象とする研究群
• 広く、深く、かつ道が無数にある研究分野
– ヒトそのものと同じ奥行き
–様々なアイデアが分野を超えて交錯する場所
–当然、本講義では語りつくせない
–興味のある分野に関しては、講義資料の引用文献などやキーワードをたどる事を勧める
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved14
現時点での集計結果(中間試験以前)
• 中間試験
–平均 69.5点 (最高96点)
• 演習1
–平均 72点 (最高95点)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved15
認知科学演習1の解説
• 演習1
–課題1: 逆問題
–課題2: パーセプトロン
–課題3: ホップフィールドネットワーク
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved16
演習1・レポート課題1
• 事前課題の結果(当日配布)を踏まえて、以下の考察をしなさい。1. 推定されたあなたの認知的な地図・色空間は、1~5次
元空間のいずれで表現するのが妥当だと考えられるか。また、そう思う理由をあわせて、認知的な地図・色空間に関してそれぞれ書きなさい。
2. AさんとBさんの認知的な地図・色空間が同じであったとする。このとき、その二人は同じ心的都市あるいは同じ色の知覚(e.g., Aさんの「赤」はBさんの「赤」と同じ)を持つ、と言えるか。多次元尺度法の逆問題推定のメカニズムを考慮して考察しなさい。
• (文字数任意、ただし参考として(1),(2)それぞれにつき400~800文字程度)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved17
心的イメージの推定
学習外界の情報
計算・推定による情報の補完省略・修飾Computation
反応
順方向:心的地図から反応(心的距離データ)の生成逆推定:心的距離データから心的地図の推定
心的イメージの推定
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved18
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved19
事前課題(認知的な都市間の距離)から推定した結果
130 135 140 145
28
30
32
34
36
38
40
42
44
46
48
50
東京
大阪名古
札幌
神戸
京都
福岡
金沢
仙台
那覇
経度
緯度
MapGround truthAverage cognitive map
推定された”認知地図”(平均)の次元
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved20
Stress = MDSの誤差(距離行列)Standardized error = 実際の地図との最小誤差
2次元でほぼ最小のStress
3次元以降でStressの改善がみられない
解答のポイント1-1
1. 推定されたあなたの認知的な地図・色空間は、1~5次元空間のいずれで表現するのが妥当だと考えられるか。また、そう思う理由をあわせて、認知的な地図・色空間に関してそれぞれ書きなさい。– 誤差(Stress)がほぼ最小になり、かつそれより高い次元で誤差の減少の乏しい次元を選択しているか。
– 実際の色空間・都市の関係と心的表象の比較
• 減点された回答の例– 誤差に対する言及が無い。
– 地図は2次元・色は3次元であるべきという直感を理由とする
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved21
解答のポイント1-2
• AさんとBさんの認知的な地図・色空間が同じであった
とする。このとき、その二人は同じ心的都市あるいは同じ色の知覚(e.g., Aさんの「赤」はBさんの「赤」と同じ)を
持つ、と言えるか。多次元尺度法の逆問題推定のメカニズムを考慮して考察しなさい。
• 色の知覚色間の心理的距離は(理論上)一意に定まる順問
題で、その逆は不良設定問題であるので、同じ知覚を持つとは必ずしも言えない。
• 減点された回答
–理由の言及がモデルに直接関係無い(個人差など)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved22
演習1・レポート課題2-1
• [ 課題 2 Feed-forward network ]• 単純パーセプトロンとは以下のようなモデルである。
(2-1) 単純パーセプトロンは非線形問題(XOR問題など)を解く(分類する)ことが原理的にできない。以下の入力と出力の組(x1, x2, y)を満たすパーセプトロンを作れるか答えなさい。作れる場合、与えられた出力を満たす重み(w1,w2, b)の数値例を答えなさい。• (2-1a) { (x1, x2, y): (0, 0, 1), (0, 1, 1), (1, 0, 1), (1, 1, 0) }• (2-1b) { (x1, x2, y): (0, 0, 1), (0, 1, 0), (1, 0, 0), (1, 1, 1) }• (2-1c) { (x1, x2, y): (0, 0, 1), (0, 1, 0), (1, 0, 1), (1, 1, 0) }
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved23
課題2-1
• 解答例
– (a) 構成可能 not AND. (例:w1=-1, w2=-1, b=-1.5)
– (b) 構成不可能 not XOR
– (c) 構成可能 (例: w1=0, w2=-1, b=-0.5)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved24
演習1・レポート課題2-2
• (2-2) 単純パーセプトロンに線形関数での出力を受ける中間層を加えて拡張したのが以下のモデルである。
• この線形3層パーセプトロンを使った場合、XOR問題は分類可能であるか、またその理由を答えなさい。XOR問題とは以下の入力・出力の組である。
• (XOR問題) { (x1, x2, y): (0, 0, 0), (0, 1, 1), (1, 0, 1), (1, 1, 0) }• (文字数任意、ただし参考として: 400~1000文字程度)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved25
課題2-2
• 解答例
– 3層に拡張された線形パーセプトロンではXOR問
題は分類できない。なぜなら、入力・中間層の出力は、入力層だけだったときと同じく線形境界になり、線形分離不可能なXOR問題は分類できないため。
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved26
補足解説
左記の定義より、y = H{ (w35w13+w45w14) x1 +(w35w23+w45w24) x2 }
よって、拡張線形パーセプトロンもやはり1つの線形境界による分類とみなせる。
Learnability of Simple Perceptron
• 2真偽値(e.g., {0, 1})の分類
– “線形分離可能”な場合は分類可能
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved27
入力層 中間層 出力層
x1
x2
y
{0, 0}x1
{0, 1} {1, 1}
{1, 0}
x2
= 0, = 1X = w1x1 + w2x2
0 1X
分類に成功した境界
分類に失敗した境界
Limitation in learnability of Simple PerceptronMinsky & Papert (1969)
• 2真偽値(e.g., {0, 1})の分類– “線形分離不可能”な場合は分類可能
– 例としてXOR問題など
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved28
{0, 0}x1
{0, 1} {1, 1}
{1, 0}
x2
= 0, = 1入力 x1 入力 x2 出力(教師)
状態 カレーライス ハンバーグ うれしい
空腹 0 0 0
満腹 1 0 1
満腹 0 1 1
食べすぎ 1 1 0
XOR問題: “1つだけ食べたい”
演習1・レポート課題3
• [ 課題3 Recurrent network ]• 以下のような4つのニューロンをもつホップフィールドネットワークを考える。4つのニューロンの出力値を(x1, x2, x3, x4)と表示する。
• (3-1) あるネットワークが(1, 1, 1, 1)と(1, -1, -1, 1)を記憶できたとする。このとき、結合加重(w12,w13,w14, w23,w24,w34)と閾値(b1, b2,b3, b4)がどうであればよいか下記の表に数値を埋めて答えなさい。
• (3-2) (1, 1, 1, 1)と(1, 1, -1, 1)の二つのパタンを記憶するホップフィールドネットワークを作ることができるだろうか。その可否と理由を答えなさい。ヒント:上記の「連想記憶の条件」を使って答えなさい。
• (文字数任意、ただし参考として:50~100文字程度)
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved29
課題3 解答例
• 3-1
• 3-2:
– (x1, x2, x4)=(1,1,1)に対し、定義からx3が一意に決まるため、(x1, x2, x3, x4)= (1,1,1,1)と(1,1,-1,1)を同
時に記憶するホップフィールドネットワークは作れない。
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved30
w12 W13 w14 w23 w24 W34 b1 b2 b3 b40.4 0.3 0.7 0.7 0.2 0.2 0 0 0 0
おつかれさまでした(講義分)
• 質問?
• 授業アンケートの配布
–講義教員コード:K121
• この後、期末試験があります。
Introduction to Cognitive Science, Copyright (c) 2016 S. Hidaka All Right Reserved31