公表値の修正について · 2017. 12. 12. · -142- 公表値の修正について 一部事業所で誤報告があったため、過去に遡及し修正値を取りまとめましたので公表いたします。
カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop....
Transcript of カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop....
![Page 1: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/1.jpg)
1
福水健次
統計数理研究所/総合研究大学院大学
大阪大学大学院基礎工学研究科・集中講義
2014 September
カーネル法入門3.カーネル法の数理的基礎
![Page 2: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/2.jpg)
2
カーネル法で用いられる,正定値カーネルに関する基礎的性質を述べる
• 正定値性を保つ操作
• Bochnerの定理
• RKHSの陽な形
• 負定値カーネル
• Mercerの定理
![Page 3: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/3.jpg)
正定値性を保つ操作
3
![Page 4: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/4.jpg)
複素数値の正定値カーネル定義.
Ω: 集合. : Ω Ω → が正定値であるとは,任意の個数の点 1, … , ∈ Ω と複素数 , … , ∈ に対し,
が成り立つことをいう.
注意: 上の定義から,Gram行列 , はHermitianになる, i.e.
, , . [演習問題:これを示せ]
4
,
, 0.
![Page 5: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/5.jpg)
正定値性を保つ変換
命題4.1 : Ω Ω → ( 1,2, … ,) を正定値カーネルとするとき,以下はまた
正定値カーネルである:1. (非負結合) , 0 .2. (積) , ,3. (極限) lim
→ , , (極限の存在は仮定).
1,3 は定義から明らか.2を示すには,2つの半正定値行列のHadamard積(要素ごとの積)がまた半正定値であることを言えばよい.
Ω上の正定値カーネル全体は,各点収束の位相によって,閉凸錐を成す
50
![Page 6: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/6.jpg)
命題4.2と が半正定値Hermite行列であるとき,それらHadamard積 ∗ (要素ごとの積)は半正定値である.
Proof)の固有展開: Λ
i.e.,
すると,
n
pjp
ippij UUA
1 (半正定値性よりp ≧ 0).
n
ji ijji Kcc1,
.01,1, 111
n
ji ijj
njinin
n
ji ijj
ji
i BUcUcBUcUc
n
p
n
ji ijjp
ippji BUUcc
1 1,
∎6
0⋯00 ⋯⋮⋱⋮0⋯0
![Page 7: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/7.jpg)
カーネルの正規化命題4.3
を集合Ω上の正定値カーネル, : Ω → を任意の関数とするとき,
, ≔ ,
は正定値カーネルである.特に,
正定値カーネルである.
– Proof [演習問題]– 例)正規化: 任意の正定値カーネル , に対し,
は正定値.任意の ∈ Ω に対し Φ 1が成立(Φ ≔ ⋅, ).
,,
, ,
7
![Page 8: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/8.jpg)
さまざまなカーネルの正定値性– Euclid内積 : (すでに見た.命題1.1).
– 多項式カーネル ( 0): ⋯ , 0.
正定値カーネルの冪(積)とそれらの非負結合.
– ガウスRBFカーネル exp :
exp / / /
/ 11
1!1
2! ⋯
は正定値(命題. 4.1). 命題4.3よりガウスカーネルは正定値.
– Laplaceカーネルは,Bochnerの定理を使う.(後述).
8
![Page 9: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/9.jpg)
Bochnerの定理
9
![Page 10: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/10.jpg)
平行移動不変なカーネル– 上の正定値カーネル , が平行移動不変であるとは, カー
ネルが , の形を持つことをいう.
– 例: GaussRBFカーネル, Laplaceカーネル
– 上のFourier カーネル (C-値正定値): 各 ∈ に対し,
, exp 1 exp 1 exp 1
(Prop. 4.3)
– , が正定値カーネルである時, を正定値関数という.
10
![Page 11: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/11.jpg)
Bochnerの定理定理4.4 (Bochner)
を 上の連続関数とする時, ( -値)正定値関数であることと,上の有限非負Borel測度 Λが存在して
exp 1 Λ
と書けることは同値である.このとき Λは一意に決まる.
– Λ は のFourier (Fourier-Stieltjes) 変換.– 連続な正定値関数は,非負のFourier変換を持つことで特徴づけられ
る.– Bochnerの定理より, exp 1 ∈ は,平行移動不変な
連続正定値カーネルのなす錐の生成集合. (命題4.1参照).
– 十分性は容易: ∑ , | ∑ | Λ .必要性は難しい(参考:伊藤1963 §30).
11
![Page 12: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/12.jpg)
12
平行移動不変な正定値カーネルの集合
exp 1
![Page 13: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/13.jpg)
周波数領域でみたRKHS平行移動不変なカーネル が以下の形を持つと仮定する(c.f. Bochner)
するとRKHS は
∈ ,
∞ ,
,
ただし は のFourier変換 e .
– このときRKHSノルム は の滑らかさ(周波数特性)と関連する.
は連続, 0, ∞
13
, exp 1 .
![Page 14: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/14.jpg)
[証明] 再生性のみ確認する.詳しい証明は福水(命題2.19)
≔ , とおく. の定義より
であるから, は のFourier逆変換.すると, のFourier変換 は,
で与えられる.
内積の定義により
,
14
[Fourier逆変換]
![Page 15: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/15.jpg)
GaussRBFカーネル
, exp , exp
∈ , exp 2 ∞
, 2 exp 2
Laplace カーネル( 上) , exp | | ,
12
∈ , ∞
, 2
– ∈ の高周波成分は,GaussカーネルとLaplaceカーネルで大きく異なる.
15
![Page 16: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/16.jpg)
-5 -4 -3 -2 -1 0 1 2 3 4 50
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
GaussianLaplace
16
周波数特性
![Page 17: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/17.jpg)
多項式カーネルのRKHS– Polynomial kernel on :
, , 0, ∈
, 1 2 ⋯ .
命題4.50のとき, 次の多項式カーネル定めるRKHSは 次以下
の多項式全体のなす空間と,ベクトル空間として一致する.
[Proof: 演習問題. ヒント. ∑ , ∑ を満たすは線形方程式の解として与えられる.]
17
![Page 18: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/18.jpg)
和空間,積空間, , , : 集合Ω 上の正定値カーネル と対応するRKHS.
和空間RKHS for :
: Ω → ∃ ∈ , ∃ ∈ ,
min ∣ , ∈ , ∈ .
積空間RKHS for :
⊗ ベクトル空間としてのテンソル積.
∑ ∈ , ∈ は ⊗ の元.
∑ ,∑ ⊗ ∑ ∑ , , .
18
![Page 19: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/19.jpg)
負定値カーネルと正定値カーネル
19
![Page 20: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/20.jpg)
負定値カーネル
定義 カーネル : Ω Ω → が負定値であるとは, がHermitian すなわち , , であり,かつ任意の個数の点 , … , ∈ Ω と∑ 0を満たす , … , ∈ に対し,
,,
0
を満たすことをいう.
注1: ー(マイナス)負定値カーネル = 正定値カーネル ではない!
注2: 正定値カーネル に対し, は負定値カーネル.
20
![Page 21: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/21.jpg)
命題4.5定数関数は負定値カーネルである.
[演習問題] これを証明せよ.
命題4.6( 1,2, …)が負定値カーネルであるとき,次も負定値カーネル.
(1) [非負結合] ( , 0)
(2) [極限] lim→
, (極限の存在は仮定)
(証明は正定値の場合と同様)
21
![Page 22: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/22.jpg)
負定値カーネルの例定理4.7
を内積を持つベクトル空間, : Ω → を任意の写像とするとき,
は負定値カーネルである.
[証明]∑ 0をとる.∑ , ‖ ‖∑ , ‖ ‖ ‖ ‖ , ,
∑ | | ∑ ∑ ∑ | |
∑ , ∑ ∑ , ∑
∑ ∑ 0.
22
![Page 23: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/23.jpg)
正定値カーネルと負定値カーネル補題4.8
: Ω Ω → をHermitianカーネルとする.任意の点 ∈ Ωを固定し,
, ≔ , , , ,
と定める.このとき, が負定値であることと が正定値であることは同値である.
[証明] ⟸ は容易(演習).
⟹) , … , ∈ Ω, , … , を任意に取り, ≔ ∑ とおく. が負定値であることから, , , … , と , , … , (∑ 0) に対し,
0 ∑ ,,
∑ , ∑ , ∑ , ,∑ , , , ,.
∑ ,, 23
![Page 24: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/24.jpg)
Schoenbergの定理定理4.9 (Schoenbergの定理) Ωを空でない集合とし, : Ω Ω → をカーネルとする.このとき,
が負定値 ⟺任意の 0に対して exp が正定値.
[証明]⟸)
, lim↓
,(微分)より容易にわかる.
⟹) 1 について示せば十分. 補題4.8より
, , , , ,
は正定値.Taylor展開を考えれば exp , も正定値.すると
, , , , ,
は正定値.
24
![Page 25: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/25.jpg)
負定値カーネルの生成定理4.10
負定値カーネル : Ω Ω → が常に非負値をとると仮定する.このとき,任意の 0 1に対し,
,も負定値である.
Remark 1: 定理4.7と合わせると,ユークリッド空間上
0 2 は負定値カーネルである.
Remark 2: Remark 1とSchoenbergの定理と合わせると,exp
(0 2, 0)は正定値である.(Gauss, Laplace)
25
![Page 26: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/26.jpg)
[定理4.10の証明]次の公式が成り立つ(直接計算で容易に示される).
Γ 1 1
したがって,
, Γ 1 1 ,
被積分関数は,Schoenbergの定理より,任意の 0 で負定値.よって積分も有限和の極限として負定値.
26
![Page 27: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/27.jpg)
Mercerの定理
27
![Page 28: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/28.jpg)
積分作用素– 積分作用素
Ω, , : 測度空間
: Ω Ω → : 可測なカーネル(正定値性は仮定しない)
2乗可積分性を仮定
, ∞ .
このとき: Ω; → Ω;
を以下で定義
≔ , .
のことを積分核という.
[演習問題] 上の定義の が Ω; の元であることを確認せよ.28
![Page 29: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/29.jpg)
Hilbert-Schmidt展開
– 積分核が2乗可積分かつHermiteとする i.e. , , .このとき,積分作用素 は自己共役作用素.
, ,,
, .
– 自己共役作用素は,対称行列(Hermite)行列の一般化.
– 固有値,固有ベクトル
:スカラー, ∈ Ω;
,
c.f. 行列の場合 ∑29
![Page 30: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/30.jpg)
Fact: 自己共役作用素の固有値は実で,異なる固有値に対する固有ベクトルは互いに直交する.
(証) , ( ), , は単位固有ベクトルとする.このとき,, , , , , より ∈ .
また, , , , , . ゆえに , 0であるが, より, , 0.
定理4.11 (Hilbert-Schmidtの展開定理)
2乗可積分かつHermiteな積分核に対する積分作用素 の非零固有値を , 対応する単位固有ベクトルを とするとき,
,
が Ω ,Ω; の収束の意味で成立する.
– Hermite行列(対称行列)の固有分解に対応.
c.f. ∑ .
30
![Page 31: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/31.jpg)
Mercerの定理定義. 自己共役作用素 が正値であるとは,
, 0が成り立つことをいう.
Fact 1: を 上の連続な正定値カーネルとするとき, は正値作用素である.
, ← ∑ ,, 0.
Fact 2: 正値作用素の固有値は非負である.
とするとき, , , 0.
31
![Page 32: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/32.jpg)
定理4.12(Mercerの定理)
を のコンパクト集合Ω上の連続な正定値カーネルとする. の正の固有値を重複度だけ並べたものを ⋯ 0, 対応する単位固有ベクトルを とするとき,
,
が成り立つ.ここで,収束は Ω Ω 上の絶対かつ一様な収束である.
証明は福水(定理6.15)参照.
32
![Page 33: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/33.jpg)
まとめ– 正定値性を保つ操作
• 非負結合,• 積
• (各点での)極限
• 正規化
– Bochnerの定理
上の連続で平行移動不変な正定値カーネルのFourier変換による特徴づけ.
– RKHSの陽な形
• 平行移動不変なカーネルに対するRKHS は,周波数領域に置いて陽な形で表現できる.
• 多項式カーネルに対するRKHSは多項式の空間. • カーネルの和,積に対応して,和空間,積空間が定義される.
33
![Page 34: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/34.jpg)
– 負定値カーネル
• 負定値カーネルと正定値カーネルは密接な関係がある.
• 負定値カーネルから,正定値カーネルを生成することが可能である.
– Mercerの定理
• 正定値カーネルの固有展開が可能
34
![Page 35: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/35.jpg)
References福水 「カーネル法入門」 第6章 朝倉書店 2010Aronszajn., N. Theory of reproducing kernels. Trans. American Mathematical
Society, 68(3):337–404, 1950.Saitoh., S. Integral transforms, reproducing kernels, and their applications.
Addison Wesley Longman, 1997.伊藤清三 「ルベーグ積分入門」 裳華房 1963van den Berg, C., Christensen, J. P. R., Ressel, P. Harmonic Analysis on
Semigroups. Springer 1984
35
![Page 36: カーネル法入門 - 統計数理研究所fukumizu/OsakaU2014/OsakaU_3...Lexp1 Íexp1 Í U (Prop. 4.3) –, U L ð T F Uが正定値カーネルである時, を正定値関数と](https://reader034.fdocuments.net/reader034/viewer/2022043007/5f94ceef7ec3a247647ef923/html5/thumbnails/36.jpg)
Solution to Exercises C-valued positive definiteness
Using the definition for one point, we have , is real and non-negative for all . For any and , applying the definition with coefficient , 1 where ∈ , we have
, , , , 0.Since the right hand side is real, its complex conjugate also satisfies
, , , , 0.The difference of the left hand side of the above two inequalities is real, so that
, , , ,is a real number. On the other hand, since must be pure imaginary for any complex number ,
, , 0holds for any ∈ . This implies , , .
36