医用画像におけるレジストレーションの基礎と...

32
1 千葉大学 フロンティアメディカル工学研究開発センター 羽石秀昭 医用画像におけるレジストレーションの基礎と 先端技術

Transcript of 医用画像におけるレジストレーションの基礎と...

Page 1: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

1

千葉大学

フロンティアメディカル工学研究開発センター

羽石秀昭

医用画像におけるレジストレーションの基礎と

先端技術

Page 2: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

2

2. 画像の類似性の評価尺度を決める

レジストレーション手法構築の手順

剛体変換でよいか、非剛体変換か 線形変換(アフィン変換)か非線形変換か

1. 画像の変形をモデル化する

3. 評価尺度を最適化するアルゴリズムを決める

位置合わせする画像の濃度値の性質などから決める。

設定された評価尺度(評価関数)の形状などから判断。非線形変形では、類似性以外に、変形の滑らかさの条件、特徴点などの拘束条件が評価項に加わることもある。

Page 3: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

3

基礎 画像の変形のモデル

大域的変形 -剛体変換 -アフィン変換 -高次多項式を用いた変換 局所的変形

画像の類似性の評価尺度 残差の二乗和 相関 相互情報量

評価尺度を最適化するアルゴリズム パウエル法他、多数

具体例 肺野画像の位置合わせ

講演内容

Page 4: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

画像の変形のモデル

大域的変形 剛体変換

アフィン変換

高次多項式を用いた変換

局所的変形

対象が剛体またはそう近似できる場合

剛体ではないものの線形変換で変形を表現できる場合

剛体ではないものの全体の変形を多項式で近似できる場合

変形の局所性が強く、多項式で表現できない場合

Page 5: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

5

B A

C D

B

A

C D

B A

C D

アフィン変換

剛体変換

x

y

x

y

x

y

剛体変換とアフィン変換

cossin0

sincos0

01

cos0sin

01

sin0cos

100

0cossin

0sincos

R

dRrr

34

24

14

333231

232221

131211

a

a

a

z

y

x

aaa

aaa

aaa

dRrr

回転と並行移動

パラメータ数:6

任意の線形変換

パラメータ数:12

剛体変換

アフィン変換

z

y

x

d

d

d

d

回転

並行移動

Page 6: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

6

非線形変形

一方の画像(フローティング画像)に制御点を等間隔に配置し、局所的な類似度を向上させるように、他方の画像(参照画像)に非線形に合わせ込む。 制御点以外の点の移動量は制御点の移動量から補間する。

参照画像

フローティング画像

制御点(実際は3D的に配置)

制御点を移動させる方法

Page 7: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

7

非線形変形

制御点

制御点を近似する曲線

変位量

制御点はあくまでも近傍の移動量を制御するための点。 制御点により近傍のスムーズな移動量を決定する方法。

B-splineを用いたFree-form deformation(FFD)

3

0

)()(i

ili uBx

1次元の例

Page 8: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

8

基礎 画像の変形のモデル

大域的変形 -剛体変換 -アフィン変換 -高次多項式を用いた変換 局所的変形

画像の類似性の評価尺度 残差の二乗和 相関 相互情報量

評価尺度を最適化するアルゴリズム パウエル法他、多数

具体例 肺野画像の位置合わせ

講演内容

Page 9: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

9

残差2乗和

画像の類似性の評価尺度

2

)()(1

rr fgn

SSD

正規化相互相関

22

1

22

1

)(

)(

)(

)(

)()(

)()(

gg

gg

ff

ff

ggff

ggffNCC

r

r

r

r

rr

rr

SSD: Sum of squared difference

NCC: Normalized cross correlation

相互情報量または 正規化相互情報量

MI: Mutual information

Page 10: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

10

残差2乗和

残差2乗和 SSD

2

)()(1

rr fgn

SSD

SSD: Sum of squared difference

r

r

)()( rr fg

)(rg

)(rf

r

r

bagf )()( rr

)(rg

r

)()( rr fg

2枚の撮影画像間で、ゲインやバイアスが異なっている場合、被写体が同一でも異なる信号となる。SSDはこれを区別してしまう。

対応する画素間の濃度差の2乗和

Page 11: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

11

正規化相互相関 NCC

22

1 )(

)(

)(

)(

gg

gg

ff

ffNCC

r

r

r

r

計算領域の

信号を正規化

正規化

計算領域の

信号を正規化

正規化

低相関 高相関

2つの計算領域で、それぞれ平均をゼロ、ノルムを1に

正規化した後で、相関演算

)(rf

)(rg

)(rf

)(rg

r

r

r

r

r

r

r

r

Page 12: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

12

0

画像A: オーバーラップ領域

2次元ヒストグラム作成

0

結合確率密度

オーバーラップしている全画素を対象に繰り返す

相互情報量

),()()(),( BAHBHAHBAI

画像Bの画素値

画像Aの画素値

画像Aの画素値

画像

Bの

画素値

周辺確率密度

1

1

( , )( , )a x y ab x y b

==

2

2

( , )( , )a x y ab x y b

==

2a 1a

2b

1b +1

+1

画像B:

相互情報量 MI

)()( AHapA

)()( BHbpB

),(),( BAHbapAB

),( yxa

),( yxb

),(log),(),(

)(log)()(

)(log)()(

,bapbapBAH

bpbpBH

apapAH

ABba AB

Bb B

Aa A

Page 13: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

13

相互情報量

),( bapAB結合確率密度

),( bapAB

CT

MRI

MRI

CT

相互情報量:小

相互情報量:大

(a) マッチ

(b) ミスマッチ

結合確率密度

Page 14: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

14

相互情報量と相関による位置合わせ評価(位置合わせ前)

参照画像 Image 1 Image 2

Floating Image 1

Refe

rence im

age

255

255 0

Floating Image 2 R

efe

rence im

age

255 255 0

シミュレーションによる検証

参照画像と同じ濃度分布で回転・並行移動しているもの

Image 1と濃度特性が異なるもの

Page 15: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

15

相互情報量と相関による位置合わせ評価(位置合わせ後)

Re

fere

nce im

ag

e

Re

fere

nce im

ag

e

25

5

255 0

25

5

255 0

Image 2 Image 1

Floating Image 1 Floating Image 2

相関による位置合わせ結果

Refe

rence im

age

Re

fere

nce im

ag

e

25

5

255 0

25

5

255 0

Image 2 Image 1

Floating Image 1 Floating Image 2

相互情報量による位置合わせ結果

Page 16: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

16

基礎 画像の変形のモデル

大域的変形 -剛体変換 -アフィン変換 -高次多項式を用いた変換 局所的変形

画像の類似性の評価尺度 残差の二乗和 相関 相互情報量

評価尺度を最適化するアルゴリズム パウエル法他、多数

具体例 肺野画像の位置合わせ

講演内容

Page 17: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

17

応用例:粒子線治療における画像レジストレーション

Page 18: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

18

CTとSPECTとの重ね合わせ

Page 19: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

19

診断用CTで得られた胸部画像

治療計画用CTで得られた胸部画像

断層像

レンダリング像

異なる体位でCT撮影された肺のレンダリング画像

Page 20: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

20

STEP1: 剛体変換により 位置合わせ (重心合わせ)

STEP2: 横隔膜付近の

補正(体軸方向のみの補正)

STEP3: 非剛体変換 (Free Form

Deformation)

Reference CT image (固定)

Floating CT image(変形する)

横隔膜

制御点を用いた変形

横隔膜を抽出し体軸方向に合わせ込む

異なる肺CT画像の位置合わせ

Page 21: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

21

剛体変換による位置合わせ

非剛体変換による位置合わせ

アキシャル面 サジタル面

アキシャル面 サジタル面

CTの画像位置合わせ 剛体変換と非剛体変換の比較

Page 22: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

22

まとめ

レジストレーションの基礎として、以下の項目を整理した。 画像の変形のモデル 画像の類似性の評価尺度

レジストレーションの具体例として、以下の研究例を紹介した。 粒子線治療における画像レジストレーション

Page 23: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

23

剛体変換 非剛体変換

Page 24: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

24

重心位置が合うようにSPECT画像を移動

肺マスクの重心座標

2値画像

CT 画像

SPECT 画像

肺領域を抽出

閾値処理

CTと潅流SPECTの位置合わせ:第1ステップ

Page 25: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

25

(a) MRI画像A (b) MRI画像B

位置合わせに用いる2枚のMRI画像

Page 26: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

(a) シフト量:Dx=-8 pixel (b) シフト量: Dx=30 pixel

2枚の画像の合成表示

一方の画像を、エッジ抽出して表示

Page 27: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

27

最急降下法の概念図

1p

2p

( )kp

( )kfム p

1次元探索方向

大局的最適解

Page 28: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

28

0 200 400 600 800 1000 1200 1400 1600 18000

500

1000

1500

2000

2500

3000

3500

4000

0500

1000

1500

2000

2500

3000

3500

4000

4500

0

500

1000

1500

2000

2500

3000

3500

4000

0 200 400 600 800 1000 1200 1400 1600 1800 20000

1000

2000

3000

4000

5000

6000

7000

8000

MI= 0.379

画像Aの周辺確率密度

画像Bの周辺確率密度

b

( )Bp b

( )Ap a

a

同時確率密度

(等高線表示)

( , )ABp a b

a

b

類似度が高い場合

Page 29: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

29

0 200 400 600 800 1000 1200 1400 1600 18000

500

1000

1500

2000

2500

3000

3500

4000

0 200 400 600 800 1000 1200 1400 1600 1800 20000

1000

2000

3000

4000

5000

6000

7000

8000

0500

1000

1500

2000

2500

3000

3500

4000

4500

0

1000

2000

3000

4000

5000

6000

MI= 0.136

画像Aの周辺確率密度

画像Bの周辺確率密度

b

( )Bp b

( )Ap a

a

同時確率密度

(等高線表示)

( , )ABp a b

a

b

類似度が低い場合

Page 30: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

30

Bi-linear 補間 i jf

1, 1i jf + +

, 1i jf +

v 1 v-

1 u-

u

, 1 1, 1, 1

, 1 1, 1, 1

(1 )(1 )[(1 ) ] [(1 ) ](1 )(1 ) (1 ) (1 )

A B

ij i j i j i j

ij i j i j i j

u uu v v u v vu v v u u v uv

f f ff f f ff f f f

+ + + +

+ + + +

= - += - - + + - += - - + - + - +

, , 1(1 )A i j i jv vf f f += - +

Af

Bf

STEP1

STEP2

1, 1, 1(1 )B i j i jv vf f f+ + += - +

f

( , )x yx

x

d1,i jf + / /u x xd d・= - ・

y

Page 31: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

31

相互情報量

0 b1

a1

b2

a2

Image A

Image B

overlapped area

+1

+1

2次元ヒストグラム作成

0

結合確率密度

Pab(a,b)

オーバーラップしている全画素を対象に繰り返す

a(x,y)=a2

b(x,y)=b2

a(x,y)=a1

b(x,y)=b1

)(AH

)(BH

),( BAH

相互情報量

),(

)()(),(

BAH

BHAHBAI

画像

Aの

画素値

画像Bの画素値

画像Bの画素値

画像

Aの

画素値

周辺確率密度

( )Bp b

( )Ap a

Page 32: 医用画像におけるレジストレーションの基礎と 先端技術haneishi/class/digitalgazo/Image_registration.pdf · 医用画像におけるレジストレーションの基礎と

32

制御点における移動の模式図

j d

図2 制御点における移動量の模式図

x

y

z

ijkf

ijkr

id

kd

d

)(1 rr T