Wavelet Transform and Applications - Bilkent...

41
Wavelet Transform and Applications A. Enis Çetin Bilkent Üniversitesi

Transcript of Wavelet Transform and Applications - Bilkent...

Page 1: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet Transformand

Applications

A. Enis ÇetinBilkent Üniversitesi

Page 2: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Multiresolution Signal Processing

● “Lincoln idea” by Salvador Dali● Dali Museum, Figueres, Spain● M. Mattera

Page 3: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Multi-resolution signal and image processing

http://www.ling.ohio-state.edu/~culicove/Publications/Lincoln.pdf

Page 4: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Decimation by a factor of 2

● Decimation is a lossy operation● We loose the high-frequency components● Use a high-pass filter to retain the high-frequency

band

Page 5: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Two-Channel Filter Bank

● Ho, Go are low-pass and H1 and G1 are half-band high-pass filters

^

● Perfect reconstruction is possible: f=f● Esteban & Galand, 1977 ●

Page 6: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Subband (halfband) Decomposition Filter-bank

● Orthogonality condition: |Ho(ω)|2+ |Ho(ω+π)|2 = 1

● High-pass filter: |H1(ω)|=|Ho(ω+π)|

● Provides perfect reconstruction● There are many solutions:● Daubechies filter banks = Smith-Barnwell filter

banks

Page 7: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Multi-Stage Filterbank

Page 8: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Block Wavelet Transform

● Order(N log N) transform● Order(N) is also possible● Cetin, Gerek, Ulukus, 1993:

Page 9: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Outline

● Wavelets form a basis for L2 ● Wavelets can be orthonormal● They provide a time-frequency decomposition of a

given signal● Orthogonal wavelets are constructed from perfect

reconstruction filterbanks● Adaptive filterbanks with a lifting structure● Image coding● Wildfire detection

Page 10: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet basis of L2(R)

● : wavelet coefficients● Notasyon: Bu konuşmada psi(t) yerine w(t) yi de

ana dalgacık olarak kullanacağım

Page 11: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet coefficients

● Properties:● Wavelets can be compactly supported● Countable number of wavelets● Wavelet is a band-pass waveform

Page 12: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet Functions

● Haar wavelet ● Çoklu-çözünürlüklü sinyal analizini mümkün kılar● “Zillion” çeşit ortogonal dalgacık tasarlamak

mümkündür● It is possible to define a scaling function ( )

for each wavelet with the property ● Scaling functions are low-pass signals:● Scaling coefficients:

Page 13: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Example: Haar Wavelet

● Corresponding scaling (smoothing) function:●

Page 14: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Multiresolution wavelet basis functions:

Page 15: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Fourier Transform

● Fourier basis function: is of infinite extent● Uncountably many basis functions: w is a real

number

Page 16: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

“Multiresolution” Subspaces

● An ordinary signal may have components in all subspaces:

Page 17: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

L2 nin Çoklu-cözünürlüklü Altuzaylara Bölünmesi

Page 18: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet supspaces

● Wo = span{ w(t-k), k: tamsayı}●

● Vj nin Wj ye dik olması şart değildir but it is a desirable property.

Page 19: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Structure of subspaces - I

● Wj+1 “z” ekseni olur, Vj+2 de 3-boyutlu uzay

Page 20: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Structure of subspaces

Page 21: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet Equation

● d[k]= < w(t), phi(2t-k) >, w(t)=2 g[k] phi(2t-k) ● g[k]= d[k]: bir yüksek geçirgen filtredir● Haar Dalgacığı●

Page 22: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Scaling Equation

● Vo < V1 =>●

● h[k] = < phi(t), phi(2t-k) >● Yukarda h[k]= c[k] bir alçak geçirgen filtredir

(pi/2'ye kadar)● Dalgacık denklemindeki g[k] ise bir yüksek

geçirgen filtredir (pi/2'den pi'ye kadar geçirir)

Page 23: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Dalgacık ve Ölçekleme Denklemlerinin Fourier Transformları

● Diklik şartı:

Page 24: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet Construction:Multi-resolution Analysis

● Start with a Perfect Reconstruction filterbank●

● We never compute innerproducts with phi(t) and w(t) in practice!

● We only use the filterbank!● Order(N) operation●

Page 25: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Dalgacık, Ölçek Fonksiyonu ve Altuzayların Frekans İçerikleri

● Vo uzayı yaklaşık olarak frekans içeriği (0,pi) arasındaki sinyallerden oluşur

● Wo uzayı (pi,2pi) arasındaki sinyallerden oluşur● V1 uzayı (0,2pi) arasındaki sinyallerden oluşur● W1 uzayı (2pi,4pi) arasındaki sinyallerden oluşur● V2 uzayı (0, 4pi) arasındaki sinyallerden oluşur

Page 26: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Wavelet family...w(t/2), w(t), w(2t), w(4t),... covers all frequencies

Page 27: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Filtre Kutusu Tasarımı

● Örnek p[n]: Lagrange filtreleri:● p[n]= [ ½ 1 ½] , p[n] = 2*[-1/32 0 9/32 1 9/32 0 -1/32]

Page 28: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Vj Uzayına Projeksiyon

Page 29: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Dalgacık Örneklemesi = V altuzaylarına projeksiyon

Page 30: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Örnekleme-II

Page 31: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Mallat's Algorithm (=Tam geri çatmalı filtre kutusu ile sinyal analizi)

● Üst uzay katsayılarından alt uzay katsayılarına geçiş:

● Geri çatma:●

Page 32: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Mallat'ın algoritması (Ağaç yapısı)

● fj[n]'den fj-1[n] ve bj-1[n] yi üret● fj-1[n]'den fj-2[n] ve bj-2[n] yi üret● fj-2[n]'den fj-3[n] ve bj-3[n] yi üret●

● Bir sinyalin ağaç gösterimi

Page 33: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Pratikte Yapılan Kesikli Dalgacık Dönüşümü

Page 34: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Dalgacık Paket Dönüşümü Örneği

Page 35: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Görüntü İşleme için iki-boyutlu Filtreleme

Page 36: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Örnek

● x[n] = ( 1 1 1 1 1 2 2 2 2 2 2 2 ....)● Altbant sinyalleri ● Alçakgeçirgen (lowband) sinyali● xo[n] = ( 1 1 1 1.5 2 2 2 2...)● Dalgacık (highbad) sinyali● x1[n]= ( 0 0 -0.5 -0.5 0 0 0 0 ...)

Page 37: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

1-D filtre kutusu ile 2-boyutlu görüntü işleme (ayrılabilir filtreleme)

Page 38: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

1-D filtre kutusu ile 2-boyutlu görüntü işleme (ayrılabilir filtreleme)

Bir kanalın ayrık işlenmesi:

Page 39: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Bir görüntünün Dalgacık Dönüşümü

● Bir ölçeklik dönüşüm:●

● Alçak geçirgen filtrelenmiş “low-low” görüntüsü tekrar ayrıştırılabilir

Page 40: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik

Görüntü Sıkıştırma

● JPEG-2000 dalgacık dönüşümüne dayalıdır● Yüksek geçirgen filtrelenmiş görüntülerde bilgi

daha azdır, sadece kenarlara karşı gelen yerlerde dalgacık değerleri vardır

● Bu görüntülerde pekçok değer sıfıra yakındır● Sıfıra yakın değerleri eşikleyerek sıfır yapın● Ayrıca altbant sinyalleri arasındaki ilişkiden de

faydalanılır

Page 41: Wavelet Transform and Applications - Bilkent Universitykilyos.ee.bilkent.edu.tr/~eee520/slides/wavelet.pdf · Fourier basis function: is of infinite extent ... Dönüşümü Bir ölçeklik