Independent Component Analysis of Simulated EEG

8/9/2019 Independent Component Analysis of Simulated EEG

1/24

I n d e p e n d e n t C o m p o n e n t A n a l y s i s o f S i m u l a t e d E E G

U s i n g a T h r e e - S h e l l S p h e r i c a l H e a d M o d e l

1

D a r a G h a h r e m a n i y , S c o t t M a k e i g z , T z y y - P i n g J u n g y z ,

A n t h o n y J . B e l l y , T e r r e n c e J . S e j n o w s k i y x

f d a r a , s c o t t , j u n g , t o n y , t e r r y g @ s a l k . e d u

I n s t i t u t e f o r N e u r a l C o m p u t a t i o n T e c h n i c a l R e p o r t N o . I N C - 9 6 0 1

y H o w a r d H u g h e s M e d i c a l I n s t i t u t e

C o m p u t a t i o n a l N e u r o b i o l o g y L a b o r a t o r y

T h e S a l k I n s t i t u t e , P . O . B o x 8 5 8 0 0

S a n D i e g o , C A 9 2 1 8 6 - 5 8 0 0

z N a v a l H e a l t h R e s e a r c h C e n t e r

P . O . B o x 8 5 1 2 2

S a n D i e g o , C A 9 2 1 8 6 - 5 1 2 2

D e p a r t m e n t o f N e u r o s c i e n c e s

S c h o o l o f M e d i c i n e

U n i v e r s i t y o f C a l i f o r n i a S a n D i e g o

L a J o l l a , C A 9 2 0 9 3

x D e p a r t m e n t o f B i o l o g y

U n i v e r s i t y o f C a l i f o r n i a S a n D i e g o

L a J o l l a , C A 9 2 0 9 3

1

T h i s r e p o r t w a s s u p p o r t e d i n p a r t b y t h e N a v y M e d i c a l R e s e a r c h a n d D e v e l o p m e n t C o m m a n d

a n d t h e O c e o f N a v a l R e s e a r c h , D e p a r t m e n t o f t h e N a v y u n d e r w o r k u n i t O N R . R e i m b - 6 4 2 9 . T h e

v i e w s e x p r e s s e d i n t h i s a r t i c l e a r e t h o s e o f t h e a u t h o r s a n d d o n o t r e e c t t h e o c i a l p o l i c y o r

p o s i t i o n o f t h e D e p a r t m e n t o f t h e N a v y , D e p a r t m e n t o f D e f e n s e , o r t h e U . S . G o v e r n m e n t . A p p r o v e d

f o r p u b l i c r e l e a s e , d i s t r i b u t i o n u n l i m i t e d .


2/24

A b s t r a c t

T h e I n d e p e n d e n t C o m p o n e n t A n a l y s i s ( I C A ) a l g o r i t h m

1

i s a n e w i n f o r m a t i o n - t h e o r e t i c

a p p r o a c h t o t h e p r o b l e m o f s e p a r a t i n g m u l t i c h a n n e l e l e c t r o e n c e p h a l o g r a p h i c ( E E G )

d a t a i n t o i n d e p e n d e n t s o u r c e s

2

. W e t e s t e d t h e p o t e n t i a l u s e f u l n e s s o f t h e I C A a l g o -

r i t h m f o r E E G s o u r c e d e c o m p o s i t i o n b y a p p l y i n g t h e a l g o r i t h m t o s i m u l a t e d E E G

d a t a . T h e s e d a t a w e r e s y n t h e s i z e d b y p r o j e c t i n g 6 k n o w n i n p u t s i g n a l s f r o m s i n g l e -

a n d m u l t i p l e - d i p o l e s o u r c e s i n a t h r e e - s h e l l s p h e r i c a l m o d e l h e a d

3

t o 6 s i m u l a t e d s c a l p

s e n s o r s .

I n d i e r e n t s i m u l a t i o n s , w e ( 1 ) a l t e r e d t h e r e l a t i v e s o u r c e s t r e n g t h s , ( 2 ) a d d e d

m u l t i p l e l o w - l e v e l s o u r c e s ( w e a k b r a i n s o u r c e s a n d s e n s o r n o i s e ) t o t h e s i m u l a t e d

E E G , a n d ( 3 ) p e r m u t e d t h e s i m u l a t e d d i p o l e s o u r c e l o c a t i o n s a n d o r i e n t a t i o n s . T h e

a l g o r i t h m s u c c e s s f u l l y a n d r e l i a b l y s e p a r a t e d t h e a c t i v i t i e s o f r e l a t i v e l y s t r o n g s o u r c e s

f r o m t h e a c t i v i t i e s o f w e a k e r b r a i n s o u r c e s a n d s e n s o r n o i s e , r e g a r d l e s s o f s o u r c e l o -

c a t i o n s a n d d i p o l e o r i e n t a t i o n s . T h e s e r e s u l t s s u g g e s t t h a t t h e I C A a l g o r i t h m s h o u l d

b e a b l e t o s e p a r a t e t e m p o r a l l y i n d e p e n d e n t b u t s p a t i a l l y o v e r l a p p i n g E E G a c t i v i -

t i e s a r i s i n g f r o m r e l a t i v e l y s t r o n g b r a i n a n d / o r n o n - b r a i n s o u r c e s , r e g a r d l e s s o f t h e i r

s p a t i a l d i s t r i b u t i o n s .


3/24

1 I n t r o d u c t i o n

M u l t i c h a n n e l e l e c t r o m a g n e t i c r e c o r d i n g s f r o m t h e s c a l p , i n c l u d i n g E E G , m a g n e t o e n -

c e p h a l o g r a p h i c ( M E G ) , e v e n t - r e l a t e d p o t e n t i a l ( E R P ) a n d e v e n t - r e l a t e d e l d ( E R F )

d a t a , h a v e b e e n w i d e l y u s e d t o s t u d y d y n a m i c b r a i n p r o c e s s e s i n v o l v e d i n p e r c e p -

t i o n , m e m o r y , s e l e c t i v e a t t e n t i o n , r e c o g n i t i o n , a n d p r i m i n g . H o w e v e r , t h e u n d e r l y i n g

b r a i n p r o c e s s e s w h i c h p r o d u c e e l d s r e c o r d e d a t t h e s c a l p a r e l a r g e l y u n d e t e r m i n e d .

T h e m o s t c o m m o n m o d e l f o r E E G g e n e r a t i o n a s s u m e s t h a t e l e c t r o d e s p l a c e d o n t h e

s c a l p s u r f a c e r e c o r d t h e e l e c t r o m a g n e t i c a c t i v i t y o f l o c a l o r d i s t r i b u t e d c o r t i c a l n e u r a l

n e t w o r k s w h i c h f o r m e e c t i v e s i n g l e - o r m u l t i p l e - d i p o l e s o u r c e s ( F i g 1 a )

4 5 6

E E G r e c o r d i n g s c o n s i s t o f a c o m p l e x d i s t r i b u t i o n o f o v e r l a p p i n g s o u r c e a c t i v i t i e s ,

m a k i n g i t d i c u l t t o i d e n t i f y t h e c o n t r i b u t i n g i n d e p e n d e n t s o u r c e s . T h e p r o b l e m o f

s e p a r a t i n g s o u r c e s w i t h o u t a p r i o r i k n o w l e d g e o f t h e i r n u m b e r o r s p a t i a l d i s t r i b u -

t i o n i s k n o w n a s \ b l i n d s e p a r a t i o n " . M o s t e x i s t i n g t e c h n i q u e s f o r a p p r o a c h i n g t h e

p r o b l e m o f s o u r c e s e p a r a t i o n e m p l o y s e c o n d - o r d e r s t a t i s t i c a l m e t h o d s ( e . g . c o v a r i -

a n c e , c r o s s - c o r r e l a t i o n , a n d p r i n c i p l e c o m p o n e n t a n a l y s i s ) .

6

T h e I n d e p e n d e n t C o m -

p o n e n t A n a l y s i s ( I C A ) a l g o r i t h m

1

w e u s e i s a b l i n d s e p a r a t i o n t e c h n i q u e b a s e d o n

i n f o r m a t i o n - m a x i m i z a t i o n w h i c h u s e s h i g h e r - o r d e r s t a t i s t i c a l i n f o r m a t i o n . T h e a l g o -

r i t h m h a s b e e n r e c e n t l y s h o w n t o p r o d u c e u s e f u l d e c o m p o s i t i o n s o f E E G d a t a

2

, s e p a -

r a t i n g i d e n t i a b l e E E G c o m p o n e n t s ( e . g . , a l p h a w a v e s a n d s t e a d y - s t a t e r e s p o n s e s

7 8

)

i n t o i n d i v i d u a l o u t p u t c h a n n e l s .

H o w e v e r , w i t h o u t p r i o r k n o w l e d g e o f t h e a c t u a l b r a i n s o u r c e s w h i c h c o n t r i b u t e

t o t h e E E G , i t i s d i c u l t t o v e r i f y t h e a l g o r i t h m ' s e e c t i v e n e s s . W e a s s u m e t h e r e

1


4/24

m a y b e a f e w s t r o n g s o u r c e s a c t i v e d u r i n g a g i v e n E E G r e c o r d i n g p e r i o d a l o n g w i t h a

l a r g e r n u m b e r o f r e l a t i v e l y w e a k s o u r c e s . I n a d d i t i o n , l o w - l e v e l s e n s o r n o i s e m a y c o n -

t a m i n a t e s c a l p r e c o r d i n g s . T o d e t e r m i n e w h e t h e r t h e I C A a l g o r i t h m c a n s u c c e s s f u l l y

s e p a r a t e r e l a t i v e l y s t r o n g s i g n a l s m i x e d w i t h n u m e r o u s w e a k e r s i g n a l s , w e p e r f o r m e d

s e v e r a l s i m u l a t i o n e x p e r i m e n t s .

W e s i m u l a t e d t h e a c t i v i t i e s o f 6 b r a i n s o u r c e s i g n a l s p r o j e c t e d i n a t h r e e - s h e l l

s p h e r i c a l h e a d m o d e l

3

b y v o l u m e c o n d u c t i o n t o 6 s c a l p e l e c t r o d e s a n d a p p l i e d t h e

I C A a l g o r i t h m t o r e s u l t i n g s i m u l a t e d E E G s i g n a l s . T h e s i m u l a t i o n s a l l o w e d u s t o

i n v e s t i g a t e c h a n g e s i n I C A a l g o r i t h m p e r f o r m a n c e w i t h v a r i a t i o n s i n s o u r c e s t r e n g t h ,

l o c a t i o n , a n d o r i e n t a t i o n a s w e l l a s e e c t s o f a d d i n g s i m u l a t e d w e a k b r a i n s i g n a l s a n d

s e n s o r n o i s e t o t h e s i m u l a t e d E E G .

1 . 1 T h e I C A a l g o r i t h m

T h e a l g o r i t h m i s b a s e d o n a n ` i n f o m a x ' n e u r a l n e t w o r k

1 9 1 0

. I t n d s , b y s t o c h a s t i c

g r a d i e n t a s c e n t , a m a t r i x , W , w h i c h m a x i m i z e s t h e e n t r o p y ,

1 1

H ( y ) , o f a n e n s e m b l e

o f ` s p h e r e d ' i n p u t v e c t o r s f x

s

( t ) g , l i n e a r l y t r a n s f o r m e d a n d s i g m o i d a l l y c o m p r e s s e d :

u ( t ) = W x

s

( t ) y = g ( u ( t ) ) ( 1 )

T h e ` u n m i x i n g ' m a t r i x W p e r f o r m s s o u r c e s e p a r a t i o n , w h i l e t h e s i g m o i d a l n o n l i n e a r -

i t y g ( ) p r o v i d e s n e c e s s a r y h i g h e r - o r d e r s t a t i s t i c a l i n f o r m a t i o n . I n i t i a l s p h e r i n g o f t h e

z e r o - m e a n i n p u t d a t a

1 2

:

x

s

( t ) = P x ( t ) ( 2 )

w h e r e P i s t w i c e t h e m a t r i x s q u a r e r o o t o f t h e i n v e r s e o f t h e c o v a r i a n c e m a t r i x , u s e d

t o s p e e d c o n v e r g e n c e :

P = 2 h x x

T

i

;

1

2

( 3 )

2


5/24

W i s t h e n i n i t i a l i z e d ( i n o u r s i m u l a t i o n s w i t h r a n d o m v a l u e s b e t w e e n 0 . 1 a n d 1 . 0 ) ,

a n d i t e r a t i v e l y a d j u s t e d u s i n g s m a l l b a t c h e s o f d a t a v e c t o r s d r a w n r a n d o m l y f r o m

f x

s

( t ) g w i t h o u t s u b s t i t u t i o n , a c c o r d i n g t o :

W =

@ H ( y )

@ W

W

T

W = ( I +

y u

T

) W ( 4 )

w h e r e i s t h e l e a r n i n g r a t e , I i s t h e i d e n t i t y m a t r i x , a n d v e c t o r

y h a s e l e m e n t s

y

i

= ( @ = @ u

i

) l n ( @ y

i

= @ u

i

) ( 5 )

T h e ( W

T

W ) ` n a t u r a l g r a d i e n t ' t e r m i n t h e u p d a t e e q u a t i o n

1 3

a v o i d s m a t r i x i n -

v e r s i o n s a n d s p e e d s c o n v e r g e n c e . W e u s e t h e l o g i s t i c n o n l i n e a r i t y , g ( u

i

) = ( 1 +

e x p ( ; u

i

) )

; 1

, f o r w h i c h ^ y

i

= 1 ; 2 y

i

. W h e n I C A a l g o r i t h m i s t r a i n e d o n E E G d a t a ,

t h e r o w s o f t h e r e s u l t a n t m a t r i x ( W P ) a r e l i n e a r s p a t i a l l t e r s w h i c h , a p p l i e d t o

t h e i n p u t d a t a , p r o d u c e s o u r c e a c t i v i t y w a v e f o r m s ( W P x ( t ) ) . T h e c o l u m n s o f t h e i n -

v e r s e w e i g h t m a t r i x ( W P )

; 1

r e p r e s e n t t h e p r o j e c t i o n w e i g h t s f r o m t h e I C A a l g o r i t h m

s o u r c e s t o t h e s e n s o r a r r a y . F u r t h e r d e t a i l s a n d r e f e r e n c e s a b o u t t h e a l g o r i t h m a p p e a r

i n

1 1 3 1 4 1 5

, o t h e r r e l a t e d a p p r o a c h e s a n d b a c k g r o u n d m a t e r i a l i n

1 0 1 6 1 7 1 8 1 9

2 M e t h o d s

A n o v e r v i e w o f t h e s i m u l a t i o n p r o c e s s i s g i v e n i n F i g . 2 .

2 . 1 T h e t h r e e - s h e l l s p h e r i c a l h e a d m o d e l

I n o u r s i m u l a t i o n s , w e u s e d a t h r e e - s h e l l s p h e r i c a l h e a d m o d e l w h i c h p r o j e c t s d i p o l e s

a t 4 x e d b r a i n l o c a t i o n s o n t o 6 s c a l p e l e c t r o d e s . T h e p r o j e c t i o n m a t r i x c o n t a i n i n g t h e

m o d e l p a r a m e t e r s w a s p r e c o m p u t e d b y A n d e r s D a l e u s i n g a n a n a l y t i c r e p r e s e n t a t i o n

f o r a t h r e e - s h e l l s p h e r i c a l h e a d m o d e l

3 2 0

. E l e c t r o d e p o s i t i o n s w e r e v e r t i c e s o f a

3


6/24

t r i a n g u l a t e d i c o s a h e d r o n l o c a t e d o n t h e m o d e l h e a d s p h e r e . A t e a c h o f t h e 4 l o c a t i o n s

i n t h e h e a d m o d e l , w e p l a c e d 1 t o 3 d i p o l e s p o i n t i n g i n d i e r e n t d i r e c t i o n s , g i v i n g a

t o t a l o f 7 d i p o l e s . W e a s s i g n e d 5 i n p u t s i g n a l s t o s i n g l e d i p o l e s , a n d 1 i n p u t s i g n a l

( F i g . 2 a ) t o t w o b i l a t e r a l d i p o l e s ( F i g . 2 b ) . A s s h o w n i n F i g . 2 , t w o d i p o l e s w i t h

d i e r e n t o r i e n t a t i o n s w e r e p l a c e d a t a s i n g l e d i p o l e l o c a t i o n , a n d t h r e e d i p o l e s w i t h

d i e r e n t o r i e n t a t i o n s w e r e p l a c e d a t a n o t h e r l o c a t i o n .

T h e s e c h o i c e s w e r e e x p r e s s e d v i a a ( ( 4 3 ) 6 ) c o n g u r a t i o n m a t r i x , C , w h i c h

a s s i g n e d 6 s o u r c e s i g n a l s t o t h e 7 d i p o l e s a c c o r d i n g t o t h e c o n g u r a t i o n d e s c r i b e d

a b o v e . T h e c o n g u r a t i o n m a t r i x w a s t h e n m u l t i p l i e d b y t h e ( 6 ( 4 3 ) ) w e i g h t

m a t r i x , F , w h i c h p r o j e c t e d t h e 7 d i p o l e s ( a t t h e 4 d i p o l e l o c a t i o n s ) t o e a c h o f t h e 6

s e l e c t e d e l e c t r o d e s i t e s . T h e r e s u l t i n g m a t r i x p r o d u c t :

M = F C ( 6 )

w a s a 6 6 \ m i x i n g " m a t r i x s p e c i f y i n g t h e s i m u l a t e d E E G s i g n a l s a s l i n e a r c o m b i n a -

t i o n s o f t h e 6 i n p u t s o u r c e s . S i m u l a t i o n v a r i a b l e s w e r e c h o s e n s u c h t h a t t h i s m i x i n g

m a t r i x w a s n o n - s i n g u l a r . N o t e t h a t d e s p i t e t h e c o m p l e x i t y o f t h e h e a d m o d e l , t h e

m i x i n g m a t r i x w a s a l i n e a r 6 6 t r a n s f o r m a t i o n o f t h e 6 s o u r c e s , a n d t h e r e f o r e s a t i s e d

t h e a s s u m p t i o n s o f t h e I C A a l g o r i t h m .

2 . 2 I n p u t s i g n a l s

T h e i n p u t s i g n a l s w e r e s i x 7 . 5 - s e c ( 7 9 , 1 1 9 - p o i n t ) s e g m e n t s o f a c o u s t i c s i g n a l s c o n s i s t -

i n g o f s p e e c h s i g n a l s ( \ i r i s " a n d \ z a c h " ) , d r u m t a p p i n g s o u n d s ( \ d r u m " ) , a s o u n d i n g

g o n g ( \ g o n g " ) , a c h o r a l e x c e r p t f r o m H a n d e l ' s M e s s i a h ( \ h a n d e l " ) , a n d a k e y b o a r d

s y n t h e s i z e r s e q u e n c e ( \ s y n t h " ) . E a c h s i g n a l w a s r e c o r d e d b y t h e a u x i l i a r y m i c r o p h o n e

o f a S p a r c - 1 0 w o r k s t a t i o n

1

. B e f o r e t h e s i m u l a t i o n s , e a c h i n p u t w a s m a d e z e r o - m e a n

4


7/24

a n d n o r m a l i z e d b y l i n e a r s c a l i n g t o t w i t h i n t h e - 1 , 1 ] i n t e r v a l .

2 . 3 S o u r c e s t r e n g t h a d j u s t m e n t

T o s i m u l a t e s o u r c e s w i t h v a r i e d s t r e n g t h s , t h e v e c t o r o f i n p u t s i g n a l s , s ( t ) , w e r e s c a l e d

r e l a t i v e t o o n e a n o t h e r i n s t e p s o f - 8 d B ( F i g . 3 ) u s i n g a 6 6 d i a g o n a l a t t e n u a t i o n

m a t r i x , A . S i m u l a t e d E E G s i g n a l s , x ( t ) , w e r e d e r i v e d f r o m t h e i n p u t s i g n a l s b y

m u l t i p l y i n g b y t h e a t t e n u a t i o n a n d m i x i n g m a t r i c e s .

x ( t ) = M A s ( t ) ( 7 )

2 . 4 W e a k b r a i n s o u r c e s

I n s o m e e x p e r i m e n t s , s e v e n s i m u l a t e d w e a k b r a i n s o u r c e s i g n a l s w e r e a d d e d t o t h e

s i m u l a t e d E E G . T h e s e ( \ b r a i n n o i s e " ) s o u r c e s c o n s i s t e d o f u n c o r r e l a t e d r a n d o m n o i s e

w i t h a a t d i s t r i b u t i o n i n t h e - 1 , 1 ] i n t e r v a l , s c a l e d t o - 4 0 d B b e l o w t h e s t r o n g e s t

i n p u t s i g n a l ( i . e . , a t t h e s a m e l e v e l a s t h e w e a k e s t i n p u t s i g n a l ) ( F i g . 3 ) . T h e 7 b r a i n

n o i s e s o u r c e s w e r e a s s i g n e d t o s i m u l a t e d \ d i u s e " d i p o l e s p l a c e d c l o s e t o e a c h o f t h e

7 b r a i n s o u r c e d i p o l e s b y a d d i n g 1 % g a u s s i a n - d i s t r i b u t e d n o i s e t o t h e m a t r i x , M ,

b e f o r e m i x i n g . T h e m i x e d b r a i n n o i s e s i g n a l s w e r e t h e n a d d e d t o t h e s i m u l a t e d E E G .

2 . 5 S e n s o r n o i s e

T o s i m u l a t e E E G s e n s o r n o i s e , u n i f o r m l y - d i s t r i b u t e d w h i t e n o i s e w a s a d d e d t o e a c h

s e n s o r s i g n a l a t a n i n t e n s i t y o f - 6 4 d B b e l o w t h e m e a n l e v e l o f t h e s i m u l a t e d E E G

s i g n a l s . T h e s e n o i s e s o u r c e s w e r e u n c o r r e l a t e d w i t h e a c h o t h e r .

5


8/24

2 . 6 I C A a l g o r i t h m t r a i n i n g

T r a i n i n g w i t h t h e I C A a l g o r i t h m b e g a n w i t h a n i n i t i a l l e a r n i n g r a t e o f 0 . 0 0 4 . T h i s

w a s r e d u c e d t o 0 . 0 0 1 5 a f t e r t h e r s t t r a i n i n g s t e p . T h e r e a f t e r , a h e u r i s t i c m e t h o d

w a s u s e d t o r e d u c e o r i n c r e a s e t h e l e a r n i n g r a t e a t e a c h t i m e s t e p a c c o r d i n g t o t h e n e t

c h a n g e i n w e i g h t s f r o m t h e p r e v i o u s s t e p . T h i s c h a n g e w a s c o m p u t e d b y t a k i n g t h e

s u m o f s q u a r e s o f t h e c h a n g e s i n w e i g h t s b e t w e e n t h e c u r r e n t a n d p r e v i o u s t i m e s t e p s .

W h e n e v e r t h e n e t w e i g h t c h a n g e w a s l e s s t h a n 1 0

; 7

, t h e l e a r n i n g r a t e w a s m u l t i p l i e d

b y 5 / 8 t h s . I f t h e l e a r n i n g r a t e w e n t b e l o w 1 0

; 7

, i t w a s i n c r e a s e d t o 4 1 0

; 6

a n d t h e

i n p u t d a t a w a s r e s h u e d t o a v o i d o v e r l e a r n i n g . T r a i n i n g w a s s t o p p e d a f t e r 3 2 s t e p s .

A l l c o m p u t a t i o n s w e r e p e r f o r m e d u s i n g M a t l a b ( v e r s i o n 4 . 2 c ) o n a S u n 6 7 0 M P w i t h

6 4 m e g a b y t e s o f R A M a n d a 4 0 M H z p r o c e s s o r ( e q u i v a l e n t t o a S p a r c 2 ) .

2 . 7 P e r f o r m a n c e m e a s u r e s

2 . 7 . 1 S N R i n t h e I C A a l g o r i t h m o u t p u t

O u r m e a s u r e o f t h e I C A a l g o r i t h m ' s p e r f o r m a n c e w a s t h e s i g n a l - t o - n o i s e r a t i o ( S N R )

o f e a c h i n p u t s i g n a l i n t h e o u t p u t s o u r c e s . F o r e a c h i n p u t s i g n a l , s

i

( t ) , w e d e n e d :

s

i

( t ) =

0

B

B

B

B

B

B

B

B

B

B

B

B

@

0

0

s

i

( t )

0

0

1

C

C

C

C

C

C

C

C

C

C

C

C

A

( 8 )

i n w h i c h a l l i n p u t s i g n a l s e x c e p t f o r s

i

( t ) w e r e z e r o e d o u t . T h e o u t p u t s o u r c e w a v e -

f o r m s f o r s

i

( t ) w e r e t h e n d e n e d a s :

u

i

( t ) = W P M A s

i

( t ) ( 9 )

6


9/24

T h e s i g n a l l e v e l , S

I C A

i k

, o f t h e i t h i n p u t s i g n a l i n t h e k t h o u t p u t s o u r c e w a v e f o r m w a s

c o m p u t e d b y t a k i n g t h e s t a n d a r d d e v i a t i o n o f t h e k t h r o w o f u

i

( t ) . T h e n o i s e l e v e l

f o r e a c h i n p u t s i g n a l i n e a c h o u t p u t s o u r c e w a s c o m p u t e d b y l e t t i n g s

i

c

( t ) c o n s i s t o f

a l l i n p u t s i g n a l s e x c e p t s

i

( t ) :

s

i

c

( t ) =

0

B

B

B

B

B

B

B

B

B

B

B

B

@

s

1

( t )

s

i ; 1

( t )

0

s

i + 1

( t )

s

n

( t )

1

C

C

C

C

C

C

C

C

C

C

C

C

A

( 1 0 )

T h e s e \ c o m p l e m e n t a r y " s i g n a l v e c t o r s w e r e p a s s e d t h r o u g h t h e s i m u l a t e d m i x i n g a n d

u n m i x i n g p r o c e s s e s w i t h b r a i n n o i s e a n d s e n s o r n o i s e s o u r c e s a d d e d , g i v i n g o u t p u t

s o u r c e w a v e f o r m s :

u

i

c

( t ) = W P f M A s

i

c

( t ) + n ( t ) + r ( t ) g ( 1 1 )

w h e r e n ( t ) i s t h e w e a k b r a i n s o u r c e s a n d r ( t ) i s t h e s e n s o r n o i s e . T h e n o i s e l e v e l ,

N

I C A

i k

, w a s d e n e d a s t h e s t a n d a r d d e v i a t i o n o f t h e k t h r o w o f u

c

i

( t ) . T h e n , t h e S N R

o f t h e i t h s i g n a l i n t h e I C A a l g o r i t h m s o u r c e w a v e f o r m s w a s d e n e d a s :

S N R

I C A

i

= m a x

k = 1 n

( 2 0 l o g

1 0

(

S

I C A

i k

N

I C A

i k

) ) ( 1 2 )

w h e r e n i s t h e n u m b e r o f s o u r c e s .

2 . 7 . 2 S N R i n t h e s i m u l a t e d E E G

T h e S N R o f e a c h i n p u t s i g n a l i n t h e s i m u l a t e d E E G w a s c o m p u t e d f o r c o m p a r i s o n

w i t h t h e S N R i n t h e I C A o u t p u t . T h e s i g n a l l e v e l , S

E E G

i j

, f o r t h e i t h i n p u t s i g n a l

7


10/24

i n t h e s i m u l a t e d E E G s i g n a l w a s d e n e d a s t h e s t a n d a r d d e v i a t i o n o f t h e s i m u l a t e d

E E G i n t h e j t h r e c o r d i n g e l e c t r o d e ( i . e . i n t h e j t h r o w o f x

i

( t ) ) :

x

i

( t ) = M A s

i

( t ) ( 1 3 )

T h e n o i s e l e v e l , N

E E G

i j

, f o r t h e i t h i n p u t s i g n a l w a s d e n e d a s t h e s t a n d a r d d e v i a t i o n

o f t h e j t h r o w o f t h e c o m p l e m e n t a r y m i x e d s i g n a l m a t r i x :

x

i

c

( t ) = M A s

i

c

( t ) + n ( t ) + r ( t ) ( 1 4 )

S N R o f t h e i t h i n p u t s i g n a l i n t h e s i m u l a t e d E E G w a s t h e n d e n e d a s :

S N R

E E G

i

= m a x

j = 1 m

( 2 0 l o g

1 0

(

S

E E G

i j

N

E E G

i j

) ) ( 1 5 )

w h e r e m i s t h e n u m b e r o f s e n s o r s .

2 . 7 . 3 S N R g a i n f r o m E E G t o I C A a l g o r i t h m o u t p u t s

F o r e a c h i n p u t s i g n a l , t h e d i e r e n c e b e t w e e n i t s S N R

I C A

a n d S N R

E E G

w a s d e n e d

a s t h e S N R g a i n , G , r e s u l t i n g f r o m I C A a l g o r i t h m s o u r c e s e p a r a t i o n .

G

i

= S N R

I C A

i

; S N R

E E G

i

( 1 6 )

2 . 8 F o u r s i m u l a t i o n e x p e r i m e n t s

W e c o n d u c t e d f o u r s i m u l a t i o n e x p e r i m e n t s t o t e s t t h e e c a c y a n d r e l i a b i l i t y o f t h e

I C A a l g o r i t h m i n p e r f o r m i n g b l i n d s e p a r a t i o n o f E E G s i g n a l s . E a c h e x p e r i m e n t

c o n s i s t e d o f s i x d i e r e n t I C A a l g o r i t h m t r a i n i n g s :

E x p e r i m e n t 1 : W i t h o u t n o i s e s o u r c e s . T o s t u d y t h e e e c t o f d i e r e n t i n i t i a l

w e i g h t s , W , a n d d a t a p r e s e n t a t i o n o r d e r s o n t h e o u t p u t o f t h e I C A a l g o r i t h m ,

8


11/24

w e t r a i n e d t h e a l g o r i t h m w i t h r a n d o m i z e d i n i t i a l w e i g h t m a t r i c e s a n d i n p u t

d a t a p r e s e n t a t i o n o r d e r s .

E x p e r i m e n t 2 : W i t h n o i s e s o u r c e s . T h e s i m u l a t i o n s a b o v e w e r e r e p e a t e d w i t h

t h e 1 3 n o i s e s o u r c e s ( 7 w e a k b r a i n s o u r c e s a n d 6 s e n s o r n o i s e s o u r c e s ) a d d e d

t o t h e s i m u l a t e d E E G s i g n a l s t o t e s t t h e s o u r c e s e p a r a t i o n p e r f o r m a n c e o f t h e

a l g o r i t h m u n d e r r e a l i s t i c c o n d i t i o n s .

E x p e r i m e n t 3 : V a r y i n g i n p u t s i g n a l s t r e n g t h a s s i g n m e n t s . P e r f o r m a n c e o f

t h e I C A a l g o r i t h m m a y d e p e n d i n p a r t o n t h e s t a t i s t i c a l d i s t r i b u t i o n s o f t h e

i n p u t s i g n a l s

1 2

. T o t e s t w h e t h e r d i e r e n c e s i n t h e i n p u t s i g n a l d i s t r i b u t i o n s w e r e

r e s p o n s i b l e f o r t h e r e s u l t s o f E x p e r i m e n t 2 , w e c i r c u l a r l y p e r m u t e d t h e o r d e r o f

a s s i g n m e n t o f i n p u t s i g n a l s ( b y r o t a t i n g t h e r o w s o f s ( t ) ) t o a t t e n u a t i o n l e v e l s

A ( e q n . 7 ) .

E x p e r i m e n t 4 : V a r y i n g i n p u t s i g n a l s o u r c e a s s i g n m e n t s . I n p r e v i o u s e x p e r -

i m e n t s , t h e a s s i g n m e n t o f s t r o n g e r a n d w e a k e r s i g n a l s t o m o d e l b r a i n s o u r c e s

w a s x e d . I n t h i s e x p e r i m e n t , w e v a r i e d t h e a t t e n u a t e d s i g n a l a s s i g n m e n t s t o

b r a i n s o u r c e s a c r o s s I C A a l g o r i t h m t r a i n i n g s . F i r s t , w e a t t e n u a t e d t h e i n p u t

s i g n a l s i n t h e s a m e o r d e r a s i n E x p e r i m e n t 1 . W e t h e n c i r c u l a r l y p e r m u t e d t h e

a s s i g n m e n t o f t h e a t t e n u a t e d i n p u t s i g n a l s t o b r a i n s o u r c e s ( b y r o t a t i n g t h e

r o w s o f A s ( t ) b e f o r e m u l t i p l y i n g b y M i n e q u a t i o n 7 ) .

9


12/24

3 R e s u l t s

3 . 1 I C A a l g o r i t h m p e r f o r m a n c e w i t h o u t l o w - l e v e l s o u r c e s

W i t h s i m u l a t e d w e a k b r a i n s o u r c e s a n d s e n s o r n o i s e s o u r c e s t u r n e d o , t h e I C A

a l g o r i t h m c o n s i s t e n t l y s e p a r a t e d e a c h s o u r c e i n t o a d i e r e n t o u t p u t c h a n n e l r e g a r d l e s s

o f d i e r e n c e s i n s i g n a l a m p l i t u d e s ( F i g . 4 ) a n d t h e a l g o r i t h m ' s i n i t i a l c o n d i t i o n s . T h e

r e s u l t s c o n r m e d s i m i l a r n d i n g s r e p o r t e d f o r e a r l i e r a u d i o s i m u l a t i o n s

1

. E a c h i n p u t

s i g n a l w a s s e p a r a t e d i n t o a d i e r e n t o u t p u t c h a n n e l w i t h a n S N R

I C A

o f a t l e a s t 3 0 d B .

T h e S N R g a i n , G , f o r t h e 6 i n p u t s i g n a l s r a n g e d f r o m 2 1 d B t o 6 7 d B . A l t h o u g h b o t h

t h e i n p u t s i g n a l l e v e l s a n d S N R

I C A

v a r i e d w i d e l y b e t w e e n s i g n a l s ( r a n g e s o f 4 0 d B

a n d 3 6 d B r e s p e c t i v e l y ) , e a c h i n p u t s o u r c e w a s s e p a r a t e d c l e a n l y i n t o a s e p a r a t e I C A

a l g o r i t h m o u t p u t c h a n n e l . T h i s r e s u l t w a s h i g h l y r e p r o d u c i b l e s t a n d a r d d e v i a t i o n s

o f S N R

I C A

a c r o s s t r a i n i n g s w e r e a l l l e s s t h a n 1 d B . M o s t S N R g a i n o c c u r r e d d u r i n g

t h e r s t t r a i n i n g s t e p .

3 . 2 E e c t s o f a d d i n g l o w - l e v e l s o u r c e s

W h e n t h e 1 3 l o w - l e v e l s o u r c e s w e r e a d d e d t o t h e s i m u l a t e d E E G , s e p a r a t i o n r e m a i n e d

s t r o n g f o r t h e t w o s t r o n g e s t i n p u t s o u r c e s ( S N R

I C A

> 2 0 d B ) ( F i g . 5 ) , m o d e r a t e f o r

t h e t w o n e x t - s t r o n g e s t s i g n a l s ( S N R

I C A

> 8 d B ) , a n d w e a k f o r t h e w e a k e s t t w o i n p u t

s i g n a l s ( S N R

I C A


13/24

c l o s e t o t h e r a n g e o f i n p u t l e v e l s ( 4 0 d B ) . T h e S N R g a i n f o r t h e 6 i n p u t s i g n a l s

r a n g e d f r o m 1 3 d B t o 3 1 d B . S t r o n g e r s o u r c e s a p p e a r e d i n i n d i v i d u a l I C A o u t p u t

c h a n n e l s w h i l e w e a k e r o n e s ( a n d n o i s e s o u r c e s ) w e r e m i x e d i n r e m a i n i n g c h a n n e l s .

3 . 4 E e c t s o f v a r y i n g s o u r c e a s s i g n m e n t s

F o r e a c h p e r m u t a t i o n o f s i g n a l - t o - s o u r c e a s s i g n m e n t s , t h e I C A a l g o r i t h m g a v e r e s u l t s

c o m p a r a b l e t o t h o s e i n E x p e r i m e n t 3 . T h e r a n g e o f m e a n S N R

I C A

( 3 9 d B ) c l o s e l y

m a t c h e d t h e r a n g e o f i n p u t s i g n a l s t r e n g t h s ( 4 0 d B ) ( F i g . 7 ) . S N R g a i n s r a n g e d f r o m

1 4 d B t o 3 0 d B .

4 C o n c l u s i o n

T h e r e p o r t e d e e c t i v e n e s s o f t h e I C A a l g o r i t h m i n s e p a r a t i n g m u l t i p l e l i n e a r l y - m i x e d

s o u r c e s

1 9 1 0

w a s r e p r o d u c e d i n o u r E E G s i m u l a t i o n s u s i n g a t h r e e - s h e l l h e a d m o d e l

w i t h 6 i n p u t s i g n a l s . P r e v i o u s l y , p e r f o r m a n c e o f t h e a l g o r i t h m i n t h e p r e s e n c e o f

m u l t i p l e w e a k b r a i n s o u r c e s a n d n o i s e s o u r c e s h a d n o t b e e n s y s t e m a t i c a l l y i n v e s t i -

g a t e d . I n o u r e x p e r i m e n t s , r e l a t i v e l y s t r o n g s i m u l a t e d E E G s i g n a l s w e r e s u c c e s s f u l l y

a n d r e p e a t e d l y s e p a r a t e d w i t h S N R g a i n s a v e r a g i n g 2 2 d B . O u r r e s u l t s i n d i c a t e t h a t

t h e p e r f o r m a n c e o f t h e a l g o r i t h m d e g r a d e s g r a c e f u l l y i n t h e p r e s e n c e o f m u l t i p l e w e a k

i n d e p e n d e n t s o u r c e s .

5 D i s c u s s i o n

T h e I n d e p e n d e n t C o m p o n e n t A n a l y s i s a l g o r i t h m a p p e a r s t o b e a p r o m i s i n g t o o l f o r

t h e a n a l y s i s o f h i g h l y c o r r e l a t e d m u l t i c h a n n e l E E G s i g n a l s . O u r r e s u l t s s u g g e s t t h a t

r e l a t i v e l y s t r o n g b r a i n E E G s o u r c e s m a y b e e e c t i v e l y s e p a r a t e d f r o m w e a k b r a i n a n d

1 1


14/24

n o i s e s i g n a l s w i t h S N R g a i n s o f 2 0 d B a n d a b o v e . A p p l i c a t i o n s o f I C A a l g o r i t h m t o a v -

e r a g e d e v e n t - r e l a t e d p o t e n t i a l s ( E R P s ) m a y b e p a r t i c u l a r l y p r o m i s i n g s i n c e r e s p o n s e

a v e r a g i n g i n c r e a s e s t h e a m p l i t u d e s o f a c t i v i t y , t i m e - a n d p h a s e - l o c k e d t o e x p e r i m e n t a l

e v e n t s , r e l a t i v e t o t h e a c t i v i t i e s o f a l l o t h e r s p o n t a n e o u s ( i . e . n o n - p h a s e l o c k e d ) E E G

s o u r c e s . T h e n u m b e r o f i n d e p e n d e n t s t r o n g b r a i n s o u r c e s c o n t r i b u t i n g t o E R P d a t a

m a y b e s m a l l e r t h a n t h e n u m b e r o f E E G c h a n n e l s t y p i c a l l y u s e d t o r e c o r d t h e m

1 5

I n

t h a t c a s e , m o s t o r a l l o f t h e E R P s o u r c e s m a y b e s e p a r a b l e u s i n g t h e I C A a l g o r i t h m .

T h i s a l g o r i t h m c o u l d b e u s e d t o c o m p a r e t h e t i m e c o u r s e s a n d r e l a t i v e s t r e n g t h s

o f E R P s o u r c e a c t i v a t i o n s i n d i e r e n t e x p e r i m e n t a l c o n d i t i o n s . S i n c e t h e a l g o r i t h m

d e s c r i b e s w h a t i n d e p e n d e n t s o u r c e s p r o d u c e i t s i n p u t d a t a , n o t w h e r e t h e s e s o u r c e s

a r e s p a t i a l l y l o c a t e d , n e u r o p h y s i o l o g i c a l i n t e r p r e t a t i o n o f t h e I C A a l g o r i t h m s o u r c e s

p o s e s a f u r t h e r r e s e a r c h c h a l l e n g e .

A c k n o w l e d g e m e n t s

T h i s r e p o r t w a s s u p p o r t e d i n p a r t b y g r a n t s t o S . M . , T - P . J . a n d T . J . S . f r o m t h e

O c e o f N a v a l R e s e a r c h , a n d t o T . J . S . f r o m t h e H o w a r d H u g h e s M e d i c a l I n s t i t u t e .

T h e a u t h o r s w i s h t o t h a n k A n d e r s D a l e f o r s u p p l y i n g t h e h e a d m o d e l p a r a m e t e r s .

1 2


15/24

R e f e r e n c e s

1 . B e l l , A . J . & S e j n o w s k i , T . J . A n i n f o r m a t i o n - m a x i m i z a t i o n a p p r o a c h t o b l i n d

s e p a r a t i o n a n d b l i n d d e c o n v o l u t i o n , N e u r a l C o m p u t a t i o n 7 , 1 1 2 9 - 1 1 5 9 ( 1 9 9 5 ) .

2 . M a k e i g , S . , B e l l , A . J . , J u n g , T - P . & S e j n o w s k i T . J . I n d e p e n d e n t c o m p o n e n t a n a l -

y s i s o f e l e c t r o e n c e p h a l o g r a p h i c d a t a . A d v a n c e s i n N e u r a l I n f o r m a t i o n P r o c e s s i n g

S y s t e m s 8 , M I T P r e s s ( 1 9 9 6 ) .

3 . D a l e , A . M . & S e r e n o , M . I . I m p r o v e d l o c a l i z a t i o n o f c o r t i c a l a c t i v i t y b y c o m b i n i n g

E E G a n d M E G w i t h M R I c o r t i c a l s u r f a c e r e c o n s t r u c t i o n - a l i n e a r a p p r o a c h . J

C o g n . N e u r o s c i . 5 , 1 6 2 - 1 7 6 ( 1 9 9 3 ) .

4 . N u n e z , P . L . E l e c t r i c F i e l d s o f t h e B r a i n . N e w Y o r k : O x f o r d ( 1 9 8 1 ) .

5 . S c h e r g , M . & V o n C r a m o n , D . E v o k e d d i p o l e s o u r c e p o t e n t i a l s o f t h e h u m a n

a u d i t o r y c o r t e x . E l e c t r o e n c e p h a l o g r . C l i n . N e u r o p h y s i o l . , 6 5 , 3 4 4 - 6 0 ( 1 9 8 6 ) .

6 . C h a p m a n , R . M . & M c C r a r y , J . W . E P c o m p o n e n t i d e n t i c a t i o n a n d m e a s u r e m e n t

b y p r i n c i p a l c o m p o n e n t s a n a l y s i s . B r a i n a n d L a n g u a g e 2 7 , 2 8 8 - 3 0 1 ( 1 9 9 5 ) .

7 . P a n t e v , C . , E l b e r t , T . , M a k e i g , S . , H a m p s o n , S . , E u l i t z , C . & H o k e , M . R e l a -

t i o n s h i p o f t r a n s i e n t a n d s t e a d y - s t a t e a u d i t o r y e v o k e d e l d s . E l e c t r o e n c e p h a l o g r .

C l i n . N e u r o p h y s i o l . 8 8 , 3 8 9 - 3 9 6 ( 1 9 9 3 ) .

8 . G a l a m b o s , R . , M a k e i g , S . & T a l m a c h o P . A 4 0 H z a u d i t o r y p o t e n t i a l r e c o r d e d

f r o m t h e h u m a n s c a l p . P r o c . N a t l . A c a d . S c i . U S A 7 8 , 2 6 4 3 - 2 6 4 7 ( 1 9 8 1 ) .

9 . L i n s k e r , R . L o c a l s y n a p t i c l e a r n i n g r u l e s s u c e t o m a x i m i s e m u t u a l i n f o r m a t i o n

i n a l i n e a r n e t w o r k . N e u r a l C o m p u t a t i o n 4 , 6 9 1 - 7 0 2 ( 1 9 9 2 ) .

1 3


16/24

1 0 . N a d a l , J - P . & P a r g a , N . N o n - l i n e a r n e u r o n s i n t h e l o w n o i s e l i m i t : a f a c t o r i a l

c o d e m a x i m i s e s i n f o r m a t i o n t r a n s f e r . N e t w o r k 5 , 5 6 5 - 5 8 1 ( 1 9 9 4 ) .

1 1 . C o v e r , T . M . & T h o m a s , J . A . E l e m e n t s o f I n f o r m a t i o n T h e o r y , J o h n W i l e y ( 1 9 9 1 ) .

1 2 . B e l l , A . J . & S e j n o w s k i , T . J . L e a r n i n g t h e h i g h e r - o r d e r s t r u c t u r e o f a n a t u r a l

s o u n d . N e t w o r k : C o m p u t a t i o n i n N e u r a l S y s t e m s 7 , 2 ( 1 9 9 6 ) .

1 3 . A m a r i S . , C i c h o c k i , A . & Y a n g , H . H . A n e w l e a r n i n g a l g o r i t h m f o r b l i n d s i g n a l

s e p a r a t i o n . I n A d v a n c e s i n N e u r a l I n f o r m a t i o n P r o c e s s i n g S y s t e m s 8 , M I T P r e s s

( 1 9 9 6 ) .

1 4 . B e l l , A . J . & S e j n o w s k i , T . J . F a s t b l i n d s e p a r a t i o n b a s e d o n i n f o r m a t i o n t h e o r y .

P r o c . I n t e r n . S y m p . o n N o n l i n e a r T h e o r y a n d A p p l i c a t i o n s , L a s V e g a s ( 1 9 9 5 ) .

1 5 . M a k e i g , S . , J u n g T - P . , B e l l , A . J . , G h a h r e m a n i , D . , a n d S e j n o w s k i , T . S . B l i n d

s e p a r a t i o n o f e v e n t - r e l a t e d b r a i n r e s p o n s e s i n t o i n d e p e n d e n t c o m p o n e n t s . N a t u r e .

( s u b m i t t e d )

1 6 . C a r d o s o , J - F . & L a h e l d , B . E q u i v a l e n t a d a p t i v e s o u r c e s e p a r a t i o n . I E E E T r a n s .

S i g n a l P r o c . ( t o a p p e a r ) .

1 7 . C o m o n , P . I n d e p e n d e n t c o m p o n e n t a n a l y s i s , a n e w c o n c e p t ? S i g n a l P r o c e s s i n g

3 6 , 2 8 7 - 3 1 4 ( 1 9 9 4 ) .

1 8 . J u t t e n , C . & H e r a u l t , J . B l i n d s e p a r a t i o n o f s o u r c e s , p a r t I : a n a d a p t i v e a l g o r i t h m

b a s e d o n n e u r o m i m e t i c a r c h i t e c t u r e . S i g n a l P r o c e s s i n g 2 4 , 1 - 1 0 ( 1 9 9 1 ) .

1 4


17/24

1 9 . K a r h u m e n , J . , O j a , E . , W a n g , L . , V i g a r i o , R . & J o u t s e n a l o , J . A c l a s s o f n e u r a l

n e t w o r k s f o r i n d e p e n d e n t c o m p o n e n t a n a l y s i s . I E E E T r a n s . N e u r a l N e t w o r k s ( t o

a p p e a r ) .

2 0 . K a v a n a g h R . N . , D a r c e y T . M . , L e h m a n n D . , a n d F e n d e r D . H . E v a l u a t i o n o f m e t h -

o d s f o r t h r e e - d i m e n s i o n a l l o c a l i z a t i o n o f e l e c t r i c a l s o u r c e s i n t h e h u m a n b r a i n .

I E E E T r a n s . B i o m e d . E n g . 9 , 2 5 : 4 2 1 - 4 2 9 ( 1 9 7 8 ) .

1 5


18/24

Dipolar brain sources

Overlapping sourceprojections at scalp

Scalp sensors

Source waveforms

EEG waveforms

F i g u r e 1 : S c h e m a t i c i l l u s t r a t i o n o f t w o d i p o l e s o u r c e s w i t h o v e r l a p p i n g p r o -

j e c t i o n s t o t h e s c a l p . A c t i v i t i e s o f e a c h d i p o l e ( \ s o u r c e w a v e f o r m s " ) a r e p r o j e c t e d

t o t h e s c a l p t h r o u g h t h r e e c o n d u c t i v e l a y e r s ( b r a i n , s k u l l , a n d s c a l p ) . T h e s c a l p

s e n s o r s r e c o r d p o t e n t i a l s ( \ E E G w a v e f o r m s " ) w h i c h s u m a c t i v i t y f r o m b o t h d i p o l e s .

1 6


19/24

Scaling Mixing Sphering Unmixing

Input

Signals

Output

Signals

iris

gong

zach

handel

synth

drum

iris

gong

zach

handel

??

??

Simulated

Sensors

Scalp

Sources

Brain

Simulated

EEG Simulation

Sensor noise sourcesBrain noise sources

Brain signal sources

a

b

c

F i g u r e 2 : S c h e m a t i c o v e r v i e w o f t h e s i m u l a t i o n s . I n p u t s i g n a l s w e r e s c a l e d

r e l a t i v e t o o n e a n o t h e r ( c i r c l e s u n d e r \ S c a l i n g " ) a n d a s s i g n e d t o s i n g l e - o r m u l t i p l e -

d i p o l e b r a i n s o u r c e s ( l o n g a r r o w s ) . O n e s i g n a l ( a ) ( h e r e , \ z a c h " ) w a s a s s i g n e d t o a

b i l a t e r a l d i p o l e s o u r c e ( b ) s i m u l a t i n g , f o r e x a m p l e , a b i t e m p o r a l s o u r c e i n t h e a u d i -

t o r y c o r t i c e s . O t h e r s i g n a l s ( h e r e , f o r i n s t a n c e , \ g o n g " , \ s y n t h " , a n d \ d r u m " ) w e r e

a s s i g n e d t o s o u r c e s m o d e l e d a s s i n g l e d i p o l e s w i t h d i e r e n t o r i e n t a t i o n s a t t h e s a m e

b r a i n l o c a t i o n ( c ) . S e v e n w e a k b r a i n ( o r \ b r a i n n o i s e " ) s o u r c e s ( s m a l l a r r o w s ) w e r e

p o s i t i o n e d n e a r t h e s e v e n s i g n a l d i p o l e s . T h e 6 i n p u t s i g n a l s o u r c e s a n d 7 b r a i n n o i s e

s i g n a l s w e r e m i x e d a t t h e 6 s i m u l a t e d E E G s e n s o r s o n t h e s c a l p s u r f a c e ( s e m i c i r c l e s )

U n c o r r e l a t e d l o w - l e v e l \ s e n s o r n o i s e " s i g n a l s ( s m a l l b o x e s n e a r s e n s o r s ) w a s a d d e d

t o t h e s i m u l a t e d E E G a t e a c h o f t h e s c a l p s e n s o r s . A f t e r a n i n i t i a l \ s p h e r i n g " o f

t h e s i m u l a t e d E E G d a t a , s o u r c e s e p a r a t i o n w a s p e r f o r m e d v i a t h e \ u n m i x i n g " m a -

t r i x p r o d u c e d b y t h e I C A a l g o r i t h m . S p a t i a l l t e r i n g o f t h e s i m u l a t e d E E G w i t h

t h e s p h e r i n g a n d u n m i x i n g m a t r i c e s p r o d u c e d o u t p u t s o u r c e s i g n a l s . F o u r o f t h e s e

( l a b e l e d \ i r i s " , \ g o n g " , \ z a c h " , a n d \ h a n d e l " ) w e r e h i g h l y c o r r e l a t e d w i t h t h e i r r e -

s p e c t i v e i n p u t s i g n a l s . T w o o t h e r I C A a l g o r i t h m o u t p u t s ( l a b e l e d ` ? ? ' ) m i x e d t h e

r e m a i n i n g t w o w e a k e s t i n p u t s i g n a l s ( \ s y n t h " a n d \ d r u m " ) w i t h t h e n o i s e s i g n a l s .

( S e e h t t p : / / w w w . c n l . s a l k . e d u / d a r a / i c a s i m f o r a n a u d i o p r e s e n t a t i o n o f t h e s i g n a l s

a t e a c h s t a g e o f t h e s i m u l a t i o n ) .

1 7


20/24

Relative strengths of input signals

signal 1 signal 2 signal 3 signal 4 signal 5 signal 6

weakbrainsignals

dB

0

-5

-10

-15

-20

-25

-30

-35

-40

F i g u r e 3 : R e l a t i v e s t r e n g t h s o f i n p u t s i g n a l s . I n p u t s i g n a l s w e r e s c a l e d r e l a t i v e

t o o n e a n o t h e r i n - 8 d B s t e p s . T h e 7 w e a k b r a i n ( o r \ b r a i n n o i s e " ) s o u r c e s a d d e d t o

t h e s i m u l a t e d E E G i n E x p e r i m e n t s 2 - 4 ( r i g h t m o s t b a r ) w e r e s c a l e d t o t h e l e v e l o f t h e

w e a k e s t i n p u t s i g n a l .

1 8


21/24

1 10 20 3040

20

0

20

40

60

Training Steps

EEG

ICA

OutputSNR

(dB)

Training with 6 different initial weights without noise

F i g u r e 4 : E x p e r i m e n t 1 . O u t p u t s i g n a l - t o - n o i s e r a t i o ( S N R ) f o r e a c h i n p u t s i g n a l

i n t h e s i m u l a t e d E E G s i g n a l s ( d a s h e d l i n e s ) a n d d u r i n g I C A a l g o r i t h m t r a i n i n g . I C A

a l g o r i t h m s e p a r a t i o n p e r f o r m a n c e w a s s t r o n g a n d c o n s i s t e n t a c r o s s a l l s o u r c e s a n d

m u l t i p l e t r a i n i n g r u n s .

1 9


22/24

1 10 20 3040

30

20

10

0

10

20

30

40

Training Steps

EEG

ICA

OutputSNR

(dB

)

Training with 6 different initial weights

F i g u r e 5 : E x p e r i m e n t 2 . W h e n 1 3 a d d i t i o n a l l o w - l e v e l s o u r c e s ( 7 w e a k b r a i n

s o u r c e s , 6 s e n s o r n o i s e s o u r c e s ) w e r e a d d e d t o t h e s i m u l a t e d E E G , I C A p e r f o r m a n c e

i n s e p a r a t i n g t h e 6 i n p u t s i g n a l s w a s f a v o r a b l e ( > 2 0 d B ) f o r s t r o n g e s t i n p u t s i g n a l s ,

a n d p o o r (


23/24

1 10 20 3040

30

20

10

0

10

20

30

40

Training Steps

EEG

ICA

OutputSNR(d

B)

Permutation of source signals BEFORE attenuation

F i g u r e 6 : E x p e r i m e n t 3 . B l i n d s e p a r a t i o n p e r f o r m a n c e b y t h e I C A a l g o r i t h m f o r 6

p e r m u t a t i o n s o f i n p u t s i g n a l o r d e r i n g p r i o r t o a t t e n u a t i o n ( s e e S e c t i o n 2 . 8 o f t e x t )

T h e o r d e r o f s i g n a l a t t e n u a t i o n w a s r e p r o d u c e d i n t h e o u t p u t S N R . T h e r a n g e o f

o u t p u t S N R v a l u e s a f t e r 3 2 t r a i n i n g s t e p s ( r i g h t m o s t v a l u e s ) w a s c l o s e t o t h e 4 0 d B

r a n g e o f r e l a t i v e i n p u t s i g n a l s t r e n g t h s . S N R g a i n s f o r t h e 6 s o u r c e s r a n g e d f r o m 1 3

d B t o 3 1 d B .

2 1


24/24

1 10 20 3040

30

20

10

0

10

20

30

40Permutation of source signals AFTER attenuation

EEG

ICA

Training Steps

OutputSNR

(dB

)

F i g u r e 7 : E x p e r i m e n t 4 . I C A a l g o r i t h m p e r f o r m a n c e f o r s i x d i e r e n t o r d e r s o f

a s s i g n m e n t s o f a t t e n u a t e d i n p u t s i g n a l s t o b r a i n s o u r c e s ( s e e S e c t i o n 2 . 8 o f t e x t )

A g a i n , s t r o n g e r s i g n a l s w e r e s e p a r a t e d b e t t e r t h a n w e a k e r s i g n a l s , a n d t h e r a n g e o f

m e a n o u t p u t S N R s ( 3 9 d B ) w a s n e a r l y e q u a l t o t h e i n p u t s i g n a l s c a l i n g r a n g e ( 4 0

d B ) . S N R g a i n s f o r t h e 6 s o u r c e s r a n g e d f r o m 1 4 d B t o 3 0 d B .

2 2

Independent Component Analysis of Simulated EEG

Documents

Transcript of Independent Component Analysis of Simulated EEG