7/27/2019 1105.5454

1/21

J o u r n a l o f A r t i c i a l I n t e l l i g e n c e R e s e a r c h 1 0 ( 1 9 9 9 ) 3 5 3 - 3 7 3 S u b m i t t e d 8 / 9 8 ; p u b l i s h e d 5 / 9 9

\ S q u e a k y W h e e l " O p t i m i z a t i o n

D a v i d E . J o s l i n d a v i d j o s l i n @ i 2 . c o m

i 2 T e c h n o l o g i e s

9 0 9 E . L a s C o l i n a s B l v d .

I r v i n g , T X 7 5 0 3 9

D a v i d P . C l e m e n t s c l e m e n t s @ c i r l . u o r e g o n . e d u

C o m p u t a t i o n a l I n t e l l i g e n c e R e s e a r c h L a b o r a t o r y

1 2 6 9 U n i v e r s i t y o f O r e g o n

E u g e n e , O R 9 7 4 0 3 - 1 2 6 9

A b s t r a c t

W e d e s c r i b e a g e n e r a l a p p r o a c h t o o p t i m i z a t i o n w h i c h w e t e r m \ S q u e a k y W h e e l " O p -

t i m i z a t i o n ( s w o ) . I n s w o , a g r e e d y a l g o r i t h m i s u s e d t o c o n s t r u c t a s o l u t i o n w h i c h i s

t h e n a n a l y z e d t o n d t h e t r o u b l e s p o t s , i . e . , t h o s e e l e m e n t s , t h a t , i f i m p r o v e d , a r e l i k e l y

t o i m p r o v e t h e o b j e c t i v e f u n c t i o n s c o r e . T h e r e s u l t s o f t h e a n a l y s i s a r e u s e d t o g e n e r a t e

n e w p r i o r i t i e s t h a t d e t e r m i n e t h e o r d e r i n w h i c h t h e g r e e d y a l g o r i t h m c o n s t r u c t s t h e n e x t

s o l u t i o n . T h i s C o n s t r u c t / A n a l y z e / P r i o r i t i z e c y c l e c o n t i n u e s u n t i l s o m e l i m i t i s r e a c h e d , o r

a n a c c e p t a b l e s o l u t i o n i s f o u n d .

S W O c a n b e v i e w e d a s o p e r a t i n g o n t w o s e a r c h s p a c e s : s o l u t i o n s a n d p r i o r i t i z a t i o n s .

S u c c e s s i v e s o l u t i o n s a r e o n l y i n d i r e c t l y r e l a t e d , v i a t h e r e - p r i o r i t i z a t i o n t h a t r e s u l t s f r o m

a n a l y z i n g t h e p r i o r s o l u t i o n . S i m i l a r l y , s u c c e s s i v e p r i o r i t i z a t i o n s a r e g e n e r a t e d b y c o n -

s t r u c t i n g a n d a n a l y z i n g s o l u t i o n s . T h i s \ c o u p l e d s e a r c h " h a s s o m e i n t e r e s t i n g p r o p e r t i e s ,

w h i c h w e d i s c u s s .

W e r e p o r t e n c o u r a g i n g e x p e r i m e n t a l r e s u l t s o n t w o d o m a i n s , s c h e d u l i n g p r o b l e m s t h a t

a r i s e i n b e r - o p t i c c a b l e m a n u f a c t u r i n g , a n d g r a p h c o l o r i n g p r o b l e m s . T h e f a c t t h a t t h e s e

d o m a i n s a r e v e r y d i e r e n t s u p p o r t s o u r c l a i m t h a t s w o i s a g e n e r a l t e c h n i q u e f o r o p t i m i z a -

t i o n .

1 . O v e r v i e w

W e d e s c r i b e a g e n e r a l a p p r o a c h t o o p t i m i z a t i o n w h i c h w e t e r m \ S q u e a k y W h e e l " O p t i m i z a -

t i o n ( S W O ) ( J o s l i n & C l e m e n t s , 1 9 9 8 ) . T h e c o r e o f s w o i s a C o n s t r u c t / A n a l y z e / P r i o r i t i z e

c y c l e , i l l u s t r a t e d i n F i g u r e 1 . A s o l u t i o n i s c o n s t r u c t e d b y a g r e e d y a l g o r i t h m , m a k i n g d e -

c i s i o n s i n a n o r d e r d e t e r m i n e d b y p r i o r i t i e s a s s i g n e d t o t h e e l e m e n t s o f t h e p r o b l e m . T h a t

s o l u t i o n i s t h e n a n a l y z e d t o n d t h e e l e m e n t s o f t h e p r o b l e m t h a t a r e \ t r o u b l e m a k e r s . " T h e

p r i o r i t i e s o f t h e t r o u b l e m a k e r s a r e t h e n i n c r e a s e d , c a u s i n g t h e g r e e d y c o n s t r u c t o r t o d e a l

w i t h t h e m s o o n e r o n t h e n e x t i t e r a t i o n . T h i s c y c l e r e p e a t s u n t i l a t e r m i n a t i o n c o n d i t i o n

o c c u r s .

O n e a c h i t e r a t i o n , t h e a n a l y z e r d e t e r m i n e s w h i c h e l e m e n t s o f t h e p r o b l e m a r e c a u s i n g

t h e m o s t t r o u b l e i n t h e c u r r e n t s o l u t i o n , a n d t h e p r i o r i t i z e r e n s u r e s t h a t t h e c o n s t r u c t o r

g i v e s m o r e a t t e n t i o n t o t h o s e e l e m e n t s o n t h e n e x t i t e r a t i o n . ( \ T h e s q u e a k y w h e e l g e t s t h e

g r e a s e . " ) T h e c o n s t r u c t i o n , a n a l y s i s a n d p r i o r i t i z a t i o n a r e a l l i n t e r m s o f t h e e l e m e n t s t h a t

c

1 9 9 9 A I A c c e s s F o u n d a t i o n a n d M o r g a n K a u f m a n n P u b l i s h e r s . A l l r i g h t s r e s e r v e d .

7/27/2019 1105.5454

2/21

J o s l i n & C l e m e n t s

Analyzer

Priorities

BlameSolution

Constructor Prioritizer

F i g u r e 1 : T h e C o n s t r u c t / A n a l y z e / P r i o r i t i z e c y c l e

d e n e a p r o b l e m d o m a i n . I n a s c h e d u l i n g d o m a i n , f o r e x a m p l e , t h o s e e l e m e n t s m i g h t b e

t a s k s . I n g r a p h c o l o r i n g , t h o s e e l e m e n t s m i g h t b e t h e n o d e s t o b e c o l o r e d .

T h e t h r e e m a i n c o m p o n e n t s o f s w o a r e :

C o n s t r u c t o r . G i v e n a s e q u e n c e o f p r o b l e m e l e m e n t s , t h e c o n s t r u c t o r g e n e r a t e s a s o l u t i o n

u s i n g a g r e e d y a l g o r i t h m , w i t h n o b a c k t r a c k i n g . T h e s e q u e n c e d e t e r m i n e s t h e o r d e r

i n w h i c h d e c i s i o n s a r e m a d e , a n d c a n b e t h o u g h t o f a s a \ s t r a t e g y " o r \ r e c i p e " f o r

c o n s t r u c t i n g a n e w s o l u t i o n . ( T h i s \ s o l u t i o n " m a y v i o l a t e h a r d c o n s t r a i n t s . )

A n a l y z e r . T h e a n a l y z e r a s s i g n s a n u m e r i c \ b l a m e " f a c t o r t o t h e p r o b l e m e l e m e n t s t h a t

c o n t r i b u t e t o a w s i n t h e c u r r e n t s o l u t i o n . F o r e x a m p l e , i f m i n i m i z i n g l a t e n e s s i n

a s c h e d u l i n g p r o b l e m i s o n e o f t h e o b j e c t i v e s , t h e n b l a m e w o u l d b e a s s i g n e d t o l a t e

t a s k s .

A k e y p r i n c i p l e b e h i n d s w o i s t h a t s o l u t i o n s c a n r e v e a l p r o b l e m s t r u c t u r e . B y a n a -

l y z i n g a s o l u t i o n , w e c a n o f t e n i d e n t i f y e l e m e n t s o f t h a t s o l u t i o n t h a t w o r k w e l l , a n d

e l e m e n t s t h a t w o r k p o o r l y . A r e s o u r c e t h a t i s u s e d a t f u l l c a p a c i t y , f o r e x a m p l e , m a y

r e p r e s e n t a b o t t l e n e c k . T h i s i n f o r m a t i o n a b o u t p r o b l e m s t r u c t u r e i s l o c a l , i n t h a t i t

m a y o n l y a p p l y t o t h e p a r t o f t h e s e a r c h s p a c e c u r r e n t l y u n d e r e x a m i n a t i o n , b u t m a y

b e u s e f u l i n d e t e r m i n i n g w h e r e t h e s e a r c h s h o u l d g o n e x t .

P r i o r i t i z e r . T h e p r i o r i t i z e r u s e s t h e b l a m e f a c t o r s a s s i g n e d b y t h e a n a l y z e r t o m o d i f y

t h e p r e v i o u s s e q u e n c e o f p r o b l e m e l e m e n t s . E l e m e n t s t h a t r e c e i v e d b l a m e a r e m o v e d

t o w a r d t h e f r o n t o f t h e s e q u e n c e . T h e h i g h e r t h e b l a m e , t h e f u r t h e r t h e e l e m e n t i s

m o v e d .

T h e p r i o r i t y s e q u e n c e p l a y s a k e y r o l e i n s w o . A s a d i c u l t p r o b l e m e l e m e n t m o v e s

f o r w a r d i n t h e s e q u e n c e i t i s h a n d l e d s o o n e r b y t h e c o n s t r u c t o r . I t a l s o t e n d s t o b e h a n d l e d

b e t t e r , t h u s d e c r e a s i n g i t s b l a m e f a c t o r . D i c u l t e l e m e n t s r i s e r a p i d l y t o a p l a c e i n t h e

s e q u e n c e w h e r e t h e y a r e h a n d l e d w e l l . O n c e t h e r e , t h e b l a m e a s s i g n e d t o t h e m d r o p s ,

c a u s i n g t h e m t o s l o w l y s i n k i n t h e s e q u e n c e a s o t h e r p a r t s o f t h e p r o b l e m t h a t a r e n o t

h a n d l e d a s w e l l a r e g i v e n i n c r e a s e d p r i o r i t y . E v e n t u a l l y , d i c u l t e l e m e n t s s i n k b a c k t o t h e

p o i n t w h e r e t h e y a r e n o l o n g e r h a n d l e d w e l l , c a u s i n g t h e m t o r e c e i v e h i g h e r b l a m e a n d t o

m o v e f o r w a r d i n t h e s e q u e n c e a g a i n . E l e m e n t s t h a t a r e a l w a y s e a s y t o h a n d l e s i n k t o t h e

e n d o f t h e s e q u e n c e a n d s t a y t h e r e .

3 5 4

7/27/2019 1105.5454

3/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

C A B

50403020100Priorities: C,A,B

Late: A (20), B (30)

Iteration: 1

A CB

50403020100

Priorities: B,A,CLate: A (20), C (10)Iteration: 2

A C B

50403020100Priorities: A,C,B

Late: B (30)

Iteration: 3

10

20

20

10

20

40

Task Duration Deadline

A

B

C

F i g u r e 2 : S i m p l e e x a m p l e

T o i l l u s t r a t e t h e s w o c y c l e , c o n s i d e r a s i m p l i e d s c h e d u l i n g e x a m p l e . S u p p o s e w e h a v e

a s i n g l e p r o d u c t i o n l i n e , a n d t h r e e t a s k s t o s c h e d u l e , A , B a n d C . O n l y o n e t a s k c a n b e

p e r f o r m e d a t a t i m e . E x e c u t i o n s t a r t s a t t = 0 . T h e d u r a t i o n a n d d e a d l i n e f o r e a c h t a s k

i s s h o w n i n F i g u r e 2 . T h e o b j e c t i v e i s t o m i n i m i z e t h e n u m b e r o f l a t e t a s k s . A n o p t i m a l

s o l u t i o n w i l l h a v e o n e l a t e t a s k .

S u p p o s e o u r i n i t i a l p r i o r i t y s e q u e n c e i s h C ; A ; B i , a n d t h e c o n s t r u c t o r s c h e d u l e s t a s k s

i n o r d e r , a t t h e e a r l i e s t p o s s i b l e t i m e . T h e r e s u l t i n g s c h e d u l e h a s t w o l a t e t a s k s ( B a n d

A ) . S u p p o s e t h a t o u r a n a l y z e r a s s i g n s o n e p o i n t o f \ b l a m e " t o e a c h l a t e t a s k , f o r e a c h

u n i t o f t i m e i t i s l a t e . I n t h i s c a s e , A , B , a n d C r e c e i v e 2 0 , 3 0 a n d 0 u n i t s o f b l a m e ,

r e s p e c t i v e l y . F i g u r e 2 s h o w s t h e p r i o r i t i z a t i o n , t h e s c h e d u l e t h a t t h e c o n s t r u c t o r b u i l d s

f r o m t h a t p r i o r i t i z a t i o n , a n d t h e l a t e t a s k s w i t h t h e b l a m e a s s i g n e d t o e a c h .

F o r t h e n e x t c y c l e , t h e p r i o r i t i z e r m u s t t a k e t h e p r e v i o u s p r i o r i t y s e q u e n c e , a n d t h e

b l a m e a s s i g n e d b y t h e a n a l y z e r , a n d g e n e r a t e a n e w p r i o r i t y s e q u e n c e . A s i m p l e p r i o r i t i z e r

m i g h t j u s t s o r t t h e t a s k s b y t h e i r n u m e r i c b l a m e i n d e s c e n d i n g o r d e r , r e s u l t i n g i n t h e n e w

p r i o r i t y s e q u e n c e h B ; A ; C i .

A f t e r t h e s e c o n d c y c l e , t a s k s A a n d C a r e l a t e , s c o r i n g 2 0 a n d 1 0 p o i n t s o f b l a m e ,

r e s p e c t i v e l y . T h e n e w p r i o r i t y s e q u e n c e i s t h e n h A ; C ; B i .

T h e t h i r d s o l u t i o n , c o n s t r u c t e d f r o m t h i s p r i o r i t y s e q u e n c e , h a s o n l y o n e l a t e t a s k , B ,

w h i c h r e c e i v e s 3 0 p o i n t s o f b l a m e . A t t h i s p o i n t w e h a v e a n o p t i m a l s o l u t i o n . I f w e c o n t i n u e

r u n n i n g s w o , h o w e v e r , a s w e m i g h t e x p e c t t o d o s i n c e w e t y p i c a l l y d o n o t k n o w w h e n w e

h a v e r e a c h e d o p t i m a l i t y , s w o w i l l a t t e m p t t o x w h a t w a s w r o n g w i t h t h e c u r r e n t s o l u t i o n .

H e r e , s i n c e t a s k B w a s l a t e , i t s p r i o r i t y w o u l d b e i n c r e a s e d , a n d t h e r e s u l t i n g s o l u t i o n w o u l d

x t h a t p r o b l e m a t t h e e x p e n s e o f o t h e r s . ( W e w o u l d a l s o e n t e r a s h o r t c y c l e , a l t e r n a t i n g

b e t w e e n t h e l a s t t w o s c h e d u l e s . W e a d d r e s s t h i s b y i n t r o d u c i n g s o m e r a n d o m i z a t i o n i n t h e

p r i o r i t i z e r . )

A l t h o u g h t h i s e x a m p l e i s h i g h l y s i m p l i e d , a n d t h e r e w o u l d c l e a r l y b e b e t t e r a n d m o r e

s o p h i s t i c a t e d w a y s t o i m p l e m e n t e a c h o f t h e t h r e e m o d u l e s , F i g u r e 3 s h o w s t h a t t h e b e h a v i o r

i l l u s t r a t e d b y t h e s i m p l e e x a m p l e i s r e e c t e d i n a r e a l d o m a i n . T h e g u r e s h o w s t h e c h a n g i n g

p o s i t i o n i n t h e p r i o r i t y s e q u e n c e o f t h r e e t a s k s i n t h e s c h e d u l i n g d o m a i n t h a t i s d e s c r i b e d

i n d e t a i l i n t h e f o l l o w i n g s e c t i o n . O n e t a s k ( \ J o b 2 4 " ) s t a r t s o u t w i t h a h i g h p r i o r i t y , a n d

r e m a i n s a t a r e l a t i v e l y h i g h p r i o r i t y l e v e l . W e c a n s e e t h a t w h e n t h e t a s k i s s c h e d u l e d

3 5 5

7/27/2019 1105.5454

4/21

J o s l i n & C l e m e n t s

Job 24

9 10 11 12 13 14 15 16 17 18 19 201 2 3 4 5 6 7 8

Job 39

Job 26

Priority

Iteration

(high)

(low)

F i g u r e 3 : E x a m p l e s o f p r i o r i t y c h a n g e s o v e r t i m e

e e c t i v e l y , a n d t h e r e f o r e r e c e i v e s l i t t l e o r n o b l a m e , i t s p r i o r i t y t e n d s t o d r o p , b u t i t d o e s

n o t h a v e t o d r o p v e r y f a r b e f o r e i t c e a s e s t o b e s c h e d u l e d w e l l , a c q u i r e s a s i g n i c a n t l e v e l

o f b l a m e , a n d m o v e s q u i c k l y b a c k t o a h i g h e r p r i o r i t y .

T h e o t h e r t w o t a s k s s h o w n i n t h e g u r e b e h a v e q u i t e d i e r e n t l y . O n e t a s k ( \ J o b 3 9 " )

s t a r t s o u t w i t h a r e l a t i v e l y h i g h p r i o r i t y , b u t t h i s t a s k i s \ e a s y " t o s c h e d u l e , w i t h l i t t l e

b l a m e , e v e n w h e n i t i s s c h e d u l e d l a t e i n t h e s e q u e n c e . O v e r s u c c e s s i v e i t e r a t i o n s , t h e

p r i o r i t y o f s u c h a t a s k w i l l t e n d t o d e c r e a s e s t e a d i l y . T h e o t h e r t a s k i l l u s t r a t e d h e r e ( \ J o b

2 6 " ) d o e s j u s t t h e o p p o s i t e , s t a r t i n g a t a l o w p r i o r i t y a n d m o v i n g f a i r l y s t e a d i l y t o w a r d a

h i g h p r i o r i t y .

T h e f o l l o w i n g s e c t i o n d i s c u s s e s t h e c h a r a c t e r i s t i c s o f s w o t h a t m a k e i t a n e e c t i v e

t e c h n i q u e f o r o p t i m i z a t i o n . W e t h e n d i s c u s s i m p l e m e n t a t i o n s o f s w o f o r s c h e d u l i n g a n d

f o r g r a p h c o l o r i n g p r o b l e m s . T h e n a l s e c t i o n s d i s c u s s r e l a t e d w o r k , d e s c r i b e d i r e c t i o n s f o r

f u t u r e r e s e a r c h , a n d s u m m a r i z e o u r n d i n g s .

2 . K e y i d e a s

A s t h e e x p e r i m e n t a l r e s u l t s b e l o w s h o w , s w o i s a g e n e r a l a p p r o a c h t o o p t i m i z a t i o n . I n t h i s

s e c t i o n , w e e x p l o r e a f e w i n s i g h t s i n t o w h a t m a k e s s w o e e c t i v e .

I t i s u s e f u l t o t h i n k o f s w o a s s e a r c h i n g t w o c o u p l e d s p a c e s , a s i l l u s t r a t e d i n F i g u r e 4 .

O n e s e a r c h s p a c e i s t h e f a m i l i a r s o l u t i o n s p a c e , a n d t h e o t h e r i s p r i o r i t y s p a c e . M o v e s i n

t h e s o l u t i o n s p a c e a r e m a d e i n d i r e c t l y , v i a t h e r e - p r i o r i t i z a t i o n t h a t r e s u l t s f r o m a n a l y z i n g

t h e p r i o r s o l u t i o n . S i m i l a r l y , s u c c e s s i v e p r i o r i t i z a t i o n s a r e g e n e r a t e d b y c o n s t r u c t i n g a n d

a n a l y z i n g a s o l u t i o n , a n d t h e n u s i n g t h e b l a m e t h a t r e s u l t s f r o m t h a t a n a l y s i s t o m o d i f y

t h e p r e v i o u s p r i o r i t i z a t i o n .

A p o i n t i n t h e s o l u t i o n s p a c e r e p r e s e n t s a p o t e n t i a l s o l u t i o n t o t h e p r o b l e m , a n d a

c o r r e s p o n d i n g p o i n t i n p r i o r i t y s p a c e , d e r i v e d b y a n a l y z i n g t h e s o l u t i o n , i s a n a t t e m p t t o

3 5 6

7/27/2019 1105.5454

5/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

Analyze/Prioritize

Solution space

Priority space

p

s

Construct

p

Construct

s

F i g u r e 4 : C o u p l e d s e a r c h s p a c e s

c a p t u r e i n f o r m a t i o n a b o u t t h e s t r u c t u r e o f t h e s e a r c h s p a c e i n t h e v i c i n i t y o f t h e s o l u t i o n .

A s s w o c o n s t r u c t s a n e w s o l u t i o n f r o m s c r a t c h , t h e p r i o r i t i e s c a n b e t h o u g h t o f a s p r o -

v i d i n g i n f o r m a t i o n a b o u t p i t f a l l s c o m m o n t o t h e c u r r e n t r e g i o n o f t h e s o l u t i o n s p a c e . I f

s o m e e l e m e n t s o f t h e s o l u t i o n h a v e t e n d e d t o b e s o u r c e s o f d i c u l t y o v e r s o m e n u m b e r o f

i t e r a t i o n s , i n c r e a s i n g t h e i r p r i o r i t y m a k e s i t m o r e l i k e l y t h a t t h e c o n s t r u c t o r w i l l h a n d l e

t h o s e e l e m e n t s i n a g o o d w a y .

O n e c o n s e q u e n c e o f t h e c o u p l e d s e a r c h s p a c e s i s t h a t a s m a l l c h a n g e i n t h e s e q u e n c e o f

e l e m e n t s g e n e r a t e d b y t h e p r i o r i t i z e r m a y c o r r e s p o n d t o a l a r g e c h a n g e i n t h e c o r r e s p o n d i n g

s o l u t i o n g e n e r a t e d b y t h e c o n s t r u c t o r , c o m p a r e d t o t h e s o l u t i o n f r o m t h e p r e v i o u s i t e r a -

t i o n . M o v i n g a n e l e m e n t f o r w a r d i n t h e s e q u e n c e c a n s i g n i c a n t l y c h a n g e i t s s t a t e i n t h e

r e s u l t i n g s o l u t i o n . I n a d d i t i o n , a n y e l e m e n t s t h a t n o w o c c u r a f t e r i t i n t h e s e q u e n c e m u s t

a c c o m m o d a t e t h a t e l e m e n t ' s s t a t e . F o r e x a m p l e , i n t h e s c h e d u l i n g d o m a i n , m o v i n g a t a s k

e a r l i e r i n t h e p r i o r i t y s e q u e n c e m a y a l l o w i t t o b e p l a c e d o n a d i e r e n t m a n u f a c t u r i n g l i n e ,

t h u s p o s s i b l y c h a n g i n g t h e m i x o f j o b s t h a t c a n r u n o n t h a t l i n e , a n d o n t h e l i n e i t w a s

s c h e d u l e d o n i n t h e p r e v i o u s i t e r a t i o n . O n e s m a l l c h a n g e c a n h a v e c o n s e q u e n c e s f o r a n y

e l e m e n t t h a t f o l l o w s i t , w i t h l o w e r - p r i o r i t y t a s k s h a v i n g t o \ l l i n t h e g a p s " t h a t a r e l e f t

a f t e r h i g h e r - p r i o r i t y t a s k s h a v e b e e n s c h e d u l e d .

T h e r e s u l t i s a l a r g e m o v e t h a t i s \ c o h e r e n t " i n t h e s e n s e t h a t i t i s s i m i l a r t o w h a t w e

m i g h t e x p e c t f r o m m o v i n g t h e h i g h e r p r i o r i t y t a s k , t h e n p r o p a g a t i n g t h e e e c t s o f t h a t

c h a n g e b y m o v i n g l o w e r p r i o r i t y t a s k s a s n e e d e d . T h i s s i n g l e m o v e m a y c o r r e s p o n d t o a

l a r g e n u m b e r o f m o v e s f o r a s e a r c h a l g o r i t h m t h a t o n l y l o o k s a t l o c a l c h a n g e s t o t h e s o l u t i o n ,

a n d i t m a y t h u s b e d i c u l t f o r s u c h a n a l g o r i t h m t o n d .

T h e f a c t t h a t s w o m a k e s l a r g e m o v e s i n b o t h s e a r c h s p a c e s i s o n e o b v i o u s d i e r e n c e

b e t w e e n s w o a n d t r a d i t i o n a l l o c a l s e a r c h t e c h n i q u e s , s u c h a s w s a t ( S e l m a n , K a u t z , &

C o h e n , 1 9 9 3 ) . A n o t h e r d i e r e n c e i s t h a t w i t h s w o , m o v e s a r e n e v e r s e l e c t e d b a s e d o n t h e i r

e e c t o n t h e o b j e c t i v e f u n c t i o n . I n s t e a d , u n l i k e h i l l c l i m b i n g t e c h n i q u e s , e a c h m o v e i s m a d e

3 5 7

7/27/2019 1105.5454

6/21

J o s l i n & C l e m e n t s

i n r e s p o n s e t o \ t r o u b l e s p o t s " f o u n d i n t h e c u r r e n t s o l u t i o n . T h e r e s u l t i n g m o v e m a y b e

u p h i l l , b u t t h e m o v e i s a l w a y s m o t i v a t e d b y t h o s e t r o u b l e s p o t s .

I n p r i o r i t y s p a c e t h e o n l y \ l o c a l o p t i m a " a r e t h o s e i n w h i c h a l l e l e m e n t s o f a s o l u t i o n a r e

a s s i g n e d e q u a l b l a m e . s w o t e n d s t o a v o i d g e t t i n g t r a p p e d i n l o c a l o p t i m a , b e c a u s e a n a l y s i s

a n d p r i o r i t i z a t i o n w i l l a l w a y s ( i n p r a c t i c e ) s u g g e s t c h a n g e s i n t h e s e q u e n c e , t h u s c h a n g i n g

t h e s o l u t i o n g e n e r a t e d o n t h e n e x t i t e r a t i o n . T h i s d o e s n o t g u a r a n t e e t h a t s w o w i l l n o t

b e c o m e t r a p p e d i n a s m a l l c y c l e , h o w e v e r . I n o u r i m p l e m e n t a t i o n s w e h a v e i n t r o d u c e d

s m a l l a m o u n t s o f r a n d o m n e s s i n t h e b a s i c c y c l e . W e a l s o r e s t a r t s w o p e r i o d i c a l l y w i t h a

n e w i n i t i a l s e q u e n c e .

A n o t h e r a s p e c t o f l o c a l s e a r c h i s t h a t t y p i c a l l y e a c h p o i n t i n t h e s o l u t i o n s p a c e i s a s -

s o c i a t e d w i t h a s i n g l e v a l u e , t h e o b j e c t i v e f u n c t i o n s c o r e f o r t h a t s o l u t i o n . W h e n w e t a l k

a b o u t h i l l c l i m b i n g , w e g e n e r a l l y r e f e r t o t h e \ t e r r a i n " d e s c r i b e d b y t h i s o b j e c t i v e f u n c t i o n

s c o r e , o v e r t h e s p a c e o f s o l u t i o n s . T h e p r o c e s s o f a n a l y s i s i n s w o c a n b e t h o u g h t o f a s

s y n t h e s i z i n g a m o r e c o m p l e x d e s c r i p t i o n o f t h a t t e r r a i n , b y b r e a k i n g a s o l u t i o n d o w n i n t o

i t s c o m p o n e n t e l e m e n t s a n d a s s i g n i n g a s c o r e t o e a c h . P r i o r i t i z a t i o n t h e n t r a n s l a t e s t h e

a n a l y s i s i n t o a \ s t r a t e g y " t h a t t h e c o n s t r u c t o r c a n u s e t o g e n e r a t e t h e n e x t s o l u t i o n .

A s s i g n i n g s c o r e s t o t h e i n d i v i d u a l e l e m e n t s o f a s o l u t i o n a l l o w s s w o t o t a k e a d v a n t a g e

o f t h e f a c t t h a t r e a l p r o b l e m s o f t e n c o m b i n e s o m e e l e m e n t s t h a t a r e d i c u l t t o g e t r i g h t ,

p l u s o t h e r s t h a t a r e e a s y . I n t h e s c h e d u l i n g p r o b l e m s p r e s e n t e d b e l o w , s o m e t a s k s c a n b e

a s s i g n e d t o j u s t a f e w p r o d u c t i o n l i n e s , w h i l e o t h e r s a l l o w f o r m u c h m o r e e x i b i l i t y . S o m e

h a v e d u e d a t e s c l o s e t o t h e i r r e l e a s e t i m e , w h i l e o t h e r s h a v e a l o t o f l e e w a y . I t i s s o m e t i m e s

p o s s i b l e t o i d e n t i f y \ d i c u l t " e l e m e n t s o f a p r o b l e m w i t h s t a t i c a n a l y s i s , b u t i n t e r a c t i o n s

c a n b e c o m p l e x , a n d e l e m e n t s t h a t a r e c a u s i n g d i c u l t y i n o n e p a r t o f t h e s e a r c h s p a c e m a y

b e n o t r o u b l e a t a l l i n a n o t h e r . R a t h e r t h a n t r y i n g t o i d e n t i f y e l e m e n t s t h a t a r e g l o b a l l y

d i c u l t b y a n a l y z i n g t h e e n t i r e p r o b l e m , s w o a n a l y z e s i n d i v i d u a l s o l u t i o n s i n o r d e r t o n d

e l e m e n t s t h a t a r e l o c a l l y d i c u l t . G l o b a l l y d i c u l t e l e m e n t s t e n d t o b e i d e n t i e d o v e r t i m e ,

a s t h e y a r e d i c u l t a c r o s s l a r g e p a r t s o f t h e s e a r c h s p a c e .

B y a s s i g n i n g b l a m e a n d a d j u s t i n g p r i o r i t i e s b a s e d o n i d e n t i e d p r o b l e m s i n a c t u a l s o -

l u t i o n s , s w o a v o i d s d e p e n d e n c e o n c o m p l e x , d o m a i n d e p e n d e n t h e u r i s t i c s . I t i s o u r b e l i e f

t h a t t h i s i n d e p e n d e n c e i s p a r t i c u l a r l y i m p o r t a n t i n c o m p l e x d o m a i n s w h e r e e v e n t h e b e s t

h e u r i s t i c s w i l l m i s s s o m e k e y i n t e r a c t i o n s a n d t h e r e f o r e i n h i b i t t h e s e a r c h f r o m e x p l o r i n g

g o o d a r e a s t h a t t h e h e u r i s t i c i n c o r r e c t l y l a b e l s a s u n p r o m i s i n g . s w o u s e s a c t u a l s o l u t i o n s

t o d i s c o v e r w h i c h a r e a s o f t h e s e a r c h s p a c e a r e p r o m i s i n g a n d w h i c h a r e n o t .

3 . S W O f o r s c h e d u l i n g

T h i s s e c t i o n d e s c r i b e s a n a p p l i c a t i o n o f s w o t o a b e r - o p t i c p r o d u c t i o n l i n e s c h e d u l i n g

p r o b l e m , d e r i v e d f r o m d a t a p r o v i d e d b y L u c e n t T e c h n o l o g i e s . I n t h i s p a r t i c u l a r p l a n t , a

c a b l e m a y b e a s s e m b l e d o n a n y o n e o f 1 3 p a r a l l e l p r o d u c t i o n l i n e s . F o r e a c h c a b l e t y p e ,

o n l y a s u b s e t o f t h e p r o d u c t i o n l i n e s a r e c o m p a t i b l e , a n d t h e t i m e r e q u i r e d t o p r o d u c e t h e

c a b l e w i l l d e p e n d o n w h i c h o f t h e c o m p a t i b l e l i n e s i s s e l e c t e d . E a c h c a b l e a l s o h a s a s e t u p

t i m e , w h i c h d e p e n d s o n i t s o w n c a b l e t y p e a n d t h a t o f i t s p r e d e c e s s o r . S e t u p s b e t w e e n

c e r t a i n p a i r s o f c a b l e t y p e s a r e i n f e a s i b l e . T a s k p r e e m p t i o n i s n o t a l l o w e d , i . e . o n c e a c a b l e

h a s s t a r t e d p r o c e s s i n g o n a l i n e , i t n i s h e s w i t h o u t i n t e r r u p t i o n .

3 5 8

7/27/2019 1105.5454

7/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

E a c h c a b l e i s a s s i g n e d a r e l e a s e t i m e a n d d u e d a t e . P r o d u c t i o n c a n n o t b e g i n b e f o r e t h e

r e l e a s e t i m e . T h e o b j e c t i v e f u n c t i o n i n c l u d e s a p e n a l t y f o r m i s s i n g d u e d a t e s , a n d a p e n a l t y

f o r s e t u p t i m e s .

3 . 1 I m p l e m e n t a t i o n

W e d e s c r i b e t h e i m p l e m e n t a t i o n i n t e r m s o f t h e t h r e e m a i n c o m p o n e n t s o f s w o :

C o n s t r u c t o r . T h e c o n s t r u c t o r b u i l d s a s c h e d u l e b y a d d i n g t a s k s o n e a t a t i m e , i n t h e

o r d e r t h e y o c c u r i n t h e p r i o r i t y s e q u e n c e . A t a s k i s a d d e d b y s e l e c t i n g a l i n e a n d a

p o s i t i o n r e l a t i v e t o t h e t a s k s a l r e a d y i n t h a t l i n e . A t a s k m a y b e i n s e r t e d b e t w e e n

a n y t w o t a s k s a l r e a d y i n t h e l i n e o r a t t h e b e g i n n i n g o r e n d o f t h a t l i n e ' s s c h e d u l e .

C h a n g e s t o t h e r e l a t i v e p o s i t i o n s o f t h e t a s k s a l r e a d y i n t h e l i n e a r e n o t c o n s i d e r e d .

E a c h t a s k i n t h e l i n e i s t h e n a s s i g n e d t o i t s e a r l i e s t p o s s i b l e s t a r t t i m e , s u b j e c t t o t h e

o r d e r i n g , i . e . , a t a s k s t a r t s a t e i t h e r i t s r e l e a s e t i m e , o r i m m e d i a t e l y a f t e r t h e p r e v i o u s

t a s k o n t h a t l i n e , w h i c h e v e r i s g r e a t e r .

F o r e a c h o f t h e p o s s i b l e i n s e r t i o n p o i n t s i n t h e s c h e d u l e , r e l a t i v e t o t h e t a s k s a l r e a d y i n

e a c h l i n e , t h e c o n s t r u c t o r c a l c u l a t e s t h e e e c t o n t h e o b j e c t i v e f u n c t i o n , a n d t h e t a s k

i s p l a c e d a t t h e b e s t - s c o r i n g l o c a t i o n . T i e s a r e b r o k e n r a n d o m l y . A f t e r a l l t a s k s h a v e

b e e n p l a c e d , t h e c o n s t r u c t o r a p p l i e s s w o t o t h e i n d i v i d u a l l i n e s c h e d u l e s , a t t e m p t i n g

t o i m p r o v e t h e s c o r e f o r e a c h l i n e b y r e o r d e r i n g t h e c a b l e s t h a t w e r e a s s i g n e d t o i t .

A n a l y z e r . T o a s s i g n b l a m e t o e a c h t a s k i n t h e c u r r e n t s c h e d u l e , t h e a n a l y z e r r s t c a l c u l a t e s

a l o w e r b o u n d o n t h e m i n i m u m p o s s i b l e c o s t t h a t e a c h t a s k c o u l d c o n t r i b u t e t o a n y

s c h e d u l e . F o r e x a m p l e , i f a t a s k h a s a r e l e a s e t i m e t h a t i s l a t e r t h a n i t s d u e d a t e ,

t h e n i t w i l l b e l a t e i n e v e r y s c h e d u l e , a n d t h e m i n i m u m p o s s i b l e c o s t a l r e a d y i n c l u d e s

t h a t p e n a l t y . M i n i m u m p o s s i b l e s e t u p c o s t s a r e a l s o i n c l u d e d . F o r a g i v e n s c h e d u l e ,

t h e b l a m e a s s i g n e d t o e a c h t a s k i s i t s \ e x c e s s c o s t , " t h e d i e r e n c e b e t w e e n i t s a c t u a l

c o s t a n d i t s m i n i m u m p o s s i b l e c o s t . E x c e s s l a t e n e s s c o s t s a r e a s s i g n e d t o t a s k s t h a t

a r e l a t e , a n d e x c e s s s e t u p c o s t s a r e s p l i t b e t w e e n a d j a c e n t t a s k s .

P r i o r i t i z e r . O n c e t h e b l a m e h a s b e e n a s s i g n e d , t h e p r i o r i t i z e r m o d i e s t h e p r e v i o u s s e -

q u e n c e o f t a s k s b y m o v i n g t a s k s w i t h n o n - z e r o b l a m e f a c t o r s f o r w a r d i n t h e s e q u e n c e .

T a s k s a r e m o v e d f o r w a r d a d i s t a n c e t h a t i n c r e a s e s w i t h t h e m a g n i t u d e o f t h e b l a m e .

T o m o v e f r o m t h e b a c k o f t h e s e q u e n c e t o t h e f r o n t , a t a s k m u s t h a v e a h i g h b l a m e

f a c t o r o v e r s e v e r a l i t e r a t i o n s . W e c a l l t h i s a \ s t i c k y s o r t . "

O u r c u r r e n t i m p l e m e n t a t i o n h a s c o n s i d e r a b l e r o o m f o r i m p r o v e m e n t . T h e a n a l y s i s a n d

f e e d b a c k c u r r e n t l y b e i n g u s e d a r e v e r y s i m p l e , a n d t h e c o n s t r u c t i o n o f s c h e d u l e s c o u l d t a k e

v a r i o u s h e u r i s t i c s i n t o a c c o u n t , s u c h a s p r e f e r r i n g t o p l a c e a t a s k i n a l i n e t h a t h a s m o r e

\ s l a c k , " a l l o t h e r t h i n g s b e i n g e q u a l .

3 . 2 E x p e r i m e n t a l r e s u l t s

W e h a v e s i x s e t s o f t e s t d a t a , r a n g i n g i n s i z e f r o m 4 0 t o 2 9 7 t a s k s , a l l w i t h 1 3 p a r a l l e l

p r o d u c t i o n l i n e s . T h e l a r g e s t p r o b l e m w a s t h e l a r g e s t t h a t t h e m a n u f a c t u r e r r e q u i r e d i n

p r a c t i c e . W e c o m p a r e t h e f o l l o w i n g s o l u t i o n m e t h o d s :

3 5 9

7/27/2019 1105.5454

8/21

J o s l i n & C l e m e n t s

s w o t a b u i p

D a t a B e s t A v g A v g

S e t O b j O b j T i m e O b j T i m e O b j T i m e

4 0 1 8 9 0 1 8 9 0 4 8 1 9 1 1 4 2 5 1 9 3 4 2 0

5 0 3 1 0 1 3 1 5 6 5 7 3 2 9 2 7 3 2 3 2 2 1 1 7 5

6 0 2 5 8 0 2 5 8 4 8 7 2 8 3 7 1 3 2 5 2 7 2 9 6 1 4 4

7 0 2 7 1 3 2 7 2 7 1 2 4 2 8 7 8 2 0 4 6 2 8 9 7 4 9 5 0

1 4 8 8 8 6 9 8 9 2 7 4 3 1 1 0 4 2 1 1 7 2 6 0 | |

2 9 7 1 7 5 0 3 1 7 6 9 6 1 3 0 0 | | | |

T a b l e 1 : E x p e r i m e n t a l r e s u l t s : s c h e d u l i n g

s w o A p p l i e s t h e s w o a r c h i t e c t u r e t o t h e p r o b l e m , r u n n i n g f o r a x e d n u m b e r o f i t e r a t i o n s

a n d r e t u r n i n g t h e b e s t s c h e d u l e i t n d s .

t a b u U s e s t a b u s e a r c h ( G l o v e r & L a g u n a , 1 9 9 7 ) , a l o c a l s e a r c h a l g o r i t h m i n w h i c h m o v e s

t h a t i n c r e a s e c o s t a r e p e r m i t t e d t o a v o i d g e t t i n g t r a p p e d a t l o c a l o p t i m a . T o a v o i d

c y c l i n g , w h e n a n \ u p h i l l " m o v e i s m a d e , i t i s n o t a l l o w e d t o b e i m m e d i a t e l y u n d o n e .

i p A p p l i e s a n I n t e g e r P r o g r a m m i n g ( I P ) s o l v e r , u s i n g a n e n c o d i n g d e s c r i b e d i n ( C l e m e n t s

e t a l . , 1 9 9 7 ) .

O n t h e 2 9 7 t a s k p r o b l e m , s w o w a s f a r m o r e e e c t i v e t h a n e i t h e r t a b u o r i p . t a b u ,

f o r e x a m p l e , f a i l e d t o n d a f e a s i b l e s c h e d u l e a f t e r r u n n i n g f o r o v e r 2 4 h o u r s . O n t h e

s m a l l e s t p r o b l e m s , t a b u a n d i p w e r e a b l e t o n d s o l u t i o n s , b u t s w o o u t p e r f o r m e d b o t h b y

a s u b s t a n t i a l m a r g i n .

T a b l e 1 p r e s e n t s r e s u l t s o n e a c h p r o b l e m f o r s w o , t a b u a n d i p . F o r s w o , t e n t r i a l s

w e r e r u n a n d t h e r e s u l t s a v e r a g e d . T h e t a b u a n d i p i m p l e m e n t a t i o n s w e r e d e t e r m i n i s t i c ,

s o o n l y t h e r e s u l t s o f a s i n g l e r u n a r e s h o w n . T h e s e c o n d c o l u m n o f t h e t a b l e s h o w s t h e b e s t

o b j e c t i v e f u n c t i o n v a l u e w e h a v e e v e r o b s e r v e d o n e a c h p r o b l e m . T h e r e m a i n i n g c o l u m n s

s h o w t h e o b j e c t i v e f u n c t i o n v a l u e a n d r u n n i n g t i m e s f o r s w o , t a b u a n d i p . A l l b u t t h e i p

e x p e r i m e n t s w e r e r u n o n a S u n S p a r c s t a t i o n 1 0 M o d e l 5 0 . T h e i p e x p e r i m e n t s w e r e r u n o n

a n I B M R S 6 0 0 0 M o d e l 5 9 0 ( a f a s t e r m a c h i n e ) .

T h e b e s t v a l u e s o b s e r v e d h a v e b e e n t h e r e s u l t o f c o m b i n i n g s w o w i t h i p , a s r e p o r t e d

i n ( C l e m e n t s e t a l . , 1 9 9 7 ) . I n t h a t w o r k , s w o g e n e r a t e d s o l u t i o n s , r u n n i n g u n t i l i t h a d

p r o d u c e d a n u m b e r o f \ g o o d " s c h e d u l e s . A n i p s o l v e r w a s t h e n i n v o k e d t o r e - c o m b i n e

e l e m e n t s o f t h o s e s o l u t i o n s i n t o a b e t t e r s o l u t i o n . A l t h o u g h t h e i m p r o v e m e n t s a c h i e v e d

b y t h e I P s o l v e r w e r e r e l a t i v e l y s m a l l , o n t h e o r d e r o f 1 . 5 % , i t a c h i e v e d t h i s i m p r o v e m e n t

q u i c k l y , a n d s w o w a s u n a b l e t o a c h i e v e t h e s a m e d e g r e e o f o p t i m i z a t i o n e v e n w h e n g i v e n

s u b s t a n t i a l l y m o r e t i m e . W h i l e n o t i n g t h a t t h e h y b r i d a p p r o a c h c a n b e m o r e e e c t i v e t h a n

s w o a l o n e , a n d m u c h m o r e e e c t i v e t h a n i p a l o n e , h e r e w e f o c u s o n t h e p e r f o r m a n c e o f t h e

i n d i v i d u a l t e c h n i q u e s .

W e a l s o n o t e t h a t o u r v e r y r s t , f a i r l y n a i v e i m p l e m e n t a t i o n o f s w o f o r t h e s e s c h e d u l i n g

p r o b l e m s a l r e a d y o u t p e r f o r m e d b o t h t a b u a n d i p . M o r e o v e r , o u r i m p r o v e d i m p l e m e n t a t i o n ,

3 6 0

7/27/2019 1105.5454

9/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

0 2 4 6 8 10 12 14 16 18 20 22 24 26 28 30 32 34 36 380

2

4

6

8

10

0 2 4 6 8 10 12 14 16 18 20 22 24 26 28 30 32 34 36 380

2

4

6

8

10

Position in priority sequence

#oflinesjobinthatpositioncanr

unon

Position in priority sequence

Order based on # of lines job can run on

Order after 14th iteration, producing a solution 0.05% over best known

F i g u r e 5 : C o m p a r i s o n o f h e u r i s t i c p r i o r i t i e s a n d p r i o r i t i e s d e r i v e d b y s w o

r e p o r t e d a b o v e , i s s t i l l f a i r l y s i m p l e , a n d i s s u c c e s s f u l w i t h o u t r e l y i n g o n d o m a i n - d e p e n d e n t

h e u r i s t i c s . W e t a k e t h i s a s e v i d e n c e t h a t t h e e e c t i v e n e s s o f o u r a p p r o a c h i s n o t d u e

t o c l e v e r n e s s i n t h e c o n s t r u c t i o n , a n a l y s i s a n d p r i o r i t i z a t i o n t e c h n i q u e s , b u t d u e t o t h e

e e c t i v e n e s s o f t h e s w o c y c l e a t i d e n t i f y i n g a n d r e s p o n d i n g t o w h a t e v e r e l e m e n t s o f t h e

p r o b l e m h a p p e n t o b e c a u s i n g d i c u l t y i n t h e l o c a l r e g i o n o f t h e s e a r c h .

I t i s a l s o i n s t r u c t i v e t o c o m p a r e t h e r e s u l t s o f a g o o d h e u r i s t i c o r d e r i n g , w i t h t h e s e -

q u e n c e d e r i v e d b y s w o . A g o o d h e u r i s t i c f o r t h i s s c h e d u l i n g d o m a i n ( a n d t h e o n e t h a t

i s u s e d t o i n i t i a l l y p o p u l a t e t h e p r i o r i t y s e q u e n c e ) i s t o s o r t t h e t a s k s b y t h e n u m b e r o f

p r o d u c t i o n l i n e s o n w h i c h a t a s k c o u l d b e f e a s i b l y a s s i g n e d i n a n e m p t y s c h e d u l e . A t a s k

t h a t c a n b e s c h e d u l e d o n m a n y l i n e s i s l i k e l y t o b e e a s i e r t o s c h e d u l e t h a n o n e t h a t i s

c o m p a t i b l e w i t h o n l y a s m a l l n u m b e r o f l i n e s , a n d s h o u l d t h e r e f o r e b e e x p e c t e d t o n e e d a

l o w e r p r i o r i t y . T h e t o p g r a p h i n F i g u r e 5 s h o w s t h e s e q u e n c e o f t a s k s , a s d e t e r m i n e d b y

t h i s h e u r i s t i c . T h e l o w e r g r a p h i l l u s t r a t e s t h e c h a n g e s i n p r i o r i t y o f t h e s e t a s k s , a f t e r s w o

h a s r u n f o r f o u r t e e n i t e r a t i o n s ( e n o u g h t o i m p r o v e t h e s o l u t i o n d e r i v e d f r o m t h e s e q u e n c e

t o w i t h i n 0 . 0 5 p e r c e n t o f t h e b e s t k n o w n s o l u t i o n ) .

A s t h e g u r e i l l u s t r a t e s , t h e h e u r i s t i c i s g e n e r a l l y a c c u r a t e , b u t s w o h a s h a d t o m o v e

s o m e t a s k s t h a t a r e c o m p a t i b l e w i t h m o s t o f t h e p r o d u c t i o n l i n e s t o p o s i t i o n s o f r e l a t i v e l y

h i g h p r i o r i t y , r e e c t i n g t h e f a c t t h a t c o n t r a r y t o t h e h e u r i s t i c , t h e s e t a s k s t u r n e d o u t t o b e

r e l a t i v e l y d i c u l t t o s c h e d u l e w e l l . O t h e r t a s k s t h a t a r e c o m p a t i b l e w i t h o n l y a f e w p r o -

d u c t i o n l i n e s a r e a c t u a l l y e a s y t o s c h e d u l e w e l l , a n d h a v e m o v e d t o r e l a t i v e l y l o w p r i o r i t i e s .

3 6 1

7/27/2019 1105.5454

10/21

J o s l i n & C l e m e n t s

I t e r a t i o n s F e a s i b l e

7/27/2019 1105.5454

11/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

s h o w n f o r e a c h v a l u e f o r e a c h o f t h r e e d i e r e n t s o l u t i o n q u a l i t i e s . T h e s u c c e s s r a t e i n d i c a t e s

t h e p r o b a b i l i t y t h a t a s o l u t i o n o f a t l e a s t t h e g i v e n q u a l i t y w a s f o u n d i n a g i v e n p a s s . T h e

m e a n c o s t i s t h e a v e r a g e n u m b e r o f t o t a l i t e r a t i o n s t o g e t a s o l u t i o n o f t h a t q u a l i t y .

F o r t h e f e a s i b l e a n d 1 8 0 0 0 s o l u t i o n t h r e s h o l d s , s w o r e a c h e s a 1 0 0 p e r c e n t s u c c e s s r a t e

w e l l b e f o r e r e a c h i n g t h e m a x i m u m r e s t a r t c u t o o f 1 0 0 0 u s e d i n t h e s e e x p e r i m e n t s . I n s o m e

s e n s e , i t i s e a s y f o r s w o t o p r o d u c e s o l u t i o n s t h a t a r e a t l e a s t o f t h e s e q u a l i t i e s . T h e r e s u l t s

f o r t h e s e 2 t h r e s h o l d s i n d i c a t e t h a t w h e n i t i s e a s y f o r s w o t o s o l v e t h e p r o b l e m , a n y c u t o

g r e a t e r t h a n t h e a v e r a g e n u m b e r o f u n i n t e r r u p t e d i t e r a t i o n s i t t a k e s t o p r o d u c e a s o l u t i o n

c a n b e u s e d t o s o l v e t h e p r o b l e m a t m i n i m u m c o s t . F o r s u c h \ e a s y " p r o b l e m s , i t a p p e a r s

t h a t t o o s m a l l a r e s t a r t c u t o c a n h u r t , b u t t h a t t o o b i g a c u t o w i l l n o t .

T h e n u m b e r s f o r t h e 1 7 7 0 0 s o l u t i o n q u a l i t y t h r e s h o l d , t e l l a d i e r e n t s t o r y . T h e s u c c e s s

r a t e i s s t i l l c l i m b i n g w h e n t h e e x p e r i m e n t e n d s , a n d t h e m e a n c o s t h a s a c t u a l l y r i s e n a b o v e

i t s m i n i m u m . F o r t h i s s o l u t i o n q u a l i t y , t h e r e s t a r t c u t o t h a t m i n i m i z e s m e a n c o s t f a l l s

a r o u n d t h e r a n g e o f 7 0 t o 1 0 0 . M e a n c o s t s r i s e s t e e p l y f o r r e s t a r t c u t o s b e l o w t h i s r a n g e ,

a n d s l o w l y f o r c u t o s l a r g e r t h a n t h a t . T h i s i s a n e x a m p l e o f a h a r d p r o b l e m f o r s w o , a n d i t

s h o w s t h a t s o m e c a r e n e e d s t o b e t a k e n w h e n c h o o s i n g a r e s t a r t s t r a t e g y f o r s u c h p r o b l e m s .

A d d i t i o n a l r e s e a r c h i s n e e d e d t o d e t e r m i n e h o w t o s e t t h e r e s t a r t c u t o a u t o m a t i c a l l y f o r

a r b i t r a r y p r o b l e m s .

T h i s d a t a i n d i c a t e s t h a t s w o d o e s b e n e t f r o m r e s t a r t s , u p t o a p o i n t . W i t h t h e 1 7 7 0 0

t h r e s h o l d , f o r r e s t a r t c u t o s u p t o 1 0 0 , e a c h i n c r e a s e i n t h e c u t o i n g e n e r a l l e d t o a

s u p e r l i n e a r i n c r e a s e i n t h e s u c c e s s r a t e . ( T h i s i s a l s o a n o t h e r i n d i c a t o r t h a t s w o i s l e a r n i n g

f r o m i t e r a t i o n t o i t e r a t i o n . ) A b o v e 1 0 0 i t e r a t i o n s p e r r e s t a r t , t h e s u c c e s s r a t e i n i t i a l l y

c l i m b s s u b l i n e a r l y a n d t h e n a p p e a r s t o l e v e l o u t . I t i s a n o p e n q u e s t i o n w h a t t h i s t e l l s u s

a b o u t t h e s e a r c h s p a c e .

4 . S W O f o r g r a p h c o l o r i n g

W e h a v e a l s o a p p l i e d s w o t o a v e r y d i e r e n t d o m a i n , g r a p h c o l o r i n g . H e r e t h e o b j e c t i v e

i s t o c o l o r t h e n o d e s o f a g r a p h s u c h t h a t n o t w o a d j o i n i n g n o d e s h a v e t h e s a m e c o l o r ,

m i n i m i z i n g t h e n u m b e r o f c o l o r s .

4 . 1 I m p l e m e n t a t i o n

T h e p r i o r i t y s e q u e n c e f o r g r a p h c o l o r i n g c o n s i s t s o f a n o r d e r e d l i s t o f n o d e s . T h e s o l v e r i s

a l w a y s t r y i n g t o p r o d u c e a c o l o r i n g t h a t u s e s c o l o r s f r o m t h e t a r g e t s e t , w h i c h h a s o n e l e s s

c o l o r t h a n w a s u s e d t o c o l o r t h e b e s t s o l u t i o n s o f a r . A g a i n , w e d e s c r i b e t h e i m p l e m e n t a t i o n

i n t e r m s o f t h e t h r e e m a i n c o m p o n e n t s o f s w o :

C o n s t r u c t o r . T h e c o n s t r u c t o r a s s i g n s c o l o r s t o n o d e s i n p r i o r i t y s e q u e n c e o r d e r . I f a

n o d e ' s c o l o r i n t h e p r e v i o u s s o l u t i o n i s s t i l l a v a i l a b l e ( i . e . n o a d j a c e n t n o d e i s u s i n g

i t y e t ) , a n d i s i n t h e t a r g e t s e t , t h e n t h a t c o l o r i s a s s i g n e d . I f t h a t f a i l s , i t t r i e s t o

a s s i g n a c o l o r i n t h e c u r r e n t t a r g e t s e t , p i c k i n g t h e c o l o r t h a t i s l e a s t c o n s t r a i n i n g o n

a d j a c e n t u n c o l o r e d n o d e s , i . e . t h e c o l o r t h a t r e d u c e s t h e a d j a c e n t n o d e s ' r e m a i n i n g

c o l o r c h o i c e s t h e l e a s t . I f n o n e o f t h e t a r g e t c o l o r s a r e a v a i l a b l e , t h e c o n s t r u c t o r t r i e s

t o \ g r a b " a c o l o r i n t h e t a r g e t s e t f r o m i t s n e i g h b o r s . A c o l o r c a n o n l y b e g r a b b e d

i f a l l n e i g h b o r n o d e s w i t h t h a t c o l o r h a v e a t l e a s t o n e o t h e r c h o i c e w i t h i n t h e t a r g e t

3 6 3

7/27/2019 1105.5454

12/21

J o s l i n & C l e m e n t s

s e t . I f m u l t i p l e c o l o r s c a n b e g r a b b e d , t h e n t h e l e a s t c o n s t r a i n i n g o n e i s p i c k e d . I f n o

c o l o r i n t h e t a r g e t s e t c a n b e g r a b b e d t h e n a c o l o r o u t s i d e t h e t a r g e t s e t i s a s s i g n e d .

N o d e s t h a t a r e e a r l y i n t h e p r i o r i t y s e q u e n c e a r e m o r e l i k e l y t o h a v e a w i d e r a n g e o f

c o l o r s t o p i c k f r o m . N o d e s t h a t c o m e l a t e r m a y g r a b c o l o r s f r o m e a r l i e r n o d e s , b u t

o n l y i f t h e e a r l i e r n o d e s h a v e o t h e r c o l o r o p t i o n s w i t h i n t h e t a r g e t s e t .

A n a l y z e r . B l a m e i s a s s i g n e d t o e a c h n o d e w h o s e a s s i g n e d c o l o r i s o u t s i d e t h e t a r g e t s e t ,

w i t h t h e a m o u n t o f b l a m e i n c r e a s i n g f o r e a c h a d d i t i o n a l c o l o r t h a t m u s t b e a d d e d

t o t h e t a r g e t s e t . W e r a n e x p e r i m e n t s w i t h s e v e r a l d i e r e n t v a r i a t i o n s o f c o l o r - b a s e d

a n a l y s i s . A l l o f t h e m p e r f o r m e d r e a s o n a b l y .

P r i o r i t i z e r . T h e p r i o r i t i z e r m o d i e s t h e p r e v i o u s s e q u e n c e o f n o d e s b y m o v i n g n o d e s w i t h

b l a m e f o r w a r d i n t h e s e q u e n c e a c c o r d i n g t o h o w m u c h b l a m e e a c h r e c e i v e d . T h i s i s

d o n e t h e s a m e w a y i t i s d o n e f o r t h e s c h e d u l i n g p r o b l e m s . T h e i n i t i a l s e q u e n c e i s a l i s t

o f n o d e s s o r t e d i n d e c r e a s i n g d e g r e e o r d e r , w i t h s o m e n o i s e a d d e d t o s l i g h t l y s h u e

t h e s o r t .

4 . 2 E x p e r i m e n t a l r e s u l t s

W e a p p l i e d s w o t o a s t a n d a r d s e t o f g r a p h c o l o r i n g p r o b l e m s , i n c l u d i n g r a n d o m g r a p h s a n d

a p p l i c a t i o n g r a p h s t h a t m o d e l r e g i s t e r a l l o c a t i o n a n d c l a s s s c h e d u l i n g p r o b l e m s . T h e s e w e r e

c o l l e c t e d f o r t h e S e c o n d D I M A C S I m p l e m e n t a t i o n C h a l l e n g e ( J o h n s o n & T r i c k , 1 9 9 6 ) , w h i c h

i n c l u d e s r e s u l t s f o r s e v e r a l a l g o r i t h m s o n t h e s e p r o b l e m s ( C u l b e r s o n & L u o , 1 9 9 3 ; G l o v e r ,

P a r k e r , & R y a n , 1 9 9 3 ; L e w a n d o w s k i & C o n d o n , 1 9 9 3 ; M o r g e n s t e r n , 1 9 9 3 ) . P r o b l e m s r a n g e

f r o m 1 2 5 n o d e s w i t h 2 0 9 e d g e s t o 4 0 0 0 n o d e s w i t h 4 , 0 0 0 , 2 6 8 e d g e s .

G l o v e r e t a l . ( 1 9 9 3 ) i s t h e o n l y p a p e r t h a t i s b a s e d o n a g e n e r a l s e a r c h t e c h n i q u e , t a b u

w i t h b r a n c h a n d b o u n d , r a t h e r t h a n a g r a p h c o l o r i n g s p e c i c a l g o r i t h m . T h i s a p p r o a c h

h a d t h e w o r s t r e p o r t e d a v e r a g e r e s u l t s i n t h e g r o u p . M o r g e n s t e r n ( 1 9 9 3 ) u s e d a d i s t r i b u t e d

i m p a s s e a l g o r i t h m a n d h a d t h e b e s t o v e r a l l c o l o r i n g s , b u t a l s o r e q u i r e d t h a t t h e t a r g e t

n u m b e r o f c o l o r s , a s w e l l a s s e v e r a l o t h e r p r o b l e m s p e c i c p a r a m e t e r s b e p a s s e d t o t h e

s o l v e r . L e w a n d o w s k i & C o n d o n ( 1 9 9 3 ) a l s o f o u n d g o o d s o l u t i o n s f o r t h i s p r o b l e m s e t .

T h e i r a p p r o a c h u s e d a h y b r i d o f p a r a l l e l i m p a s s e a n d s y s t e m a t i c s e a r c h o n a 3 2 p r o c e s s o r

C M - 5 . C u l b e r s o n & L u o ( 1 9 9 3 ) u s e d a n I t e r a t e d G r e e d y ( i g ) a l g o r i t h m t h a t b e a r s s o m e

s i m i l a r i t y t o s w o . i g i s t h e s i m p l e s t a l g o r i t h m i n t h e g r o u p . I t s s o l u t i o n q u a l i t y f a l l s

b e t w e e n t h e i m p a s s e a l g o r i t h m s a n d t a b u b u t s o l v e s t h e e n t i r e s e t i n 1 t o 2 p e r c e n t o f t h e

t i m e t a k e n b y t h e o t h e r m e t h o d s . B o t h i g a n d i m p a s s e a r e d i s c u s s e d f u r t h e r u n d e r r e l a t e d

w o r k .

T a b l e 3 c o m p a r e s s w o w i t h t h e r e s u l t s f o r i g ( C u l b e r s o n & L u o , 1 9 9 3 ) , d i s t r i b u t e d

i m p a s s e ( M o r g e n s t e r n , 1 9 9 3 ) , p a r a l l e l i m p a s s e ( L e w a n d o w s k i & C o n d o n , 1 9 9 3 ) , a n d t a b u

( G l o v e r e t a l . , 1 9 9 3 ) . F o r e a c h , o n e c o l u m n s h o w s t h e n u m b e r o f c o l o r s r e q u i r e d f o r e a c h

p r o b l e m , a n d t h e r u n t i m e ( i n C P U s e c o n d s ) . B o l d f a c e i n d i c a t e s t h a t t h e n u m b e r o f c o l o r s

i s w i t h i n 0 . 5 o f t h e b e s t r e s u l t i n t h e t a b l e .

W e u s e d a P e n t i u m P r o 3 3 3 M H z w o r k s t a t i o n r u n n i n g L i n u x f o r t h e s w o g r a p h c o l o r i n g

e x p e r i m e n t s . T h e t i m e s s h o w n f o r t h e o t h e r f o u r a l g o r i t h m s a r e b a s e d o n t h o s e r e p o r t e d i n

( J o h n s o n & T r i c k , 1 9 9 6 ) . T h e r e s u l t s f o r i g , i m p a s s e a n d t a b u a r e n o r m a l i z e d t o o u r t i m e s

3 6 4

7/27/2019 1105.5454

13/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

s w o i g D i s t . i m p a s s e P a r . i m p a s s e t a b u

P r o b l e m c o l o r s t i m e c o l o r s t i m e c o l o r s t i m e c o l o r s t i m e c o l o r s t i m e

D S J C 1 2 5 . 5 1 8 . 3 1 . 6 1 8 . 9 2 . 5 1 7 . 0 6 3 1 7 . 0 4 0 4 3 . 6 2 0 . 0 1 5 3 . 3

D S J C 2 5 0 . 5 3 1 . 9 8 . 3 3 2 . 8 6 . 9 2 8 . 0 2 6 8 . 5 2 9 . 2 4 3 5 8 . 1 3 5 . 0 3 4 4 2 . 2

D S J C 5 0 0 . 5 5 6 . 3 4 0 . 9 5 8 . 6 1 8 . 2 4 9 . 0 8 1 0 9 . 1 5 3 . 0 4 7 8 3 . 9 6 5 . 0 3 4 4 2 . 2

D S J C 1 0 0 0 . 5 1 0 1 . 5 2 0 8 . 6 1 0 4 . 2 6 7 . 6 8 9 . 0 4 1 4 8 8 . 7 1 0 0 . 0 5 3 3 3 . 8 1 1 7 . 0 3 4 4 2 . 2

C 2 0 0 0 . 5 1 8 5 . 7 1 0 4 6 . 2 1 9 0 . 0 2 7 2 . 4 1 6 5 . 0 1 4 0 9 7 . 9 | | | |

C 4 0 0 0 . 5 3 4 1 . 6 4 9 5 0 . 8 3 4 6 . 9 1 0 5 4 . 1 | | | | | |

R 1 2 5 . 1 5 . 0 0 2 5 . 0 2 0 5 . 0 0 2 5 . 0 6 4 . 6 5 . 0 0 4

R 1 2 5 . 1 c 4 6 . 0 5 1 4 6 . 0 1 1 4 6 . 0 0 2 4 6 . 0 8 5 . 0 4 6 . 0 0 9

R 1 2 5 . 5 3 6 . 0 2 . 8 3 6 . 9 1 . 9 3 6 . 0 0 . 2 3 7 . 0 3 3 . 0 3 6 . 0 0 7

R 2 5 0 . 1 8 . 0 0 5 8 . 0 7 0 8 . 0 0 2 8 . 0 2 2 . 0 8 . 0 0 2

R 2 5 0 . 1 c 6 4 . 0 3 0 . 6 6 4 . 0 4 6 6 4 . 0 0 5 6 4 . 0 2 7 8 . 2 6 5 . 0 4 6 . 4

R 2 5 0 . 5 6 5 . 0 1 4 . 7 6 8 . 4 8 . 3 6 5 . 0 8 2 . 2 6 6 . 0 3 9 . 9 6 6 . 0 5 9 . 0

D S J R 5 0 0 . 1 1 2 . 0 2 0 1 2 . 0 2 1 . 1 1 2 . 0 0 2 1 2 . 0 2 6 . 6 1 2 . 0 0 5

D S J R 5 0 0 . 1 c 8 5 . 2 9 6 . 9 8 5 . 0 1 4 . 6 8 5 . 0 5 9 . 1 8 5 . 2 5 7 6 7 . 7 8 7 . 0 3 4 4 2 . 2

D S J R 5 0 0 . 5 1 2 4 . 1 6 8 . 7 1 2 9 . 6 2 6 . 1 1 2 3 . 0 1 7 5 . 3 1 2 8 . 0 9 0 . 5 1 2 6 . 0 3 9 5 . 1

R 1 0 0 0 . 1 2 0 . 0 8 . 0 2 0 . 6 8 7 . 2 2 0 . 0 8 2 2 0 . 0 4 9 . 9 2 0 . 0 1 7

R 1 0 0 0 . 1 c 1 0 1 . 7 4 3 3 . 2 9 8 . 8 4 9 . 1 9 8 . 0 5 6 3 . 3 1 0 2 . 6 3 9 4 0 . 0 1 0 5 . 0 3 4 4 2 . 2

R 1 0 0 0 . 5 2 3 8 . 9 5 7 4 . 5 2 5 3 . 2 1 0 2 . 9 2 4 1 . 0 9 4 4 . 0 2 4 5 . 6 2 1 5 . 9 2 4 8 . 0 3 4 4 2 . 2

a t 3 0 0 2 0 0 2 5 . 3 1 6 . 4 2 0 . 2 3 8 2 0 . 0 0 2 2 0 . 0 2 7 4 . 3 3 9 . 0 3 4 4 2 . 2

a t 3 0 0 2 6 0 3 5 . 8 1 2 . 0 3 7 . 1 7 . 7 2 6 . 0 1 0 . 0 3 2 . 4 6 6 3 7 . 1 4 1 . 0 3 4 4 2 . 2

a t 3 0 0 2 8 0 3 5 . 7 1 1 . 9 3 7 . 0 9 . 6 3 1 . 0 1 9 1 4 . 2 3 3 . 0 1 9 1 3 . 5 4 1 . 0 3 4 4 2 . 2

a t 1 0 0 0 5 0 0 1 0 0 . 0 2 0 3 . 9 6 5 . 6 1 4 6 . 3 5 0 . 0 0 . 2 9 7 . 0 7 7 9 2 . 7 | |

a t 1 0 0 0 6 0 0 1 0 0 . 7 1 9 8 . 0 1 0 2 . 5 8 7 . 3 6 0 . 0 0 . 2 9 7 . 8 6 2 8 8 . 4 | |

a t 1 0 0 0 7 6 0 1 0 0 . 6 2 0 8 . 4 1 0 3 . 6 7 9 . 6 8 9 . 0 1 1 0 3 4 . 0 9 9 . 0 6 4 9 7 . 9 | |

l a t i n s q r 1 0 1 1 1 . 5 3 6 9 . 2 1 0 6 . 7 5 9 . 7 9 8 . 0 5 0 9 8 . 0 1 0 9 . 2 6 5 2 0 . 1 1 3 0 . 0 3 4 4 2 . 2

l e 4 5 0 1 5 a 1 5 . 0 5 . 5 1 7 . 9 1 7 . 0 1 5 . 0 0 2 1 5 . 0 1 6 2 . 6 1 6 . 0 1 7 . 8

l e 4 5 0 1 5 b 1 5 . 0 6 . 1 1 7 . 9 1 6 . 2 1 5 . 0 0 2 1 5 . 0 1 7 8 . 4 1 5 . 0 2 8 . 4

l e 4 5 0 1 5 c 2 1 . 1 8 . 0 2 5 . 6 1 4 . 5 1 5 . 0 5 7 . 2 1 6 . 6 2 2 2 9 . 6 2 3 . 0 3 4 4 2 . 2

l e 4 5 0 1 5 d 2 1 . 2 7 . 8 2 5 . 8 1 3 . 5 1 5 . 0 3 6 . 3 1 6 . 8 2 8 5 9 . 6 2 3 . 0 3 4 4 2 . 2

m u l s o l . i . 1 4 9 . 0 5 9 4 9 . 0 4 2 4 9 . 0 0 2 4 9 . 0 2 7 . 2 4 9 . 0 0 3

s c h o o l 1 1 4 . 0 8 4 1 4 . 0 1 0 . 5 1 4 . 0 0 2 1 4 . 0 4 6 . 3 2 9 . 0 9 0 . 7

s c h o o l 1 n s h 1 4 . 0 7 2 1 4 . 1 8 9 1 4 . 0 0 2 1 4 . 0 6 6 . 4 2 6 . 0 3 1 . 2

T a b l e 3 : E x p e r i m e n t a l r e s u l t s : g r a p h c o l o r i n g p r o b l e m s

u s i n g t h e D I M A C S b e n c h m a r k i n g p r o g r a m d f m a x , p r o v i d e d f o r t h i s p u r p o s e . T h e r e f o r e ,

t i m i n g c o m p a r i s o n s a r e o n l y a p p r o x i m a t e . O u r m a c h i n e r a n t h e d f m a x r 5 0 0 . 5 b e n c h m a r k

i n 8 6 . 0 s e c o n d s ; t h e t i m e s r e p o r t e d f o r t h e m a c h i n e s u s e d o n t h e o t h e r a l g o r i t h m s w e r e

8 6 . 9 s e c o n d s f o r t h e t a b u e x p e r i m e n t s , 1 9 2 . 6 s e c o n d s f o r i g , 1 8 9 . 3 s e c o n d s f o r i m p a s s e ,

a n d 2 9 9 3 . 6 s e c o n d s f o r p a r a l l e l i m p a s s e . B e c a u s e t h e d f m a x b e n c h m a r k r u n s o n a s i n g l e

p r o c e s s o r , i t i s u n s u i t a b l e f o r n o r m a l i z i n g t h e t i m e s f o r p a r a l l e l I M P A S S E . W e r e p o r t t h e i r

u n n o r m a l i z e d t i m e s .

A v a r i e t y o f t e r m i n a t i o n c o n d i t i o n s w e r e u s e d . s w o t e r m i n a t e d a f t e r 1 0 0 0 i t e r a t i o n s .

i g t e r m i n a t e d a f t e r 1 0 0 0 i t e r a t i o n s w i t h o u t i m p r o v e m e n t . D i s t r i b u t e d i m p a s s e u s e d a

w i d e v a r i e t y o f d i e r e n t t e r m i n a t i o n c o n d i t i o n s t o s o l v e t h e d i e r e n t p r o b l e m s . T h e o n l y

c o m m o n e l e m e n t a c r o s s p r o b l e m s w a s t h a t d i s t r i b u t e d i m p a s s e s t o p p e d w h e n t h e t a r g e t

n u m b e r o f c o l o r s , p r o v i d e d a s a n i n p u t p a r a m e t e r , w a s r e a c h e d . T h e t i m e s r e p o r t e d f o r

3 6 5

7/27/2019 1105.5454

14/21

J o s l i n & C l e m e n t s

0

5

10

15

20

25

0 10000 20000 30000 40000 50000 60000

Avg.percentoverbestin

group

Time (CPU seconds)

Iterated Greedy

Squeaky Wheel

TABU

Par IMPASSE

Dist IMPASSE

F i g u r e 6 : E x p e r i m e n t a l r e s u l t s : q u a l i t y o f s o l u t i o n v s . t i m e

p a r a l l e l i m p a s s e a r e t h e t i m e s i t t o o k t o n d t h e b e s t s o l u t i o n t h a t w a s f o u n d , n o t t h e t i m e

i t t o o k t h e a l g o r i t h m t o t e r m i n a t e , w h i c h w a s a l w a y s 3 h o u r s . t a b u r a n u n t i l t h e a l g o r i t h m

d e t e r m i n e d t h a t i t c o u l d m a k e n o f u r t h e r p r o g r e s s , o r a n h o u r h a d p a s s e d , w h i c h e v e r c a m e

r s t .

T h e t a b u n u m b e r s a r e f o r a s i n g l e r u n o n e a c h p r o b l e m . T h e n u m b e r s f o r t h e o t h e r

a l g o r i t h m s a r e a v e r a g e s f o r 4 r u n s ( p a r a l l e l i m p a s s e ) , 5 r u n s ( d i s t r i b u t e d i m p a s s e , p a r a l l e l

i m p a s s e ) o r 1 0 r u n s ( s w o , i g , d i s t r i b u t e d i m p a s s e ) o n e a c h p r o b l e m .

F i g u r e 6 s u m m a r i z e s t h e p e r f o r m a n c e o f e a c h t e c h n i q u e o n t h e s e t o f 2 7 p r o b l e m s t h a t

a l l o f t h e a l g o r i t h m s s o l v e d . F o r e a c h s o l v e r t h e g r a p h i n d i c a t e s t h e a v e r a g e s o l u t i o n q u a l i t y

a n d t h e a v e r a g e a m o u n t o f t i m e n e e d e d t o s o l v e t h e s e t . T h e i d e a l l o c a t i o n o n t h e g r a p h

i s t h e o r i g i n , p r o d u c i n g h i g h q u a l i t y s o l u t i o n s i n v e r y l i t t l e t i m e . T h e p o i n t s s h o w n f o r t h e

o t h e r t e c h n i q u e s a r e t h e p o i n t s r e p o r t e d i n e a c h o f t h e p a p e r s . T h e c u r v e s h o w n f o r s w o

s h o w s h o w i t p e r f o r m s w h e n g i v e n v a r y i n g a m o u n t s o f t i m e t o s o l v e t h e s e t . A s t h e g r a p h

s h o w s , s w o c l e a r l y o u t p e r f o r m s t a b u , t h e o n l y o t h e r g e n e r a l p u r p o s e t e c h n i q u e , b o t h i n

t e r m s o f q u a l i t y a n d s p e e d . s w o a l s o o u t p e r f o r m s i g , a g r a p h c o l o r i n g s p e c i c a l g o r i t h m ,

b o t h i n t e r m s o f q u a l i t y a n d s p e e d . T h e i m p a s s e s o l v e r s c l e a r l y p r o d u c e t h e b e s t s o l u t i o n s

i n t h e g r o u p . H o w e v e r , i m p a s s e i s a d o m a i n s p e c i c m e t h o d , a n d b o t h s o l v e r s r e p r e s e n t

m u c h m o r e p r o g r a m m i n g e o r t . T h e s w o s o l v e r u s e s a g e n e r a l p u r p o s e s e a r c h t e c h n i q u e

a n d w a s i m p l e m e n t e d i n l e s s t h a n a m o n t h b y a s i n g l e p r o g r a m m e r .

4 . 3 A l t e r n a t e c o n g u r a t i o n s o f s w o

W e n o t e t h a t , a s w i t h t h e s c h e d u l i n g w o r k , o u r r s t , n a i v e i m p l e m e n t a t i o n o f s w o f o r g r a p h

c o l o r i n g p r o d u c e d r e s p e c t a b l e r e s u l t s . E v e n w i t h o u t c o l o r r e u s e , c o l o r g r a b b i n g , o r t h e l e a s t

c o n s t r a i n i n g h e u r i s t i c ( t h e r s t f r e e c o l o r f o u n d w a s p i c k e d ) , s w o m a t c h e d i g o n 6 p r o b l e m s

3 6 6

7/27/2019 1105.5454

15/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

a n d b e a t i t o n 1 0 . H o w e v e r , o n h a l f o f t h e r e m a i n i n g p r o b l e m s i g d i d b e t t e r b y 1 0 o r m o r e

c o l o r s .

T o e x p l o r e t h e s e n s i t i v i t y o f s w o t o s u c h i m p l e m e n t a t i o n d e t a i l s w e t r i e d t h e f o l l o w i n g

a p p r o a c h e s i n t h e c o n s t r u c t o r a n d p r i o r i t i z e r , a n d r a n s w o u s i n g a l l c o m b i n a t i o n s :

C o n s t r u c t i o n : W i t h o r w i t h o u t c o l o r g r a b b i n g

A n a l y s i s : E i t h e r b l a m e a l l n o d e s t h a t r e c e i v e a c o l o r o u t s i d e t h e t a r g e t s e t , o r o n l y t h e

r s t n o d e ( i n t h e p r i o r i t y s e q u e n c e ) t h a t c a u s e s a n e w c o l o r o u t s i d e t h e t a r g e t s e t t o

b e i n t r o d u c e d . I f c o l o r g r a b b i n g i s u s e d , t h e d e t e r m i n a t i o n o f b l a m e i s b a s e d o n t h e

n a l c o l o r a s s i g n e d t o t h e n o d e .

T h e d i e r e n c e i n s o l u t i o n q u a l i t y f r o m t h e w o r s t c o m b i n a t i o n t o t h e b e s t c o m b i n a t i o n

w a s l e s s t h a n 1 5 p e r c e n t . E v e n w h e n t h e a l t e r n a t i v e o f u s i n g a s t a n d a r d s o r t i n s t e a d o f

t h e \ s t i c k y " s o r t ( a f a i r l y f u n d a m e n t a l c h a n g e ) w a s a d d e d t o t h e m i x , t h e s p r e a d b e t w e e n

w o r s t a n d b e s t w a s s t i l l u n d e r 2 0 p e r c e n t .

5 . R e l a t e d w o r k

T h e i m p o r t a n c e o f p r i o r i t i z a t i o n i n g r e e d y a l g o r i t h m s i s n o t a n e w i d e a . T h e \ F i r s t F i t "

a l g o r i t h m f o r b i n p a c k i n g , f o r e x a m p l e , r e l i e s o n p l a c i n g i t e m s i n t o b i n s i n d e c r e a s i n g o r d e r

o f s i z e ( G a r e y & J o h n s o n , 1 9 7 9 ) . A n o t h e r e x a m p l e i s g r a s p ( G r e e d y R a n d o m i z e d A d a p t i v e

S e a r c h P r o c e d u r e ) ( F e o & R e s e n d e , 1 9 9 5 ) . g r a s p d i e r s f r o m o u r a p p r o a c h i n s e v e r a l w a y s .

F i r s t , t h e p r i o r i t i z a t i o n a n d c o n s t r u c t i o n a s p e c t s a r e m o r e c l o s e l y c o u p l e d i n g r a s p . A f t e r

e a c h e l e m e n t i s a d d e d t o t h e s o l u t i o n b e i n g c o n s t r u c t e d , t h e r e m a i n i n g e l e m e n t s a r e r e -

e v a l u a t e d b y s o m e h e u r i s t i c . T h u s t h e o r d e r i n w h i c h e l e m e n t s a r e a d d e d t o t h e s o l u t i o n

m a y d e p e n d o n p r e v i o u s d e c i s i o n s . S e c o n d , t h e o r d e r i n w h i c h e l e m e n t s a r e s e l e c t e d i n e a c h

t r i a l i s d e t e r m i n e d o n l y b y t h e h e u r i s t i c ( a n d r a n d o m i z a t i o n ) , s o t h e t r i a l s a r e i n d e p e n d e n t .

T h e r e i s n o l e a r n i n g f r o m i t e r a t i o n t o i t e r a t i o n i n g r a s p .

D o u b l e b a c k O p t i m i z a t i o n ( d b o ) ( C r a w f o r d , 1 9 9 6 ) w a s t o s o m e e x t e n t t h e i n s p i r a t i o n f o r

b o t h s w o a n d a n o t h e r s i m i l a r a l g o r i t h m , A b s t r a c t L o c a l S e a r c h ( a l s ) ( C r a w f o r d , D a l a l ,

& W a l s e r , 1 9 9 8 ) . I n d e s i g n i n g s w o , w e b e g a n b y l o o k i n g a t d b o , b e c a u s e i t h a d b e e n

e x t r e m e l y s u c c e s s f u l i n s o l v i n g a s t a n d a r d t y p e o f s c h e d u l i n g p r o b l e m . H o w e v e r , d b o i s

o n l y u s e f u l w h e n t h e o b j e c t i v e i s t o m i n i m i z e m a k e s p a n , a n d i s a l s o l i m i t e d i n t h e t y p e s

o f c o n s t r a i n t s i t c a n h a n d l e . B e c a u s e o f t h e s e l i m i t a t i o n s , w e b e g a n t h i n k i n g a b o u t t h e

p r i n c i p l e s b e h i n d d b o , l o o k i n g f o r a n e e c t i v e g e n e r a l i z a t i o n o f t h a t a p p r o a c h . d b o c a n ,

i n f a c t , b e v i e w e d a s a n i n s t a n c e o f s w o . d b o b e g i n s b y p e r f o r m i n g a \ r i g h t s h i f t " o n a

s c h e d u l e , s h i f t i n g a l l t a s k s a s f a r t o t h e r i g h t a s t h e y c a n g o , u p t o s o m e b o u n d a r y . I n t h e

r e s u l t i n g r i g h t - s h i f t e d s c h e d u l e , t h e l e f t - m o s t t a s k s a r e , t o s o m e e x t e n t , t h o s e t a s k s t h a t a r e

m o s t c r i t i c a l . T h i s c o r r e s p o n d s t o a n a l y s i s i n s w o . T a s k s a r e t h e n r e m o v e d f r o m t h e r i g h t -

s h i f t e d s c h e d u l e , t a k i n g l e f t - m o s t t a s k s r s t . T h i s o r d e r i n g c o r r e s p o n d s t o t h e p r i o r i t i z a t i o n

i n s w o . A s e a c h t a s k i s r e m o v e d , i t i s p l a c e d i n a n e w s c h e d u l e a t t h e e a r l i e s t p o s s i b l e s t a r t

t i m e , i . e . , g r e e d y c o n s t r u c t i o n .

L i k e s w o , a l s w a s t h e r e s u l t o f a n a t t e m p t t o g e n e r a l i z e d b o . a l s v i e w s p r i o r i t y s p a c e

( t o u s e t h e t e r m i n o l o g y f r o m s w o ) a s a s p a c e o f \ a b s t r a c t s c h e d u l e s , " a n d p e r f o r m s a l o c a l

s e a r c h i n t h a t s p a c e . U n l i k e s w o , i f a p r i o r i t i z a t i o n i s m o d i e d , a n d t h e c o r r e s p o n d i n g

3 6 7

7/27/2019 1105.5454

16/21

J o s l i n & C l e m e n t s

m o v e i n s o l u t i o n s p a c e i s d o w n h i l l ( a w a y f r o m o p t i m a l ) , t h e n t h e m o d i e d p r i o r i t i z a t i o n

i s d i s c a r d e d , a n d t h e o l d p r i o r i t i z a t i o n i s r e s t o r e d . A s i s u s u a l w i t h l o c a l s e a r c h , a l s a l s o

s o m e t i m e s m a k e s r a n d o m m o v e s , i n o r d e r t o e s c a p e l o c a l m i n i m a .

a l s , a n d a l s o L i s t S c h e d u l i n g ( P i n s o n , P r i n s , & R u l l i e r , 1 9 9 4 ) , a r e s c h e d u l i n g a l g o r i t h m s

t h a t d e a l w i t h d o m a i n s t h a t i n c l u d e p r e c e d e n c e c o n s t r a i n t s o n t a s k s . B o t h a c c o m m o d a t e

p r e c e d e n c e c o n s t r a i n t s b y c o n s t r u c t i n g s c h e d u l e s l e f t - t o - r i g h t t e m p o r a l l y . A t a s k c a n n o t

b e p l a c e d i n t h e s c h e d u l e u n t i l a l l o f i t s p r e d e c e s s o r s h a v e b e e n p l a c e d . I n o r d e r f o r t h e

a n a l y s i s , p r i o r i t i z a t i o n a n d c o n s t r u c t i o n t o b e a p p r o p r i a t e l y c o u p l e d , i t i s n o t s u c i e n t t o

s i m p l y i n c r e a s e t h e p r i o r i t y o f a t a s k t h a t i s l a t e , b e c a u s e t h e c o n s t r u c t o r m a y n o t b e a b l e

t o p l a c e t h a t t a s k u n t i l a f t e r a l o t o f o t h e r d e c i s i o n s h a v e b e e n m a d e . C o n s e q u e n t l y , s o m e

a m o u n t o f b l a m e m u s t b e p r o p a g a t e d t o t h e t a s k ' s p r e d e c e s s o r s .

T h e c o m m e r c i a l s c h e d u l e r o p t i f l e x ( S y s w e r d a , 1 9 9 4 ) u s e s a g e n e t i c a l g o r i t h m a p p r o a c h

t o m o d i f y a s e q u e n c e o f t a s k s , a n d a c o n s t r a i n t - b a s e d s c h e d u l e c o n s t r u c t o r t h a t g e n e r a t e s

s c h e d u l e s f r o m t h o s e s e q u e n c e s . o p t i f l e x c a n a l s o b e v i e w e d a s a n i n s t a n c e o f s w o , w i t h

a g e n e t i c a l g o r i t h m r e p l a c i n g a n a l y s i s . I n e e c t , t h e \ a n a l y s i s " i n s t e a d e m e r g e s f r o m t h e

r e l a t i v e t n e s s o f t h e m e m b e r s o f t h e p o p u l a t i o n .

T w o g r a p h c o l o r i n g a l g o r i t h m s a l s o b e a r s o m e s i m i l a r i t y t o s w o . I m p a s s e C l a s s C o l -

o r a t i o n N e i g h b o r h o o d S e a r c h ( i m p a s s e ) ( M o r g e n s t e r n , 1 9 9 3 ; L e w a n d o w s k i & C o n d o n ,

1 9 9 3 ) , l i k e s w o , m a i n t a i n s a t a r g e t s e t o f c o l o r s a n d p r o d u c e s o n l y f e a s i b l e c o l o r i n g s . G i v e n a

c o l o r i n g , i m p a s s e p l a c e s a n y n o d e s t h a t a r e c o l o r e d o u t s i d e o f t h e t a r g e t s e t i n t o a n i m p a s s e

s e t . O n e a c h i t e r a t i o n a n o d e i s s e l e c t e d f r o m t h e i m p a s s e s e t , u s i n g a n o i s y d e g r e e - b a s e d

h e u r i s t i c , a n d a s s i g n e d a r a n d o m c o l o r f r o m t h e t a r g e t s e t . A n y n e i g h b o r n o d e s t h a t a r e

n o w i n c o n i c t a r e m o v e d t o t h e i m p a s s e s e t .

I t e r a t e d G r e e d y ( i g ) ( C u l b e r s o n & L u o , 1 9 9 3 ) , l i k e s w o , u s e s a s e q u e n c e o f n o d e s t o

c r e a t e a n e w c o l o r i n g o n e a c h i t e r a t i o n , a n d t h e n u s e s t h a t c o l o r i n g t o p r o d u c e a n e w

s e q u e n c e f o r t h e n e x t i t e r a t i o n . T h e m e t h o d u s e d t o g e n e r a t e e a c h n e w s e q u e n c e d i e r s

f r o m s w o . T h e k e y o b s e r v a t i o n b e h i n d i g i s t h a t i f a l l n o d e s w i t h t h e s a m e c o l o r i n t h e

c u r r e n t s o l u t i o n a r e g r o u p e d t o g e t h e r i n t h e n e x t s e q u e n c e ( i . e . a d j a c e n t t o e a c h o t h e r i n

t h e s e q u e n c e ) , t h e n t h e n e x t s o l u t i o n w i l l b e n o w o r s e t h a n t h e c u r r e n t s o l u t i o n . i g a c h i e v e s

i m p r o v e m e n t b y m a n i p u l a t i n g t h e o r d e r i n w h i c h t h e g r o u p s o c c u r i n t h e n e w s e q u e n c e ,

u s i n g s e v e r a l h e u r i s t i c s i n c l u d i n g r a n d o m b a s e d o n c o l o r , d e s c e n d i n g b a s e d o n c o l o r , a n d

a s c e n d i n g b a s e d o n t h e c a r d i n a l i t y o f e a c h g r o u p . i g l e a r n s g r o u p i n g s o f n o d e s a s i t r u n s ,

b u t i t d o e s n o t l e a r n a b o u t a b o u t t h e d i c u l t y o f a n y n o d e s . A n o d e ' s p l a c e i n t h e s e q u e n c e

i n d i c a t e s n o t h i n g a b o u t i t s e x p e c t e d o r d e t e c t e d d i c u l t y .

6 . A n a l y s i s a n d f u t u r e w o r k

T h i s s e c t i o n s u m m a r i z e s s e v e r a l a r e a s o f f u t u r e r e s e a r c h s u g g e s t e d b y t h e r e s u l t s r e p o r t e d

i n t h e p r e v i o u s s e c t i o n s .

6 . 1 S c a l i n g

W h i l e s w o u s e s f a s t , g r e e d y a l g o r i t h m s f o r c o n s t r u c t i n g s o l u t i o n s , a n d w e h a v e d e m o n -

s t r a t e d i t s e e c t i v e n e s s o n p r o b l e m s o f r e a l i s t i c s i z e , t h e g r e a t e s t t h r e a t t o t h e s c a l a b i l i t y o f

s w o i s t h a t i t c o n s t r u c t s a n e w s o l u t i o n f r o m s c r a t c h o n e a c h i t e r a t i o n . A p a r t i a l s o l u t i o n

t o t h i s p r o b l e m i s s e e n i n t h e u s e o f a \ h i s t o r y " m e c h a n i s m f o r t h e g r a p h c o l o r i n g p r o b l e m s .

3 6 8

7/27/2019 1105.5454

17/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

U s i n g t h e s a m e c o l o r f o r a n o d e a s i n t h e p r e v i o u s s o l u t i o n m e a n s t h a t i n m a n y c a s e s w e

d o n o t n e e d t o c h e c k a n y o f t h e o t h e r p o s s i b l e c o l o r s . T h i s s i g n i c a n t l y s p e e d s u p t h e

c o n s t r u c t i o n .

A m o r e f u n d a m e n t a l s o l u t i o n t o t h i s p r o b l e m w o u l d b e t o d e v e l o p a n i n c r e m e n t a l v e r s i o n

o f s w o . T h e s e l e c t i v e r e u s e o f c o l o r s i n t h e g r a p h c o l o r i n g s o l v e r i s a s m a l l s t e p i n t h i s

d i r e c t i o n . T h i s a l l o w s t h e c o n s t r u c t o r t o a v o i d s p e n d i n g t i m e e v a l u a t i n g o t h e r a l t e r n a t i v e s

w h e n t h e p r e v i o u s c h o i c e s t i l l w o r k s . M o r e g e n e r a l l y , i t m a y b e p o s s i b l e t o l o o k a t t h e

c h a n g e s m a d e t o a p r i o r i t i z a t i o n , a n d m o d i f y t h e c o r r e s p o n d i n g s o l u t i o n i n a w a y t h a t

g e n e r a t e s t h e s a m e s o l u t i o n t h a t w o u l d b e c o n s t r u c t e d f r o m s c r a t c h b a s e d o n t h e n e w

p r i o r i t i z a t i o n . I t s e e m s f e a s i b l e t h a t t h i s c o u l d b e d o n e f o r s o m e d o m a i n s , a t l e a s t f o r s m a l l

c h a n g e s t o t h e p r i o r i t i z a t i o n , b e c a u s e t h e r e m a y b e l a r g e p o r t i o n s o f a s o l u t i o n t h a t a r e

u n a e c t e d .

A m o r e i n t e r e s t i n g p o s s i b i l i t y i s b a s e d o n t h e v i e w o f s w o a s p e r f o r m i n g l o c a l s e a r c h

p l u s a c e r t a i n k i n d o f p r o p a g a t i o n . A s m a l l c h a n g e i n p r i o r i t i e s m a y c o r r e s p o n d t o a l a r g e

c h a n g e i n t h e s o l u t i o n . F o r e x a m p l e , i n c r e a s i n g t h e p r i o r i t y o f o n e t a s k i n a s c h e d u l i n g

p r o b l e m m a y c h a n g e i t s p o s i t i o n i n t h e s c h e d u l e , a n d , a s a c o n s e q u e n c e , s o m e l o w e r p r i o r i t y

t a s k s m a y h a v e t o b e s h u e d a r o u n d t o a c c o m m o d a t e t h a t c h a n g e . T h i s i s s i m i l a r t o w h a t

w e m i g h t e x p e c t f r o m m o v i n g t h e h i g h e r p r i o r i t y t a s k , t h e n p r o p a g a t i n g t h e e e c t s o f t h a t

c h a n g e b y m o v i n g l o w e r p r i o r i t y t a s k s a s w e l l . T h i s s i n g l e m o v e m a y c o r r e s p o n d t o a l a r g e

n u m b e r o f m o v e s i n a s e a r c h a l g o r i t h m t h a t o n l y l o o k s a t l o c a l c h a n g e s t o t h e s c h e d u l e , a n d

m a y t h u s b e d i c u l t f o r s u c h a n a l g o r i t h m t o n d .

B a s e d o n t h i s v i e w , w e a r e i n v e s t i g a t i n g a n a l g o r i t h m w e c a l l \ P r i o r i t y - L i m i t e d P r o p a -

g a t i o n " ( p l p ) . W i t h p l p , l o c a l c h a n g e s a r e m a d e t o t h e s o l u t i o n , a n d t h e n p r o p a g a t i o n i s

a l l o w e d t o o c c u r , s u b j e c t t o t h e c u r r e n t p r i o r i t i z a t i o n . P r o p a g a t i o n i s o n l y a l l o w e d t o o c c u r

i n t h e d i r e c t i o n o f l o w e r - p r i o r i t y e l e m e n t s . I n e e c t , a s m a l l c h a n g e i s m a d e , a n d t h e n t h e

c o n s e q u e n c e s o f t h a t c h a n g e a r e a l l o w e d t o \ r i p p l e " t h r o u g h t h e p l a n . B e c a u s e p r o p a g a t i o n

c a n o n l y o c c u r i n d i r e c t i o n s o f d e c r e a s i n g p r i o r i t y , t h e s e r i p p l e s o f p r o p a g a t i o n d e c r e a s e i n

m a g n i t u d e u n t i l n o m o r e p r o p a g a t i o n i s p o s s i b l e . A n e w p r i o r i t i z a t i o n i s t h e n g e n e r a t e d b y

a n a l y z i n g t h e r e s u l t i n g s o l u t i o n . ( I t s h o u l d b e p o s s i b l e t o d o t h i s a n a l y s i s i n c r e m e n t a l l y ,

a s w e l l . ) T h e r e s u l t i n g a p p r o a c h i s n o t i d e n t i c a l t o s w o , b u t h a s m a n y o f i t s i n t e r e s t i n g

c h a r a c t e r i s t i c s .

6 . 2 C o o r d i n a t i o n o f m o d u l e s

F o r s w o t o b e e e c t i v e , i t i s o b v i o u s t h a t a n a l y s i s , p r i o r i t i z a t i o n a n d c o n s t r u c t i o n m u s t a l l

w o r k t o g e t h e r t o i m p r o v e t h e q u a l i t y o f s o l u t i o n s . W e h a v e a l r e a d y d i s c u s s e d t h e c o m p l i -

c a t i o n s t h a t c a n a r i s e w h e n c o n s t r a i n t s a r e p l a c e d o n t h e o r d e r i n w h i c h t h e c o n s t r u c t o r

c a n m a k e d e c i s i o n s , a s i s t h e c a s e f o r L i s t S c h e d u l i n g a n d a l s , w h e r e c o n s t r u c t i o n i s d o n e

s t r i c t l y l e f t - t o - r i g h t . W i t h o u t m o r e c o m p l e x a n a l y s i s , t h e s e a r c h s p a c e s c a n e e c t i v e l y b e -

c o m e u n c o u p l e d , s o t h a t c h a n g e s i n p r i o r i t y d o n ' t c a u s e t h e c o n s t r u c t o r t o x p r o b l e m s

d i s c o v e r e d b y a n a l y s i s .

A n o t h e r w a y t h e s e a r c h c a n b e c o m e u n c o u p l e d i s r e l a t e d t o t h e n o t i o n o f \ e x c e s s c o s t , "

d i s c u s s e d f o r t h e s c h e d u l i n g i m p l e m e n t a t i o n . T h e c a l c u l a t i o n o f e x c e s s c o s t i n t h e a n a l y z e r

t u r n e d o u t t o b e a k e y i d e a f o r i m p r o v i n g t h e p e r f o r m a n c e o f s w o . H o w e v e r , p r o b l e m s

s o m e t i m e s h a v e t a s k s t h a t m u s t b e h a n d l e d b a d l y i n o r d e r t o a c h i e v e a g o o d o v e r a l l s o l u -

3 6 9

7/27/2019 1105.5454

18/21

J o s l i n & C l e m e n t s

t i o n . O n e o f t h e s c h e d u l i n g p r o b l e m s d e s c r i b e d p r e v i o u s l y h a s t w o s u c h \ s a c r i c i a l " t a s k s .

W h e n e v e r a g o o d s o l u t i o n i s f o u n d , t h e a n a l y z e r a s s i g n s h i g h b l a m e t o t h e s e s a c r i c i a l t a s k s ,

a n d t h e c o n s t r u c t o r h a n d l e s t h e m w e l l o n t h e n e x t i t e r a t i o n . T h i s m e a n s t h a t t h e r e s u l t i n g

s o l u t i o n i s o f p o o r o v e r a l l q u a l i t y , a n d i t i s n o t u n t i l o t h e r a w s c a u s e o t h e r t a s k s t o m o v e

a h e a d o f t h e s a c r i c i a l t a s k s i n t h e p r i o r i t y s e q u e n c e t h a t s w o c a n a g a i n , b r i e y , e x p l o r e

t h e s p a c e o f g o o d s o l u t i o n s . I n s u c h c a s e s , t o s o m e e x t e n t t h e a n a l y s i s i s a c t u a l l y h u r t i n g

t h e a b i l i t y o f s w o t o c o n v e r g e o n g o o d s o l u t i o n s .

I d e a l l y , w e w o u l d l i k e t o g e n e r a l i z e t h e n o t i o n o f e x c e s s c o s t t o r e c o g n i z e s a c r i c i a l

t a s k s , a n d a l l o w t h o s e t a s k s t o b e h a n d l e d b a d l y w i t h o u t r e c e i v i n g p r o p o r t i o n a t e b l a m e .

F o r p r o b l e m s i n w h i c h a t a s k m u s t b e s a c r i c e d i n a l l s o l u t i o n s , i t m a y b e p o s s i b l e t o u s e

a l e a r n i n g m e c h a n i s m t o a c c o m p l i s h t h i s .

H o w e v e r , t h e n o t i o n o f a s a c r i c i a l t a s k c a n b e m o r e s u b t l e t h a n t h i s . S u p p o s e f o r

e x a m p l e t h a t w e a r e s c h e d u l i n g t h e c o n s t r u c t i o n o f t w o a i r p l a n e s , P 1 a n d P 2 , a n d t h a t

e a c h h a s a k e y t a s k , T 1 a n d T 2 , r e s p e c t i v e l y , r e q u i r i n g a l l o f s o m e s h a r e d r e s o u r c e , R .

B e c a u s e o f t h e r e s o u r c e c o n i c t , w e m u s t e i t h e r g i v e R t o T 1 e a r l y i n t h e s c h e d u l e , s t a r t i n g

c o n s t r u c t i o n o n p l a n e P 1 b e f o r e P 2 , o r w e m u s t g i v e R t o T 2 e a r l y i n t h e s c h e d u l e , w i t h

t h e o p p o s i t e r e s u l t . W h i c h e v e r o f t h e t w o t a s k s i s s t a r t e d e a r l y w i l l n i s h o n t i m e , b u t t h e

o t h e r w i l l b e l a t e .

S u p p o s e w e c o n s t r u c t a s c h e d u l e i n w h i c h T 1 g o e s r s t , a n d T 2 i s l a t e , t h u s r e c e i v i n g a

h e a v y b l a m e f a c t o r . s w o i n c r e a s e s t h e p r i o r i t y o n T 2 , a n d a s a c o n s e q u e n c e , T 2 g o e s r s t

i n t h e s u b s e q u e n t s c h e d u l e . B u t t h e n T 1 i s l a t e , a n d o n t h e n e x t i t e r a t i o n i t w i l l a g a i n g o

r s t . W e c o u l d a l t e r n a t e i n t h i s m a n n e r f o r e v e r , a n d t h e r e s u l t w o u l d b e t h a t s w o w o u l d

f a i l t o e x p l o r e e i t h e r o p t i o n v e r y e e c t i v e l y , b e c a u s e i t w o u l d b e j u m p i n g b a c k a n d f o r t h

b e t w e e n t h e o p t i o n o f b u i l d i n g p l a n e P 1 r s t , a n d t h e o p t i o n o f b u i l d i n g p l a n e P 2 r s t ,

w i t h o u t r e m a i n i n g i n o n e r e g i o n o f t h e s e a r c h s p a c e l o n g e n o u g h t o r e n e a s o l u t i o n .

T h e d i c u l t y i s t h a t n e i t h e r T 1 n o r T 2 c a n b e i d e n t i e d a s a s a c r i c i a l t a s k . A s s u m i n g

t h e t w o p l a n e s a r e n o t i d e n t i c a l , w e c a n n o t s i m p l y a r g u e f r o m s y m m e t r y t h a t w e s h o u l d

j u s t p i c k o n e o f t h e t w o t a s k s t o b e s a c r i c e d . I f , h o w e v e r , w e c o u l d i d e n t i f y a s a c r i c i a l

t a s k b y t h e r o l e i t p l a y s i n a s o l u t i o n , w e c o u l d a c h i e v e w h a t w e n e e d . H e r e , t h e t a s k t o b e

s a c r i c e d m u s t b e t h e o n e t h a t b e l o n g s t o w h i c h e v e r p l a n e i s s t a r t e d l a t e r . I f t h e a n a l y z e r

c o u l d r e d u c e t h e b l a m e a s s i g n e d t o t h a t t a s k i n a s c h e d u l e , w h i c h e v e r t a s k i t h a p p e n s t o

b e , i t w o u l d a l l o w s w o t o e x p l o r e t h a t r e g i o n o f t h e s e a r c h m u c h m o r e e e c t i v e l y .

T h i s p r o b l e m o f i n t e r c h a n g e a b l e r o l e s w o u l d a r i s e e v e n m o r e c l e a r l y w i t h t h e i n t r o d u c -

t i o n o f c o n d i t i o n a l e l e m e n t s i n a s o l u t i o n . S u p p o s e , f o r e x a m p l e , w e h a v e a s c h e d u l i n g

p r o b l e m i n w h i c h t h e c o n s t r u c t o r m a y c h o o s e t o i n c l u d e o r n o t i n c l u d e t a s k i n s t a n c e s o f

s o m e t y p e , a d d i n g h o w e v e r m a n y i n s t a n c e s a r e n e e d e d t o s a t i s f y a r e s o u r c e r e q u i r e m e n t .

I f t h o s e t a s k s a r e a l l i n s t a n c e s o f t h e s a m e t a s k t y p e , t h e n t h e y a r e i n t e r c h a n g e a b l e , a n d

p e n a l i z i n g o n e m a y s i m p l y c a u s e a s h u i n g o f t h o s e i n s t a n c e s t h a t d o e s n o t r e a l l y a d d r e s s

t h e p r o b l e m . M o r e o v e r , w i t h c o n d i t i o n a l t a s k s , i t i s n o t c l e a r h o w t h e a n a l y z e r s h o u l d

a s s i g n b l a m e w h e n t h e s e t o f t a s k i n s t a n c e s i n t h e c u r r e n t s c h e d u l e m a y b e v e r y d i e r e n t

f r o m t h e s e t o f t a s k i n s t a n c e s i n s u c c e s s o r s c h e d u l e s .

T o a d d r e s s t h e s e c o n c e r n s , t h e n o t i o n o f p r i o r i t i z a t i o n c o u l d b e g e n e r a l i z e d t o a p p l y t o

a d d i t i o n a l a s p e c t s o f a p r o b l e m . I n s c h e d u l i n g t h i s m i g h t m e a n n o t j u s t p r i o r i t i z i n g t a s k s ,

b u t a l s o r e s o u r c e s o v e r v a r i o u s t i m e i n t e r v a l s . W e a l s o p r o p o s e t h a t t h e t h e s e p r i o r i t i z a t i o n s

b e l i m i t e d t o t h e \ x e d " e l e m e n t s o f a p r o b l e m . I n s c h e d u l i n g p r o b l e m s , f o r e x a m p l e , t h e s e

3 7 0

7/27/2019 1105.5454

19/21

\ S q u e a k y W h e e l " O p t i m i z a t i o n

m a y b e t h e n o n - c o n d i t i o n a l t a s k s , r e s o u r c e s , e t c . ( I n o u r e x a m p l e d o m a i n s , a l l o f t h e

e l e m e n t s a r e x e d i n t h i s s e n s e , s o t h i s w a s n o t a n i s s u e . )

O n e i n t u i t i o n b e h i n d t h i s p r o p o s a l i s t h a t t h e s e a r e t h e e l e m e n t s t h a t w i l l t e n d t o d e n e

r o l e s . I n t h e e a r l i e r e x a m p l e w i t h t a s k s T 1 a n d T 2 , c o r r e s p o n d i n g t o t h e t w o p l a n e s b e i n g

b u i l t , t h e c r i t i c a l e l e m e n t i s n o t e i t h e r t a s k p e r s e , b u t a c t u a l l y r e s o u r c e R , e a r l y i n t h e

s c h e d u l e . I f t h i s p h a s e o f r e s o u r c e R r e c e i v e s a h i g h p r i o r i t y , a n d t h e l a t e r p h a s e o f r e s o u r c e

R r e c e i v e s a l o w e r p r i o r i t y , t h e n w h i c h e v e r o f t h e t w o t a s k s o c c u r s l a t e r w i l l b e r e c o g n i z e d

a s l e s s c r i t i c a l . W h i l e t h i s d o e s n o t e x a c t l y c a p t u r e t h e n o t i o n o f \ r o l e " t h a t w e w o u l d l i k e ,

i t c o m e s a l o t c l o s e r t h a n t h e c u r r e n t a p p r o a c h . I n a d d i t i o n , a s s i g n i n g p r i o r i t i e s t o t h e x e d

e l e m e n t s o f a p r o b l e m h a s t h e a d v a n t a g e o f b e i n g a p p l i c a b l e t o p r o b l e m s w i t h c o n d i t i o n a l

t a s k s . R e s e a r c h i s c u r r e n t l y u n d e r w a y t o e x p l o r e t h i s a p p r o a c h .

6 . 3 s w o a n d l o c a l s e a r c h

A l t h o u g h t h e a b i l i t y t o m a k e l a r g e , c o h e r e n t m o v e s i s a s t r e n g t h o f t h e a p p r o a c h , i t i s a l s o

a w e a k n e s s . s w o i s p o o r a t m a k i n g s m a l l \ t u n i n g " m o v e s i n t h e s o l u t i o n s p a c e , b u t t h e

c o u p l e d - s e a r c h v i e w o f s w o s u g g e s t s a n o b v i o u s r e m e d y . s w o c o u l d b e c o m b i n e d w i t