Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p...

21
Vremenske i prostorne klase sloˇ zenosti N. Ikodinovi´ c [email protected] 26. 12. 2017. (Matematiˇ cki fakultet, Beograd) 26. 12. 2017. 1 / 21

Transcript of Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p...

Page 1: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Vremenske i prostorne klase slozenosti

N. Ikodinovic

[email protected]

26. 12. 2017.

(Matematicki fakultet, Beograd) 26. 12. 2017. 1 / 21

Page 2: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Pregled predavanja

(Matematicki fakultet, Beograd) 26. 12. 2017. 2 / 21

Page 3: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Teorija slozenosti

Klasifikacija rekurzivnih funkcija i rekurzivnih skupova (jezika, problema).Klase slozenosti uglavnom se definisu uz:

ogranicenje resursa (pre svega vremena, odn. prostora) kojimaraspolaze mehanizam koji izvrsava algoritam i

analiziranjem najgoreg slucaja.

Zbog jednostavnosti, ogranicavamo se na rekurzivne funkcije, odn.skupove nad alfabetom Σ = {0,1}.I funkcija f : Σ∗→ Σ∗ je rekurzivna ako postoji Tjuringova masina

(Q,q0,{qstop},{0,1},t,Γ,τ) takva da za sve w ∈ Σ∗,

q0w →∗ qstopf (w);

I skup (jezik) L⊆ Σ∗ je rekurzivan ako postoji Tjuringova masinaT = (Q,q0,{qda,qne},{0,1},t,Γ,τ) takva da za sve w ∈ Σ∗,

q0w →∗{

qdat, w ∈ L,qnet, w 6∈ L.

(Matematicki fakultet, Beograd) 26. 12. 2017. 3 / 21

Page 4: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Vremenska slozenost

Neka je T = (Q,q0,F ,{0,1},t,Γ,τ) neka Tjuringova masina koja sezaustavlja za svaku rec ulaznog alfabeta: za svako w ∈ Σ, T generisekonacno izracunavanje

q0w → C1→ C2→ ·· · → Cstop ≡ uqv ∈ Γ∗FΓ+,

ciju duzinu oznacavamo timeT(w).

Definicija

Tjuringova masina T, koja se zaustavlja za svaku rec ulaznog alfabeta,radi u vremenu t :N→N ako za svako w ∈Σ∗ vazi timeT(w) 6 t(|w |) (tj.izracunavanje za ulaz w se zavrsava za 6 t(|w |) koraka).

(Matematicki fakultet, Beograd) 26. 12. 2017. 4 / 21

Page 5: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Vremenska slozenost

Definicija

Neka t :N→N.1) Rekurzivna funkcija f : Σ∗→ Σ∗ je izracunljiva u vremenu t, ako postojiTM koja je izracunava i radi u vremenu O(t).2) Jezik L⊆ Σ∗ je odluciv u vremenu t, ako postoji TM koja ga odlucuje iradi u vremenu O(t).

Definicija

1) Funkcija t :N→N je vremenski konstruktibilna ako je t(n) > n, za sven i funkcija w 7→ bin(t(|w |)) je izracunljiva u vremenu t.2) Klasa vremenske slozenosti odredjena funkcijom t :N→N, u oznaciTIME(t), jeste skup svih jezika nad {0,1} koji su odlucivi u vremenu t.

(Matematicki fakultet, Beograd) 26. 12. 2017. 5 / 21

Page 6: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Klasa P

Pdef=

⋃P(x)∈N[x]

TIME(P)

Primer.

PAL = {w ∈ {0,1}∗ | w je palindrom} ∈ P

Teorema.

Ako L1,L2 ∈ P, onda L{1,L1∩L2,L1∪L2 ∈ P.

(Matematicki fakultet, Beograd) 26. 12. 2017. 6 / 21

Page 7: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Polinomijalna svodljivost

Definicija.

Problem L1 se svodi u polinomijalnom vremenu na problem L2, u oznaciL1 6P L2, ako postoji funkcija f : Σ∗→ Σ∗ izracunljiva u polinomijalnomvremenu takva da za sve w ∈ Σ∗

w ∈ L1 ⇔ f (w) ∈ L2.

Teorema.

Relacija 6P je refleksivna i tranzitivna.

Teorema.

Ako je L1 6P L2 i L2 ∈ P, onda L1 ∈ P.

(Matematicki fakultet, Beograd) 26. 12. 2017. 7 / 21

Page 8: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Problem SAT

Za alfabet iskazne logike uzimamo skup:

{p,¬,∧,∨,⇒,⇔,(,)},

pri cemu reci p,pp,ppp,pppp, . . . koristimo kao iskazna slovap1,p2,p3,p4, . . .Npr. (p2⇒ (¬p3∧p1)) 7→ (pp⇒ (¬ppp∧p)). Naravno, iskazne formulemozemo predstavljati i recima alfabeta {0,1} koristeci, na primer, sledecekodiranje: (

p ¬ ∧ ∨ ⇒ ⇔ ( )000 001 010 100 011 101 110 111

).

Tada je kod formule (pp⇒ (¬ppp∧p)) jednak:

110000000011110001000000000010000111111.

(Matematicki fakultet, Beograd) 26. 12. 2017. 8 / 21

Page 9: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Problem SAT

F = {w ∈ {0,1}∗ | w je kod neke iskazne formule} ∈ PAko w ∈ F , onda se u odgovarajucoj formuli, koju cemo oznaciti ϕw mogupojavljivati samo neka od slova p1,p2, . . . ,p|w |. Za svaku valuacijuv : {p1, . . . ,p|w |}→ {0,1} potpuno je odredjena istinitosna vrednost ϕw [v ].Ako postoji valuacija v takva da je ϕw [v ] = 1, odnosno v |= ϕw , kazemoda je ϕw zadovoljiva formula.

SAT = {w ∈ {0,1}∗ | ϕw je zadovoljiva formula}.

Valuaciju v identifikujemo sa {0,1}-nizom duzine |w |.w ∈ SAT ⇔ ∃v ∈ {0,1}|w | v |= ϕw .v |= ϕw je odlucivo u polinomijalnom vremenu.

(Matematicki fakultet, Beograd) 26. 12. 2017. 9 / 21

Page 10: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Klasa NP

Definicija.

Klasa NP sadrzi sve jezike L⊆ {0,1}∗ za koje postoji polinom q(x) ∈N[x ]i relacija R ⊆ {0,1}∗×{0,1}∗ iz P takvi da za sve w ∈ {0,1}∗ vazi:

w ∈ L ⇔ ∃v ∈ {0,1}q(|w |) R(w ,v).

Relacija R se naziva verifikator za L. Rec v ∈ {0,1}q(|w |) takva da R(w ,v)naziva se svedok da w ∈ L.

Primer.

SAT∈NP

(Matematicki fakultet, Beograd) 26. 12. 2017. 10 / 21

Page 11: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

NTIME

NTM je uredjena sedmorka T = (Q,q0,{qda,qne},Σ,t,Γ,τ), gde jeτ : (Q \F )×Γ→ P(Γ×{L,P,R}×Q).Ako je τ(q,s) = {s1Rq1,s2Lq2, . . . ,skPqk}, onda konfiguracija · · ·sLqssD · · ·ima k naslednika:· · ·sLs1sDq1 · · · ; · · ·q2sLs2sD · · · ; . . . ; · · ·sLqksksD · · ·

Za svako w ∈ Σ∗, T generise jedno drvo, ciji je koren pocetnakonfiguracija.

Svaka grana drveta predstavlja jedno izracunavanje za ulaz w .

Zavrsne konfiguracije u stanju qda nazivamo konfiguracijamaprihvatanja, a zavrsne konfiguracije u stanju qne konfiguracijamaodbacivanja.

(Matematicki fakultet, Beograd) 26. 12. 2017. 11 / 21

Page 12: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

NTIME

Definicija

NTM T odlucuje jezik L⊆ Σ∗ ako za svako w ∈ Σ∗ vazi: w ∈ L akkopostoji izracunavanje masine T za ulaz w koje se zavrsava konfiguracijomprihvatanja.

Definicija

1) NTM T radi u vremenu t :N→N ako za sve w ∈ Σ∗ svakoizracunavanje masine T za ulaz w nije duze od t(|w |).2) NTIME(t) je skup svih jezika nad {0,1} koje odlucuje neka NTM kojaradi u vremenu O(t).

Teorema

NP =⋃k>1

NTIME(nk)

(Matematicki fakultet, Beograd) 26. 12. 2017. 12 / 21

Page 13: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Dva otvorena problema

Teorema

1) P⊆NP2) NP je zatvoreno za uniju i presek: ako L1,L2 ∈NP, ondaL1∩L2,L1∪L2 ∈NP.

Otvoreni problemi

1) P?= NP

2) Da li je NP zatvoreno za komplemente?

(Matematicki fakultet, Beograd) 26. 12. 2017. 13 / 21

Page 14: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

NP-kompletnost

Definicija

Problem L je NP-kompletan ako L ∈NP i za svako L′ ∈NP vazi L′ ≤P L.

Teorema

Ako je L1 NP-kompletan, L2 ∈NP i L1 ≤P L2, onda je L2 NP-kompletan.

Teorema

Neka je L NP-kompletan. Ako L ∈ P, onda P = NP.

Kuk-Levinova teorema

SAT je NP-kompletan.

(Matematicki fakultet, Beograd) 26. 12. 2017. 14 / 21

Page 15: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Prostorna slozenost

Neka je T TM (NTM) koja se zaustavlja za svaki ulaz. Prostorna slozenostmasine T jeste funkcija ST :N→N takva da je ST(n) maksimalan brojcelija koje skenira glava tokom bilo kog izracunavanja za ulaze duzine n.

SPACE(f )def= {L | L odlucuje neka TM koja radi u prostoru O(f )}

NSPACE(f )def= {L | L odlucuje neka NTM koja radi u prostoru O(f )}

Klase prostorne slozenosti uglavnom se definisu u odnosu na prostornokonstruktibilne funkcije. S : N→ N je prostorno konstruktibilna ako jefunkcija w 7→ bin(S(|w |)) izracunljiva u prostoru S .

Primer

SAT ∈ SPACE(n).

Saviceva teorema

Ako je S :N→N prostorno-konstruktibilna funkcija, onda jeNSPACE(S(n))⊆ SPACE(S(n)2).

(Matematicki fakultet, Beograd) 26. 12. 2017. 15 / 21

Page 16: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

Klasa PSPACE

PSPACEdef=⋃k>1

SPACE(nk)

NPSPACEdef=⋃k>1

NSPACE(nk)

Posledica Saviceve teoreme

P⊆NP⊆ PSPACE = NPSPACE

(Matematicki fakultet, Beograd) 26. 12. 2017. 16 / 21

Page 17: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

PSPACE-kompletnost

Definicija

Jezik L je PSPACE-kompletan ako:

1 L ∈ PSPACE i

2 za svako L′ ∈ PSPACE vazi L′ ≤P L.

QBF def= {‖ϕ‖ ∈ {0,1}∗ | ϕ je tacna kvantifikovana iskazna formula}

Npr. ∀p∃q((p∨q)∧ (¬p∨¬q)) je tacna formula:

Ako je p = 0, formula (0∨q)∧ (¬0∨¬q) je tacna za q = 1.

Ako je p = 1, formula (1∨q)∧ (¬1∨¬q) je tacna za q = 0.

∃q∀p((p∨q)∧ (¬p∨¬q)) nije tacna formula.

Teorema

QBF je PSPACE-kompletan.

(Matematicki fakultet, Beograd) 26. 12. 2017. 17 / 21

Page 18: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

PSPACE-kompletnost

Formuli Q1p1Q2p2Q3p3 . . .Qkpkθ(p1,p2,p3, . . . ,pk), Qi ∈ {∀,∃},pridruzujemo igru izmedju igraca A i igraca E : u i-tom koraku, ako jeQi = ∀, igra igrac A tako sto dodeljuje proizvoljnu vrednost iz {0,1} slovupi ; a ako je Qi = ∃, igrac E dodeljuje proizvoljnu vrednost iz {0,1} slovupi . Igra se zavrsava posle k koraka i

pobedjuje igrac E ako je formula θ TACNA za izabrane vrednostiiskaznih slova;

pobedjuje igrac A ako je formula θ LAZNA za izabrane vrednostiiskaznih slova.

Za ∃p1∀p2∃p3((p1∨p2)∧ (p2∨p3)∧ (¬p2∨¬p3)), pobednicku strategijuima E : prvo uzima p1 = 1, a zatim uzima vrednost p3 kao negaciju onogasto je izabrao A za p2.Za ∃p1∀p2∃p3((p1∨p2)∧ (p2∨p3)∧ (p2∨¬p3)), pobednicku strategijuima A: bez obzira sta E bira, A uzima p2 = 0.

(Matematicki fakultet, Beograd) 26. 12. 2017. 18 / 21

Page 19: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

PSPACE-kompletnost

GAME def= {dϕe | E ima pobednicku strategiju u igri ϕ}

Teorema

GAME je PSPACE-kompletan.

(Matematicki fakultet, Beograd) 26. 12. 2017. 19 / 21

Page 20: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

PSPACE-kompletnost

Igra GO. Neka je G proizvoljan usmeren graf i s jedan cvor. Igraci I i IIigraju sledecu igru:

igru zapocinje igrac I sa startne pozicije s;

igraci naizmenicno biraju jednog neposrednog suseda tekuceg cvora;

tokom igre se cvorovi ne smeju ponavljati;

gubi onaj igrac koji ne moze da nastavi igru (i naravno, pobedjujeonaj drugi).

GO def= {dG ,se | Igrac I ima pobednicku strategiju}

(Matematicki fakultet, Beograd) 26. 12. 2017. 20 / 21

Page 21: Vremenske i prostorne klase slo zenosti · pri cemu re ci p;pp;ppp;pppp;::: ... Npr. (p 2)(:p 3 ^p 1)) 7!(pp )(:ppp^p)). Naravno, iskazne formule mo zemo predstavljati i re cima alfabeta

PSPACE-kompletnost

GO def= {dG ,se | Igrac I ima pobednicku strategiju}

Teorema

GO je PSPACE-kompletan.

(Matematicki fakultet, Beograd) 26. 12. 2017. 21 / 21