Datalogi 1F Forår 2003 Multiprogrammering[4]

Datalogi 1F Forår 2003Multiprogrammering[4]

Kerner og processer

Jørgen Sværke Hansencyller@diku.dk

Datalogi 1F: Multiprogrammering[4]

Planen for i dag

• C/C++ eftermiddage?

• Repetition af kerner med afbrydelser

• Kerner med tvungent processkift

• Eksempel på anvendelse af processer/tråde i en web-server

C/C++ eftermiddage

• Et kursus i C++ programmering med fokus på programmering af kerner

• To ”teoretiske” øvelsesgange– en gang er sat til 11/3: 15-17– anden/første gang sidst i uge 10 eller i

uge 11

Kerner med afbrydelser• Vi erstatter aktiv venten med:

– ventende processer placeres i ventekøer– afbrydelser aktiverer ventede processer

ved at flytte dem til klarkøen

• Bedre udnyttelse af CPU• Introduktion af parallelisme i kernen:

– afbrydelsesroutiner kan udføres når som helst (undtagen når vi lukker for afbrydelser)

– fokus på kritiske regioner

Kerne med afbrydelser

KInitProc(…) KReadyQKSleep() KCurProcKPause()KSelectNewProcess()KInterruptHandler()

KInitSem() KReadChar()KWait() KWriteChar()KSignal()

KReadLine()KWriteLine()

readerProcwriterProc

KReadQKWriteQ

Tætkoblede drivprogrammer• Hver slags hændelse (tegn skrevet,

tegn læst, …) er tilknyttet en ventekø:

char KReadChar() {

while(!(rdio(com1lsr) & 0x01))

KPause(KReadQ);

return rdio(com1Rbr);

Synkronisering med ydre enheder

void KInterruptHandler() {if( rdio(com1Iir) & 2)

while(!KReadQ.isEmpty())

KReadyQ.Put(KReadQ.Get());else if( rdio(com1Iir) & 4)

while(!KWriteQ.isEmpty())

KReadyQ.Put(KWriteQ.Get());}

Uheldig rækkefølge<KReadChar>

while(!(rdio(com1lsr) & 0x01))<UART>

sætter ready-bit<KInterruptHandler>

while(!KWaitQ.isEmpty())<KReadChar>

KPause(KReadQ);<KSelectNewProcess>

<sætter proces i ventekø>AAAAARGH: vi opdager ikke at tegnet er læst

Problem

• Vi har to parallelle processer:– brugerproces– afbrydelsesroutine

der deler data:– kontrolregistre– proceskøer

• Vi må sikre udelelig udførsel af kritiske regioner

Implementering af udelelighed• Luk for afbrydelser:char KReadChar() {

forbid(); while(!(rdio(com1lsr) & 0x01))

KPause(KReadQ);char ch = rdio(com1Rbr);permit();return ch;

• Nu bliver vi ikke afbrudt mellem check af statusregister og KWaitQ.Put()

• Men hvor bliver er åbnet for afbrydelser?

Ny KPause• KPause skal skifte afbrydelsesniveau (ipl er en

del af processens tilstand):void KPause() {<gem afbrydelsesniveau i PKB>;<gem registre på stakken>;<gem stakpeger i PKB>;<find ny proces>;<gendan stakpeger fra PKB>;<gendan registre>;<gendan afbrydelsesniveau fra PKB>;

Andre routiner derskal beskyttes?

• Afbrydelsesroutiner og alm. kernefunktioner deler køstrukturer

• Beskyt køoperationerne:

int isEmpty() { int oldipl = forbid(); int b = (size == 0); permit(oldipl); return b;};

Kerner med tvungent processkift• Indtil nu har vi kun set på kerner med

frivilligt processkift via KPause()

• En afbrydelsesroutine sætter processen i klarkøen, men der kan gå lang tid inden den aktive proces opgiver CPU’en

• Vi vil tvinge et processkift som en del af afbrydelsen:– dette sikrer hurtigere behandling af

afbrydelser

Ny afbrydelsesprocedure

void KInterruptHandler() { if(rdio(com1Iir) & 2)

KSleep (KReadyQ, KReadQ);

else if(rdio(com1Iir) & 4)

KSleep (KReadyQ, KWriteQ);

……

}Fejl i kursusbog bind 4 side 74

KSleep og vennerQueue<Process>* KPutQ, KGetQ;

void KSleep(Queue<Process>& put, Queue<Process>& get) { KPutQ = &put, KGetQ = &get; KPause();}

Registers* KSelectNewProcess (Registers* sp) { KCurProc->sp = sp; KPutQ->Put(KCurProc); KCurProc = KGetQ->Get(); return KCurProc->sp;}

Tvungent processkift - eksempel

AP: printl()

AP: KWriteChar

AP:BP1_start()

AP: KPause

BP1 sp

AP: Wait(sem)

AP:BP2_start()

BP2 sp

AP: ent_int

AP:KInterruptH…

PAL stakrammeP2

AP:KPause

Registre P2

AP:KSelectNewP… AP: KSleep

AP:KWriteLine

AP:KSelectNewP…

afbrydelse

Skift:• stakpeger• afbrydelsesniveau

Processkift sker EFTERbehandling af og kvittering forafbrydelse

a2a1a0gppcps

SemaforroutinerNu kan vores semaforroutiner også bliveafbrudt: void KWait (KSem *sem) { if (!sem) KSleep(sem->WaitQ, KReadyQ); sem--; }• Førhen var dette sikkert fordi

afbrydelser ikke rørte ved semaforerne• Men nu kan en vilkårlig proces blive

afbrudt

En anden uheldig rækkefølge<BP1>

if(!sem) <antag sem == 1><Afbrydelse>

KPause(KReadyQ, KReadQ);. . . . . . <BP2>

<if(!sem)> <sem stadig == 1><BP2>

sem--;<Afbrydelse>

KPause(KReadyQ, KWriteQ);. . . . . . <BP1>

sem--;UUUPS:

der er 2 processer i kritisk region!!

Nye semaforroutinerNu kan vores semaforroutiner ikke mereblive afbrudt:

void KWait (KSem *sem) {

forbid(); if (!sem) KSleep(sem->WaitQ, KReadyQ); sem--;

permit(); }

Andre routiner derhar problemer?

• Måske KSleep generelt?• Kan vi klare at skifte proces mens vi skifter

proces? Registers* KSelectNewProcess

(Registers* sp) {

KCurProc->sp = sp;

KPutQ->Put(KCurProc);

KCurProc = KGetQ->Get();

return KCurProc->sp;

• De to globale variable KPutQ og KGetQ ser suspekte ud

Endnu en uheldig rækkefølge<BP1>< KSleep(KReadyQ, myWaitQ) >< KPutQ = KReadyQ, KGetQ = myWaitQ >

<BP1>< KSelectNewProcess >< Sætter sig selv på KReadQ men

aktiverer proces fra KReadyQ >

Morale• Man skal være forsigtig!!!!• Identificer alle variable der deles mellem

afbrydelsesroutiner og alm. kerneroutiner

• Foretag sikring af kritiske regioner

• Ved aflusning af kerner (f.eks. K1) kan det være en god ide at starte med helt at lukke for afbrydelser i kernen og så langsom bløde det op

Kerner med periodisk processkift• Hidtil har vi udskiftet den kørende proces

ved afbrydelse fra I/O enhed:– Har vi kun en CPU tung proces, er det fint nok,

da den vil blive afbrudt– Men hvis vi har flere, kan der stadig gå lang tid

inden en ventende proces ”kommer til fadet”• KPause() kaldes typisk som led i et

systemkald:– ved hvert systemkald kunne man undersøge

om en proces har kørt for længe, og derefter kalde KPause

• Hvad med beregningstunge processer, der sjældent bruger systemkald?– Kræv at de skal indsætte frivillige processkift– Tving dem væk fra CPU’en

Implementering af periodisk processkift

void KInterruptHandler (ulong a0) { if ( a0 & 0x01) KSleep(KReadyQ, KReadyQ); else . . . . . . }

• Hver gang uret afbryder puttes den aktive proces bagerst i klarkøen (round robin)

• Men hvad hvis der ingen aktiv proces er?

Tomgangsprocessen• For at sikre, at der altid er en proces i

klarkøen, har vi en tomgangsproces:

void KIdleProcess { for(;;;) KSleep(KReadyQ,KReadyQ);

• men man kunne nu stadig bruge en venteløkke i selve KSelectNewProcess

Brug af to sikkerhedsniveauer• Hardware indeholder en

eller flere bits, der viser sikkerhedsniveau, f.eks. (0) brugertilstand og (1) kernetilstand

• Ved afbrydelser skiftes til kernetilstand, f.eks. ved en trap operation

• Specielle privilegerede instruktioner kan kun udføres i kernetilstand, typisk instruktioner der har med ressourcedeling at gøre

kernetilstand

brugertilstand

trap/exception

skift tilbrugerniveau

2 slags stakke• Når brugerprogrammer udføres i

brugertilstand benytter de en brugerstakpeger

• Systemkald samt afbrydelser udføres i kernetilstanden og benytter en kernestakpeger

• Kernestakpegeren peger på et andet lagerområde end brugerstakpegeren

• Kerne sp vil typisk være beskyttet mod skrivning og læsning fra brugertilstand

• Skiftet mellem stakpegerne foretages på Alphaerne af PAL koden ved skift mellem bruger og kernetilstand

Brugerstak og kernestakeksempel

AP: calc()

AP: ent_int

AP: calc()

AP:KInterruptH…

AP:BP1_start()

PAL stakramme

BP1 sp

kerne sp

PAL registre:bruger sp: BP1 spkerne sp: 0x200000

BP1_start(void) { calc(t3_root);}

PAL registre:bruger sp: ikke def.kerne sp: 0x200000

afbrydelse

$sp = kerne spkerne sp = $sp$sp = bruger sp

Processkift i afbrydelsesproceduren

• Hvis vi ønsker at skifte proces i en afbrydelsesprocedure skal vi dels:– gemme kørende proces’ tilstand– ændre brugerstakpeger i PAL register– gendanne nye proces’ tilstand

• Ændring af bruger sp er nemt:– PAL_rdusp læser bruger stakpeger fra PAL

register– PAL_wrusp skriver en ny bruger stakpeger til

PAL register• Men processernes tilstande omfatter:

– PAL stakramme– Registre gemt af ent_int (afbrydelsesniveau)

Skift mellem stakke vedprocesskift under afbrydelse

Vi ser på fire eksempler• Skift mellem processer i brugertilstand:

– én kernestak– en kernestak pr proces

• Processkift med en proces i systemtilstand og en i brugertilstand

• Processkift ved indlejrede afbrydelser, f.eks.:– først afbrydelse fra UART (ipl 3)– KInterruptHandler afbrydes af uret (ipl 5)

PAL registre:bruger sp: XXXXXkerne sp: 0x200000

2 processer i brugertilstand:én kernestak

AP: calc()

AP: ent_int

AP: calc()

AP:KInterruptH…

AP:BP1_start()

PAL stakrammeP2

AP:KSelectNewP…

BP1 sp

kerne sp

AP: calc()

AP:BP2_start()

BP2 sp

afbrydelse

Registre P2

PAL stakrammeP1

Registre P1Gem kopi af BP2s kernestak (f.eks. på brugerstakken)Gendan kopi af BP1s kernestak

2 processer i brugertilstand:en kernestak per proces

AP: calc()

AP: ent_int

AP: calc()

AP:KInterruptH…

AP:BP1_start()

AP:KSelectNewP…

BP1 sp

kerne sp

AP: calc()

AP:BP2_start()

BP2 sp

afbrydelse

PAL stakrammeP1

Registre P1

AP: ent_int

AP:KInterruptH…

PAL stakrammeP2

AP:KSelectNewP…

kerne sp

Registre P2

PAL registre:bruger sp: XXXXXkerne sp: 0x200000

2 processer: en i brugertilstand ogen i kernetilstand

AP: ent_sys

AP: printl()

AP: KWriteChar

AP:BP1_start()

AP: KPause

BP1 sp

kerne sp

AP: calc()

AP:BP2_start()

BP2 sp

afbrydelse

PAL stakrammeP1

Registre P1

AP: ent_int

AP:KInterruptH…

PAL stakrammeP2

AP:KSelectNewP…

kerne sp

Registre P2

AP:KSelectNewP…

AP: KPause

Skift:• brugerstakpeger• aktiv stakpeger• afbrydelsesniveau

Indlejrede afbrydelser

AP: ent_int

AP:KInterruptH…

PAL stakrammeP2

kerne sp Registre P2

AP: ent_int

AP:KInterruptH…

PAL stakrammeP2

Registre P2

AP:KSelectNewP…

AP: KPause

AP: calc()

AP:BP2_start()

BP2 sp

afbrydelse

Er flag for processkift sat og er vi den sidsteafbrydelse?

AP:KSelectNewP…

AP: KPause

Så kan vi skifte tilen anden proces

afbrydelseVi sætter et flag, derfortæller at vi skalforetage et processkift

Duer ikke – vi var alleredei gang med at behandle etinterrupt

Indlejrede afbrydelser

• Hvordan ved man at man er det ”eneste” interrupt?

• På stakken ligger et statusregister, der fortæller hvad afbrydelsesniveau var inden den aktuelle afbrydelse:– ipl == 0 => ingen forudgående afbrydelser

Linux tomgangsprocesvoid cpu_idle (void) {init_idle();current->nice = 20;current->counter = -100;

while (1) {void (*idle)(void) = pm_idle;if (!idle)

idle = default_idle;while (!current->need_resched)

idle();schedule();check_pgt_cache();

Multiprogrammeringseksempel: web server

klient

klientklient

klient

server

Klient-server kommunikation

Skab forespørgsel

Afkod forespørgsel

Behandl forespørgsel

Beregn svar

forespørgsel

Behandl svar

Klient Server

Netværksserver: struktur

Protokolstak

Serverapplikation

Protokolstak

Foresp. svar

Demultipleksning afIndkommende forespørgsler(opret forbindelse)

Afkod forespørgsel,Behandl forespørgsel,Beregn svar

Netværksserver

Enkelttrådet server• Nemt at programmere• En forespørgsel ad gangen• Ingen parallelisme

AfkodForesp.

Generersvar

Konstruerheader

læsdata

Fsp svar

Behandel forespørgsel

Server med flere processer

Fsp Svar

AfkodForesp.

Generersvar

Konstruerheader

Læsdata

AfkodForesp.

Generersvar

Konstruerheader

Læsdata

AfkodForesp.

Læsdata

Generersvar

Konstruerheader

Server med flere processer

• En proces per forespørgselresulterer i:• Høj grad af parallelisme• Spildtid på grund af

procesoprettelse/nedlæggelse (brug pulje af processer)• Spildtid pga. processkedulering• Det er vanskeligt at dele

ressourcer (data)• Synkronisering er nødvendigt

Flertrådet server• En server proces • En tråd per forespørgsel• God parallelisme• Lav omkostning ved brugertråde• Delt hukommelse• Synkronisering er stadig nødvendig

Afkodforesp.

Generersvar

Konstruerheader

Læsdata

Hændelsesstyret server• En proces/tråd• Eksplicit tilstand per forespørgsel (status,

forbindelse, etc.)• God parallelisme• Server bestemmer prioritering af

forespørgsler• Undgå blokerende systemkald (asynchronous)

Afkodforesp

Sendsvar

Konstruerheader

Læsdata

Fsp SvarTilstandsmaskine

Ny fsp Fsp færdigData læstLæst fsp

Eksempel: Flash webserverenAsymmetrisk flerproces hændelsesstyret

– Brug hjælperprocesser/tråde ved blokerende operationer

– Har brug for interproceskommunikation (IPC)

Hjælperproces

Læs fsp CGICGI

Afkodforesp

Generersvar

Konstruerheader

Læsfildata

Fsp SvarTilstandsmaskine

Ny fsp Fsp færdigData læstData icache

Læs fsp

Flash / mmapApplikation

Virtueltadresserum

Mmap’ed fil

Fysisklager

Operativsystem Ydre enhed

Dobbelt buffering/caching undgås

Flash File I/O• Cache bestående af mmap’ede filer• Hjælper proces tilgår al data og giver

besked til server proces• Server proces kan derved tilgå data uden

at blokere• Server prøver at kontrollere

hukommelsesforbrug

Hjælperproces

ServerProcesbruger

Flash resultater• Afprøvning:

– kunstig genereret arbejdsbelastning– forespørgselsmønstre opsamlet fra ”den

virkelige verden”

• Resultater:– 30% - 50% procent højere ydelse end

kommercielle web servere (men kan til dels skyldes mindre funktionalitet).

Mere om Flash

• Flash: An Efficient and Portable Web Server: Vivek S. Pai, Peter Druschel, Willy Zwaenepoel, i Proceedings of the USENIX 1999 Annual Technical Conference

• http://www.cs.princeton.edu/~vivek/flash/

Opsummering• Kerner med afbrydelser:

– introduktion af parallelisme i kernen– implementation af udelelighed ved styring af

afbrydelsesniveau

• Tvungent processkift:– øget parallelisme i kernen (alle processer kan

afbrydes)– periodisk processkift– indlejrede afbrydelser

• Multiprogrammeringseksempel:– Flash web serveren:

• multiproces, hændelsesstyret tilstandsmaskine

Kilder

• Disse slides er baseret på indholdet i Datalogi 1F kursusbog bind 4, kapitlerne 7 & 8.

Datalogi 1F Forår 2003 Multiprogrammering[4]

Documents

Transcript of Datalogi 1F Forår 2003 Multiprogrammering[4]

Perspektiverende Datalogi 2011 Klassiske Algoritmer

Institut for Matematik og Datalogi

Hvorfor Forår 2008

Datalogi & Datavidenskab

Voronoi Diagrammer - Aarhus Universitettildeweb.au.dk/au121/slides/voronoi14.pdfEt eller andet datalogi… Gerth Stølting Brodal / Kasper Green Larsen Institut for Datalogi Aarhus

Datalogi 1F Forår 2003 G1

Arabisk forår samfundsfag

Internetkurser forår 2011

Artlab Forår 2011

Informanten Forår 2007

Mesterslagteren Forår 2014

Update forår 2012_dag2_flere_sociale_platforme_og_modeller_for_plan

Forår 2015 Buddy

Multiprogrammering[1]: Ydre enheder og multiprogrammer

Update forår 2012_dag1_introduktion_twitter_fb_linkedin

STATEN Forår 2010

Datalogi C - Valgfag

Brandkursus Datalogi

Startskuddet - forår 2012

Datalogi - Aarhus Universitettildeweb.au.dk/au121/slides/studiestart17raster.pdf · Calculus β Semester 2 ... Datalogi, obligatorisk Matematik støttefag Valgfrie. Proc. 21st Annual