Post on 20-Jun-2019
BlockseminarOptimierung unter unvollständiger Information
Thema: Die Sample Average Approximation Methode fürstochastische Programme mit Integer Recourse
von Maria Gundermann
18. bis 20. Januar 2008
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 1 / 34
Gliederung
1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen
2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen
3 Konvergenz-Analyse
4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus
5 Bewertung der LösungStatistische Grenzen
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34
Gliederung
1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen
2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen
3 Konvergenz-Analyse
4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus
5 Bewertung der LösungStatistische Grenzen
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34
Gliederung
1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen
2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen
3 Konvergenz-Analyse
4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus
5 Bewertung der LösungStatistische Grenzen
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34
Gliederung
1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen
2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen
3 Konvergenz-Analyse
4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus
5 Bewertung der LösungStatistische Grenzen
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34
Gliederung
1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen
2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen
3 Konvergenz-Analyse
4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus
5 Bewertung der LösungStatistische Grenzen
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34
Problemstellung
Problemstellung
Problemstellung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 3 / 34
Problemstellung Das Problem
Stochastisches Problem mit Integer Recourse
Ausgangsproblem
minx∈X
g(x) := cT x + E(Q(x , ξ(ω))) (1)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(2)
(1) Erste Phase mit x ∈ X ⊆ Rn1
(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34
Problemstellung Das Problem
Stochastisches Problem mit Integer Recourse
Ausgangsproblem
minx∈X
g(x) := cT x + E(Q(x , ξ(ω))) (1)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(2)
(1) Erste Phase mit x ∈ X ⊆ Rn1
(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34
Problemstellung Das Problem
Stochastisches Problem mit Integer Recourse
Ausgangsproblem
minx∈X
g(x) := cT x + E(Q(x , ξ(ω))) (1)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(2)
(1) Erste Phase mit x ∈ X ⊆ Rn1
(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34
Problemstellung Das Problem
Stochastisches Problem mit Integer Recourse
Ausgangsproblem
minx∈X
g(x) := cT x + E(Q(x , ξ(ω))) (1)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(2)
(1) Erste Phase mit x ∈ X ⊆ Rn1
(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34
Problemstellung Anwendungsbeispiele
Anwendungsbeispiele
ProduktionsplanungZeitplanungElektrizitätsproduktionRoutenplanung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34
Problemstellung Anwendungsbeispiele
Anwendungsbeispiele
Produktionsplanung
ZeitplanungElektrizitätsproduktionRoutenplanung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34
Problemstellung Anwendungsbeispiele
Anwendungsbeispiele
ProduktionsplanungZeitplanung
ElektrizitätsproduktionRoutenplanung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34
Problemstellung Anwendungsbeispiele
Anwendungsbeispiele
ProduktionsplanungZeitplanungElektrizitätsproduktion
Routenplanung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34
Problemstellung Anwendungsbeispiele
Anwendungsbeispiele
ProduktionsplanungZeitplanungElektrizitätsproduktionRoutenplanung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34
Problemstellung Schwierigkeiten beim Lösen
Schwierigkeiten beim Lösen von SP mit IntegerRecourse
1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen
2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34
Problemstellung Schwierigkeiten beim Lösen
Schwierigkeiten beim Lösen von SP mit IntegerRecourse
1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen
2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34
Problemstellung Schwierigkeiten beim Lösen
Schwierigkeiten beim Lösen von SP mit IntegerRecourse
1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen
2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34
Die Sample Average Approximation Methode
Die Sample Average Approximation Methode
Die Sample AverageApproximation Methode
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 7 / 34
Die Sample Average Approximation Methode Die SAA-Methode
Die SAA-Methode
Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)
⇒ SAA-Problem:
minx∈X
g(x) := cT x +1N
N∑n=1
Q(x , ξn) (3)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34
Die Sample Average Approximation Methode Die SAA-Methode
Die SAA-Methode
Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)
⇒ SAA-Problem:
minx∈X
g(x) := cT x +1N
N∑n=1
Q(x , ξn) (3)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34
Die Sample Average Approximation Methode Die SAA-Methode
Die SAA-Methode
Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)
⇒ SAA-Problem:
minx∈X
g(x) := cT x +1N
N∑n=1
Q(x , ξn) (3)
mit
Q(x , ξ) := infy∈Y
{qT y : Wy ≥ h − Tx
}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für
Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit
der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des
SAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für
Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit
der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des
SAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?
2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die fürOptimallösung notwendig ist?
3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mitder notwendigen Sample-Größe N löst?
4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für
Optimallösung notwendig ist?
3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mitder notwendigen Sample-Größe N löst?
4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für
Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit
der notwendigen Sample-Größe N löst?
4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Die Sample Average Approximation Methode Fragen
Fragen
SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗
1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für
Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit
der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des
SAA-Problems für das Ausgangsproblem gibt es?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34
Konvergenz-Analyse
Konvergenz-Analyse
Konvergenz-Analyse
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 10 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:
X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,
wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .
Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.
Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?
⇒
N ≥ 3σ2
(ε− δ)2 log(|X |α
) (4)
Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.
(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K
(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:
(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK
(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2
(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2
⇒ Problem kann geschrieben werden als:
minx∈X
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Q(x , ξk ) := infy∈Y
{qk
T y : Wy ≥ hk − Tk x}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .
W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt
⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:
C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}
⇒ für jedes z ∈ Zm2 ist∑K
k=1 pk Q(·, ξk ) konstant auf
C(z) :=K⋂
k=1
C(z, ξk ).
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt
⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:
C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}
⇒ für jedes z ∈ Zm2 ist∑K
k=1 pk Q(·, ξk ) konstant auf
C(z) :=K⋂
k=1
C(z, ξk ).
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt
⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:
C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}
⇒ für jedes z ∈ Zm2 ist∑K
k=1 pk Q(·, ξk ) konstant auf
C(z) :=K⋂
k=1
C(z, ξk ).
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt
⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:
C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}
⇒ für jedes z ∈ Zm2 ist∑K
k=1 pk Q(·, ξk ) konstant auf
C(z) :=K⋂
k=1
C(z, ξk ).
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.
V :=⋃
z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.
⇒ Zielfunktion unseres Problems:
minx∈V
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Wie sieht nun die notwendige Sample-Größe N aus?
N ≥ 3σ2
(ε− δ)2 log(|V |α
)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.
V :=⋃
z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.
⇒ Zielfunktion unseres Problems:
minx∈V
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Wie sieht nun die notwendige Sample-Größe N aus?
N ≥ 3σ2
(ε− δ)2 log(|V |α
)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.
V :=⋃
z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.
⇒ Zielfunktion unseres Problems:
minx∈V
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Wie sieht nun die notwendige Sample-Größe N aus?
N ≥ 3σ2
(ε− δ)2 log(|V |α
)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.
V :=⋃
z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.
⇒ Zielfunktion unseres Problems:
minx∈V
g(x) := cT x +K∑
k=1
pk Q(x , ξk )
Wie sieht nun die notwendige Sample-Größe N aus?
N ≥ 3σ2
(ε− δ)2 log(|V |α
)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34
Konvergenz-Analyse
Kontinuierliche erste Phase und diskrete zweite Phase
Betrachte Sample {ξ1, ..., ξN} der Größe N mit N � K .Dann:
minx∈VN
{gN(x) = cT x +
1N
N∑n=1
Q(x , ξn)
}
mit
VN :=⋃
z∈ZN
vert(CN(z) ∩ X )
CN(z) :=N⋂
n=1
C(z, ξn)
ZN := {z ∈ Zm2 : CN(z) ∩ X 6= ∅}.
Dieses SAA-Problem bildet Grundlage für den folgenden Algorithmus.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 15 / 34
Lösen des SAA-Problems
Lösen des SAA-Problems
Lösen des SAA-Problems
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 16 / 34
Lösen des SAA-Problems Vorbereitung
Der DBB-Algorithmus
Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))
wird zur Lösung des SAA-Problemsminx∈VN
{gN(x) = cT x + 1
N
∑Nn=1 Q(x , ξn)
}benutzt
Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN
nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34
Lösen des SAA-Problems Vorbereitung
Der DBB-Algorithmus
Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))
wird zur Lösung des SAA-Problemsminx∈VN
{gN(x) = cT x + 1
N
∑Nn=1 Q(x , ξn)
}benutzt
Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN
nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34
Lösen des SAA-Problems Vorbereitung
Der DBB-Algorithmus
Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))
wird zur Lösung des SAA-Problemsminx∈VN
{gN(x) = cT x + 1
N
∑Nn=1 Q(x , ξn)
}benutzt
Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN
nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34
Lösen des SAA-Problems Vorbereitung
Der DBB-Algorithmus
Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))
wird zur Lösung des SAA-Problemsminx∈VN
{gN(x) = cT x + 1
N
∑Nn=1 Q(x , ξn)
}benutzt
Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN
nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraums
vermeidet komplette Berechnung von VN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34
Lösen des SAA-Problems Vorbereitung
Der DBB-Algorithmus
Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))
wird zur Lösung des SAA-Problemsminx∈VN
{gN(x) = cT x + 1
N
∑Nn=1 Q(x , ξn)
}benutzt
Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN
nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34
Lösen des SAA-Problems Vorbereitung
Annahmen
Die Annahmen (A1) bis (A5) aus dem letzten Abschnitt gelten weiterhin.
Es kommt noch eine weitere Annahme (A6) hinzu:
(A6) Die Technologiematrix T ist deterministisch, d.h. Tk = T ∀ k
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 18 / 34
Lösen des SAA-Problems Vorbereitung
Annahmen
Die Annahmen (A1) bis (A5) aus dem letzten Abschnitt gelten weiterhin.Es kommt noch eine weitere Annahme (A6) hinzu:
(A6) Die Technologiematrix T ist deterministisch, d.h. Tk = T ∀ k
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 18 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}
mitΦ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}
ΨN(χ) := N−1∑Nn=1 Ψ(χ, ξn) (entspricht 1
N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))
X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Tender-Variablen
„Tender“-Variablen durch lineare Transformation χ := Tx .
DBB-Algorithmus löst folgendes SAA-Problem
minχ∈X
{GN(χ) := Φ(χ) + ΨN(χ)
}mit
Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N
n=1 Ψ(χ, ξn) (entspricht 1N
∑Nn=1 Q(x , ξn))
Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
ΨN : Rm2 → R hat folgende Eigenschaften:
ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ
für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge
CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}
⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
ΨN : Rm2 → R hat folgende Eigenschaften:
ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ
für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge
CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}
⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
ΨN : Rm2 → R hat folgende Eigenschaften:
ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ
für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge
CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}
⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
ΨN : Rm2 → R hat folgende Eigenschaften:
ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ
für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge
CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}
⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
DBB-Algorithmus teilt X in Regionen der Form∏m2
j=1[lj ,uj ) auf.
Dabei:lj ist j-te Komponente eines Punkte χ so, dass hn
j − lj ganzzahlig istuj ist j-te Komponente eines Punkte χ so, dass hn
j − uj ganzzahlig ist
⇒ ΨN(·) kann in diesen Randpunkten unstetig sein
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
DBB-Algorithmus teilt X in Regionen der Form∏m2
j=1[lj ,uj ) auf.Dabei:
lj ist j-te Komponente eines Punkte χ so, dass hnj − lj ganzzahlig ist
uj ist j-te Komponente eines Punkte χ so, dass hnj − uj ganzzahlig ist
⇒ ΨN(·) kann in diesen Randpunkten unstetig sein
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34
Lösen des SAA-Problems Vorbereitung
Anmerkungen
DBB-Algorithmus teilt X in Regionen der Form∏m2
j=1[lj ,uj ) auf.Dabei:
lj ist j-te Komponente eines Punkte χ so, dass hnj − lj ganzzahlig ist
uj ist j-te Komponente eines Punkte χ so, dass hnj − uj ganzzahlig ist
⇒ ΨN(·) kann in diesen Randpunkten unstetig sein
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34
Lösen des SAA-Problems DBB-Algorithmus
Der DBB-Algorithmus
Der DBB-Algorithmus
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 22 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Initialisierung
Konstruktion von P0 :=∏m2
j=1[l0j ,u0j ), sodass X ⊂ P0
Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
InitialisierungKonstruktion von P0 :=
∏m2j=1[l0j ,u
0j ), sodass X ⊂ P0
Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
InitialisierungKonstruktion von P0 :=
∏m2j=1[l0j ,u
0j ), sodass X ⊂ P0
Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzu
Setze U ← +∞Setze k ← 0
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
InitialisierungKonstruktion von P0 :=
∏m2j=1[l0j ,u
0j ), sodass X ⊂ P0
Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .
k .2.c: L ← L \ {l : β l ≥ U}.If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .
Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .
Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems DBB-Algorithmus
Algorithmus
Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.
Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.
k .2: Finde β i mit β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}
.
Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.
k .2.a: Setze L← minl∈L∪{i} βl .
k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.
If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.
k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 25 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Untere Schranke:
Finde β i mit
β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}.
Das entspricht:
β i := min cT x + θ
st. x ∈ X ,Tx = χ,
l i ≤ χ ≤ ui ,
θ ≥ 1N
N∑n=1
Ψ(ui − ε, ξn),
ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Untere Schranke:
Finde β i mit
β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}.
Das entspricht:
β i := min cT x + θ
st. x ∈ X ,Tx = χ,
l i ≤ χ ≤ ui ,
θ ≥ 1N
N∑n=1
Ψ(ui − ε, ξn),
ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Untere Schranke:
Finde β i mit
β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}.
Das entspricht:
β i := min cT x + θ
st. x ∈ X ,Tx = χ,
l i ≤ χ ≤ ui ,
θ ≥ 1N
N∑n=1
Ψ(ui − ε, ξn),
ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.
⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Untere Schranke:
Finde β i mit
β i ≤ inf{
GN(χ) : χ ∈ X ∩ P i}.
Das entspricht:
β i := min cT x + θ
st. x ∈ X ,Tx = χ,
l i ≤ χ ≤ ui ,
θ ≥ 1N
N∑n=1
Ψ(ui − ε, ξn),
ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Obere Schranke:
χi sei optimale Lösung des Problems inf{
GN(χ) : χ ∈ X ∩ P i}
.
Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch
αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Obere Schranke:χi sei optimale Lösung des Problems inf
{GN(χ) : χ ∈ X ∩ P i
}.
Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch
αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Obere Schranke:χi sei optimale Lösung des Problems inf
{GN(χ) : χ ∈ X ∩ P i
}.
Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch
αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Branching:
Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj
Abbildung: Branching in χj
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Branching:
Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.
Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj
Abbildung: Branching in χj
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34
Lösen des SAA-Problems Eigenschaften des Algorithmus
Eigenschaften des Algorithmus
Branching:
Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj
Abbildung: Branching in χj
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34
Bewertung der Lösung
Bewertung der Lösung
Bewertung der Lösung
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 29 / 34
Bewertung der Lösung Statistische Grenzen
Statistische Grenzen
Gegeben:
xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N
Gesucht:
x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems
Frage: Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34
Bewertung der Lösung Statistische Grenzen
Statistische Grenzen
Gegeben:
xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N
Gesucht:x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems
Frage:
Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34
Bewertung der Lösung Statistische Grenzen
Statistische Grenzen
Gegeben:
xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N
Gesucht:x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems
Frage: Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34
Bewertung der Lösung Statistische Grenzen
Untere Schranke
Es ist bekannt: E(vN) ≤ v∗
Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1
N , ..., vMN
⇒ Schätzer von E(vN) ist:
vMN =
1M
M∑m=1
vmN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34
Bewertung der Lösung Statistische Grenzen
Untere Schranke
Es ist bekannt: E(vN) ≤ v∗
Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1
N , ..., vMN
⇒ Schätzer von E(vN) ist:
vMN =
1M
M∑m=1
vmN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34
Bewertung der Lösung Statistische Grenzen
Untere Schranke
Es ist bekannt: E(vN) ≤ v∗
Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1
N , ..., vMN
⇒ Schätzer von E(vN) ist:
vMN =
1M
M∑m=1
vmN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34
Bewertung der Lösung Statistische Grenzen
Obere Schranke
xN ∈ X ist zulässige Lösung des Ausgangsproblems.
Generiere ein Sample ξ1, ..., ξN′der Größe N ′
Berechne gN′(xN) = cT xN + 1N′
∑N′
n=1 Q(xN , ξn)
gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))
⇒ Obere Schranke für v∗: gN′(xN)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34
Bewertung der Lösung Statistische Grenzen
Obere Schranke
xN ∈ X ist zulässige Lösung des Ausgangsproblems.
Generiere ein Sample ξ1, ..., ξN′der Größe N ′
Berechne gN′(xN) = cT xN + 1N′
∑N′
n=1 Q(xN , ξn)
gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))
⇒ Obere Schranke für v∗: gN′(xN)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34
Bewertung der Lösung Statistische Grenzen
Obere Schranke
xN ∈ X ist zulässige Lösung des Ausgangsproblems.
Generiere ein Sample ξ1, ..., ξN′der Größe N ′
Berechne gN′(xN) = cT xN + 1N′
∑N′
n=1 Q(xN , ξn)
gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))
⇒ Obere Schranke für v∗: gN′(xN)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34
Bewertung der Lösung Statistische Grenzen
Obere Schranke
xN ∈ X ist zulässige Lösung des Ausgangsproblems.
Generiere ein Sample ξ1, ..., ξN′der Größe N ′
Berechne gN′(xN) = cT xN + 1N′
∑N′
n=1 Q(xN , ξn)
gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))
⇒ Obere Schranke für v∗: gN′(xN)
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34
Bewertung der Lösung Statistische Grenzen
Optimalitätslücke
Mit diesen Schranken ist die Optimalitätslücke eines Lösungskandidaten xNgegeben durch:
gN′(xN)− vMN = cT xN +
1N ′
N′∑n=1
Q(xN , ξn)− 1
M
M∑m=1
vmN
Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 33 / 34