SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 1 / 51

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 2 / 51

© 2014-15 Josef Pelikán, CGG MFF UK Praha

http://cgg.mff.cuni.cz/~pepca/

Náhodné rozmisťování bodů v rovině

Seminář strojového učení a modelování, 26. 3. 2015

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 3 / 51

Jiří Matoušek (1963-2015)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 4 / 51

Náhodné rozložení bodů.. ?

random

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 5 / 51

Náhodné rozložení bodů.. ?

regular

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 6 / 51

Náhodné rozložení bodů.. ?

CCDT

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 7 / 51

Řízení hustotou pravděpodobnosti

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 8 / 51

Řízení hustotou pravděpodobnosti

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 9 / 51

Příroda

fyzikální zákony, sítnice oka, ..

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 10 / 51

Aplikace

vzorkování pro Monte-Carlo kvadratururychlost, diskrepance, hustota

tiskařství – tupování („stippling“), FM ditheringhustota, spektrální vlastnosti, estetika

simulace přírodních jevů (stromy, buňky, ..), hryspektrální vlastnosti, estetika, hustotadeterministické chování

design, architekturaestetika, efektivita výroby (opakování vzorů)

generování sítí pro FEMdiskrepance, hustota

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 11 / 51

Jak hodnotit rozložení bodů v rovině?

rovnoměrnost pokrytí: diskrepance

míra nahodilosti?

estetika?

Lloydův algoritmus

„Centroidal Voronoi“skalární kvantizace1982

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 12 / 51

Diskrepance

míra rovnoměrnosti pokrytí domény sadou vzorků

Monte-Carlo integraceZaremba 1968 zavádí pojem diskrepance (ukotvené levé horní rohy obdélníků)

[1,1]

[0,0]

[a,b]

d (a ,b) =∣ab−nN ∣

nN-n

D∞ = maxa ,b∈[0,1] d (a ,b)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 13 / 51

Jiné formy diskrepance

střední kvadratická hodnota místo maxima

Stroud 1971 navrhuje počítat přes všechny obdélníky

d (a ,b , c , d ) =∣(a−c)(b−d ) −nN ∣

D2 =∬ d (a ,b)2 da db

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 14 / 51

Visualizace diskrepance

random Dr-Cr

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 15 / 51

Shluky !

jsou přirozené?„Zákon řídkých jevů“ („Law of Rare Events“)

Poissonovo rozdělení s malou hodnotou m

m = 0.5

c0 = 23

c1 = 8

c2 = 5

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 16 / 51

Spektrální charakteristiky

hodnocení míry pravidelnostipřítomnost nežádoucích vzorůvýskyt shluků

spektrální analýza se objevuje při hodnocení kvality půltónování v tiskařství

již Allebach 1977detailní použití: Ulichney, Digital Halftoning, 1987

frekvenční spektrum – Fourierova transformaceperiodogram – již Schuster 1898průměrování periodogramů – Bartlett 1948

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 17 / 51

Fourierovské „power spectrum“

množina N vzorků v rovině:

funkce rozložení vzorků (definovaná na R2):

s( x , y) = ∑k=1

N

δ(x−xk , y− yk)

S = {sk }k=1N = { [ xk , yk ] }k=1

N

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 18 / 51

Fourierovské „power spectrum“

Fourierova transformace se dá zjednodušit na:

kde f je frekvenční vektor [fx, fy] Z2

a nakonec výkonové spektrum:

F ( f ) =∑k=1

N

e−2π i( f⋅sk )

P( f ) =∣F( f )∣2 =1N (∑

k=1

N

cos(2π f⋅sk))2

+1N (∑

k=1

N

sin (2π f⋅sk))2

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 19 / 51

Příklady spektrální analýzy

Fourierova transformace

semi-jittering

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 20 / 51

Příklady spektrální analýzy

radiálně průměrované spektrumhodnocení radiální symetrieredukce nízkých frekvencí (chceme „modrý šum“)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 21 / 51

„Pěkné“ spektrum

vlastnosti „modrého šumu“ (Ulichney 1987)

Mitchell

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 22 / 51

„Pěkné“ spektrum

radiálně průměrované spektrumčervený graf – radiální rozptyl (izotropie spektra)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 23 / 51

Jiné „pěkné“ spektrum

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 24 / 51

Příliš velká pravidelnost

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 25 / 51

Pravidelný rastr

+ diskrepance+ jednoduchost- pravidelnost- interference- nepokrývá doménu

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 26 / 51

Náhodné vzorkování

+ nepravidelnost+ jednoduchost+ lze řídit hustotou+ pokrývá doménu- diskrepance (shluky)

Nezávislé realizacevhodné náhodné veličiny

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 27 / 51

Jittering (roztřesení)

+ nepravidelnost+ jednoduchost+ diskrepance+ pokrývá doménu- nelze snadno řídit hustotou

„Stratified sampling“ve statistice..

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 28 / 51

Jittering (roztřesení)

Subintervaly mohou býtlibovolné (stejný obsah)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 29 / 51

Semi-jittering

+ jednoduchost+ diskrepance- částečná pravidelnost- nepokrývá doménu- nelze snadno řídit hustotou

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 30 / 51

Semi-jittering

Amplitudy roztřesenímohou být i jiné

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 31 / 51

N věží („N rooks“)

+ nepravidelnost+ pokrývá doménu- trochu horší diskrepance (shluky)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 32 / 51

N věží („N rooks“)

V každém řádku i sloupciprávě jeden vzorek..

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 33 / 51

Hammersley

+ výborná diskrepance+ deterministické+ velmi rychlý výpočet- nelze zahušťovat- špatné spektrum

Na podobném principu jezaložena i Haltonova sekvence..

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 34 / 51

na podobném principu jsou založeny:Halton, Hammersley, Larcher-Pillichshammer

pro prvočíslo b nechť je kladné přirozené číslo n vyjádřeno pomocí b-ární reprezentace:

pak je definováno číslo v intervalu [0,1):

Deterministické sekvence

n =∑k=0

L−1

d k (n)bk

gb(n) = ∑k=0

L−1

d k (n)b−k−1

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 35 / 51

slavná Haltonova sekvence (např. b1=2, b

2=3):

Hammersley sekvence (např. b=2):

Halton, Hammersley

x (n) = [ nN , gb(n)]

x (n) = [gb1(n) , gb2(n)]

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 36 / 51

Larcher-Pillichshammer

+ výborná diskrepance+ deterministické+ velmi rychlý výpočet+ lze randomizovat- nelze zahušťovat- špatné spektrum

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 37 / 51

místo dk(n) se používá

analogicky definujeme

.. a posloupnost vzorků

Larcher-Pillichshammer

x (n) = [ nN , lp(n)]

lpk (n) =(∑i=k

L

d i (n)) mod 2

lp(n) =∑k

lpk (n)2−k−1

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 38 / 51

Pravidelnosti ve spektru

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 39 / 51

Poissonovo diskové vzorkování

+ nepravidelnost+ estetika+ diskrepance+ pokrývá doménu+ lze řídit hustotou- pomalé- obtížné nastavení D

Dva vzorky nesmějí býtblíž než D

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 40 / 51

Poissonovo diskové vzorkování

D = 0.1

Algoritmus:vrhání šipky s kontrolouvzdálenosti(„dart-throwing withrejection“)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 41 / 51

Mitchellův algoritmus

+ jako Poisson-disk+ inkrementální+ nepotřebuje D- velmi pomalý!

Algoritmus:N-tý vzorek vybírámz NK kandidátů,přijmu ten nejvzdálenějšíK > 5 (větší K .. kvalita)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 42 / 51

Inkrementální ukázka

Počet vzorků:

10, 40, 160,640, 2560

K = 10

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 43 / 51

Lloydův algoritmus

+ diskrepance+ modrý šum+ výborně pokrývá- pomalý!- pravidelnosti na konci konvergence!

Algoritmus:generátor každé Voronoibuňky se posune do těžiš-tě své buňky .. iterace

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 44 / 51

Lloyd – postup výpočtu

1 2

10 30

3

90

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 45 / 51

Pravidelnosti

Lloyd (Centroidal Voronoi), N = 1024, iterations = 100

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 46 / 51

Kapacitně omezené distribuce

+ diskrepance+ modrý šum+ výborně pokrývá+ lze řídit distribucí- pomalý (ale je známo množství urychlení)

Vychází z Centr. Voronoi:

Aby nevznikaly pravidel-nosti, zavádí se kapacitníomezení

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 47 / 51

CCPD

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 48 / 51

CCPD – postup výpočtu

0 1

3 4

2

23

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 49 / 51

Porovnání metod - diskrepance

průměrování přes 100 pokusů1024 vzorků v sadě, vhodné nastavení parametrů jednotlivých vzorkování (někdy i více variant)Stroudova diskrepance (všechny obdélníky, RMS)průměrná diskrepance (·10-3) a std. odchylka (·10-6)

Lloydův algoritmuspro dobrý výsledek se musí zastavit před koncem konvergence (empiricky: generace 40)pro porovnání i výsledek z pokročilejšího stadia konvergence – cca Centroidal Voronoi (generace 400)

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 50 / 51

Porovnání metod - diskrepance

metoda diskrepance SD Pravidelné 7.468 0.0

Hammersley * 0.811 0.0

Larcher-Pillichshammer * 0.811 0.0

Náhodné 8.941 2.5 Jittering 2.593 0.0 Semi-jittering 4.159 0.0 N věží 5.220 0.5 Poissonův disk 3.255 0.2 Mitchell 3.183 0.2

Lloyd (g=40) 6.400 2.5

Lloyd (g=400) 5.661 1.8

CCPD 2.154 0.0

SUI 26. 3. 2015 © Josef Pelikán, http://cgg.mff.cuni.cz/ 51 / 51

Literatura

P. Shirley: Discrepancy as a Quality Measure for Sample Distributions, Eurographics 1991

J. Matoušek: Geometric Discrepancy – An Illustrated Guide, Springer, 2000

A. Lagae, P. Dutré: A Comparison of Methods for Generating Poisson Disk Distribution, CGF 08

M. Balzer, T. Schlömer, O. Deussen: Capacity-Constrained Point Distributions: A Variant of Lloyd's Method, SIGGRAPH 2009

D. P. Mitchell: Spectrally optimal sampling for distribution ray tracing, SIGGRAPH 1991

R. Ulichney: Digital Halftoning, MIT Press, 1987