New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1....

15
ESTIMASI PARAMETER REGRESI SECARA BAYESIAN SKRIPSI Diajukan untuk Memenuhi Sebagian Syarat Mencapai Gelar Sarjana Strata Satu (S 1) Disusun oleh : MARINA ANGGUN TIAS DEWANTI 1001060102 PROGRAM STUDI PENDIDIKAN MATEMATIKA FAKULTAS KEGURUAN DAN ILMU PENDIDIKAN UNIVERSITAS MUHAMMADIYAH PURWOKERTO 2014

Transcript of New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1....

Page 1: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

ESTIMASI PARAMETER REGRESI SECARA BAYESIAN

SKRIPSI

Diajukan untuk Memenuhi Sebagian

Syarat Mencapai Gelar Sarjana Strata Satu (S – 1)

Disusun oleh :

MARINA ANGGUN TIAS DEWANTI

1001060102

PROGRAM STUDI PENDIDIKAN MATEMATIKA

FAKULTAS KEGURUAN DAN ILMU PENDIDIKAN

UNIVERSITAS MUHAMMADIYAH PURWOKERTO

2014

Page 2: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 3: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 4: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 5: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

ABSTRAK

ESTIMASI PARAMETER REGRESI SECARA BAYESIAN

Oleh:

Marina Anggun Tias Dewanti

1001060102

Tujuan dari penelitian ini adalah menentukan estimator parameter model regresi

linear sederhana dan regresi linear berganda menggunakan metode estimasi

Bayesian. Metode dari penelitian ini adalah studi pustaka. Langkah yang dilakukan

adalah menentukan model regresi yang akan dicari estimatornya, menentukan prior

dan likelihood, dengan menggunakan Bayesian diperoleh posterior. Hasil

pembahasan diperoleh kesimpulan bahwa pada regresi linear sederhana, untuk

distribusi sampel yang berdistribusi Normal dan distribusi priornya adalah prior

noninformatif yang berdistribusi Uniform maka untuk diketahui diperoleh

distribusi posterior yang berdistribusi Normal dan untuk tidak diketahui

diperoleh distribusi posterior yang berdistribusi t. Pada regresi linear berganda, untuk

distribusi sampel yang berdistribusi Normal Multivariat dan distribusi priornya

adalah prior noninformatif yang berdistribusi Uniform maka untuk diketahui

diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

tidak diketahui diperoleh distribusi posterior yang berdistribusi t Multivariat.

Kata kunci : regresi linear sederhana, regresi linear berganda, estimasi Bayesian

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 6: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

MOTTO

“Hai orang-orang yang beriman, Jadikanlah sabar dan shalatmu Sebagai

penolongmu, sesungguhnya Allah beserta orang-orang yang sabar”

(Al-Baqarah: 153)

“Jika kita mempunyai keberanian dan keyakinan, jangan pernah takut

untuk meraih impian dan cita – cita.”

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 7: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

HALAMAN PESEMBAHAN

Alhamdulillah atas limpahan rahmat dan petunjuk Allah SWT skripsi ini dapat

terselesaikan.

Skripsi ini peneliti persembahkan untuk :

Ibu dan Bapak tersayang, terimakasih atas do‟a, kasih sayang, senyuman,

dukungan, semangat, dan materi yang telah kalian berikan dengan tulus dan

ikhlas.

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 8: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

KATA PENGANTAR

Alhamdulillah, segala puji syukur peneliti panjatkan atas ke hadirat Allah

SWT yang telah memberikan rahmat dan inayah-Nya serta Shalawat dan salam

peneliti haturkan pada Rasulullah Muhammad SAW karena atas ridho-Nya peneliti

dapat menyelesaikan skripsi ini dengan judul “Estimasi Parameter Regresi secara

Bayesian”. Skripsi ini peneliti susun sebagai salah satu persyaratan untuk

memperoleh gelar sarjana Strata satu (S–1) pada program studi pendidikan

matematika Universitas Muhammadiyah Purwokerto.

Dalam penulisan skripsi ini, peneliti telah berusaha semaksimal mungkin

untuk mendapatkan hasil yang terbaik. Namun peneliti menyadari bahwa

penyusunan skripsi ini jauh dari sempurna karena keterbatasan kemampuan dan

pengetahuan. Berkat bimbingan dari berbagai pihak, akhirnya peneliti dapat

menyelesaikan skripsi ini.

Sehubungan hal tersebut, pada kesempatan baik ini peneliti menyampaikan

terimakasih kepada :

1. Dr. Akhmad Jazuli, M. Si., selaku dosen pembimbing I yang penuh kesabaran

telah meluangkan waktunya untuk memberikan bimbingan, petunjuk, saran, dan

pengarahan dalam penyusunan skripsi ini.

2. Drs. Joko Purwanto, M. Si., selaku dosen pembimbing II yang penuh kesabaran

telah meluangkan waktunya untuk memberikan bimbingan, petunjuk, saran, dan

pengarahan dalam penyusunan skripsi ini.

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 9: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

3. Dr. Syamsuhadi Irsyad, M.H., selaku rektor Universitas Muhammadiyah

Purwokerto.

4. Drs. Ahmad, M.Pd., selaku dekan Fakultas Keguruan dan Ilmu Pendidikan,

Universitas Muhammadiyah Purwokerto

5. Erni Widiyastuti, S.Si., M.Si., selaku Kaprodi Pendidikan Matematika, Fakultas

Keguruan dan Ilmu Pendidikan, Universitas Muhammadiyah Purwokerto.

6. Bapak dan Ibu dosen Program Studi Pendidikan Matematika yang telah

memberikan ilmu yang bermanfaat selama peneliti belajar di Universitas

Muhammadiyah Purwokerto.

7. Semua pihak yang tidak bisa peneliti sebutkan satu persatu yang secara langsung

maupun tidak langsung telah memberikan bantuan selama penyusunan skripsi

ini.

Akhirnya tidak ada yang dapat peneliti berikan selain ucapan terima kasih

dan iringan do‟a, semoga Allah SWT senantiasa memberikan imbalan atas jasa

baiknya, amin.

Purwokerto, Juli 2014

Peneliti

Marina Anggun Tias Dewanti

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 10: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

DAFTAR ISI

HALAMAN JUDUL ................................................................................... i

HALAMAN PERSETUJUAN ................................................................... ii

HALAMAN PENGESAHAN ..................................................................... iii

SURAT PERNYATAAN ............................................................................ iv

ABSTRAK ................................................................................................... v

MOTTO ....................................................................................................... vi

HALAMAN PERSEMBAHAN ................................................................. vii

KATA PENGANTAR ................................................................................. viii

DAFTAR ISI ............................................................................................... x

DAFTAR TABEL ....................................................................................... xiii

DAFTAR LAMBANG ................................................................................ xiv

BAB I PENDAHULUAN ............................................................... 1

A. Latar Belakang ................................................................ 1

B. Rumusan Masalah ........................................................... 3

C. Pembatasan Masalah ....................................................... 3

D. Tujuan Penelitian ............................................................ 3

E. Manfaat Penelitian .......................................................... 4

BAB II TINJAUAN PUSTAKA ...................................................... 5

A. Regresi ............................................................................ 5

1. Regresi Linear Sederhana (RLS) ............................. 5

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 11: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

2. Regresi Linear Berganda (RLB) .............................. 6

B. Probability Density Function (pdf) ................................. 7

1. Variabel Random Diskrit dan pdf nya ...................... 7

2. Variabel Random Kontinu dan pdf nya .................... 8

3. Sifat pdf Bersama dari Variabel Diskrit ....................9

4. Sifat pdf Bersama dari Variabel Kontinu ..................9

C. Teorema Bayesian............................................................ 10

1. Kasus Variabel Random Diskrit ............................... 10

2. Kasus Variabel Random Kontinu ............................. 11

3. Teorema Bayesian untuk Parameter.......................... 12

D. Estimasi Parameter Regresi............................................ 13

E. Metode Bayesian dalam Mengestimasi Regresi ............. 13

1. Regresi Linear Sederhana (RLS) .............................. 13

a. Likelihood dari Distribusi Normal ...................... 14

b. Non-informatif Prior ........................................... 15

c. Posterior dari Distribusi Normal ......................... 15

2. Regresi Linear Berganda (RLB) ............................... 16

a. Likelihood dari Distribusi Normal ...................... 18

b. Non-informatif Prior ........................................... 19

c. Posterior dari Distribusi Normal ......................... 19

BAB III METODOLOGI PENELITIAN ........................................ 20

A. Metode Penelitian ........................................................... 20

B. Prosedur Penelitian ......................................................... 20

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 12: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

BAB IV PEMBAHASAN .................................................................. 23

A. Mengestimasi Regresi Menggunakan Metode Bayesian 23

1. Regresi Linear Sederhana (RLS) .............................. 23

a. Likelihood dari Distribusi Normal ...................... 23

b. Non-informatif Prior ........................................... 26

c. Posterior dari Distribusi Normal ......................... 27

2. Regresi Linear Berganda (RLB) ............................... 28

a. Likelihood dari Distribusi Normal ...................... 28

b. Non-informatif Prior ........................................... 31

c. Posterior dari Distribusi Normal ......................... 32

BAB V PENUTUP ............................................................................ 35

A. Kesimpulan ..................................................................... 35

B. Saran ............................................................................... 35

DAFTAR PUSTAKA .................................................................................. 37

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 13: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

DAFTAR TABEL

Tabel 4.1 Ringkasan dari Noninformatif prior, likelihood dan posterior ..... 35

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 14: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

DAFTAR LAMBANG

: nilai variabel dependen pada observasi ke-i, .

: nilai variabel independen pada observasi ke-i,

.

: komponen galat ke-i , .

, , : koefisien regresi.

: vektor kolom nilai variabel dependen.

: matriks berordo nilai variabel independen.

: vektor kolom koefisien regresi.

: vektor kolom galat

:nilai penduga

a dan b : nilai untuk menaksir dan .

( | ) : fungsi likelihood pada regresi linear sederhana

( ) :distribusi non-informatif prior pada regresi linear

sederhana

( | ) : distribusi posterior pada regresi linear sederhana

( | ) : fungsi likelihood pada regresi linear berganda

( ) : distribusi non-informatif prior pada regresi linear

berganda

( | ) : distribusi posterior pada regresi linear berganda

: konstanta

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014

Page 15: New ESTIMASI PARAMETER REGRESI SECARA BAYESIANrepository.ump.ac.id/6740/1/COVER.pdf · 2018. 1. 4. · diperoleh distribusi posterior yang berdistribusi Normal Multivariat dan untuk

: banyaknya pengamatan

( ) : X berdistribusi Normal dengan rata-rata dan variansi

: error atau galat

: derajat kebebasan

: mean vektor

( ) : skala distribusi

: elemen diagonal dari ( )

Estimasi Parameter Regresi..., Marina Anggun Tias Dewanti, FKIP, UMP, 2014