Post on 20-Feb-2022
รายงานโครงงานวศวกรรมไฟฟา วชา 2102499 ปการศกษา 2562
การเปรยบเทยบวธการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมองA comparison of EEG artifact removal methods
นายธนกฤต แสนเจรญกจ เลขประจำตว 5930218721อาจารยทปรกษา ผศ.ดร. จตโกมท สงศร
ภาควชาวศวกรรมไฟฟา คณะวศวกรรมศาสตรจฬาลงกรณมหาวทยาลย
บทคดยอ
ในโครงงานนนำเสนอการเปรยบเทยบวธการกำจดสญญาณรบกวนทเกดจากการกะพรบตาในสญญาณคลนไฟฟาสมองหนงชองสญญาณซงการกำจดสญญาณรบกวนนมประโยชนอยางมากในทางการแพทยเพอชวยใหการวนจฉยโรคเปนไปอยางถกตอง และยงสามารถนำไปประยกตใชในการตดตอสอสารกบคอมพวเตอรดวยสมองเพอใหการสอสารมความถกตอง โครงงานนครอบคลมถงการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตาเพอนำมาใชเปนขอมลในโครงงานน การพจารณาคดแยกคณลกษณะเฉพาะทชวยในการทำนายบรเวณทมสญญาณรบกวน แบบจำลองปาสม, แบบจำลองโครงขายประสาทเทยมแบบสงวตนาการ และแบบจำลองฐานนนคอแบบจำลองขดกนถกใชสำหรบตรวจจบบรเวณทมสญญาณรบกวน จากนนสญญาณรบกวนในบรเวณดงกลาวจะถกกำจดดวยตวกรองสาวทซก-โกเลย การทดลองทงหมดจะทำบนขอมลสงเคราะห ผลการทดลองพบวาแบบจำลองปาสมมสมรรถนะในดานความแมนยำในการทำนายเทากบ 87.94 เปอรเซนตและคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 24.29 เปอรเซนต ซงเปนสมรรถนะทดทสด แตแบบจำลองโครงขายประสาทเทยมแบบสงวตนาการมสมรรถนะในดานความแมนยำในการทำนายเทากบ 81.69 เปอรเซนต และคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 30.31 เปอรเซนต ซงมคาใกลเคยงกบแบบจำลองฐาน โดยแบบจำลองฐานมความแมนยำในการทำนายเทากบ 81.09 เปอรเซนตและคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 29.50 เปอรเซนต
คำสำคญ: สญญาณคลนไฟฟาสมอง, การตดตอสอสารกบคอมพวเตอรดวยสมอง, การแปลงเวฟเลตไมตอเนอง, แผนภาพสเปกตรม, แบบจำลองปาสม, แบบจำลองโครงขายประสาทเทยมแบบสงวตนาการ และตวกรองสาวทซก-โกเลย
Abstract
In this project, we propose a comparison of single-channel electroencephalogram (EEG) eye blink artifact removalmethods. The artifact removal is very useful in medicine to help diagnose symptoms correctly and can also be appliedto brain-computer interface (BCI) to communication with brain correctly. The scope of the project covers the synthesisof simulated EEG with eye blink artifact to be used as data in this project, features extraction that help predict thearea of artifact. Random forest, Convolutional neural network (CNN), and a baseline model, that is the thresholdingmodel, used for detecting the area of artifact. Then, the artifact will be eliminated with the Savitzki-Golay filter. Allexperiments are done on simulated data. The results show that the random forest model yielded the predictionaccuracy of 87.94 percent and the normalized mean square error of 24.29 percent which are the best performance.However, the Convolutional neural network model yielded the prediction accuracy of 81.69 percent and the normalizedmean square error of 30.31 percent, which have quite similar performance to the baseline model. The baseline modelyielded the prediction accuracy of 81.09 percent and the normalized mean square error of 29.50 percent.
Keywords: Electroencephalogram (EEG), Brain-computer interfaces (BCI), Discrete wavelet transform (DWT), Spectro-gram, Random forest (RF), Convolutional neural network (CNN) and Savitzky-Golay filter
2
สารบญสารบญรป 4
สารบญตาราง 5
1 บทนำ 6
2 ภาพรวมของโครงงาน 82.1 วตถประสงค . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82.2 ขอบเขตของโครงงาน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82.3 ผลลพธทคาดหวง . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
3 หลกการและทฤษฎทเกยวของ 83.1 การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา . . . . . . . . . . . . . . . 83.2 การแยกหาคณลกษณะเฉพาะและการจดการขอมล . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3.2.1 การแยกหาคณลกษณะเฉพาะ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103.2.2 การจดการขอมลกอนการประมวลผลของวธ Convolutional neural network . . . . . . . . . . . 12
3.3 การตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123.3.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133.3.2 Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133.3.3 Convolutional neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3.4 การกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153.5 การประเมนประสทธภาพของวธการกำจดสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . 15
4 ผลลพธของโครงงาน 164.1 การคดเลอกคณลกษณะเฉพาะ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164.2 การตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
4.2.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194.2.2 Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204.2.3 Convolutional neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234.2.4 Artificial neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.2.5 สมรรถนะการตรวจจบสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.3 การกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.3.1 การปรบคา parameter ของ Savitzky-Golay filter . . . . . . . . . . . . . . . . . . . . . . . 274.3.2 ตวอยางผลลพธจากการกำจดสญญาณ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.3.3 คาความแตกตางของคาสมประสทธสหสมพนธ (∆ρ = ρ− ρ) . . . . . . . . . . . . . . . . . . 284.3.4 สมรรถนะการกำจดสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
5 การวเคราะหและวจารณ 31
6 บทสรป 32
7 กตตกรรมประกาศ 32
8 เอกสารอางอง 33
9 ภาคผนวก 359.1 การคำนวณหาคาสมประสทธคอนโวลชนของตวกรองสาวทซก-โกเลย . . . . . . . . . . . . . . . . . . . . . 359.2 ตารางการคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน 369.3 การใชวธ grid search เพอหาคา hyperparameter ทเหมาะสมทสด . . . . . . . . . . . . . . . . . . . . . 379.4 ตารางการปรบโครงสรางของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379.5 ตารางการปรบโครงสรางของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
3
สารบญรป1 ขนตอนการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา . . . . . . . . . . . . 92 ขนตอนการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมอง ทนำเสนอในโครงงานน . . . . . . . . . . . . . . 93 ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 ขนตอนของการกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . 105 ขนตอนการแปลงเวฟเลตหลายระดบชน โดยท x[n] คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน, g[n] คอ
ตวกรองความถตำผาน, h[n] คอ ตวกรองความถสงผาน . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 ขนตอนการหาแผนภาพสเปกตรม . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137 แบบจำลอง Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138 แบบจำลอง Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 ฮสโตแกรมแสดงการเปรยบเทยบคาคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวน กบคาคณลกษณะเฉพาะในบรเวณ
ทไมมสญญาณรบกวน โดยท สสม คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และสนำเงน คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
10 Feature importances โดยท std_coef_X คอคาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในระดบชน X, kur-tosis_coef_X คอ Kurtosis ของคาสมประสทธเวฟเลตในระดบชน X, mean_coef_X คอคาเฉลยของคาสมประสทธเวฟเลตในระดบชน X, median_coef_X คอคามธยฐานของคาสมประสทธเวฟเลตในระดบชน X, p_75_coef_Xคอคา ณ ตำแหนงเปอรเซนตไทลท 75 ของคาสมประสทธเวฟเลตในระดบชน X, p_25_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 25 ของคาสมประสทธเวฟเลตในระดบชน X . . . . . . . . . . . . . . . . . . . . . . . . . 18
11 แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน . . . . . . . . . . . . . . . . 1912 Receiver operating characteristic curve ของวธ Thresholding ทไดจากการแบงสญญาณคลนไฟฟาสมองทม
สญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . 2013 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding เมอแบงทอนขอมลไมเทา
กน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2014 Receiver operating characteristic curve ของวธ Random forest ทไดจากการแบงสญญาณคลนไฟฟาสมองท
มสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . 2215 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Random forest เมอแบงทอนขอมลไม
เทากน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2316 ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2317 Receiver operating characteristic curve ของวธ CNN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณ
รบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . . . . . 2418 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง CNN เมอแบงทอนขอมลไมเทากน . . . . 2419 ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2520 Receiver operating characteristic curve ของวธ ANN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณ
รบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . . . . . 2621 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง ANN เมอแบงทอนขอมลไมเทากน . . . . 2622 การเปรยบเทยบ ROC curve ของแบบจำลอง Thresholding, Random forest, CNN และ ANN . . . . . . . . 2723 คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทคาอนดบและความยาวของฟลเตอรคาตาง ๆ . . . . . . . . 2824 ตวอยางผลจากการกำจดสญญาณรบกวนดวยวธการ Thresholding, Random forest, CNN และ ANN เมอ แตละ
แถวของแตละรปคอแตละตวอยาง, pure EEG คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน, contaminatedEEG คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และ cleaned EEG คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
25 ความแตกตางของคาสมประสทธสหสมพนธ ∆ρ ของวธ Thresholding (เขยว), Random forest (เหลอง), CNN(ฟา) และ ANN (ชมพ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4
สารบญตาราง1 ตารางสมประสทธคอนโวลชน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152 คาของ hyperparameter ทถกเลอกใชในแบบจำลอง Random forest . . . . . . . . . . . . . . . . . . . . 223 โครงสรางของแบบจำลอง CNN ทเลอกใช โดยท สสม คอ Convolutional layer ทมตวกรองขนาด 3× 3 จำนวน
ตาง ๆ, สเขยว คอ Max pooling layer และ สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ . . . . . . . . . . . . 234 โครงสรางของแบบจำลอง ANN ทเลอกใช โดยท สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ . . . . . . . . . . 255 สมรรถนะการตรวจจบสญญาณรบกวนเมอเปรยบเทยบจากทกวธ . . . . . . . . . . . . . . . . . . . . . . . 276 คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทมคาตำทสด 3 อนดบ . . . . . . . . . . . . . . . . . . 287 สมรรถนะการกำจดสญญาณรบกวนเมอเปรยบเทยบจากทกวธ . . . . . . . . . . . . . . . . . . . . . . . . 318 การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน . . 369 คาของ hyperparameter ทถกใชในวธ grid search . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3710 ตารางการปรบความซบซอนของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3711 ตารางการปรบความซบซอนของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
5
1 บทนำElectroencephalography (EEG) เปนเทคนคการบนทกสญญาณคลนไฟฟาสมองทมการนำไปประยกตใชอยางแพรหลายโดยเฉพาะการศกษาทางคลนก การทดลองในหองทดลอง การดแลสขภาพผปวย การวนจฉยโรค และ brain-computer interfaces (BCI) ขอไดเปรยบของเทคนคนคอมคาใชจายทไมสงเกนไป อยางไรกตาม ปญหาทพบในการบนทกสญญาณคอ การรบกวนอยางมนยสำคญจากแหลงสญญาณอน ๆ ทไมไดมาจากสมอง เชน สญญาณรบกวนทเกดจากการเคลอนทของตา สญญาณรบกวนทเกดจากการเคลอนทของกลามเนอ สญญาณรบกวนจากคลนไฟฟาหวใจ สญญาณรบกวนจากสงแวดลอมภายนอก ทำใหการวนจฉยโรคมความผดพลาดได ใน BCI สญญาณรบกวนอาจสงผลใหเกดการตความทผดพลาดทำใหเกดการควบคมอปกรณทไมเปนไปตามความตองการ [IRY16] ดงนนการตรวจจบและกำจดสญญาณรบกวนจงเปนขนตอนทสำคญในการเตรยมขอมลเพอนำไปประยกตใชตอ
ในงานวจยกอนหนา วธการหลายวธถกพฒนาขนเพอกำจดสญญาณรบกวน วธหนงทเปนทนยมในการกำจดสญญาณรบกวนทเกดจากตาคอวธการถดถอย (Regression methods) วธการนเปนการประมาณสญญาณรบกวนจากสญญาณ Electrooculography (EOG) จากนนสญญาณทถกประมาณจะถกนำไปลบออกจากสญญาณคลนไฟฟาสมองเพอกำจดสญญาณรบกวน ปญหาของวธการนคอ วธการนอาจจะกำจดสญญาณสมองบางสวนออกไปดวย เนองจากในสญญาณ EOG จะมสญญาณสมองรวมอยปรมาณหนง [UGZ15] วธการทสองคอ วธการกำจดสญญาณรบกวนดวยตวกรอง ตวกรองจะกำจดสญญาณรบกวนไดอยางมประสทธภาพกตอเมอยานความถของสญญาณรบกวนและยานความถของสญญาณสมองไมซอนทบกน อยางไรกตาม ความถของสญญาณรบกวนมโอกาสซอนทบกบยานความถของสญญาณสมอง ตวกรองแบบปรบตวไดถกพฒนาสำหรบการกำจดสญญาณรบกวนทมความถซอนทบกบยานความถของสญญาณสมอง ซงจะมตวถวงนำหนกทถกปรบคาดวยคาความผดพลาดระหวางสญญาณรบกวนทถกประมาณมาจากสญญาณอางอง กบสญญาณคลนไฟฟาสมอง ตวถวงนำหนกนจะมหนาทเปนตวกรองสญญาณอางอง สญญาณอางองเมอผานตวกรองนกจะไดสญญาณทประมาณเปนสญญาณรบกวน วธการนจะทำวนซำการปรบคาตวถวงนำหนกเพอลดคาความผดพลาดระหวางสญญาณรบกวนทถกประมาณมาจากสญญาณอางองกบสญญาณคลนไฟฟาสมอง [KM17] อยางไรกตาม ตวกรองนยงตองการสญญาณ EOG เพอใชในการประมาณสญญาณรบกวน วธการตอมาคอ วธการวเคราะหองคประกอบอสระ (Inde-pendent component analysis, ICA) [RSHM15] ทใชกนอยางแพรหลายสำหรบการแยกองคประกอบของสญญาณออกเปนองคประกอบทเปนอสระตอกน วธหนงทใชหาเมทรกซของการแปลงสำหรบใชในการแยกองคประกอบ คอ InfoMax [LGS99] InfoMax จะมกระบวนการหาเมทรกซของการแปลง เมอเรานำเมทรกซของการแปลงนไปทำการแปลงเชงเสนกบเมทรกซของสญญาณคลนไฟฟาสมองหลายชองสญญาณผลลพธทไดจะเปนการประมาณสญญาณจากแหลงสญญาณตาง ๆ ในสมอง โดย InfoMax จะพยายามลดสารสนเทศรวม (Mutual Informa-tion) ของสญญาณทไดจากผลลพธการแปลงเชงเสนนน [LGS99] ผใชงานสามารถนำสญญาณทถกแยกเปนองคประกอบตาง ๆ ไปใชสำหรบการพจารณาวาองคประกอบนนเปนสญญาณรบกวนหรอไม แตวธการนจำเปนจะตองมผเชยวชาญ เปนผระบวาองคประกอบไหนเปนองคประกอบของสญญาณรบกวน เพอจะกำจดองคประกอบนนทงออกไป สมมตฐานของวธการนคอ จำนวนขวอเลกโทรดจะตองมจำนวนมากกวาหรอเทากบจำนวนแหลงกำเนดทเปนอสระกนของสญญาณคลนไฟฟาสมอง [IRY16] เปนเหตให วธการนไมเหมาะสมกบการนำไปประยกตใชใน BCI และอปกรณดแลสขภาพทตดอยกบรางกาย เนองจากแหลงกำเนดสญญาณคลนไฟฟาสมองมแหลงกำเนดหลายแหลงจากในสมอง แตอปกรณเหลานสวนใหญแลวจะมขวอเลกโทรดเพยงขวเดยวในอปกรณหนงชน [MLGP17]
วธการทไดกลาวไป เราจะใชวธการเหลานนกตอเมอสญญาณคลนไฟฟาสมองมหลายชองสญญาณ วธการตอไปน ผใชสามารถนำไปใชไดกบสญญาณคลนไฟฟาสมองหนงชองสญญาณ วธการหนงทใชคอ Empirical mode decomposition (EMD) เปาหมายของวธการนคอ วธการนตองการแยกสญญาณออกเปนผลรวมของฟงกชนพนฐาน ทเรยกวา intrinsic mode functions (IMFs) โดยสญญาณรบกวนและสญญาณสมองสามารถถกอธบายไดดวยฟงกชนพนฐานแตละฟงกชน [UGZ15] แตวธการนจำเปนจะตองมผเชยวชาญเปนผระบวาองคประกอบไหนเปนองคประกอบของสญญาณรบกวน เพอจะกำจดองคประกอบนนทงออกไป นกวจยพฒนาวธการนมาสำหรบ non-stationary processes ดวยเหตผลนวธการนจงเหมาะกบการนำไปใชวเคราะหสญญาณคลนไฟฟาสมอง [IRY16] อยางไรกตาม วธนมขอเสยในขนตอนของการแยกสญญาณออกเปนผลรวมของฟงกชนพนฐานซงจะทำผาน Sifting process กระบวนการนเปนกระบวนการททำให EMD มความซบซอนในการประมวลผลขอมลทสง [IRY16] เราพบวายงมวธกำจดสญญาณรบกวนดวยตวกรองทไมตองการสญญาณอางองอาท วธการกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) [SLS12] วธการนจะตองระบบรเวณทมสญญาณรบกวนกอน จากนนจงทำการกำจดสญญาณรบกวนทเกดจากตาในสญญาณคลนไฟฟาสมองหนงชองสญญาณในบรเวณทพบวามสญญาณรบกวนจะถกประมาณดวยวธการถดถอยพหนามสญญาณทไดจากการประมาณจะถกนำไปลบออกจากบรเวณทพบวามสญญาณรบกวน วธการทใชสำหรบแยกองคประกอบของสญญาณ เพอนำองคประกอบนนไประบวาเปนสญญาณรบกวนหรอไมอกวธการหนงคอ วธการแปลงเวฟเลต (Wavelet transform, WT) วธการนเปนวธการทมประโยชนมากสำหรบการนำไปประยกตใชในการวเคราะหสญญาณคลนไฟฟาสมอง วธการนจะแยกสญญาณออกเปนหลายอำนาจจำแนก(Multiresolution) โดยแตละอำนาจจำแนกจะนำเสนอคณลกษณะทางกายภาพทแตกตางกน คณลกษณะทางกายภาพทไมพบในอำนาจจำแนกนง อาจพบในอกอำนาจจำแนกนง ซงมประโยชนสำหรบการใชแยกหาคณลกษณะเฉพาะของสญญาณอยางมาก [UGZ15] วธการนแตกตางกบวธวเคราะหองคประกอบอสระตรงท วธการนสามารถใชกบสญญาณคลนไฟฟาสมองหนงชองสญญาณได ทำใหมประโยชนตอการนำไปประยกตใชใน BCI และอปกรณดแลสขภาพทตดอยกบรางกาย [MLGP17] และวธการนสามารถนำไปประยกตใชกบ real-time processing ได [UA96]ดวยเหตผลเหลานวธการนจงถกนำไปประยกตใชเพอหาคณลกษณะเฉพาะของสญญาณสมอง ซงจะเหนไดใน [HLH+12] ในตวอยางนสญญาณคลนไฟฟาสมองในแตละชวงเวลาจะถกนำมาแปลงเวฟเลต เพอหาคณลกษณะทางกายภาพในแตละอำนาจจำแนก จากนนคณลกษณะทางกายภาพจะถกนำไปหากรอบของสญญาณดวยวธการกลำสญญาณเชงขนาด (Amplitude modulation) บนพนฐานของ Hilbert transform ตอมา
6
นกวจยจะนำกรอบของสญญาณไปใชเปนคณลกษณะเฉพาะเพอใชในการเรยนรของเครองตอไปวธการสวนใหญทกลาวมาขางตนจำเปนจะตองมขนตอนหลก คอ จะตองมผเชยวชาญซงทำหนาทระบบรเวณหรอองคประกอบทมสญญาณ
รบกวน งานวจยอกกลมหนงจงสนใจการตรวจจบบรเวณทมสญญาณรบกวนดวยวธการอตโนมต อยางไรกตาม การระบบรเวณทมสญญาณรบกวนอตโนมตกยงตองการคา Threshold สำหรบการจำแนกบรเวณทเกดสญญาณรบกวน เพอทจะกำจดสญญาณรบกวนในบรเวณนนตอไป ทำใหวธการเรยนรของเครองเปนวธการทถกใหความสนใจในโครงงานน วธการเรยนรของเครองทถกใชในการระบบรเวณทมสญญาณรบกวนวธการหนงคอ Support vector machine (SVM) วธการนถกนำไปใชตรวจจบสญญาณรบกวน ดงตวอยางทไดเหนใน [HLH+12] การแยกคณลกษณะเฉพาะจะถกแยกดวยวธการแปลงเวฟเลตดงทไดอธบายไปแลวขางตน คณลกษณะเฉพาะจะถกนำไปใชในการเรยนรของเครอง เพอการตรวจจบการขยบนวในสญญาณคลนไฟฟาสมอง วธการทยงถกเลอกใชกนนอยคอ Random forest อยางไรกตาม วธการนมความสามารถในการเลอกคณลกษณะเฉพาะซงเปนประโยชนมากเพราะการเลอกคณลกษณะเฉพาะเปนเรองทยากสำหรบคณลกษณะเฉพาะของสญญาณรบกวนและสมองทมความซบซอน งานวจยทเลอกใชวธการนคอ [SDL+18] ในงานวจยนวธการ Random forest จะถกใชในการตรวจจบสญญาณรบกวน โดยสญญาณจะถกตดเปนชวง ๆ จากนนคณลกษณะเฉพาะจากสญญาณชวงนนจะถกคำนวณหาคาตาง ๆ อนไดแก คาขนาดสญญาณมากสด คาพลงงานในชวงความถ 0.5-50 เฮรตซ วธการตอมาคอ Convolutional neural network (CNN) เปนอกวธการหนงทไดรบความสนใจ เนองจากวธนจะมระดบชนทใชสำหรบแยกคณลกษณะเฉพาะ ซงเปนขอดทจะนำไปใชกบสญญาณคลนไฟฟาสมองทมคณลกษณะเฉพาะทซบซอน การแยกคณลกษณะเฉพาะนจะอยในระดบชนของ Convolutional layer วธการนถกใชใน [NCK+19] ในการทดลองน CNN จะถกใชในการตรวจจบสญญาณรบกวนทเกดใน intracerebral EEG โดยวธการนจะสนใจสญญาณคลนไฟฟาสมองหนงชองสญญาณ สญญาณจะถกแบงเปนชวง ๆ จากนนสญญาณแตละชวงจะถกนำไปผานตวกรองแถบความถผานในชวงความถตาง ๆ ตอมาสญญาณทผานตวกรองแตละชวงความถจะถกนำไปหากรอบของสญญาณ เพอนำกรอบของสญญาณนไปเปนขอมลขาเขาของ CNN เพอการตรวจจบชวงทมสญญาณรบกวน
จากวธทศกษามาทงหมด โครงงานนจะใหความสนใจการกำจดสญญาณรบกวนทเกดจากตา เนองจากอปกรณบนทกสญญาณคลนไฟฟาสมองทมอย ตำแหนงของอเลกโทรดจะอยใกลกบดวงตา สงผลใหสญญาณรบกวนทเกดจากตามอทธพลมากกวาสญญาณรบกวนชนดอน ขอมลสญญาณคลนไฟฟาสมองจะเปนขอมลทไดจากการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ ในโครงงานนขอมลจะถกสงเคราะหขน วธทจะศกษาจะตองสามารถตรวจจบสญญาณรบกวนไดอตโนมต ขนตอนจะถกแบงออกเปนสองสวน 1) ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน 2) ขนตอนของการกำจดสญญาณรบกวนในบรเวณทถกตรวจจบ วธการดงตอไปนจะถกใชสำหรบการตรวจจบสญญาณรบกวน
1. Thresholding เลอกวธการนสำหรบเปนวธพนฐานเพอนำมาใชสำหรบเปรยบเทยบประสทธภาพของวธการ Random forest และCNN โดยวธการ Thresholding จะใชวธการตรวจจบสญญาณรบกวนดวยการคำนวณพลงงานในยานความถ 0.5-5 เฮรตซของสญญาณในแตละชวงเวลา ถาบรเวณไหนมพลงงานทสงกวาคาคาหนงบรเวณนนจะเปนบรเวณทมสญญาณรบกวน ซงสมมตฐานคอบรเวณทมสญญาณรบกวนจะมขนาดของสญญาณสงกวาบรเวณทไมมสญญาณรบกวนสงผลใหมคาพลงงานทสงกวาบรเวณทไมมสญญาณรบกวนเชนกน
2. Random Forest เลอกวธการนเพราะวธการนมความสามารถในการเลอกคณลกษณะเฉพาะ วธการนถกใชใน [SDL+18] และถกนำไปเปรยบเทยบประสทธภาพกบวธ Fasst [WMG+16] ผลลพธทไดวธการ Random forest ใหประสทธภาพทสงกวา และงานวจยเกยวกบการตรวจจบสญญาณรบกวนในสญญาณคลนไฟฟาสมองยงไมมหลกฐานยนยนวาวธการใดดทสด ในโครงงานนตองการทดลองวธการทยงมผทดลองนอย
3. CNN เลอกวธการนเนองจากเปนวธการทมความสามารถในการแยกคณลกษณะเฉพาะของขอมลได และยงมงานวจยจำนวนนอยทใชวธการนในการตรวจจบสญญาณรบกวนหนงชองสญญาณ และยงมการนำวธการนไปใชกบการตรวจจบสญญาณรบกวนใน Intracere-bral EEG [NCK+19] แลวใหผลลพธทด ผศกษาจงอยากนำวธการนมาประยกตใชกบการตรวจจบสญญาณรบกวนใน EEG
ทงสามวธเปนวธการตรวจจบบรเวณทมสญญาณรบกวน ตอมาเมอวธการตาง ๆ สามารถตรวจจบบรเวณทมสญญาณรบกวนไดแลว เราจะตองทำการกำจดสญญาณรบกวนในบรเวณนน ตวกรองสาวทซก-โกเลยจะถกใชสำหรบกำจดสญญาณรบกวนในบรเวณทตรวจจบไดวามสญญาณรบกวน ดงทมใชใน [SLS12] และขอดของตวกรองนคอสามารถใชไดกบสญญาณคลนไฟฟาสมองหนงชองสญญาณ
โครงงานฉบบน จะศกษาวธการตรวจจบและกำจดสญญาณรบกวนทเกดจากตา ทเกดขนในการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ โดยโครงงานนจะทดลองบนขอมลสงเคราะห และโครงงานนมเนอหาทศกษาครอบคลมดงน 1) การศกษาคณลกษณะเฉพาะของสญญาณไฟฟาในสมองและสญญาณรบกวน 2) วธการกำจดสญญาณรบกวน 3) วธการประเมนประสทธภาพของวธการกำจดสญญาณรบกวน จากนนจะทำการทดลองเปรยบเทยบวธการกำจดสญญาณรบกวนทไดศกษานนคอวธการ Thresholding, Random forest และ CNN ตอมาจะวเคราะหผลทไดจากการเปรยบเทยบผลลพธเพอนำเสนอวธการทเหมาะสมสำหรบใชกำจดสญญาณรบกวนซงเกดขนในการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ
7
2 ภาพรวมของโครงงาน2.1 วตถประสงค
• เพอศกษาวธการกำจดสญญาณรบกวนทประยกตใชไดกบการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ
• เพอเปรยบเทยบผลลพธและความซบซอนในการคำนวณของวธการกำจดสญญาณรบกวนทแตกตางกน ซงมวธการกำจดสญญาณรบกวนดงตอไปน Thresholding, Random forest และ Convolutional neural network
2.2 ขอบเขตของโครงงาน• การกำจดสญญาณรบกวนจะกำจดสญญาณรบกวนทเกดจากตาเทานน อาท การเคลอนทของตา การกะพรบตา ไมสนใจสญญาณรบกวน
ทเกดจากกลามเนอ และสญญาณรบกวนทเกดจากสญญาณคลนไฟฟาหวใจ
• วธการทจะศกษาสำหรบกำจดสญญาณรบกวนคอ Thresholding, Random forest และ Convolutional neural network
• ขอมลทนำมาใชจะเปนขอมลจำลองการบนทกสญญาณจากเครองบนทกคลนไฟฟาสมองหนงชองสญญาณ และไมมการบนทกสญญาณอางองรวมดวย
• การเปรยบเทยบของวธการกำจดสญญาณรบกวนทเกดจากตา จะทำบนขอมลสงเคราะห
• การเปรยบเทยบประสทธภาพของการกำจดสญญาณรบกวนทเกดจากตา ผศกษาจะเปรยบเทยบดวยความแตกตางของสมประสทธสหสมพนธ และคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ของวธการตาง ๆ
2.3 ผลลพธทคาดหวง• ผลการเปรยบเทยบประสทธภาพของการกำจดสญญาณรบกวนทเกดจากการกะพรบตาในสญญาณคลนไฟฟาสมองดวยวธ 1) Thresh-
olding 2) Random forest 3) CNN
3 หลกการและทฤษฎทเกยวของในโครงงานฉบบนการทดลองจะถกแบงเปน 4 สวน ดงน 1) การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา 2) การแยกหาคณลกษณะเฉพาะและการจดการขอมล 3) การตรวจจบบรเวณทมสญญาณรบกวน 4) การกำจดสญญาณรบกวนในบรเวณทตรวจจบได สวนทหนงแสดงดงรปท 1 สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และสญญาณรบกวนทเกดจากการกะพรบตาทถกสงเคราะหขน จะถกนำมารวมกนไดเปนสญญาณคลนไฟฟาสมองทมสญญาณรบกวน สวนทสอง สวนทสามและสวนทสแสดงดงรปท 2 สญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกนำไปแยกหาคณลกษณะเฉพาะ จากนนจะนำคาคณลกษณะเฉพาะทไดไปใชในการตรวจจบบรเวณทมสญญาณรบกวน บรเวณทมสญญาณรบกวนทตรวจจบไดจะถกนำไปกำจดสญญาณรบกวน ผลลพธทไดจะเปนสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน ในหวขอสดทาย จะอธบายวธการประเมนประสทธภาพของวธการกำจดสญญาณรบกวนทง 3 วธ
3.1 การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตาขอมลทถกนำมาใชกบการทดลองกำจดสญญาณรบกวนทง 3 วธ จะเปนขอมลทถกสงเคราะหขน สญญาณจะถกสงเคราะหโดยมอตราการสมเทากบ 256 เฮรตซ โดยสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะถกสงเคราะหทงหมด 20000 ตวอยาง (trials) แตละตวอยางจะมความยาวของสญญาณ 10 วนาท การสงเคราะหขอมลจะถกแบงออกเปน 2 สวน ดงน
1. การสงเคราะหสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน ในทางประสาทวทยาศาสตร (Neuroscience) คนพบวา สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะมความหนาแนนสเปกตรมกำลง (Power spectral density) เหมอนกบสญญาณรบกวนสชมพ(Pink noise) [BKD06] ซงมความหนาแนนสเปกตรมกำลง ดงสมการ
S(f) =1
f(1)
ดงนนในโครงงานนสญญาณรบกวนสชมพจะถกใชเปนตวแทนของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน การสงเคราะหสญญาณรบกวนสชมพจะเรมจากการนำสญญาณรบกวนสขาว (White noise) ไปผาน Second-order section digital filter of orders 12ผลลพธทไดจะเปนสญญาณรบกวนสชมพทมความหนาแนนสเปกตรมกำลง ดงสมการ (1)
8
2. การสงเคราะหสญญาณรบกวนทเกดจากการกะพรบตา สญญาณรบกวนจะถกสงเคราะหจากสมการ
y[n] = c(e−bn − e−an
)โดยคา a, b และ c จะถกเลอกเพอใหสมการมเงอนไขดงตอไปน
• ขนาดของสญญาณรบกวนจะอยในชวง 90 - 150 µV90 6 y[n] 6 150
• ชวงเวลาของการเกดสญญาณรบกวนจะอยในชวง 0.2 - 2 วนาท0.2× fs 6 n2 − n1 6 2× fs
เมอ n1 คอ จดเรมตนของสญญาณรบกวน (y[n1] = 0), n2 คอ จดทขนาดของสญญาณรบกวนเปน 1 เปอรเซนตของ 90µV (y[n2] = 0.9), fs คอ อตตราสมของสญญาณ
เมอสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และสญญาณรบกวนทเกดจากการกะพรบตาถกสงเคราะหมาเรยบรอยแลว สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนแตละตวอยางจะถกนำมารวมกบสญญาณรบกวนทเกดจากการกะพรบตาแบบสม โดยในแตละตวอยางจะมสญญาณรบกวนรวมอยจำนวน 2-4 สญญาณ ดงรปท 1
ขอมลจะถกแบงเปน 50 เปอรเซนต (10000 ตวอยาง) สำหรบการฝกของวธการตาง ๆ (Training set) 25 เปอรเซนต (5000 ตวอยาง)สำหรบการตรวจสอบ (Validation set) และ 25 เปอรเซนต (5000 ตวอยาง) สำหรบการทดสอบวธการกำจดสญญาณรบกวนวธการตาง ๆ(Test set)
รป 1: ขนตอนการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา
รป 2: ขนตอนการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมอง ทนำเสนอในโครงงานน
3.2 การแยกหาคณลกษณะเฉพาะและการจดการขอมลการเตรยมขอมลจะมขนตอนการแบงสวนของขอมล (Data segmentation) กอนเสมอ นนคอ สญญาณจะถกนำมาแบงออกเปนทอน (epoch)โดยแตละทอนจะมจำนวนจดขอมล N จด เชน x = (x[1], x[2], ..., x[N ]) จากนนสญญาณในแตละทอนจะถกนำไปประมวลผลตอ
9
รป 3: ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน
รป 4: ขนตอนของการกำจดสญญาณรบกวนในบรเวณทตรวจจบได
ซงการเตรยมขอมลของแตละแบบจำลองจะตางกน สำหรบแบบจำลอง Thresholding และ Random forest จะมขนตอนเหมอนกน นนคอขนตอนการแยกหาคณลกษณะเฉพาะ (Features extraction) สวนแบบจำลอง CNN จะเปนขนตอนการจดการขอมลกอนการประมวลผล(Data pre-processing) ดงรปท 3
3.2.1 การแยกหาคณลกษณะเฉพาะ
การแยกหาคณลกษณะเฉพาะของขอมลจะเปนการคำนวณบนขอมลแตละทอนของสญญาณ จะมทงหมด 4 คณลกษณะเฉพาะ
1. พลงงานในยานความถ 0.5-5 เฮรตซ สญญาณในแตละทอนจะถกนำมาแปลงฟเรยรไมตอเนอง ดงสมการ
X(f) =N−1∑n=0
x[n]e−j2πnf
10
โดยท x[n] คอ สญญาณทจะนำมาแปลงฟเรยรไมตอเนอง ณ จดขอมลท n, N คอ จำนวนจดขอมลททำการแปลงฟเรยรไมตอเนองจากนนจะนำผลลพธทไดไปหาความหนาแนนสเปกตรมกำลง ดงสมการ
S(f) = |X(f)|2
ตอมาจะนำความหนาแนนสเปกตรมกำลงไปหาพลงงานในยานความถ 0.5-5 เฮรตซ ดงสมการ
E =5∑
f=0.5
S(f)
ผลลพธทไดคอพลงงานในยานความถ 0.5-5 เฮรตซซงจะใชเปนคณลกษณะเฉพาะในการเรยนรของเครอง ทเลอกใชยานความถนเพราะวาสญญาณรบกวนจากตาจะเกดในยานความถน [LPBS93]
2. ขนาดสญญาณ (Amplitude) สงทสด
3. Kurtosis ของการกระจายตวของสญญาณ สญญาณในแตละทอนจะถกนำมาคำนวณ Kurtosis ของสญญาณ ดงสมการ
Kurtosis = E{[
x−xσ
]4}โดยท x คอสญญาณทจะนำมาหา Kurtosis, x คอคาเฉลยของสญญาณทจะนำมาหา Kurtosis, σ คอสวนเบยงเบนมาตรฐานของสญญาณทจะนำมาหา Kurtosis Kurtosis คอคาทบงบอกถงความโดงของการกระจายตวของสญญาณเมอเทยบกบการกระจายตวแบบปกต Kurtosis จะมคามากเมอสญญาณคลนไฟฟาสมองในบรเวณนนมสญญาณรบกวนทเกดจากการกะพรบตา [SCKS11]
4. คาทางสถตของคาสมประสทธเวฟเลต (Statistical value of wavelet coefficients) สญญาณในแตละทอนจะถกนำมาแปลงเวฟเลตไมตอเนองหลายระดบชน โดยเลอกใช Daubechies wavelet ทมจำนวน vanishing moments ทคาตาง ๆ เชน 1, ,2 ,3 และ4 เปนตน การแปลงเวฟเลตไมตอเนองหลายระดบชนจะมขนตอนคอในระดบชนแรกสญญาณจะถกนำไปผานตวกรองความถตำ และตวกรองความถสง ตอจากนนจะถกลดอตราสมลงสองเทา จากนนในระดบชนถดไปสญญาณทไดจากตวกรองความถตำทถกลดอตราสมลงจะถกนำไปผานตวกรองดวยวธเดยวกนกบระดบชนกอนหนา จะทำตามขนตอนนซำจนถงระดบชนทตองการ ดงรปท 5 จากนน Approximation coefficients และ Detail coefficients ทไดจากการแปลงเวฟเลต จะถกแบงเปนคณลกษณะเฉพาะยอย 2คณลกษณะเฉพาะ
รป 5: ขนตอนการแปลงเวฟเลตหลายระดบชน โดยท x[n] คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน, g[n] คอ ตวกรองความถตำผาน, h[n] คอ ตวกรองความถสงผาน
(a) คาสมประสทธเวฟเลต (Wavelet coefficients) ทถกนำไปหากรอบของสญญาณ Approximation coefficients และ Detailcoefficients ทไดจากการแปลงเวฟเลตจะถกนำไปหากรอบของสญญาณ (Envelope) ดวยวธการกลำสญญาณเชงขนาด [HLH+12]ดงสมการ
AA(k) =√cA(k)2 +H(cA(k))2 และ AD(k) =
√cD(k)2 +H(cD(k))2
โดยท cA(k) คอ Approximation coefficient ทตำแหนง k, cD(k) คอ Detail coefficient ทตำแหนง k, AA(k)คอ กรอบของสญญาณของ Approximation coefficient ทตำแหนง k, AD(k) คอ กรอบของสญญาณของ Detail coef-ficient ทตำแหนง k, H(y) คอ การแปลงฮลเบรทของสญญาณ y
11
(b) คาสมประสทธเวฟเลตทไมถกนำไปหากรอบของสญญาณ
เหตผลทตองแยกการทดลองเปนการทดลองยอยดงกลาวเนองจากการหากรอบของสญญาณใน [CFLE96] แสดงใหเหนวาการหากรอบของสญญาณ จะชวยเพมความแมนยำในการคดแยกเหตการณประเภทตาง ๆ ทเกดในสญญาณคลนไฟฟาสมองไดดมากขน ในการทดลองของโครงงานนจงมสมมตฐานวาการนำการหากรอบของสญญาณไปประยกตใชกบคาสมประสทธเวฟเลต จะชวยทำใหคาสมประสทธเวฟเลตนเปนคณลกษณะเฉพาะทชวยในการทำนายไดดมากขนคาสมประสทธเวฟเลตในขอ (a) และ (b) ของแตละระดบชนจะถกนำไปคำนวณคาทางสถต ดงน
• คาเบยงเบนมาตรฐาน• คา ณ ตำแหนงเปอรเซนตไทลท 75• Kurtosis ของคาสมประสทธเวฟเลต• คามธยฐาน• คาเฉลย• คา ณ ตำแหนงเปอรเซนตไทลท 25
คาทางสถตของคาสมประสทธเวฟเลต ในแตละระดบชนจะถกนำไปใชเปนคณลกษณะเฉพาะของแบบจำลอง Random forest
3.2.2 การจดการขอมลกอนการประมวลผลของวธ Convolutional neural network
การจดการขอมลกอนการประมวลผลในหวขอนจะถกนำไปใชประมวลผลขอมลขาเขาของวธ CNN ซงจะมขนตอน ดงรปท 6 สญญาณแตละทอนจะถกนำไปหาแผนภาพสเปกตรม (Spectrogram) ดวยการแปลงฟเรยรชวงเวลาสน (Short-time Fourier transform) โดยการแปลงฟเรยรชวงเวลาสนจะเปนการเลอน analysis window ทมความยาว P จดขอมลไปตามสญญาณทมจำนวนจดขอมล K จดขอมล และทำการแปลงฟเรยรไมตอเนองใน window นน โดย window จะมการเลอนไปทละR จดขอมลและมการซอนทบกบสญญาณกอนหนาL จดขอมล(R = P − L) ผลลพธของการแปลงฟเรยรชวงเวลาสนจะเปนเมทรกซ ดงสมการ
X(f) = [X1(f) X2(f) ... Xk(f)]
โดยท k =⌊K−LP−L
⌋คอจำนวนคอลมนของเมทรกซ และ Xm(f) คอการแปลงฟเรยรไมตอเนองใน window นน ดงสมการ
Xm(f) =∞∑
n=−∞x[n]g[n−mR]e−j2πnf
เมอ g[n − mR] คอ analysis window จากนนจะนำสมาชกของเมทรกซทไดแตละตวไปหาขนาดและยกกำลงสอง ผลลพธทไดจะเปนแผนภาพสเปกตรม ดงรปท 6
ในโครงงานนจะเลอกใช analysis window ทมความยาว 32 จดขอมล เนองจากชวงเวลาทเกดสญญาณรบกวนทสนทสดคอ 0.2 วนาทความยาว analysis window ทคานจะสามารถเหนการเปลยนแปลงของสเปกตรมทชวงเวลาสน ๆ ได และเลอกจำนวนจดของการแปลงฟเรยรไมตอเนองเทากบ 512 จดขอมล เพอใหไดชวงความถของแผนภาพสเปกตรมอยในชวง 0 - 128 เฮรตซ ซงเปนชวงทครอบคลมยานความถของสญญาณคลนไฟฟาสมองและสญญาณรบกวน และการเพมขนของความถแตละครงเพมขนทละ 0.5 เฮรตซ
เหตผลทเลอกใชแผนภาพสเปกตรมคอสญญาณคลนไฟฟาสมองเมอมสญญาณรบกวนทเกดจากการกะพรบตาขนาดของสญญาณจะเพมขน สงผลใหคาสเปกตรมในยานความถของสญญาณรบกวน (0.5-5 เฮรตซ) สงขนดวย นนคอบรเวณทมสญญาณรบกวนคาสเปกตรมในแผนภาพสเปกตรมกจะสงกวาบรเวณทไมมสญญาณรบกวน และแผนภาพสเปกตรมเปนอาเรยสองมต ซงแบบจำลอง CNN จะม Convolutional layerทไวใชสำหรบสกดคณลกษณะเฉพาะในอาเรยสองมตไดจงเหมาะสมทจะนำมาทดลองใชกบสญญาณคลนไฟฟาสมองทมคณลกษณะเฉพาะทซบซอน
3.3 การตรวจจบบรเวณทมสญญาณรบกวนการตรวจจบบรเวณทมสญญาณรบกวน จะมขนตอนตาง ๆ ดงรปท 3 สำหรบโครงงานนจะมแบบจำลองสำหรบตรวจจบบรเวณทมสญญาณรบกวน 3 แบบจำลอง คอ 1) Thresholding 2) Random forest และ 3) CNN โดยในแบบจำลองแตละหวขอจะอธบายหลกการพนฐานของแบบจำลองนนกอน จากนนจะอธบายวธการนำแบบจำลองนนไปใชกบการตรวจจบบรเวณทมสญญาณรบกวนของโครงงานน แบบจำลองทง3 แบบจำลอง มดงน
12
รป 6: ขนตอนการหาแผนภาพสเปกตรม
3.3.1 Thresholdingแบบจำลองนจะมสมมตฐานสำหรบการตรวจจบบรเวณทมสญญาณรบกวนคอ ถาพลงงานของสญญาณในชวงความถ 0.5 – 5 เฮรตซ ในทอนใดทอนหนง มคาสงกวาคา Threshold คาหนง ทอนนนจะเปนทอนทพบสญญาณรบกวน ดงรปท 7 สำหรบการเลอกใชยานความถ 0.5- 5 เฮรตซเพราะวาสญญาณรบกวนจากตาจะเกดในยานความถน [LPBS93] การหาคา Threshold จะมหลกการดงน สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนในสวนของขอมลทแบงไวสำหรบการฝกจะถกนำมาหาคณลกษณะเฉพาะในแตละทอนตามหวขอท 3.2.1 นนคอพลงงานในยานความถ 0.5 - 5 เฮรตซ จากนนจะนำคาพลงงานของแตละทอนทกคามาเรยงเพอเลอกคา Threshold ซงจะเลอกคาทเปอรเซนไทลท 85, 90, หรอ 95 เพอเปนตวแทนของคาพลงงานสงสดในยานความถ 0.5 - 5 เฮรตซ ของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และใชคาทเลอกเปนคา Threshold ทเลอกใชคาพลงงานสงสดของสญญาณคลนไฟฟาสมองขณะทไมมสญญาณรบกวนเพราะวาคาพลงงานของสญญาณรบกวนควรจะมคาสงกวาคาพลงงานสงสดของสญญาณคลนไฟฟาสมองขณะทไมมสญญาณรบกวน ถาเลอกคาทตำกวานอาจจะทำใหมการกำจดสญญาณคลนไฟฟาสมองไปดวย
เมอแบบจำลองถกเลอกคา Threshold ทเหมาะสมแลว ตอไปจะเปนวธการนำแบบจำลองไปใชจรง โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอน จากนนสญญาณในทอนนนจะถกนำไปแยกหาคณลกษณะเฉพาะตามหวขอท 3.2.1 ซงใชเฉพาะพลงงานในยานความถ0.5 - 5 เฮรตซ คณลกษณะเฉพาะทไดจะถกนำไปใชเปรยบเทยบกบคา Threshold ในแบบจำลองดงรปท 7 ผลลพธทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0 สำหรบทอนทไมมสญญาณรบกวน
รป 7: แบบจำลอง Thresholding
3.3.2 Random forestแบบจำลองนเปนแบบจำลองทพฒนามาจากแบบจำลองตนไมตดสนใจ (Decision tree) ในเบองตนหลกการของ Classification trees [JWHT13]จะมขนตอนดงน
1. จะแบงพนทของคณลกษณะเฉพาะตาง ๆ ออกเปน J พนททไมมการซอนทบกน โดยเรยกแตละพนทยอยวาR1, R2, ..., RJ และเรยกคณลกษณะเฉพาะตาง ๆ วา X1, X2, ..., Xp, p คอ จำนวนคณลกษณะเฉพาะทงหมด
2. สำหรบทก ๆ ขอมลทตกลงไปในพนท Rj กลม (Class) ของขอมลนนจะถกทำนายจากกลมของขอมลฝกทงหมดทมมากสดในพนทRj นน
13
สำหรบในขนตอนท 1 จะแบงพนทของคณลกษณะเฉพาะตาง ๆ ออกเปนพนทยอย R1, R2, ..., RJ โดยพนทยอยทแบงนน จะทำใหคา Gini index นอยทสด โดย Gini index นยามดงสมการ
G =K∑k=1
pmk(1− pmk)
โดยท K คอ จำนวนกลมทงหมด, pmk คอ สดสวนของกลมท k ทอยในพนทท m จะเหนไดวาคา Gini index จะนอยทสดกตอเมอในพนททถกแบงมจำนวนกลมอยเพยงกลมเดยวในพนทนน ซงพนทจะถกแบงไปเรอย ๆ แตในแตละครงของการแบงจะมเงอนไขทพยายามทำให Gini index มคานอยทสด
จากทกลาวมาขางตน แบบจำลอง Random forest เปนการรวมแบบจำลองตนไมตดสนใจ หลาย ๆ แบบจำลอง โดยแตละแบบจำลองของแบบจำลองตนไมตดสนใจ จะสมเลอกคณลกษณะเฉพาะมาเพยงบางสวนเพอสรางแบบจำลองตนไมตดสนใจ [JWHT13] ในแตละตนไมตดสนใจกจะทำนายผลลพธออกมาเปนกลมตาง ๆ จากนนจะทำการเลอกกลมทถกทำนายจำนวนมากทสด เพอเปนผลลพธการทำนายของแบบจำลอง Random forest กระบวนการดงกลาวเปนการลดคาสหสมพนธระหวางตนไมตดสนใจตาง ๆ
ในขนตอนของการฝกแบบจำลอง สญญาณทอนตาง ๆ ของขอมลสวนทแบงไวสำหรบการฝก จะถกตดปาย (label) ไววาทอนใดเปนทอนทมสญญาณรบกวนและทอนใดไมมสญญาณรบกวน จากนนจะนำคณลกษณะเฉพาะของทอนนน ซงไดจากหวขอท 3.2.1 และปายของทอนนนเปนขอมลขาเขาสำหรบฝกแบบจำลอง ผลลพธทไดจากการฝกแบบจำลองกคอแบบจำลองทสามารถตรวจจบหรอจำแนกทอนทมสญญาณรบกวนหรอไมมสญญาณรบกวนได
เมอไดแบบจำลองแลว ตอมาจะเปนวธการนำแบบจำลองไปใชจรง วธการนำไปใชจะเปนดงรปท 8 โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอน จากนนสญญาณในทอนตาง ๆ จะถกนำไปแยกหาคณลกษณะเฉพาะตามหวขอท 3.2.1 คณลกษณะเฉพาะทไดจะถกนำไปใชสำหรบเปนขอมลขาเขาของแบบจำลอง Random forest ผลลพธทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0สำหรบทอนทไมมสญญาณรบกวน
รป 8: แบบจำลอง Random forest
14
3.3.3 Convolutional neural networkขนตอนของการฝกแบบจำลอง สญญาณทอนตาง ๆ ของขอมลสวนทแบงไวสำหรบการฝก จะถกตดปาย ไววาทอนใดเปนทอนทมสญญาณรบกวนและทอนใดไมมสญญาณรบกวน จากนนจะนำสญญาณทอนตาง ๆ ไปทำการจดการขอมลกอนการประมวลผล ซงเปนไปตามหวขอท 3.2.2 ผลลพธทไดจะเปนแผนภาพของสเปกตรม จากนนจะนำแผนภาพทไดและปายทคกบแผนภาพนนเปนขอมลขาเขาสำหรบฝกแบบจำลองผลลพธทไดจากการฝกแบบจำลองกคอแบบจำลองทสามารถตรวจจบหรอจำแนกทอนทมสญญาณรบกวนหรอไมมสญญาณรบกวนได
เมอไดแบบจำลองแลว ตอมาจะเปนวธการนำแบบจำลองไปใชจรง โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอนจากนนสญญาณในทอนตาง ๆ จะถกนำไปทำการจดการขอมลกอนการประมวลผล ซงเปนไปตามหวขอท 3.2.2 แผนภาพทไดจะถกนำไปใชสำหรบเปนขอมลขาเขาของแบบจำลอง CNN โดยในเลยอรแรกของแบบจำลองจะเปนคอนโวลชนเลเยอร เลเยอรนมความสำคญเพราะเปนเลเยอรทไวใชหาคณลกษณะเฉพาะของเมเทรกซขาเขา ผลลพธของแบบจำลองทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0สำหรบทอนทไมมสญญาณรบกวน
3.4 การกำจดสญญาณรบกวนในบรเวณทตรวจจบไดการกำจดสญญาณรบกวนในบรเวณทพบวามสญญาณรบกวน จะใชตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) [SG64] สำหรบกำจดสญญาณรบกวน โดยจะมขนตอนการกำจดสญญาณรบกวน ดงรปท 4 ขอมลแตละจดของสญญาณในบรเวณทพบวามสญญาณรบกวนจะถกประมาณคาในแตละจด ดงสมการ (2) จากนนสญญาณทไดจากการประมาณดวยตวกรองสาวทซก-โกเลยจะถกนำไปลบออกจากบรเวณทพบวามสญญาณรบกวน ผลลพธทไดจะเปนสญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด
z[n] =
m−12∑
i= 1−m2
Ciz[n+ i],m− 1
2≤ n ≤ N − m− 1
2(2)
โดยท z[n] คอ คาทถกประมาณจากจดขางเคยง, N คอ จำนวนจดของขอมลในบรเวณทพบสญญาณรบกวน n = 1, 2, ..., N , m คอจำนวนจดขางเคยงทจะนำมาใชประมาณ z[n], z[n + i] คอ ขอมลขางเคยงทนำมาใชประมาณ z[n], Ci คอ สมประสทธคอนโวลชน(Convolution coefficients) [SG64] โดยตวอยางคาสมประสทธคอนโวลชนสามารถดไดจากตารางท 1
ตาราง 1: ตารางสมประสทธคอนโวลชน
Polynomial Degree Quadratic or Cubic (2 or 3) Quartic or Quintic (4 or 5)Window size 5 7 9 7 9
C−4 -21 15C−3 -2 14 5 -55C−2 -3 3 39 -30 30C−1 12 6 54 75 135C0 17 7 59 131 179C1 12 6 54 75 135C2 -3 3 39 -30 30C3 -2 14 5 -55C4 -21 15
Normalization 35 21 231 231 429
3.5 การประเมนประสทธภาพของวธการกำจดสญญาณรบกวนกำหนดให xi คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวนตวอยางท i, xi คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนตวอยางท i, xi คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจดตวอยางท i การประเมนประสทธภาพของวธการกำจดสญญาณรบกวนหนงๆ จะใชดชนดงตอไปน
1. กำหนดให ρi คอ คาสมประสทธสหสมพนธระหวาง xi กบ xi และ ρi คอ คาสมประสทธสหสมพนธระหวาง xi กบ xi ดงนนเราจะใชดชนความแตกตางของสมประสทธสหสมพนธ
∆ρi = ρi − ρi
15
เพอแสดงวาหลงจากทสญญาณรบกวนถกกำจด ความมลกษณะรวมกนของ xi กบ xi มมากขนหรอนอยลง เมอเทยบกบกอนสญญาณรบกวนถกกำจด ถา∆ρi มคาเปนบวกแสดงวา xi มลกษณะทางกายภาพคลายกบ xi มากกวาตอนทสญญาณรบกวนยงไมถกกำจดนนคอบรเวณนนมสญญาณรบกวนจรง ๆ แตถา ∆ρi มคาเปนลบแสดงวา xi มลกษณะทางกายภาพคลายกบ xi นอยกวาตอนทสญญาณรบกวนไมถกกำจดนนคอบรเวณนนไมควรถกกำจดสญญาณรบกวนเพราะบรเวณนนอาจจะไมมสญญาณรบกวนอย
2. คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน (Normalized mean square error, NMSE)
NMSE = 1M
M∑i=1
(∑Kn=1 |xi[n]− xi[n]|2∑K
n=1 |xi[n]|2
)
คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานมไวใชหาความคลาดเคลอนระหวางสญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจดกบสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน โดยK คอ จำนวนจดของขอมลในหนงตวอยางซงเทากบ 2560 จด,M คอจำนวนตวอยางทงหมดในขอมลชดทดสอบ
4 ผลลพธของโครงงานการทดลองจะถกแบงเปน 2 การทดลอง ดงน 1) แบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล 2) แบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล เหตผลทเลอกจำนวนจดในแตละทอนตามจำนวนดงกลาวเพราะวาสญญาณรบกวนทเกดจากตาจะเกดในยานความถ 0.5 - 5 เฮรตซ และการบนทกขอมลมอตราการสมเทากบ256 เฮรตซ ดงนนจำนวนจดในหนงทอนทครอบคลมการเกดสญญาณรบกวนหนงครงคอ 512 จดขอมล จงทำการทดลองท 512 จดขอมลและ 256 จดขอมลซงเปนความยาวทอนทแคบลง ผลการทดลองจะถกแบงเปน 3 สวนหลก ดงน 1) การคดเลอกคณลกษณะเฉพาะ 2) การตรวจจบบรเวณทมสญญาณรบกวน 3) การกำจดสญญาณรบกวนในบรเวณทตรวจจบได
4.1 การคดเลอกคณลกษณะเฉพาะในหวขอนจะแสดงผลการเปรยบเทยบคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวนของพลงงานในยานความถ0.5-5 เฮรตซ, ขนาดสญญาณทสงทสด และ Kurtosis ของการกระจายตวของสญญาณ ถดมาคาความสำคญจะถกนำมาใชสำหรบการคดเลอกคณลกษณะเฉพาะทไดจากการหาคาทางสถตของคาสมประสทธเวฟเลต และในสวนสดทายจะแสดงแผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน
การเปรยบเทยบคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน1. พลงงานในยานความถ 0.5-5 เฮรตซ ผลลพธจากฮสโตแกรมของพลงงานในยานความถ 0.5-5 เฮรตซ ดงรปท 9(a) แสดงใหเหนวาใน
บรเวณทมสญญาณรบกวนสวนใหญแลวคาพลงงานในยานความถ 0.5-5 เฮรตซ จะมคามากกวาบรเวณทไมมสญญาณรบกวน เนองจากสญญาณรบกวนจะทำใหขนาดของสญญาณมคาสงขนสงผลใหพลงงานมคาสงมากขนตามไปดวย คาพลงงานในยานนจงเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน
2. ขนาดสญญาณทสงทสด ผลลพธจากฮสโตแกรมของขนาดสญญาณทสงทสด ดงรปท 9(b) แสดงใหเหนวาขนาดสญญาณทสงทสดของบรเวณทมสญญาณรบกวนจะมคามากกวาขนาดสญญาณทสงทสดของบรเวณทไมมสญญาณรบกวน ซงเปนไปตามลกษณะทางกายภาพของสญญาณทสามารถสงเกตเหนได ขนาดสญญาณทสงทสดนจงเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน
3. Kurtosis ของการกระจายตวของสญญาณ ผลลพธจากฮสโตแกรมของ Kurtosis ของการกระจายตวของสญญาณ ดงรปท 9(c) แสดงใหเหนวา Kurtosis ในบรเวณทมสญญาณรบกวนจะมคากระจายตงแตคาศนยไปยงคามากกวาศนย แต Kurtosis ในบรเวณทไมมสญญาณรบกวนจะอยแคบรเวณศนย ซงฮสโตแกรมของทงสองบรเวณซอนทบกนทำใหไมสามารถแยกแยะไดอยางชดเจน Kurtosis ของการกระจายตวของสญญาณจงไมเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน
16
0 100 200 300 400 500Values
0
20
40
60
80
100
120
140
Coun
t
Histogram of EEG signal's energy85th percentile90th percentile95th percentileno artifactartifact
(a) พลงงานในยานความถ 0.5-5 เฮรตซ
50 100 150 200 250Values
0
250
500
750
1000
1250
1500
1750
2000
Coun
t
Histogram of EEG signal's peakno artifactartifact
(b) ขนาดสญญาณทสงทสด
0.0 2.5 5.0 7.5 10.0 12.5 15.0 17.5Values
0
20
40
60
80
100
120
140
160
Coun
t
Histogram of EEG signal's kurtosisno artifactartifact
(c) Kurtosis ของการกระจายตวของสญญาณ
รป 9: ฮสโตแกรมแสดงการเปรยบเทยบคาคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวน กบคาคณลกษณะเฉพาะในบรเวณทไมมสญญาณรบกวน โดยท สสม คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และสนำเงน คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน
17
การคดเลอกคณลกษณะเฉพาะดวยคาความสำคญ
หวขอนจะเปนการคดเลอกคณลกษณะเฉพาะทไดจากแบบจำลอง random forest เมอเลอกใชคณลกษณะเฉพาะทไดจากการหาคาทางสถตของคาสมประสทธเวฟเลต ผลลพธจากกราฟของคาความสำคญ (feature importances) ดงรปท 10 แสดงใหเหนวาคณลกษณะเฉพาะทมความสำคญเปนอนดบตน ๆ ไดแก
• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน
• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน
ในการแบงโนดของแบบจำลองแตละครง คณลกษณะเฉพาะเหลานจะทำใหคา Gini index มคานอยทสด คณลกษณะเฉพาะเหลานจงถกเลอกใชในแบบจำลอง random forest
0.00 0.02 0.04 0.06 0.08 0.10 0.12 0.14
p_25_coef_D3p_75_coef_D3p_25_coef_D4mean_coef_D3mean_coef_D2p_75_coef_D4p_25_coef_D2mean_coef_D4
median_coef_D3median_coef_D2median_coef_D1median_coef_D4mean_coef_D1p_75_coef_D2
kurtosis_coef_D1median_coef_D5
p_75_coef_D5median_coef_D6
p_75_coef_D1p_25_coef_D1p_25_coef_D5p_25_coef_D6p_75_coef_D6
kurtosis_coef_D2std_coef_D2
mean_coef_D5std_coef_D3std_coef_D1
mean_coef_D6median_coef_A6kurtosis_coef_A6kurtosis_coef_D3
p_25_coef_A6p_75_coef_A6
kurtosis_coef_D6mean_coef_A6
std_coef_D4kurtosis_coef_D4kurtosis_coef_D5
std_coef_A6std_coef_D5std_coef_D6
Feature importances
รป 10: Feature importances โดยท std_coef_X คอคาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในระดบชน X, kurtosis_coef_Xคอ Kurtosis ของคาสมประสทธเวฟเลตในระดบชน X, mean_coef_X คอคาเฉลยของคาสมประสทธเวฟเลตในระดบชน X, me-dian_coef_X คอคามธยฐานของคาสมประสทธเวฟเลตในระดบชน X, p_75_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 75 ของคาสมประสทธเวฟเลตในระดบชน X, p_25_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 25 ของคาสมประสทธเวฟเลตในระดบชน X
แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวนแผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน ดงรปท 11 แสดงใหเหนวาเมอสญญาณมการเปลยนแปลงไปโดยมสญญาณรบกวนทเกดจากการกะพรบตาเกดขน บรเวณนนจะมการเปลยนแปลงคาสเปกตรมในยานความถของสญญาณรบกวน (0.5-5 เฮรตซ) โดยจะมคาสงกวาบรเวณทไมมสญญาณรบกวน แผนภาพสเปกตรมดงกลาวจงเหมาะสมสำหรบนำไปใชเปนขอมลขาเขาของแบบจำลองCNN เพอใชในการตรวจจบบรเวณทมสญญาณรบกวน
4.2 การตรวจจบบรเวณทมสญญาณรบกวนการตรวจจบบรเวณทมสญญาณรบกวนจะถกแบงเปน 4 วธ ดงน 1) Thresholding 2) Random forest 3) CNN 4) Artificial neuralnetwork (ANN) ผลลพธทจะแสดงจะเปนการเปรยบเทยบระหวางการแบงสญญาณใหจำนวนในทอนเทากบ 256 จดขอมล และ 512 จด
18
0 100 200 300 400 500Samples
−75
−50
−25
0
25
50
75
100Am
plitu
de (u
V)
(a) สญญาณคลนไฟฟาสมองทมสญญาณรบกวน
0.25 0.50 0.75 1.00 1.25 1.50 1.75Time (seconds)
0
20
40
60
80
100
120
Freq
uenc
y (H
z)
Spectrogram
(b) แผนภาพสเปกตรม
รป 11: แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน
ขอมล เนองจากมสมมตฐานคอการแบงจำนวนจดขอมลทแตกตางกนจะสงผลถงสมรรถนะทแตกตางกน โดยการแบงจำนวนจดขอมลใหมากพอทจะครอบคลมบรเวณทมสญญาณรบกวนหนงสญญาณรบกวนนนคอ 512 จดขอมล นาจะสงผลใหไดสมรรถนะทดกวาการแบงจดขอมล256 จดขอมล และการทำนายจะมคา 1 เมอแบบจำลองทำนายวาบรเวณนนมสญญาณรบกวน คา 0 เมอแบบจำลองทำนายวาบรเวณนนไมมสญญาณรบกวน
4.2.1 Thresholdingในขนตอนแรกของวธ Thresholding สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนในสวนของขอมลทแบงไวสำหรบการฝกจะถกนำมาหาคณลกษณะเฉพาะในแตละทอนนนคอ พลงงานในยานความท 0.5 - 5 เฮรตซ จากนนจะนำคาพลงงานของแตละทอนทกคามาเรยงเพอเลอกคา threshold ซงจะเลอกคาทเปอรเซนไทลท 85, 90, หรอ 95 ดงรปท 9(a) เพอเปนตวแทนของคาพลงงานสงสดในยานความถ 0.5 - 5เฮรตซ ของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน จากนนพจารณา Receiver operating characteristic curve (ROC curve)เพอดประสทธภาพของการตรวจจบบรเวณทมสญญาณรบกวน จดตาง ๆ บน ROC curve คอคา threshold ทแตกตางกนจากคานอยไปยงคามาก เราจะเลอกคา threshold จากคาทเปอรเซนไทลตาง ๆ ทไดกอนหนานเพอไปใชพจารณาบน ROC curve
1. ROC curve ดงรปท 12 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา Threshold ทเปอรเซนไทลตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทตำกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทเปอรเซนไทลเดยวกน
19
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.0
0.2
0.4
0.6
0.8
1.0
True
pos
itive
rate
Receiver operating characteristic curve (Thresholding)
Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)85th percentile90th percentile95th percentile85th percentile90th percentile95th percentile
รป 12: Receiver operating characteristic curve ของวธ Thresholding ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)
2. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา Threshold คาทเปอรเซนไทลท 90 ดงรปท 13 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 12 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
Thresholding (Windowlength = 1 seconds (256 samples/epoch))
predicted class actual class
(a) 256 จดขอมล ใน 1 ทอน
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
Thresholding (Windowlength = 2 seconds (512 samples/epoch))
predicted class actual class
(b) 512 จดขอมล ใน 1 ทอน
รป 13: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding เมอแบงทอนขอมลไมเทากน
4.2.2 Random forestแบบจำลอง Random forest มคณลกษณะเฉพาะทถกนำมาเลอกใช ดงหวขอท 3.2.1 คณลกษณะเฉพาะตอไปน
• พลงงานในยานความถ 0.5-5 เฮรตซ
• ขนาดสญญาณทสงทสด
เปนคณลกษณะเฉพาะทเหมาะสมสำหรบนำมาใชในการทำนายบรเวณทมสญญาณรบกวน ซงแสดงไดดงหวขอท 4.1 ในสวนของคาทางสถต
20
ของคาสมประสทธเวฟเลต สญญาณจะถกนำไปแปลงเวฟเลตไมตอเนองหลายระดบชน โดยเลอกจำนวนระดบชนทแตกตางกน และเลอกใชDaubechies wavelet ทมจำนวน vanishing moments ทคาตาง ๆ เชน 1, 2 ,3 และ 4 เปนตน จากนนการทดลองจะถกแบงยอยดงน
• คาสมประสทธเวฟเลตในแตละระดบชนจะถกนำไปหากรอบของสญญาณ จากนนจะถกนำไปคำนวณคาทางสถต
• คาสมประสทธเวฟเลตในแตละระดบชนทไมถกนำไปหากรอบของสญญาณ จากนนจะถกนำไปคำนวณคาทางสถต
เหตผลทตองแยกการทดลองเปนการทดลองยอยดงกลาวเนองจากการหากรอบของสญญาณใน [CFLE96] แสดงใหเหนวาการหากรอบของสญญาณ จะชวยเพมความแมนยำในการคดแยกเหตการณประเภทตาง ๆ ทเกดในสญญาณคลนไฟฟาสมองไดดมากขน ในการทดลองของโครงงานนจงมสมมตฐานวาการนำการหากรอบของสญญาณไปประยกตใชกบคาสมประสทธเวฟเลต จะชวยทำใหคาสมประสทธเวฟเลตนเปนคณลกษณะเฉพาะทชวยในการทำนายไดดมากขน
เมอพจารณาทคาความแมนยำของการทำนายจะพบวา สำหรบการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล การแปลงเวฟเลตไมตอเนองไปถงระดบชนท 5 และจำนวน vanishing moment เทากบ 3 และไมมการนำคาสมประสทธเวฟเลตในแตละระดบชนไปหากรอบของสญญาณ ใหคาความแมนยำในการทำนายสงทสด และสำหรบการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล การแปลงเวฟเลตไมตอเนองไปถงระดบชนท 6 และจำนวน vanishing moment เทากบ 3 และไมมการนำคาสมประสทธเวฟเลตในแตละระดบชนไปหากรอบของสญญาณ ใหคาความแมนยำในการทำนายสงทสด ดงตารางท 8 และจำนวน vanishing moment เทากบ3 เปนจำนวนททำให Daubechies wavelet สอดคลองกบลกษณะทางกายภาพของสญญาณรบกวนทเกดจากการกะพรบตา และทเลอกระดบชนท 5 และ 6 เนองจากตองการแปลงเวฟเลตไปยงระดบชนสง ๆ เพราะวาถายงระดบชนสงกจะยงอธบายสญญาณความถตำไดด แตยงมขอจำกดของจำนวนจดในทอนอยจงเลอกระดบชนนเปนระดบชนสงสด ในขนตอนนคาทางสถตทถกคำนวณจากคาสมประสทธเวฟเลตในแตละระดบชนจะมดงน
• คาเบยงเบนมาตรฐาน
• คา ณ ตำแหนงเปอรเซนตไทลท 75
• Kurtosis ของคาสมประสทธเวฟเลต
• คามธยฐาน
• คาเฉลย
• คา ณ ตำแหนงเปอรเซนตไทลท 25
คาทางสถตตาง ๆ จะถกคดเลอกดวยคาความสำคญ ดงหวขอท 4.1 ซงคาทางสถตทถกเลอกคอ
• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน
• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน
จากผลการทดลองขางตน คณลกษณะเฉพาะทถกเลอกใชมดงน
• พลงงานในยานความถ 0.5-5 เฮรตซ
• ขนาดสญญาณทสงทสด
• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน
• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน
เมอไดคณลกษณะเฉพาะสำหรบฝกแบบจำลองแลว ตอมาคอขนตอนการปรบคา hyperparameter ของแบบจำลอง random forestโดยคา hyperparameter จะถกปรบจนโดยวธ grid search คา hyperparameter ทถกใชในวธ grid search เปนดงตารางท 9 ผลลพธคาของ hyperparameter ทไดจาก grid search ทใหคาความแมนยำสงสดจะมคา ดงตารางท 2
แตละจดบน ROC curve ของวธ Random forest, CNN และ ANN จะสอดคลองกบคา threshold ทตงขนไว เทยบกบคาความนาจะเปนทแบบจำลองจะทำนายวาเปนบรเวณทมสญญาณรบกวน ถาคาความนาจะเปนทแบบจำลองทำนายออกมามคาตำกวาคา thresh-old บรเวณนนจะถกทำนายวาเปนบรเวณทไมมสญญาณรบกวน แตถาคาความนาจะเปนทแบบจำลองทำนายออกมามคาสงกวาหรอเทากบthreshold บรเวณนนจะถกทำนายวาเปนบรเวณทมสญญาณรบกวน จากนนจะนำคาททำนายไดไปคำนวณหาคา TPR และ FPR เพอสรางROC curve
ผลลพธการประเมนประสทธภาพของแบบจำลองจะแสดงดงหวขอตอไปน
21
ตาราง 2: คาของ hyperparameter ทถกเลอกใชในแบบจำลอง Random forest
คาของ hyperparameter แตละชนดn_estimators 200
criterion ”gini”max_depth 20
max_features ”sqrt”min_samples_leaf 2min_samples_split 2
1. ROC curve ดงรปท 14 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทใกลเคยงกบการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold คาเดยวกน
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.5
0.6
0.7
0.8
0.9
1.0
True positive ra
te
Receiver operating characteristic curve (Random forest)
Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%
รป 14: Receiver operating characteristic curve ของวธ Random forest ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)
2. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 15 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 14 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล
22
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
Random forest (Windowlength = 1 seconds (256 samples/epoch))
predicted class actual class
(a) 256 จดขอมล ใน 1 ทอน
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
Random forest (Windowlength = 2 seconds (512 samples/epoch))
predicted class actual class
(b) 512 จดขอมล ใน 1 ทอน
รป 15: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Random forest เมอแบงทอนขอมลไมเทากน
4.2.3 Convolutional neural network1. ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN ดงรปท 16 การปรบโครงสรางของแบบจำลองจะคอย ๆ เพมจำนวนชนของ
Convolutional layer และจำนวนตวกรอง จากนนจะคอย ๆ เพมจำนวนชนของ Dense layer จาก 2 ชนไปยง 3 ชน และในระหวางการเพมชนกจะมการเพมจำนวนโนดในแตละชน ดงตารางท 10 โดยโครงสรางของแบบจำลองทเลอกใชจะเปน ดงตารางท 3 แบบจำลองนใหคา validation loss ตำทสด และ test accuracy สงทสด ดงรปท 16
1 2 3 4 5 6 7 8 9 10 11 12 13 14Model number
0.40
0.41
0.42
0.43
0.44
0.45
Valid
atio
n lo
ss
0.79
0.80
0.81
0.82
0.83Te
st a
ccur
acy
Variation of CNN's model complexity
รป 16: ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN
ตาราง 3: โครงสรางของแบบจำลอง CNN ทเลอกใช โดยท สสม คอ Convolutional layer ทมตวกรองขนาด 3× 3 จำนวนตาง ๆ, สเขยวคอ Max pooling layer และ สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ
layer/node layer1 layer2 layer3 layer4 layer5 layer6 layer7 layer8model 7 64 filters 64 filters Maxpooling 128 filters 128 filters Maxpooling 4096 4096
2. ROC curve ดงรปท 17 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดย
23
การทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold ทคาเดยวกน
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.2
0.4
0.6
0.8
1.0True positive ra
te
Receiver operating characteristic curve (CNN)
Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%
รป 17: Receiver operating characteristic curve ของวธ CNN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)
3. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 18 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 17 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
CNN (Windowlength = 1 seconds (256 samples/epoch))
predicted class actual class
(a) 256 จดขอมล ใน 1 ทอน
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
CNN (Windowlength = 2 seconds (512 samples/epoch))
predicted class actual class
(b) 512 จดขอมล ใน 1 ทอน
รป 18: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง CNN เมอแบงทอนขอมลไมเทากน
4.2.4 Artificial neural networkผลลพธของวธ ANN ในหวขอนเปนการทดลองททำเพมขนนอกเหนอจากขอบเขตของโครงงาน ขอมลขาเขาของแบบจำลอง ANN จะใชคณลกษณะเฉพาะเดยวกบทใชในแบบจำลอง Random forest นนคอ
• พลงงานในยานความถ 0.5-5 เฮรตซ
24
• ขนาดสญญาณทสงทสด
• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน
• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน
สมมตฐานคอแบบจำลอง ANN ทใชขอมลอยางอนดวยนอกเหนอจากสเปกตรมของสญญาณจะใหการทำนายทแมนยำกวาแบบจำลอง CNNทใชขอมลขาเขาเฉพาะแผนภาพสเปกตรม
1. ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN ดงรปท 19 การปรบโครงสรางของแบบจำลองจะคอย ๆ เพมจำนวนชนของDense layer จาก 1 ชนไปยง 5 ชน และในระหวางการเพมชนกจะมการเพมจำนวนโนดในแตละชน ดงตารางท 11 โดยโครงสรางของแบบจำลองทเลอกใชจะเปน ดงตารางท 4 แบบจำลองนใหคา validation loss ตำทสด และ test accuracy สงทสด ดงรปท 19
1 2 3 4 5 6 7 8 9 10111213141516171819202122232425262728293031Model number
0.32
0.34
0.36
0.38
Valid
atio
n lo
ss
0.84
0.85
0.86
0.87
0.88
0.89
Test
acc
urac
y
Variation of ANN's model complexity
รป 19: ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN
ตาราง 4: โครงสรางของแบบจำลอง ANN ทเลอกใช โดยท สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ
layer/node layer1 layer2 layer3 layer4 layer5model 19 256 128 64 64 64
2. ROC curve ดงรปท 20 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold คาเดยวกน
3. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 21 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 20 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล
25
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1.0
True
pos
itive
rate
Receiver operating characteristic curve (ANN)
Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%
รป 20: Receiver operating characteristic curve ของวธ ANN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
ANN (Windowlength = 1 seconds (256 samples/epoch))
predicted class actual class
(a) 256 จดขอมล ใน 1 ทอน
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
0 500 1000 1500 2000 25000.0
0.5
1.0
ANN (Windowlength = 2 seconds (512 samples/epoch))
predicted class actual class
(b) 512 จดขอมล ใน 1 ทอน
รป 21: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง ANN เมอแบงทอนขอมลไมเทากน
4.2.5 สมรรถนะการตรวจจบสญญาณรบกวน
การเปรยบเทยบ ROC curve ดงรปท 22 จะเหนไดวาทงกรณแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมลและการแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล แบบจำลองทมคา TPR สงทสดในสำหรบทกคา FPR คอแบบจำลอง Random forest ลองลงมาคอแบบจำลองANN ทเลอกใชคณลกษณะเฉพาะเหมอนกบแบบจำลอง Random forest และแบบจำลองทมคา TPR รองลงมาคอแบบจำลอง CNN ซงใชแผนภาพสเปกตรมเปนขอมลขาเขา แสดงใหเหนวาขอมลแผนภาพสเปกตรมของสญญาณเพยงอยางเดยวไมเพยงพอตอการทำนายบรเวณทมสญญาณรบกวน คณลกษณะเฉพาะอน ๆ จะตองถกใชรวมดวยเพอเพมความสามารถของแบบจำลอง และแบบจำลองทมคา TPR ตำสดเปนอนดบสดทายกคอ Thresholding ซงเปนไปตามสมมตฐานเพราะแบบจำลองนถกเลอกใชเปนแบบจำลองฐาน
การตรวจจบบรเวณทมสญญาณรบกวนจะมผลลพธคาความแมนยำของการตรวจจบ ดงตารางท 5 จะเหนไดวาในทกแบบจำลองคาความแมนยำของการตรวจจบโดยแบงขอมลในหนงทอนเทากบ 512 จดขอมล จะมคาความแมนยำมากกวาการแบงขอมลในหนงทอนเทากบ 256จดขอมล ทเปนแบบนมสาเหตมาจากสญญาณรบกวนทเกดจากการกะพรบตามชวงเวลาการเกดอยในชวง 0.2 - 2 วนาท (52 - 512 จดขอมล)ซงขนาดของสญญาณทสงจะเกดในชวงตนของสญญาณรบกวนแลวคอย ๆ ลดลงตามเวลา การแบงขอมลในหนงทอนเทากบ 256 จดขอมลจง
26
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.0
0.2
0.4
0.6
0.8
1.0True positive ra
te
Receiver operating characteristic curve (Windowlength = 1 seconds (256 samples/epoch))
ThresholdingRandom forestCNNANN
(a) 256 จดขอมล ใน 1 ทอน
0.0 0.2 0.4 0.6 0.8 1.0False positive rate
0.0
0.2
0.4
0.6
0.8
1.0
True positive ra
te
Receiver operating characteristic curve (Windowlength = 2 seconds (512 samples/epoch))
ThresholdingRandom forestCNNANN
(b) 512 จดขอมล ใน 1 ทอน
รป 22: การเปรยบเทยบ ROC curve ของแบบจำลอง Thresholding, Random forest, CNN และ ANN
เปนการแบงสญญาณยอยจนเกนไปทำใหขณะแบงสญญาณอาจจะไปแบงตรงทเปนสวนทายของสญญาณรบกวนซงบรเวณนนมขนาดของสญญาณทนอย ทำใหสญญาณบรเวณนนไมไดแสดงถงคณลกษณะของสญญาณรบกวน แบบจำลองจงทำนายผด การแบงขอมลในหนงทอนเทากบ 512จดขอมลซงครอบคลมความยาวของชวงเวลาการเกดสญญาณรบกวนทงหมดจงใหคาความแมนยำทสงกวา
ตาราง 5: สมรรถนะการตรวจจบสญญาณรบกวนเมอเปรยบเทยบจากทกวธ
Test Accuracy256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอน
Thresholding 0.81086 0.78948Random forest 0.87936 0.91212CNN 0.81688 0.83992ANN 0.87072 0.89868
4.3 การกำจดสญญาณรบกวนในบรเวณทตรวจจบไดในหวขอนจะแสดงการเลอก parameter ของตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) ถดมาจะแสดงผลลพธจากการกำจดสญญาณรบกวน และในสวนตอมาจะแสดงคาความแตกตางของคาสมประสทธสหสมพนธ ในสวนสดทายจะแสดงสมรรถนะการกำจดสญญาณรบกวนผลลพธทจะแสดงจะเปนการเปรยบเทยบระหวางการแบงสญญาณใหจำนวนในทอนเทากบ 256 จดขอมล และ 512 จดขอมล ของวธตาง ๆ
4.3.1 การปรบคา parameter ของ SavitzkyGolay filterตวกรองสาวทซก-โกเลยจะม parameter ทตองปรบคอ 1) อนดบของพหนาม (Polynomial degree) 2) ความยาวของวนโดว (Windowlength) ผลลพธจากการกำจดสญญาณรบกวนทประเมนดวยคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานโดยเลอกใช parameter ตางๆ แสดงดงรปท 23 จะเหนไดวา การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล จะใหคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานนอยกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานทตำทสด 3 อนดบ แสดงดงตารางท 6 อนดบของพหนามเทากบ 3 ความยาวของวนโดวเทากบ 41 จะถกเลอกใชสำหรบการทดลองทแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล และอนดบของพหนามเทากบ 3 ความยาวของวนโดวเทากบ 61 จะถกเลอกใชสำหรบการทดลองทแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ซงเปนอนดบของพหนามทสอดคลางกบลกษณะทางกายภาพของสญญาณรบกวน และสอดคลองกบงานวจย [SLS12]
4.3.2 ตวอยางผลลพธจากการกำจดสญญาณตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ Thresholding โดยใชคา threshold คาทเปอรเซนไทลท 90 ดงรปท 24(a) และรปท 24(b) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ Random forest ดงรปท 24(c) และรปท 24(d) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ CNN ดงรปท 24(e) และรปท 24(f) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ ANN ดงรป
27
50 100 150 200 250Window length
0.25
0.30
0.35
0.40
0.45
0.50No
rmalize
d mea
n sq
uare erro
r
Epoch time = 1 second (256 samples/epoch)Degree = 1Degree = 2Degree = 3Degree = 4Degree = 5Degree = 6Degree = 7
(a) 256 จดขอมล ใน 1 ทอน
50 100 150 200 250Window length
0.25
0.30
0.35
0.40
0.45
0.50
Norm
alize
d mea
n sq
uare erro
r
Epoch time = 2 second (512 samples/epoch)
Degree = 1Degree = 2Degree = 3Degree = 4Degree = 5Degree = 6Degree = 7
(b) 512 จดขอมล ใน 1 ทอน
รป 23: คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทคาอนดบและความยาวของฟลเตอรคาตาง ๆ
ตาราง 6: คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทมคาตำทสด 3 อนดบ
256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอนDegree Window length NMSE Degree Window length NMSE
1 21 0.2396 1 31 0.34412 41 0.2492 2 61 0.36033 41 0.2497 3 61 0.3613
ท 24(g) และรปท 24(h) โดยวธ Random forest, CNN และ ANN จะใชคา threshold เทากบ 50 เปอรเซนต จากผลดงกลาวจะเหนไดวาผลลพธการกำจดสญญาณรบกวนใกลเคยงกน แตการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะมการกำจดสญญาณรบกวนในบรเวณทจรง ๆ แลวบรเวณนนไมมสญญาณรบกวน มากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เนองจากชวงเวลาในการเกดสญญาณรบกวนคอชวง 0.2-2 วนาท การแบงจดขอมล 512 จดขอมล จะครอบคลมเวลา 2 วนาท ทำใหถาเกดสญญาณรบกวนทเกดขนยาวนอยกวา 2 วนาทมาก ๆ ในทอนนนจะมบรเวณทไมมสญญาณรบกวนอยเยอะ ตวกรองอาจจะไปประมาณสญญาณคลนไฟฟาสมองทไมใชสญญาณรบกวนนนแลวกำจดออก ทำใหสญเสยขอมลบางสวนของสญญาณคลนไฟฟาสมอง
4.3.3 คาความแตกตางของคาสมประสทธสหสมพนธ (∆ρ = ρ− ρ)∆ρ มสมมตฐานคอ ถา ∆ρ มคาเปนบวก แสดงวาสญญาณทถกกำจดสญญาณรบกวน มลกษณะทางกายภาพคลายกบสญญาณไฟฟาสมองทไมมสญญาณรบกวนมากกวาตอนทสญญาณรบกวนยงไมถกกำจด นนคอบรเวณนนมสญญาณรบกวนจรง ๆ แตถา ∆ρ มคาเปนลบ แสดงวาสญญาณทถกกำจดสญญาณรบกวน มลกษณะทางกายภาพคลายกบสญญาณไฟฟาสมองทไมมสญญาณรบกวนนอยกวาตอนทสญญาณรบกวนยงไมถกกำจด นนคอบรเวณนนไมควรถกกำจดสญญาณรบกวนเพราะบรเวณนนอาจจะไมมสญญาณรบกวนอย ∆ρ ของวธ Thresholding,Random forest, CNN และ ANN ดงรปท 25 แสดงใหเหนวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล สวนใหญแลวผลลพธของ ∆ρ มคาทเปนบวกมากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล นนคอการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล สญญาณคลนไฟฟาสมองทถกกำจดสญญาณรบกวนมคณลกษณะทางกายภาพทคลายกบสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน มากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล และจะเหนไดวา∆ρ ของวธ Ran-dom forest จะมจำนวนตวอยางทม ∆ρ เปนบวกมากกวา ∆ρ ของวธอน ๆ เนองจากคาความแมนยำในการทำนายบรเวณทมสญญาณรบกวนของวธ Random forest มคามากกวาวธอน ๆ แบบจำลองอน ๆ กจะมจำนวนตวอยางทม ∆ρ เปนบวกลดลงตามความแมนยำในการทำนายบรเวณทมสญญาณรบกวน ของแบบจำลองนน ๆ นนคอแบบจำลอง Thresholding จะมจำนวนตวอยางทม ∆ρ เปนบวกนอยทสด
28
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Ampl
itude
(uV)
0 400 800 1200 1600 2000 2400
0
100
Thresholding (Windowlength = 1 seconds (256 samples/epoch))
contaminated EEG pure EEG cleaned EEG
(a) Thresholding : 256 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Ampl
itude
(uV)
0 400 800 1200 1600 2000 2400
0
100
Thresholding (Windowlength = 2 seconds (512 samples/epoch))
contaminated EEG pure EEG cleaned EEG
(b) Thresholding : 512 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Amplitu
de (u
V)
0 400 800 1200 1600 2000 2400
0
100
Random fore t (Windowlength = 1 econd (256 ample /epoch))
contaminated EEG pure EEG cleaned EEG
(c) Random forest : 256 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Amplitu
de (u
V)
0 400 800 1200 1600 2000 2400
0
100
Random fore t (Windowlength = 2 econd (512 ample /epoch))
contaminated EEG pure EEG cleaned EEG
(d) Random forest : 512 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Amplitu
de (u
V)
0 400 800 1200 1600 2000 2400
0
100
CNN (Windowlength = 1 econd (256 ample /epoch))
contaminated EEG pure EEG cleaned EEG
(e) CNN : 256 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Amplitu
de (u
V)
0 400 800 1200 1600 2000 2400
0
100
CNN (Windowlength = 2 econd (512 ample /epoch))
contaminated EEG pure EEG cleaned EEG
(f) CNN : 512 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Ampl
itude
(uV)
0 400 800 1200 1600 2000 2400
0
100
ANN (Windowlength = 1 seconds (256 samples/epoch))
contaminated EEG pure EEG cleaned EEG
(g) ANN : 256 จดขอมล ใน 1 ทอน
0 400 800 1200 1600 2000 2400−100
0
100
0 400 800 1200 1600 2000 2400
0
100
200
Ampl
itude
(uV)
0 400 800 1200 1600 2000 2400
0
100
ANN (Windowlength = 2 seconds (512 samples/epoch))
contaminated EEG pure EEG cleaned EEG
(h) ANN : 512 จดขอมล ใน 1 ทอน
รป 24: ตวอยางผลจากการกำจดสญญาณรบกวนดวยวธการ Thresholding, Random forest, CNN และ ANN เมอ แตละแถวของแตละรปคอแตละตวอยาง, pure EEG คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน, contaminated EEG คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และ cleaned EEG คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด
29
0 20 40 60 80 100Trial index
−20
−10
0
10
20Di
ffe e
nce
of C
o e
latio
n co
effic
ient
s
Windowlength = 1 seconds (256 samples/epoch)Random fo estANNCNNTh esholding
(a) 256 จดขอมล ใน 1 ทอน
0 20 40 60 80 100Trial index
−20
−10
0
10
20
Diffe
enc
e of
Co
ela
tion
coef
ficie
nts
Windowlength = 2 seconds (512 samples/epoch)Th esholdingRandom fo estANNCNN
(b) 512 จดขอมล ใน 1 ทอน
รป 25: ความแตกตางของคาสมประสทธสหสมพนธ ∆ρ ของวธ Thresholding (เขยว), Random forest (เหลอง), CNN (ฟา) และ ANN(ชมพ)
30
4.3.4 สมรรถนะการกำจดสญญาณรบกวนจากการกำจดสญญาณรบกวนจะมผลลพธคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของวธการตาง ๆ ดงตารางท 7 จะเหนไดวาในทกแบบจำลองคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของการแบงขอมลในทอนเทากบ 256 จดขอมลจะมคานอยกวาการแบงขอมลในทอนเทากบ 512 จดขอมล เนองจากเมอทำการแบงขอมลในทอนเทากบ 512 จดขอมล บรเวณดงกลาวจะครอบคลมถงบรเวณทไมมสญญาณรบกวนดวยเมอสญญาณรบกวนเกดขนในเวลาสน ๆ ทำใหมการกำจดสญญาณคลนไฟฟาสมองทไมใชสญญาณรบกวนออกไปดวย คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจงมคาทสง เมอพจารณาคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของแตละแบบจำลองจะเหนไดวา คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจะมคานอยทสดเมอแบบจำลองนนเปนแบบจำลองทมความแมนยำในการทำนายสงทสด นนคอแบบจำลอง Random forest และคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจะเพมขนตามคาความแมนยำในการทำนายของแตละแบบจำลองทลดลง
ตาราง 7: สมรรถนะการกำจดสญญาณรบกวนเมอเปรยบเทยบจากทกวธ
NMSE256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอน
Thresholding 0.295011 0.369642Random forest 0.242921 0.359389CNN 0.303126 0.399602ANN 0.243585 0.366378
5 การวเคราะหและวจารณตวแปรตน จากหวขอท 4.1 แสดงใหเหนวาสำหรบแบบจำลอง Thresholding คณลกษณะเฉพาะทสำคญคอคาพลงงานในยานความถ 0.5-5 เฮรตซ เนองจากเมอสญญาณรบกวนเกดขนจะเกดในยานความถน และคาขนาดของสญญาณจะสงขนทำใหพลงงานในยานนมคาสงขนดวยซงมความแตกตางจากบรเวณทไมมสญญาณรบกวนอยางเหนไดชด ดงรปท 9(a) สำหรบแบบจำลอง Random forest คณลกษณะเฉพาะทสำคญมดงน คาพลงงานในยานความถ 0.5-5 เฮรตซ ซงมเหตผลเดยวกบทไดกลาวไปขางตน ขนาดสญญาณทสงทสด เนองจากสญญาณรบกวนจะทำใหขนาดของสญญาณคลนไฟฟาสมองสงขน ทำใหบรเวณทมสญญาณรบกวนจะมขนาดของสญญาณแตกตางจากบรเวณทไมมสญญาณรบกวนอยางเหนไดชด ดงรปท 9(b) คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน และ Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน สำหรบสองคณลกษณะนจะใชวธเลอกโดยดจากคาความสำคญ ดงรปท 10 จะเหนไดวาคาคณลกษณะเฉพาะสองตวดงกลาวมคาความสำคญสงอยางมนยสำคญ โดยทคาความสำคญสงเนองมาจากในขณะทแยกโนดในแบบจำลองคาคณลกษณะเฉพาะทงสองทำใหการแยกโนดแตละครงคา Gini index มคานอยทสด นนคอแตละการแยกโนด ใบไมของของแบบจำลองมความบรสทธมากทสด สำหรบแบบจำลอง CNN ขอมลขาเขาทสำคญคอแผนภาพสเปกตรม เนองจากเมอบรเวณใดเกดสญญาณรบกวนขนบรเวณนนจะมสเปกตรมในยานความถของสญญาณรบกวนทเพมสงขน ทำใหเกดความแตกตางขนในแผนภาพสเปกตรม และแผนภาพสเปกตรมแสดงถงคาสเปกตรม ณ ตำแหนงและความถตาง ๆ ของสญญาณ ซงเปนอาเรยสองมต ทำใหสอดคลองกบการทจะเปนขอมลขาเขาของ Convolutional layer ทมความสามารถในการสกดคณลกษณะเฉพาะของขอมลขาเขาทเปนเชงพนท
ผลของขนาดทอนของขอมล (epoch) ทมตอสมรรถนะ ขนาดของทอนมผลสำคญตอสมรรถนะในการตรวจจบสญญาณรบกวน และสมรรถนะในการกำจดสญญาณรบกวน จะเหนไดวาในทกแบบจำลองการแบงสญญาณในทอนเทากบ 512 จดขอมลจะทำใหสมรรถนะในการตรวจจบสญญาณรบกวนสงกวาการแบงสญญาณในทอนเทากบ 256 จดขอมล แตเมอพจารณาทคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานจะเหนไดวาในทกแบบจำลองการแบงสญญาณในทอนเทากบ 256 จดขอมลจะทำใหสมรรถนะในการกำจดสญญาณรบกวนสงกวาการแบงสญญาณในทอนเทากบ 512 จดขอมล จากทกลาวมาขางตนการตรวจจบสญญาณรบกวน จะม trade-off กนกบการกำจดสญญาณรบกวน โดยถาการแบงขอมลในทอนมากการตรวจจบจะทำไดด แตการกำจดสญญาณรบกวนกจะทำไดไมด ในทางตรงกนขามถาการแบงขอมลในทอนนอยการตรวจจบจะทำไดไมด แตการกำจดสญญาณรบกวนกจะทำไดด แตเมอพจารณาทคาความแมนยำในการตรวจจบ ดงตารางท 5 จะเหนไดวาคาความแมนในการตรวจจบของแตละการแบงทอนจะไมตางกนมากอยางมนยสำคญ แตเมอพจารณาทคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ดงตารางท 7 จะเหนไดวาการแบงทอนเทากบ 256 จดขอมลมคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานตำกวามากในการกำจดสญญาณรบกวนเราตองการทำใหสญญาณทถกกำจดสญญาณรบกวนมลกษณะทางกายภาพเหมอนกบสญญาณทไมมสญญาณรบกวนมากทสด ดงนนเราจงเลอกคา 256 จดขอมล เปนคาทเหมาะสมสำหรบการแบงจำนวนจดขอมลในหนงทอน
แบบจำลองการตรวจจบสญญาณรบกวน จากหวขอท 4.2 แสดงใหเหนวาแบบจำลอง Random forest เปนแบบจำลองทมสมรรถนะในการตรวจจบสญญาณรบกวนดทสด ดงรปท 22 และตารางท 5 คาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 87.94 เปอรเซนต
31
ซงดกวาแบบจำลอง Thresholding ซงเปนแบบจำลองฐานมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 81.09 เปอรเซนต แบบจำลอง Random forest ทำไดดกวาเนองจากแบบจำลอง Random forest ไมไดใชคาพลงงานในยานความถ 0.5-5 เฮรตซ เปนคณลกษณะเฉพาะเพยงอยางเดยว แตยงมขนาดของสญญาณสงทสด ซงเปนคณลกษณะเฉพาะทแยกความตางของสญญาณไดด และยงมคณลกษณะเฉพาะทไดจากคาทางสถตของคาสมประสทธเวฟเลต ซงเปนคาทมประโยชนมากเมอทำการวเคราะหสญญาณทมลกษณะไมนง (Non-Stationary)เนองจากสามารถแสดงขอมลทางโดเมนความถ และโดเมนเวลาไดพรอม ๆ กน และแบบจำลอง Random forest เปนแบบจำลองทเกดจากการเรยนรของขอมลโดยแบบจำลองจะเรยนรหาคาทเหมาะสมในการแบงโนดเพอใหการทำนายทำนายไดอยางถกตอง แตในสวนของแบบจำลองThresholding เปนแบบจำลองทคนเปนคนเลอกคา threshold เองจงไมมความยดหยนตอขอมลทมความหลากหลาย ในสวนของแบบจำลองCNN เปนแบบจำลองทมสมรรถนะในการตรวจจบสญญาณรบกวนใกลเคยงกบแบบจำลอง Thresholding โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 81.69 เปอรเซนต เนองจากขอมลแผนภาพสเปกตรมเพยงอยางเดยวไมเพยงพอตอการทำนายบรเวณทมสญญาณรบกวน คณลกษณะเฉพาะทไดจากแผนภาพสเปกตรมยงมขอมลนอยเกนไป ควรจะมคณลกษณะเฉพาะอนเพอชวยเพมสมรรถนะของแบบจำลองดงทไดทดลองในแบบจำลอง ANN โดยใชคณลกษณะเฉพาะชดเดยวกบแบบจำลอง Random forest ซงเปนไปตามสมมตฐานแบบจำลองANN มสมรรถนะในการทำนายบรเวณทมสญญาณรบกวนทสงกวาแบบจำลอง CNN โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ87.07 เปอรเซนต ซงนอยกวาแบบจำลอง Random forest เพยงเลกนอย
การกำจดสญญาณรบกวน จากหวขอท 4.3 ในสวนของการกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย โดยเลอก parameter ของตวกรองสาวทซก-โกเลยเปนอนดบของพหนามเทากบ 3 และความยาวของวนโดวเทากบ 41 ซงเปนอนดบของพหนามทสอดคลองกบลกษณะทางกายภาพของสญญาณรบกวน จะเหนไดวาสมรรถนะของการกำจดสญญาณรบกวนจะขนกบการตรวจจบสญญาณรบกวน ถาการตรวจจบสญญาณรบกวนมสมรรถนะทสง คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของการกำจดสญญาณรบกวนกจะตำ ดงตารางท 7 และจำนวน ∆ρ ทมคาเปนบวกกจะมมาก ดงรปท 25(a) จะเหนไดวาแบบจำลอง Random forest ทมความแมนยำในการตรวจจบสญญาณรบกวนทสงทสด คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานกจะตำทสด และจำนวน ∆ρ ทมคาเปนบวกกจะมมาก ในทางตรงกนขามในแบบจำลอง Thresholding ทมความแมนยำในการตรวจจบสญญาณรบกวนทตำทสด คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานกจะสงทสด และจำนวน ∆ρ ทมคาเปนบวกกจะมนอย อกสาเหตหนงททำใหสมรรถนะของการกำจดสญญาณรบกวนไมดกคอปญหาของตวกรอง การตรวจจบสญญาณรบกวนจะตรวจเจอเปนทอน เมอสญญาณรบกวนทเกดขนเกดในชวงเวลาสน ๆ บรเวณทเหลอในทอนจะเปนบรเวณทมเฉพาะสญญาณคลนไฟฟาสมอง การประมาณสญญาณรบกวนจะมการประมาณสญญาณคลนไฟฟาสมองทความถตำในสวนนนรวมไปดวยทำใหการกำจดสญญาณรบกวนนมการกำจดสญญาณคลนไฟฟาสมองออกไปบางสวน ทำใหคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานมคาสงขนได และคา ∆ρ มคาบวกนอย ๆ หรอมคาเปนลบไปเลย
6 บทสรปโครงงานนนำเสนอการเปรยบเทยบวธการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมองหนงชองสญญาณ โดยสญญาณรบกวนเกดจากการกะพรบตา โครงงานนประกอบไปดวย 1) การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวน 2) การสกดหาคณลกษณะเฉพาะ 3)การตรวจจบบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding, Random forest และ CNN 4) การกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย ในขนตอนแรก สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะถกสงเคราะหขนจากสญญาณรบกวนสชมพ และถกนำไปรวมกบสญญาณรบกวนทเกดจากกะพรบตาทสงเคราะหขน ถดมาคณลกษณะเฉพาะจะถกสกด โดยมคณลกษณะเฉพาะทถกใชในแบบจำลอง Thresholding คอ พลงงานในยานความถ 0.5 - 5 เฮรตซ และของแบบจำลอง Random forest คอดงน 1) พลงงานในยานความถ0.5-5 เฮรตซ 2) ขนาดสญญาณทสงทสด 3) คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน 4) Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน สวนแบบจำลอง CNN จะใชแผนภาพสเปกตรมเปนขอมลขาเขา คาคณลกษณะเฉพาะเหลานเปนคาทดทชวยเพมความแมนยำในการทำนายของแบบจำลอง ถดมาบรเวณทมสญญาณรบกวนจะถกตรวจจบดวยแบบจำลอง Thresholding ซงเปนแบบจำลองฐาน, Random forest และ CNN จากนนบรเวณทตรวจจบไดวามสญญาณรบกวนจะถกกำจดดวยตวกรองสาวทซก-โกเลย ผลลพธชใหเหนวาแบบจำลอง Random forest มสมรรถนะในการตรวจจบและกำจดสญญาณรบกวนสงทสด ซงดกวาแบบจำลองฐาน โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 87.94 เปอรเซนต และคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานเทากบ 24.29 เปอรเซนตในอนาคตเราจะคนหาคณลกษณะเฉพาะทชวยในการเพมสมรรถนะของแบบจำลองใหมากขน และพฒนาใหการกำจดสญญาณรบกวนนสามารถนำไปใชกบการคำนวณเวลาจรงเพอนำไปประยกตใชใน Brain-computer interface
7 กตตกรรมประกาศโครงงานฉบบนสำเรจลลวงไดอยางสมบรณ ดวยความกรณาชวยเหลอของ ผชวยศาสตราจารย ดร. จตโกมท สงศร ทไดสละเวลาอนมคาแกผจดทำ เพอแนะนำใหคำปรกษาอนเปนประโยชนตอโครงงาน ทงชวยเหลอแกไขปญหาทเกดขนตลอดการดำเนนงาน ดวยความเอาใจใสอยางดยง ทำใหโครงงานฉบบนสำเรจลลวงไดดวยด ผจดทำขอกราบขอบพระคณเปนอยางสง
32
ขอขอบพระคณ อาจารย ดร. กองภพ อยเยน และ ดร. อรรถพล วรโยภาส และพ ๆ ทศนยวจยนวตกรรมทางวทยาศาสตรและเทคโนโลยแหงอนาคต ทชวยแนะนำและใหความรในการทำโครงงานฉบบน
ขอกราบขอบพระคณบดา มารดา ทไดอบรมสงสอน และใหกำลงใจผจดทำมาโดยตลอด
สดทายนขอขอบคณพ ๆ เพอน ๆ และนอง ๆ ในภาควชาวศวกรรมไฟฟา จฬาลงกรณมหาวทยาลย ทใหความชวยเหลอและเปนกำลงใจในการจดทำโครงงานฉบบนเสมอมา
8 เอกสารอางอง[BKD06] C. Bedard, H. Kroeger, and A. Destexhe. Does the 1/f frequency scaling of brain signals reflect self-organized
critical states? Physical review letters, 97(11):118102, 2006.
[CFLE96] P. Clochon, JM. Fontbonne, N. Lebrun, and P. Etévenon. A new method for quantifying EEG event-relateddesynchronization: Amplitude envelope analysis. Electroencephalography and clinical neurophysiology,98(2):126–129, 1996.
[HLH+12] WY. Hsu, CH. Lin, HJ. Hsu, PH. Chen, and IR. Chen. Wavelet-based envelope features with automatic EOGartifact removal: Application to single-trial EEG data. Expert Systems with Applications, 39(3):2743–2749,2012.
[IRY16] M. K. Islam, A. Rastegarnia, and Z. Yang. Methods for artifact detection and removal from scalp EEG: Areview. Neurophysiologie Clinique/Clinical Neurophysiology, 46(4-5):287–305, 2016.
[JWHT13] G. James, D. Witten, T. Hastie, and R. Tibshirani. An introduction to statistical learning. Springer, 2013.
[KM17] S. Kanoga and Y. Mitsukura. Review of artifact rejection methods for electroencephalographic systems.Electroencephalography, page 69, 2017.
[LGS99] T. Lee, M. Girolami, and T. Sejnowski. Independent component analysis using an extended infomax algorithmfor mixed subgaussian and supergaussian sources. Neural computation, 11(2):417–441, 1999.
[LPBS93] O. G. Lins, T. W. Picton, P. Berg, and M. Scherg. Ocular artifacts in EEG and event-related potentials I: Scalptopography. Brain topography, 6(1):51–63, 1993.
[MLGP17] J. Minguillon, M. A. Lopez-Gordo, and F. Pelayo. Trends in EEG-BCI for daily-life: Requirements for artifactremoval. Biomedical Signal Processing and Control, 31:407–418, 2017.
[NCK+19] P. Nejedly, J. Cimbalnik, P. Klimes, F. Plesinger, J. Halamek, V. Kremen, I. Viscor, B. Brinkmann, M. Pail,M. Brazdil, et al. Intracerebral EEG artifact identification using convolutional neural networks. Neuroinformatics, 17(2):225–234, 2019.
[RSHM15] T. Radüntz, J. Scouten, O. Hochmuth, and B. Meffert. EEG artifact elimination by extraction of ICA-componentfeatures using image processing algorithms. Journal of neuroscience methods, 243:84–93, 2015.
[SCKS11] R. Singla, B. Chambayil, A. Khosla, and J. Santosh. Comparison of SVM and ANN for classification of eyeevents in EEG. Journal of Biomedical Science and Engineering, 4(1):62, 2011.
[SDL+18] E. Saifutdinova, D. Dudysová, L. Lhotská, V. Gerla, and M. Macaš. Artifact detection in multichannel sleepEEG using random forest classifier. In 2018 IEEE International Conference on Bioinformatics and Biomedicine(BIBM), pages 2803–2805. IEEE, 2018.
[SG64] A. Savitzky and M. J. Golay. Smoothing and differentiation of data by simplified least squares procedures.Analytical chemistry, 36(8):1627–1639, 1964.
33
[SLS12] D. Szibbo, A. Luo, and T. Sullivan. Removal of blink artifacts in single channel EEG. In 2012 AnnualInternational Conference of the IEEE Engineering in Medicine and Biology Society, pages 3511–3514. IEEE,2012.
[UA96] M. Unser and A. Aldroubi. A review of wavelets in biomedical applications. Proceedings of the IEEE, 84(4):626–638, 1996.
[UGZ15] J. A. Urigüen and B. Garcia-Zapirain. EEG artifact removal—state-of-the-art and guidelines. Journal of neuralengineering, 12(3):031001, 2015.
[WMG+16] D. Coppieters’t Wallant, V. Muto, G. Gaggioni, M. Jaspar, S. L. Chellappa, C. Meyer, G. Vandewalle, P. Maquet,and C. Phillips. Automatic artifacts and arousals detection in whole-night sleep EEG recordings. Journal ofneuroscience methods, 258:124–133, 2016.
34
9 ภาคผนวก9.1 การคำนวณหาคาสมประสทธคอนโวลชนของตวกรองสาวทซกโกเลยคาสมประสทธคอนโวลชนจะมหลกการหาดงน จากคอนดบ (xj , yj)
สมมตให พหนามอนดบท k คอ yj+i = a0 + a1zi + a2z2i + ...+ akz
ki เปนแบบจำลองของ yj+i
โดยท zi = xi+j−xj
h เมอ h = xj+1 − xj
ถาจดทจะนำมาประมาณ yj มทงหมด m จด จะได i = 1−m2 , 3−m
2 , ..., 0, ..., m−32 , m−1
2
นนคอ z 1−m2
= 1−m2 , ..., z0 = 0, ..., zm−1
2= m−1
2
และจะได y = Jθ โดยทแตละแถวของ J มสมาชก 1, zi, z2i , ..., z
ki , y = [yj+ 1−m
2yj+ 3−m
2... yj+m−1
2]T
สมประสทธ θ = [a0 a1 ... ak]T จะหาไดจากการพยายามทำใหคา ∥y − y∥2 มคานอยทสด
ซงมผลเฉลยรปแบบปด (Closed form solution) คอ θ = (JTJ)−1JT y
สมมตใหแถวท 1 ของ (JTJ)−1JT เทากบ [C 1−m2
... C0 ... Cm−12
]
ซงจด yj จะถกประมาณจาก yj = a0 + a1z0 + a2z20 + ...+ akz
k0 ซง z0 = 0
ดงนน yj = a0นนคอ yj = a0 = θ1 = C 1−m
2yj+ 1−m
2+C 3−m
2yj+ 3−m
2+ ...+C0yj + ...+Cm−3
2yj+m−3
2+Cm−1
2yj+m−1
2
จงสรปไดวา C 1−m2
, ..., C0, ..., Cm−12
คอสมประสทธคอนโวลชน
35
9.2 ตารางการคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน
การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน ดงตารางท 8 เพอหาจำนวนระดบชน และจำนวน vanishing moments ทเหมาะสมทสด
ตาราง 8: การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน
Feature : Statistical value of wavelet coefficientsAmplitude modulation no Amplitude modulation
Accuracy ROC AUC Accuracy ROC AUCdB levelA,D coefs A coefs A,D coefs A coefs A,D coefs A coefs A,D coefs A coefs
1 9 0.873 0.6088 0.928 0.598 0.8758 0.9342 6 0.8741 0.932 0.8767 0.9362 7 0.8722 0.6595 0.933 0.71 0.8758 0.6815 0.938 0.743
0.8706 0.932 0.8759 0.9370.87 0.931 0.875 0.936
0.8664 0.929 0.8702 0.9340.8502 0.918 0.8542 0.9220.8044 0.882 0.8065 0.8850.7266 0.804 0.7379 0.818
3 6 0.8717 0.7078 0.931 0.782 0.8725 0.7228 0.935 0.799AD65432=0.8708 0.931 0.8719 0.935AD6543=0.8679 0.929 0.8702 0.934AD654=0.8665 0.927 0.8673 0.932AD65=0.8501 0.917 0.8519 0.921AD6=0.7974 0.877 0.8034 0.882
4 6 0.8679 0.7044 0.929 0.776 0.8656 0.7152 0.932 0.7875 5 0.8644 0.7799 0.926 0.859 0.8625 0.7838 0.928 0.866
AD5432=0.8632 0.925AD543=0.8624 0.925AD54=0.8597 0.923AD5=0.8423 0.911
8 5 0.8591 0.7721 0.924 0.85 0.8549 0.7769 0.923 0.8569 4 0.8636 0.8388 0.923 0.906 0.8565 0.8348 0.924 0.90816 4 0.8554 0.8315 0.92 0.902 0.8449 0.825 0.916 0.9
36
9.3 การใชวธ grid search เพอหาคา hyperparameter ทเหมาะสมทสดวธ grid search จะเลอกคาของ hyperparameter ดงตารางท 9 เพอหาคา hyperparameter ทเหมาะสมทสด
ตาราง 9: คาของ hyperparameter ทถกใชในวธ grid search
คาของ hyperparameter แตละชนดn_estimators 10 20 30 100 200criterion ”gini” ”entropy”
max_depth 10 20 30 40 50max_features ”auto” ”sqrt”
min_samples_leaf 1 2 4min_samples_leaf 2 5 10
9.4 ตารางการปรบโครงสรางของแบบจำลอง CNNตารางการปรบโครงสรางของแบบจำลอง CNN ดงตารางท 10 เพอหาโครงสรางทเหมาะสมทสด
ตาราง 10: ตารางการปรบความซบซอนของแบบจำลอง CNNlayer/node layer1 layer2 layer3 layer4 layer5 #Epochs Train loss Train accuracy Validation loss Validation accuracy Test loss Test accuracymodel 1 256 14 0.3727 0.8559 0.3751 0.8549 0.3762 0.855model 2 256 128 29 0.3261 0.8685 0.3278 0.8666 0.3289 0.8685model 3 256 256 32 0.327 0.869 0.3288 0.8678 0.33 0.8684model 4 256 128 64 21 0.3426 0.8575 0.3431 0.8569 0.3436 0.8579model 5 256 128 128 32 0.3228 0.8704 0.3245 0.8697 0.3252 0.8703model 6 256 256 128 19 0.3267 0.8684 0.3281 0.8666 0.3288 0.8679model 7 256 256 256 11 0.3297 0.866 0.331 0.865 0.331 0.865model 8 256 128 64 32 40 0.3228 0.8695 0.3261 0.8674 0.3264 0.8685model 9 256 128 64 64 30 0.3218 0.8703 0.3234 0.8692 0.3246 0.8705model 10 256 128 128 64 38 0.3208 0.8715 0.3232 0.8697 0.3242 0.8705model 11 256 128 128 128 37 0.3209 0.8707 0.3236 0.8679 0.3239 0.8702model 12 256 256 128 64 37 0.3211 0.8713 0.3253 0.8692 0.3249 0.8711model 13 256 256 128 128 26 0.3313 0.8655 0.3313 0.8651 0.3326 0.8651model 14 256 256 256 128 33 0.3204 0.8714 0.3229 0.8687 0.3231 0.8703model 15 256 256 256 256 33 0.32 0.8716 0.323 0.8697 0.322 0.871model 16 256 128 64 32 16 37 0.3192 0.8722 0.3233 0.8692 0.3234 0.871model 17 256 128 64 32 32 40 0.3193 0.8723 0.322 0.8702 0.3226 0.8715model 18 256 128 64 64 32 21 0.3239 0.8696 0.3259 0.8672 0.3267 0.8679model 19 256 128 64 64 64 40 0.3174 0.8726 0.3211 0.8709 0.3213 0.872model 20 256 128 128 64 32 16 0.3297 0.8677 0.3308 0.8663 0.3316 0.8671model 21 256 128 128 64 64 22 0.3239 0.8696 0.3255 0.8677 0.3259 0.8691model 22 256 128 128 128 64 15 0.3287 0.8676 0.3295 0.8663 0.3304 0.8674model 23 256 128 128 128 128 20 0.3243 0.8693 0.3263 0.8677 0.3256 0.8697model 24 256 128 128 64 32 16 0.3297 0.8677 0.3308 0.8663 0.3316 0.8671model 25 256 256 128 64 64 26 0.3218 0.8713 0.3239 0.8689 0.3247 0.8707model 26 256 256 128 128 64 38 0.3198 0.8725 0.324 0.8696 0.3242 0.8707model 27 256 256 128 128 128 34 0.3197 0.8714 0.3225 0.8688 0.3231 0.8705model 28 256 256 256 128 64 32 0.32 0.8722 0.3224 0.8699 0.3229 0.8718model 29 256 256 256 128 128 40 0.3182 0.8726 0.3222 0.869 0.3222 0.8714model 30 256 256 256 256 128 27 0.3222 0.8702 0.3241 0.8679 0.3241 0.8695model 31 256 256 256 256 256 21 0.3222 0.8711 0.3238 0.8695 0.3246 0.8703
9.5 ตารางการปรบโครงสรางของแบบจำลอง ANNตารางการปรบโครงสรางของแบบจำลอง ANN ดงตารางท 11 เพอหาโครงสรางทเหมาะสมทสด
37
ตารา
ง11:
ตารา
งการ
ปรบค
วามซ
บซอน
ของแ
บบจำ
ลองA
NNlay
er/no
delay
er1lay
er2lay
er3lay
er4lay
er5lay
er6lay
er7lay
er8lay
er9lay
er10
layer1
1lay
er11
layer1
2mo
del1
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD4
096
D409
6mo
del2
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD4
096
Drop
out(0
.6)D4
096
Drop
out(0
.6)mo
del3
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD8
192
Drop
out(0
.6)D8
192
Drop
out(0
.6)mo
del4
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD4
096
Drop
out(0
.6)D4
096
Drop
out(0
.6)D4
096
Drop
out(0
.6)mo
del5
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD8
192
Drop
out(0
.6)D8
192
Drop
out(0
.6)D8
192
Drop
out(0
.6)mo
del6
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gD8
192
Drop
out(0
.8)D8
192
Drop
out(0
.8)D8
192
Drop
out(0
.8)mo
del7
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
D409
6D4
096
mode
l8C3
*3(64
filters
)C3
*3(64
filters
)Ma
xpoo
ling
C3*3
(128fi
lters)
C3*3
(128fi
lters)
Maxp
oolin
gD4
096
Drop
out(0
.6)D4
096
Drop
out(0
.6)mo
del9
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
D409
6Dr
opou
t(0.6)
D409
6Dr
opou
t(0.6)
D409
6Dr
opou
t(0.6)
mode
l10
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
D819
2Dr
opou
t(0.6)
D819
2Dr
opou
t(0.6)
D819
2Dr
opou
t(0.6)
mode
l11
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
D819
2Dr
opou
t(0.8)
D819
2Dr
opou
t(0.8)
D819
2Dr
opou
t(0.8)
mode
l12
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
C1*1
(256fi
lters)
C1*1
(256fi
lters)
Maxp
oolin
gD2
048
D204
8mo
del1
3C3
*3(64
filters
)C3
*3(64
filters
)Ma
xpoo
ling
C3*3
(128fi
lters)
C3*3
(128fi
lters)
Maxp
oolin
gC1
*1(25
6filte
rs)C1
*1(25
6filte
rs)Ma
xpoo
ling
D204
8Dr
opou
t(0.6)
D204
8Dr
opou
t(0.6)
mode
l14
C3*3
(64filt
ers)
C3*3
(64filt
ers)
Maxp
oolin
gC3
*3(12
8filte
rs)C3
*3(12
8filte
rs)Ma
xpoo
ling
C1*1
(256fi
lters)
C1*1
(256fi
lters)
Maxp
oolin
gD2
048
Drop
out(0
.8)D2
048
Drop
out(0
.8)
Mode
l#E
pochs
Train
loss
Train
accurac
yVa
lidati
onlos
sVa
lidati
onaccurac
yTe
stlos
sTe
staccurac
ymo
del1
80.4
1173
30.8
1840
90.4
2614
60.8
1011
90.4
2224
90.8
1363
9mo
del2
110.4
0722
70.8
1872
90.4
2939
40.8
0974
0.426
209
0.812
96mo
del3
120.4
1727
50.8
1483
0.428
882
0.808
70.4
2468
50.8
1309
9mo
del4
100.4
1820
60.8
1485
90.4
2845
20.8
0804
0.426
658
0.811
439
mode
l59
0.421
007
0.813
30.4
3215
80.8
0636
0.427
956
0.810
679
mode
l620
0.427
089
0.810
410.4
2957
70.8
0746
0.426
982
0.809
84mo
del7
90.4
1123
30.8
2064
90.4
1987
90.8
1411
90.4
1686
70.8
1698
mode
l812
0.411
20.8
2017
90.4
2173
60.8
1396
0.418
359
0.815
819
mode
l910
0.417
465
0.816
039
0.422
268
0.811
640.4
1908
40.8
1537
9mo
del1
014
0.413
428
0.819
429
0.422
199
0.812
699
0.419
918
0.814
719
mode
l11
120.4
2228
10.8
1357
90.4
2597
90.8
1085
90.4
2338
40.8
1319
9mo
del1
212
0.407
345
0.823
870.4
2166
70.8
1121
90.4
1893
90.8
1584
mode
l13
150.4
0258
30.8
2481
0.420
573
0.813
120.4
1794
40.8
1537
9mo
del1
413
0.410
430.8
2042
90.4
2043
30.8
1294
0.418
821
0.814
999
38