Heart rate measurement using camera

31
ΜΕΤΡΗΣΗ ΤΟΥ ΚΑΡΔΙΑΚΟΥ ΡΥΘΜΟΥ ΜΕ ΧΡΗΣΗ ΚΑΜΕΡΑΣ ΑΛΓΟΡΙΘΜΟΙ & ΣΥΣΤΗΜΑΤΑ ΠΟΥ ΒΑΣΙΖΟΝΤΑΙ ΣΤΗΝ ΕΠΑΦΗ ΚΑΙ ΣΤΗ ΜΗ ΕΠΑΦΗ ΕΡΓΑΣΙΑ ΣΤΟ ΜΑΘΗΜΑ «ΤΗΛΕΪΑΤΡΙΚΗ» ΣΙΓΑΝΟΣ ΜΑΡΙΟΣ

description

Heart rate measurement using camera Study of algorithms and systems based in contact and non-contact Project for lecture "Telemedicine"

Transcript of Heart rate measurement using camera

Page 1: Heart rate measurement using camera

ΜΕΤΡΗΣΗ ΤΟΥ ΚΑΡΔΙΑΚΟΥ ΡΥΘΜΟΥ ΜΕ ΧΡΗΣΗ ΚΑΜΕΡΑΣ

ΑΛΓΟΡΙΘΜΟΙ & ΣΥΣΤΗΜΑΤΑ ΠΟΥ ΒΑΣΙΖΟΝΤΑΙ ΣΤΗΝ ΕΠΑΦΗ ΚΑΙ ΣΤΗ ΜΗ ΕΠΑΦΗ

ΕΡΓΑΣΙΑ ΣΤΟ ΜΑΘΗΜΑ «ΤΗΛΕΪΑΤΡΙΚΗ»

ΣΙΓΑΝΟΣ ΜΑΡΙΟΣ

Page 2: Heart rate measurement using camera

ΠΕΡΙΕΧΟΜΕΝΑ - ΔΟΜΗ

▪ ΣΤΟΧΟΣ

▪ ΠΑΡΕΛΘΟΝ

▪ ΣΗΜΑΣΙΑ – ΑΝΑΓΚΗ ΓΙΑ ΜΙΑ ΝΕΑ ΤΕΧΝΟΛΟΓΙΑ

▪ ΑΝΑΛΥΣΗ▪ ΜΕΘΟΔΟΙ – ΔΙΑΔΙΚΑΣΙΕΣ▪ ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ

▪ ΕΦΑΡΜΟΓΕΣ ΓΙΑ ΚΙΝΗΤΑ ΤΗΛΕΦΩΝΑ

▪ ΒΙΒΛΙΟΓΡΑΦΙΑ

Page 3: Heart rate measurement using camera

ΣΤΟΧΟΣΤΗΣ ΕΡΓΑΣΙΑΣ

Page 4: Heart rate measurement using camera

ΣΤΟΧΟΣ

Δημιουργία μιας μεθόδου

▪Απλής

▪Χαμηλού κόστους

για τη μέτρηση πολλαπλών φυσιολογικών παραμέτρων και πιο συγκεκριμένα του καρδιακού ρυθμού

με χρήση μιας κάμερας

Page 5: Heart rate measurement using camera

ΠΑΡΕΛΘΟΝΠΑΛΑΙΌΤΕΡΟΙ ΑΛΓΟΡΙΘΜΟΙ ΚΑΙ ΣΥΣΤΗΜΑΤΑ

Page 6: Heart rate measurement using camera

ΠΑΡΕΛΘΟΝ

▪ Μη αυτοματοποιημένες προσπάθειες

▪ Ευαισθησία σε κινούμενα αντικείμενα

▪ Υψηλό κόστος

▪ Χρήση ειδικού υλικού - εξοπλισμού

Page 7: Heart rate measurement using camera

ΠΑΡΕΛΘΟΝ

Η μέτρηση ζωτικών ενδείξεων χωρίς επαφή

όπως ο καρδιακός ρυθμός (HR) και η αναπνευστική συχνότητα (RR)

περιλάμβαναν:

▪λέιζερ Doppler

▪ραντάρ μικροκυμάτων Doppler

▪θερμική απεικόνιση

Page 8: Heart rate measurement using camera

ΠΑΡΕΛΘΟΝ

Τεχνικές όπως το ηλεκτροκαρδιογράφημα (ECG) απαιτούν από τους ασθενείς να φορούν:

▪ειδικά αυτοκόλλητα επιθέματα

▪λουριά στο στήθος

που μπορεί να προκαλέσουν ερεθισμό του δέρματος και δυσφορία.

Οι εμπορικοί αισθητήρες παλμικής οξυμετρίας που συνδέονται

▪με τα χέρια ή

▪τους λοβούς των αυτιών

είναι επίσης ενοχλητικοί και οι συνδετήρες με ελατήρια μπορεί να προκαλέσουν πόνο

Page 9: Heart rate measurement using camera

ΣΗΜΑΣΙΑΑΝΑΓΚΗ ΓΙΑ ΜΙΑ ΝΕΑ ΤΕΧΝΟΛΟΓΙΑ

Page 10: Heart rate measurement using camera

ΣΗΜΑΣΙΑ – ΑΝΑΓΚΗ ΓΙΑ ΜΙΑ ΝΕΑ ΤΕΧΝΟΛΟΓΙΑ

Ενίσχυση της κύριας υγειονομικής περίθαλψης

Μακροχρόνια παρακολούθηση του καρδιακού ρυθμού με ένα τρόπο• διακριτικό• άνετο

Ελαχιστοποίηση της καλωδίωσης και της ακαταστασίας που σχετίζονται με▪ την παρακολούθηση νεογνών σε μια Μονάδα Εντατικής Θεραπείας▪ τη μακροπρόθεσμη παρακολούθηση της επιληψίας▪ την παρακολούθησης ασθενών με έγκαυμα ή τραύμα▪ τις μελέτες του ύπνου▪ καθώς και άλλες περιπτώσεις όπου ένα συνεχές μέτρο του καρδιακού

ρυθμού είναι σημαντικό

Page 11: Heart rate measurement using camera

ΑΝΑΛΥΣΗΜΕΘΟΔΟΙ – ΔΙΑΔΙΚΑΣΙΕΣ – ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ

Page 12: Heart rate measurement using camera

ΑΝΑΛΥΣΗ

Συστήματα που βασίζονται στη μη επαφή

•Ο καρδιακός παλμός προκαλεί μικρές αλλαγές χρώματος στο πρόσωπό.

•Όταν χτυπά η καρδιά, ένας παλμός αίματος αποστέλλεται μέσω των αιμοφόρων αγγείων.

•Το αίμα απορροφά φως.

•Όταν περισσότερο αίμα ρέει μέσα από τα αγγεία, αντανακλάται λιγότερο φως που χτυπά στο πρόσωπό.

•Με τη χρήση μιας κάμερας και ενός προηγμένου αλγορίθμου ανιχνεύονται αυτές οι μικροαλλαγές με beat-to-beat ακρίβεια.

•Ο αλγόριθμος είναι σχεδιασμένος με βάση την αξιόπιστη έννοια της φωτοπληθυσμογραφίας (PPG) χωρίς επαφή

Page 13: Heart rate measurement using camera

ΜΕΘΟΔΟΙ - ΔΙΑΔΙΚΑΣΙΕΣ

Η φωτοπληθυσμογραφία (PPG) είναι ένα μέσο χαμηλού κόστους και μη-επεμβατικό

για την ανίχνευση του καρδιαγγειακού παλμού όγκου αίματος (BVP) μέσω των παραλλαγών στο εκπεμπόμενο ή ανακλώμενο φως.

Η PPG συνήθως υλοποιείται αποκλειστικά με τη χρήση πηγών φωτός

Οι μετρήσεις παλμού από το ανθρώπινο πρόσωπο είναι εφικτές με κανονικό φως περιβάλλοντος ως πηγή φωτισμού

Αυτή η ηλεκτρο-οπτική τεχνική μπορεί να παρέχει πολύτιμες πληροφορίες σχετικά με το καρδιαγγειακό σύστημα όπως:

▪ο καρδιακός ρυθμός

▪ο αρτηριακός κορεσμός του οξυγόνου στο αίμα

▪η αρτηριακή πίεση

Page 14: Heart rate measurement using camera

ΜΕΘΟΔΟΙ - ΔΙΑΔΙΚΑΣΙΕΣ

Αρχικά δεν υπήρχαν αυστηρά φυσιολογικά και μαθηματικά μοντέλα που να επιδέχονται υπολογισμό

▪Ποσοτικοποίηση πολλών φυσιολογικών παραμέτρων

▪Εξαγωγή του καρδιαγγειακού παλμού όγκου αίματος (BVP) για τον υπολογισμό▪ του καρδιακού ρυθμού (HR)▪ του αναπνευστικού ρυθμού (RR)▪ της μεταβλητότητας του καρδιακού ρυθμού (HRV)

Ευαισθησία στην κίνηση που προκαλείται από παρεμβολές του σήματος

Η εξάλειψη των κινούμενων αντικειμένων είναι ένα από τα πιο σημαντικά προβλήματα.

Page 15: Heart rate measurement using camera

ΜΕΘΟΔΟΙ - ΔΙΑΔΙΚΑΣΙΕΣ

Μια τεχνική για την αφαίρεση του θορύβου

από φυσιολογικά σήματα είναι:

ο τυφλός διαχωρισμός πηγής (BSS)

Ανάκτηση των απαρατήρητων σημάτων ή «πηγών» από ένα σύνολο παρατηρούμενων μιγμάτων χωρίς προηγούμενες πληροφορίες σχετικά με τη διαδικασία ανάμιξης

Χρήση της μεθόδου Ανάλυσης Ανεξάρτητων Συνιστωσών (ICA)

Αποκάλυψη των ανεξάρτητων σημάτων πηγής από ένα σύνολο παρατηρήσεων που αποτελούνται από γραμμικά μίγματα των υποκείμενων πηγών

Page 16: Heart rate measurement using camera

ΜΕΘΟΔΟΙ - ΔΙΑΔΙΚΑΣΙΕΣ

Χρήση της ICA

▪αφαίρεση θορύβου από καταγραφές▪ ηλεκτροκαρδιογραφήματος (ECG)▪ ηλεκτροεγκεφαλογραφήματος (EEG)

▪διαχωρισμός των ηλεκτροκαρδιογραφημάτων του εμβρύου και της μητέρας που καταγράφονται ταυτόχρονα

▪ανίχνευση των περιοχών δραστηριότητας που σχετίζονται με ένα γεγονός σε πειράματα λειτουργικής μαγνητικής τομογραφίας (fMRI)

▪μείωση κινούμενων αντικειμένων σε PPG μετρήσεις

Page 17: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ – ΜΗ ΕΠΑΦΗ

▪ Χρήση της ενσωματωμένης κάμερα iSight σε ένα Macbook Pro

▪ Καταγραφή έγχρωμου βίντεο (24-bit RGB με 3 κανάλια × 8 bits/κανάλι)

▪ 15 καρέ ανά δευτερόλεπτο (fps)

▪ Ανάλυση 640 × 480

▪ Αποθήκευση σε μορφή AVI

▪ Το δείγμα αποτελείται από άτομα (12) και των δύο φύλων (10 αρ., 2 θηλ.), διαφορετικών ηλικιών (18-31) και με διαφορετικό χρώμα δέρματος

▪ Τα πειράματα έγιναν σε εσωτερικό χώρο με το ηλιακό φως ως μόνη πηγή φωτισμού

Page 18: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ – ΜΗ ΕΠΑΦΗ

Καταγραφή 3 βίντεο διάρκειας ενός λεπτού

▪Μετρήσεις καρδιακού ρυθμού σε κατάσταση ηρεμίας

▪Μετρήσεις καρδιακού ρυθμού κατά τη διάρκεια της κίνησης

▪Ταυτόχρονες μετρήσεις του καρδιακού ρυθμού πολλαπλών συμμετεχόντων

Χρήση ενός αισθητήρα παλμού όγκου αίματος (BVP) δακτύλου στα 256 Hz εγκεκριμένο από την Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων (US FDA) για επικύρωση.

Χρήση της ανάλυσης Bland-Altman και της ανάλυσης συσχέτισης για τη σύγκριση των αντίστοιχων μετρήσεων

Page 19: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ – ΜΗ ΕΠΑΦΗ

▪ Επεξεργασία και ανάλυση του βίντεο και των φυσιολογικών καταγραφών με χρήση του MATLAB

▪ Αυτοματοποιημένη ανίχνευση προσώπων εντός των πλαισίων βίντεο και εντοπισμός της περιοχή ενδιαφέροντος (ROI) για κάθε καρέ του βίντεο

▪ Χρήση μιας ελεύθερης έκδοσης της βιβλιοθήκης Open Computer Vision (OpenCV) συμβατής με το MATLAB για την απόκτηση των συντεταγμένων της θέσης του κάθε προσώπου

▪ Χρήση του προεκπαιδευμένου ταξινομητή προσώπου που περιέχεται στο OpenCV 2.0

Page 20: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ – ΜΗ ΕΠΑΦΗ

Μεθοδολογία αποκατάστασης καρδιακού παλμού

▪Η περιοχή ενδιαφέροντος (ROI) (α) ανιχνεύεται αυτόματα

▪Το ROI αποσυντίθεται μέσα στα RGB κανάλια (β)

▪και χωρικά κατά μέσο όρο για να ληφθούν τα ακατέργαστα RGB ίχνη (γ)

▪Η ICA εφαρμόζεται στα κανονικοποιημένα RGB ίχνη για να ανακτηθούν τρία ανεξάρτητα σήματα πηγής (δ)

Page 21: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ – ΜΗ ΕΠΑΦΗ

▪ Επιλογή της δεύτερης συνιστώσας (ισχυρό σήμα)

▪ Εφαρμογή ταχύ μετασχηματισμού Fourier (FFT)

▪ Απόκτηση φάσματος ισχύος

▪ Εύρεση συχνότητας παλμού

Page 22: Heart rate measurement using camera

ΑΝΑΛΥΣΗ

Συστήματα που βασίζονται στην επαφή

•Το χρώμα του δαχτύλου αλλάζει ελαφρώς καθώς τα τριχοειδή αγγεία μέσα του διαστέλλονται και συστέλλονται με κάθε καρδιακό παλμό.

•Με αρκετό φως, οι μεταβολές στο χρώμα είναι εύκολο να ανιχνευθούν με το σωστό αλγόριθμο.

Page 23: Heart rate measurement using camera

ΜΕΘΟΔΟΙ - ΔΙΑΔΙΚΑΣΙΕΣ

▪ Καταγραφή των καρέ σε πραγματικό χρόνο

▪ Ένα greyscale τμήμα της εικόνας σαρώνεται και επεξεργάζεται με αποτέλεσμα να πάρουμε πληροφορίες σχετικές με τη φωτεινότητα για κάθε μεμονωμένο καρέ

▪ Εξαγωγή μιας μέσης τιμής φωτεινότητας για κάθε καρέ

▪ Κάθε καρδιακός παλμός δημιουργεί ένα κύμα αίματος που φτάνει τα τριχοειδή στην άκρη του δακτύλου:▪ όταν τα τριχοειδή είναι γεμάτα από αίμα εμποδίζουν το φως με

αποτέλεσμα την μείωση στις μέσες τιμές φωτεινότητας

▪ Καθώς το αίμα αποσύρεται, περισσότερο φως μπορεί να περάσει ανάμέσα

▪ Σύλληψη του αρχικού ακατέργαστου σήματος του παλμού

▪ Εξαγωγή πληροφοριών σχετικά με το ποσοστό καρδιακού ρυθμού

Page 24: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ - ΕΠΑΦΗ

▪ 50 άτομα ηλικίας 21-55 χρονών με Μ.Ο. 31.3 χρόνια

▪ Συνολική καταγραφή 50 καρέ σε κάθε σετ

▪ Ο Πίνακας 1 συνοψίζει τα αποτελέσματα για τα δείγματα που λαμβάνονται σε καλά φωτισμένες περιοχές, όταν το μέσο φως που απορροφάται από τους φακούς της κάμερας χωρίς οποιαδήποτε παρεμπόδιση ήταν 46% της μέγιστης ποσότητας του φωτός που θα μπορούσε ο φακός να απορροφήσει

▪ Ο Πίνακας 2 αναφέρεται στο 13% της μέγιστης ποσότητας φωτός που μπορεί να απορροφηθεί

Page 25: Heart rate measurement using camera

ΠΕΡΙΠΤΩΣΕΙΣ ΧΡΗΣΗΣ - ΕΠΑΦΗ

Πίνακας 1Μέσο λάθος:

4.13%

Πίνακας 2Μέσο λάθος:

4.67%

Page 26: Heart rate measurement using camera

ΑΝΑΛΥΣΗ

Page 27: Heart rate measurement using camera

ΕΦΑΡΜΟΓΕΣΓΙΑ ΚΙΝΗΤΑ ΤΗΛΕΦΩΝΑ

Page 28: Heart rate measurement using camera

ΕΦΑΡΜΟΓΕΣ ΓΙΑ ΚΙΝΗΤΑ ΤΗΛΕΦΩΝΑ

Σύγχρονα κινητά τηλέφωνα - Smartphones

▪δυνατότητες μετάδοσης δεδομένων με υψηλή ταχύτητα

▪ενσωματωμένοι μικροεπεξεργαστές

▪χαμηλό κόστος για αγορά

▪εύκολη δυνατότητα μεταφοράς

▪εύκολη χρήση

Page 29: Heart rate measurement using camera

ΕΦΑΡΜΟΓΕΣΓΙΑ ΚΙΝΗΤΑ ΤΗΛΕΦΩΝΑ

Cardio Buddy

by Azumio Inc.

Instant Heart Rate

by Azumio Inc.

Cardiio - Touchless Camera Pulse Sensorby Cardiio Inc.

What's My Heart Rateby ViTrox Technologies

Page 30: Heart rate measurement using camera

ΒΙΒΛΙΟΓΡΑΦΙΑ

▪ Advancements in Noncontact, Multiparameter Physiological Measurements Using a Webcam (Ming-Zher Poh, Daniel J. McDuff, and Rosalind W. Picard)

▪ Non-contact, automated cardiac pulse measurements using video imaging and blind source separation (Ming-Zher Poh, Daniel J. McDuff and Rosalind W. Picard)

▪ Development of a new product for unrestrained heart rate measurement in swimming: a user centered design approach (Vincent van Rooijena, Lenneke de Voogd-Claessena, Kristina Lauchea, Vincent Jeanneb, Roald van der Vlietc)

▪ A Novel Method to Detect Heart Beat Rate Using a Mobile Phone (Pelegris P., Banitsas K., Orbach T., Marias K.)

▪ Development and Validation of a Smartphone Heart Rate Acquisition Application for Health Promotion and Wellness Telehealth Applications (Mathew J. Gregoski, MartinaMueller, Alexey Vertegel, Aleksey Shaporev, Brenda B. Jackson, RonjaM. Frenzel, Sara M. Sprehn, and Frank A. Treiber)

▪ http://www.azumio.com/apps/cardio-buddy-2

▪ http://www.azumio.com/apps/heart-rate

▪ http://www.whatsmyheartrate.com

▪ http://www.cardiio.com

Page 31: Heart rate measurement using camera

ΣΑΣ ΕΥΧΑΡΙΣΤΩΓΙΑ ΤΗΝ ΠΡΟΣΟΧΗ

ΣΑΣ!