Post on 14-Jan-2017
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Matthijs Pontier
matthijs@piratenpartij.nl
@Matthijs85
Waar ik het over ga hebben
• Wat er mogelijk is:
• Moreel redeneren voor Robots
• Emotionele Intelligentie
• Emoties en Moraliteit combineren
• Mogelijke toepassingen, zoals Alice
• Hoe we kunnen zorgen dat dit de
kwaliteit van zorg verbetert
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 2
Zorg in Nederland
• Zorgvraag stijgt
• Hogere werkdruk voor zorgverleners
• We worden afhankelijker van onze naasten
• Verantwoordelijkheid voor onze zorg en
gezondheid komt meer bij onszelf te liggen
• Dat vergt best wel wat van ons en daar
kunnen we best wat hulp bij gebruiken!
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 3
SELEMCA• ‘Caredroids’ ontwikkelen: Robots of Computer Agents
die Patienten en Zorgverleners kunnen ondersteunen
4Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Applicaties: Zorg-agents
5Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Applicaties: Zorgrobots
6Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Mogelijke functies
• Zorgmakelaar:
Zoek zorg die past bij behoeften patient
• Vriendje: Wordt vriendjes met patient om
eenzaamheid te voorkomen en activeer de patient
• Coach: Assisteer de patient in het maken van
gezonde keuzes: Bewegen, Gezond eten, Medicijnen
nemen, etc.
7Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Hoe ervaren mensen caredroids?
• Mensen kijken vooral naar deze 4 punten:
1. Wat kun je er mee? Affordances
2. Gedraagt het zich Ethisch goed of slecht?
3. Hoe ziet het eruit? Esthetiek
4. Is het realistisch? Realisme
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 8
Uiterlijk / realisme zorgrobots
• Uncanny valley: Te menselijk wordt een beetje eng
• We associeren bijna-menselijk met dood / zombies
9Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Ontwerp robots waarvan realisme in uiterlijk
overeenstemt met realisme gedrag
Machine Ethics: Ethische Robots
• Machines worden steeds autonomer
Rosalind Picard (1997): ‘‘The greater the freedom of
a machine, the more it will need moral standards.’’
• Machines interacteren steeds meer met mensen
We moeten zorgen dat machines ons geen kwaad
doen, of onze autonomie bedreigen
• Machine ethics is belangrijk om te zorgen dat
mensen machines vertrouwen en willen gebruiken
10Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Domein: Medische Ethiek
• Patienten zijn kwetsbaar. Moreel gedrag van de robot
is daarom extra belangrijk
• In zorg zijn er vaak conflicten tussen:
1.Autonomie
2.Weldoen
3.Niet-schaden
4.Gerechtigheid
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 11
Moral reasoning system
We hebben een moral reasoning system ontwikkeld
dat kan balanceren tussen verschillende morele doelen
Beslissingen kwamen overeen met medisch-ethische experts
12Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Model autonomie
Hilversum, 01-10-2016 13Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Resultaten:
Mogelijk rechtszaken te
simuleren over o.a:
• Bemoeizorg
• Gedwongen opname na
zelfbindingsverklaring
Limitaties moral reasoning
• Alleen moral reasoning resulteert in ‘kille beslissingen’
14Hilversum, 01-10-2016
Probleem: Onmogelijk te simuleren:Trolley Dilemma vs Footbridge Dilemma
• Greene et al. (2001): morele dilemma’s varieren
systematisch varieren in hoeveel emotionele
verwerking ze oproepen, en dat deze variaties
morele beslissingen beinvloeden
• Hun studie was geinspireerd op twee verschillende
varianten van een ethisch dilemma
• Trolley dilemma (onpersoonlijk)
Footbridge dilemma (persoonlijk)
Asimov’s 3 wetten schieten hier tekort!
15Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Oplossing: Voeg Emotionele Verwerking toe
• Eerder ontwikkelden we Silicon Coppelia, een
computermodel van emotionele intelligentie.
• Dit kan in anderen geprojecteerd worden voor een
Theory of Mind
• Het leert van ervaringen Personalisatie
Voeg Moral Reasoning toe aan Silicon Coppelia:
• Moral reasoning menselijker
• Personaliseer morele beslissingen en vooral ook
communicatie daarover
16Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Silicon Coppelia
17Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Speed-dating Experiment
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Turing Test
• Turing Test was oorspronkelijk alleen met tekst
• Wij hebben uitgebreid met emotionele communicatie
• Emotionele gezichtsuitdrukkingen
• Menselijke spraak
• Achteraf vragenlijst: Wat denk je dat Tom van je vond?
En wat vond je van Tom?
Continue maat: komt meer uit dan simpelweg ja/nee
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 19
Resultaten
• Participanten zagen geen verschil in eigenschappen
• Participanten zagen geen verschil in cognitief-
affectieve structuur (relaties tussen eigenschappen)
• Model waarin condities (1: mens, 2: robot) als
hetzelfde waren aangenomen, verklaarde data beter
dan model waarin condities als verschillend waren
aangenomen
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 20
Conclusies Speed-Date
• We hebben zo’n goede simulatie van
menselijk emotioneel gedrag,
dat jonge vrouwen een man niet van
een computer konden onderscheiden
• Belangrijk voor:
• Het begrijpen van menselijk
emotioneel gedrag
• Het ontwikkelen van
menselijke robots / technologie
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 21
Silicon Coppelia + Moral Reasoning:
Beslissingen gebaseerd op:
1. Rationele invloeden
• Helpt deze actie me mijn doelen te bereiken?
2. Affectieve invloeden
• Reflecteert deze actie de betrokkenheid
die ik voel tegenover de gebruiker?
• Reflecteert deze actie de distantie
die ik voel tegenover de gebruiker?
3. Moral reasoning
• Is deze actie ethisch goed?
Hilversum, 01-10-2016 22Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Resultaten Moral Reasoning + Silicon Coppelia
1 dood; 5 gered Doe niets
Moral system
Trolley X
Footbridge X
Moral Coppelia
Trolley X
Footbridge X
23Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Conclusies: Dit is nu al mogelijk
• Door behulp van theorieen uit (medische) ethiek
kunnen we robots bouwen die zorgtaken verlichten
en autonomie patienten kunnen stimuleren
• Emoties toevoegen aan rationeel moreel redeneren
is belangrijk als robots communiceren met mensen
• De combinatie van ratio en affect maakt robots
menselijker (bijvoorbeeld bij het verlenen van zorg, of
in entertainment)
24Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Toepassingen: Een systeem met ‘6’ thema’s
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Motivatie
Motiveer gebruiker om te
doen wat nodig is.
Bijvoorbeeld een game voor
mensen met een handicap om
deel te nemen aan het sociale
proces. Of elke dag bewegen.
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Financieel
Ondersteuning bij het maken
van financiële beslissingen
Bijvoorbeeld welke
zorgverzekeraar? Moet je
sparen om straks een goed
verzorgingshuis te kunnen
betalen?
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Connectiviteit
Ondersteuning in het
verbinden met netwerken
die voor jou relevant zijn.
Zo zouden eenzame
bejaarden gekoppeld kunnen
worden aan vrijwilligers of
gelijken in de buurt.
En kunnen diabetici elkaar
ontmoeten in communities
en kennis delen.
Fragment 59.39
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Historie
Registreren van zorg /
gezondheidshistorie.
Dagelijks als er niets aan de
hand is of juist op momenten
dat je zorg nodig hebt. Zodat
dit, met jouw toestemming,
uitgewisseld kan worden
tussen verschillende
zorgverleners.
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Voeding
Ondersteuning om
gezonde voeding te nemen.
Misschien heb je een speciaal
dieet of heb je tijdelijk
supplementen nodig.
Registreert wat je eet en geef
aan wat je nodig hebt.
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Acute hulp
Alarm slaan als iets mis gaat.
Ben je gevallen in de
badkamer? Val je flauw omdat
je te weinig gegeten hebt?
Hartaanval? Dan alarm slaan!
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Toepassingen: - Virtual Storytelling- (Serious) Games
32Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Virtual Coach
33Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
‘Rijdende tablets’ die mensen ondersteunen
Hilversum, 01-10-2016
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren Fragment 1.11.00 35
Robot huisdier
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 36
Huisdier, met ingebouwde spraak-synthesizer,
aangedreven door emotioneel intelligente software
Gezelschapsrobots
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeterenHilversum, 01-10-2016
Zorgrobot Zora
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 38
Huisrobots
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 42
OS dat een relatie met je opbouwt en je begrijpt
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 43
‘Smart’ technology• Als technologie voor je denkt,
vertellen de programmeurs je dan wat je moet denken?
Matthijs Pontier, 22-03-2016 TU/e, How self-driving cars are going to change the future of mobility
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Wanneer algoritmes ons controleren...
Voorkomen dat zorg gemonopoliseerd wordt
Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
Techno-progressivisme
• Technologie democratiseren
• Kosten, risico’s en baten worden eerlijk gedeeld
• Gelijke toegang tot technologie
• Ontwikkel technologie zo dat het welzijn bevordert
Maak elk algoritme / AI open-soure• Controleer de programmeurs
• Good ideas are made to be copied:
Je creeert extra waarde zonder extra kosten
Discussie
• Technologie kan zorg verbeteren + efficienter maken
• Belangrijk om hierbij te bedenken wat al wel kan,
maar ook wat nog niet kan
• Privacy-schendingen liggen op de loer
Privacy by design
Laat gebruiker eigenaar eigen gegevens blijven
• Gevaar van gepaard laten gaan met bezuinigingen
• Hoe zorgen dat intelligente zorgtechnologie goed
uitpakt voor patienten en zorgverleners?
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 49
Boek: Machine Medical Ethics
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren 51
http://www.springer.com/engineering/robotics/book/978-
3-319-08107-6
• Hoe ethische zorgrobots ontwikkelen?
• Noodzaak Open Source
• Hoe zorgrobots ethisch inzetten?
• Veranderde arts-patient relatie
• Deep Brain Stimulation
• Inzet seks-robots
• Enz.
Piratenpartij over zorgtechnologie
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren
• Zorgen dat technologische
ontwikkeling de samenleving
ook echt beter maakt
• Autonomie / Vrijheid
• Privacy
• Mensenrechten
• Transparantie
• Open source / Open data
• Evidence-based policy
Bedankt!
53
Matthijs Pontier
matthijs@piratenpartij.nl
http://camera-vu.nl/matthijs
Matthijs Pontier
Matthijs85
15/16 oktober houdt Piratenpartij congres
Met prikkelende sprekers, kunst, muziek, ALV
Hilversum, 01-10-2016 Hoe we kunnen zorgen dat robots de kwaliteit van zorg verbeteren