Datalogi og etik

Henrik Kragh SørensenInstitut for Videnskabsstudier, Aarhus Universitethks@ivs.au.dkwww.henrikkragh.dk

Resumé

Undervisningsgangens temaer: Filosofisk etik: positioner og argumenter. Anvendel-sesetik og teknologietik; den lineære model. Kryptering og privatlivets fred. Copyrightog intellektuelle rettigheder. Fremmedgørelse og dehumaniseret virkelighed. Forbin-delse tilbage til professionsetik.Case(s): Etiske diskussioner i relation til datalogi: (Johnson 2001b). Etik og open sourcesoftware: (Raymond 2000, Cross 2006).

Forelæsning #5, 2009-05-12Datalogiens Videnskabsteori 2009

2

Dagens program

? Meddelelser og spørgsmål.

? Sidste gang: Datalogien og universitetet

? Afrunding på sidste gang: Universitetet under pres?

? Etik og datalogi: Etiske positioner

? Teknologi og etik: Cases

− Hiroshima,

− kryptering,

− intellektuelle rettigheder,

− OSS,

− teknologiens grænser,

− Jurassic Park,

− hacker-etik.

? Opsummering

Meddelelser

? Tilmelding på AULA — også på øvelseshold. Kom til øvelserne.

? Kursusplanen gælder — ikke indholdsfortegnelsen i kompendiet → check påAULA.

? Eksamen 15. til 17. juni.

? Eksamenstilmeldinger → check! → studerende fra tidligere år: kontakt gerneHenrik.

? Vejledning i at skrive opgave ved forelæsning #7; (opdateret) opgave-skabelon påAULA.

DIKU

? “Datalogistudiet er kendetegnet ved vekslen imellem det teoretiske og det praktiskearbejde igennem større skriftlige projekter, som udarbejdes i grupper. Disse skrift-lige projekter udgør en stor og vigtig del af uddannelsen.”

3

? “De første tre år får du en grundig indførsel i de principper, teorier og arbejdsmetoder,der er nødvendige for at blive en kompetent datalog. Der er en del obligatoriskeemner, der skal indgå i din uddannelse: teoretisk og praktisk programmering,computerarkitektur, algoritmik, databaser, netværk og operativsystemer. Derud-over er der en del valgfrihed. Du kan vælge forskellige datalogiske discipliner (fxgrafik, billedbehandling, menneske-maskine-sammenspil), eller du kan speciali-sere dig inden for de obligatoriske emner.”

? Optagelseskrav: Matematik A (ligesom i Århus)→ “Diskrete matematiske struk-turer” og “lineær algebra” (1. semester).

? Årgang 2007: 105 studerende; ialt 1079 studerende; 8% kvinder.

Peer-review i tidsskrifter

Peer-review og ansøgninger

? Forskningsansøgninger:

− Ph.d.-stipendier,

− Post-doc-stipendier,

4

− Faste stillinger (adjunkt, lektor, professor).

− Forskningsbevillinger (udstyr, projekter, rammer, centre).

? Vurderinger (refereeing)→ interne og eksterne→ hvad er kvalitet? → publika-tioner.

? Politiske udmeldinger (satsningsområder).

? Forskningsråd og/eller private fonde.

? Forskningsstyring→ mere eller mindre direkte.

Videnskabens fremskridt

? Videnskabens eksplosion og tidsskrifternes fremtid→ fra 840 matematiske artik-ler årligt i 1870 til 50.000 i 1995.

? Stadig flere tidsskrifter og bøger→ hierarki iblandt tidsskrifterne.

? Review og abstracting services:

− Komprimeret information for at holde sig opdateret,

− Kritiske reviews,

− Vurdere — ikke filtrere — nyhedsstrømmen,

− Adgang til review-tidsskrifter (databaser) er magtpåliggende,

− I dag især elektronisk.

? Behov for hurtig kommunikation:

− Mindre formel kommunikation (email, konferencer, preprints, . . . ),

− Egentlige e-journals?

Et spørgsmål om tillid

? Forskningssystemet er bygget på tillid→ og er skrøbeligt.

? Sikrings-instanser: publikationer og kontrol.

? Publikationer:

− Skriftlighed og sikkerhed,

− Uformel (og hurtig) kommunikation.

? Kontrol:

5

− Peer-review (intern),

− Redelighed (UVVU) (pseudo-intern),

− Offentligheden.

? Ekspertens roller→ Tillid→ Professionel akademisk identitet.

Forskningsbaseret undervisning

? Historisk baggrund i Humboldts universitets-ideal (1810’erne).

? VIP’ers forpligtelser: undervisning, forskning og administration.

? Universitetets “forpligtelser”

− Forskning→ Grundforskning og “innovation”→ lineær model.

− Uddannelse→ Undervisere, andre professioner, akademikere,

− Forskningsuddannelse→ Selvforsyning, erhvervs-ph.d.’er.

? Fra forskning til undervisning→ Sml. fra forskning til faktura.

Universitetets finansiering

? Danske universiteter er offentlige (modsat fx USA).

? Finansieringskilder:

− Grundbevilling (40%),

− Ekstern finansiering (40%):

� Statslige forskningsråd (FNU),� Private fonde (fx Carlsbergfondet, VKR, . . . ),� Private firmaer→ fx erhvervs-ph.d.’er,

− “STÅ-taksameteret” (20%).

? “Noget for noget” → Forskningsstyring, samfundsrelevans, eller altruisme? →Filantropi (fx Rockefeller).

? Universitetet under pres? → forskningsfrihed, universitetslov, ansatte bestyrel-ser, etc.

6

Hvorfor universiteter?

? Hvorfor forskning ved et universitet? → Hvad kan universitær forskning bidra-ge? → Er der noget, der ikke opnås (bedst) i universitær forskning?

? Hvorfor universitære (akademiske) uddannelser? → Hvem er marked? Hvemsætter standarder? Hvordan?

? Universitet og akademisk identitet?

Opsummering: Infrastruktur

? Peer-review som “the lynchpin of science” → sml. CUDOS → akademisk auto-nomi.

? Peer-review og intern kontrol vs. ekstern styring.

? Videnskabens fremskridt→ og deraf afledte “problemer”,

? Trykte tidsskrifter, lærebøger og elektronisk forskningsudveksling.

7

Hvorfor etik?

8

Etik og computere

? Moral (sædvane/skik) vs. etik (hvad er den rigtige handling?) → Hvis etik skalhave mulighed for objektivitet, så kan vi ikke forlade os på subjektive begrundel-ser.

? Vi kan alle rammes på følelserne→ Men inden vi fordømmer i blinde må vi ken-de grundlaget for fordømmelsen. Vi spørger derfor: Hvorfor er det forkert/rigtigat give kølle til babysæl? Dette er det etiske spørgsmål.

? Etik: systematisk tænkning over principper, der skal lede vores handlinger →normative udsagn (hvad man bør gøre) modsat deskriptive udsagn → filosofiskdisciplin.

? Ikke fuldstændig relativistisk→ meta-etik.

? Særlig etik for den nye computer- og informationsteknologi?

? Overførsel fra kendte etiske problemstillinger?

? Flere niveauer/typer af etik: anvendelse, design, profession, . . . .

Normative etiske positioner

? Dydsetik (virtue ethics, habitus): mod, ærlighed, tolerance, selvbeherskelse, gav-mildhed, . . . .

? Utilitarisme (teleologi, formålsetik): Vælge “mest mulig lykke” i beslutningssitu-ationer:

− Ikke egoisme (mest mulig lykke for mig),

− Regel-utilitarisme: efterleve generelle regler med utilitaristisk begrundelse,

− Handlings-utilitarisme: utilitaristisk beslutning i hver konkret situation.

− Værdier: Hvilke værdier er grundlæggende? Hvordan skal de vægtes? Men-nesket er midler (målet helliger midlerne).

− Kritik: Fokus på lykke/nytte ikke på individ, individ som middel til mål,kan ikke behandle konflikt mellem menneskeheden og individet, risiko forglidebane, hvem bestemmer værdierne og grænserne?

? Deontologi og det kategoriske imperativ (pligtetik):

− Grundlagt i menneskets (universelle) rationalitet→ du skal handle således,at du kan ville, at forskriften for din handling ophøjes til almengyldig lov).

− Hensigten fremfor forudsigelige konsekvenser.

9

− “Aldrig behandle andre mennesker blot som midler men altid som mål”(Kant).

? Rettigheds- eller kontraktetik:

− Grundet i en kontrakt, en overenskomst mellem individer og fællesskabet,som angiver værdierne i samfundet.

− Det etiske er et socialt fænomen→ relativiseret til denne socialitet.

− Kontraktetik eliminerer, at en gruppe eller enkelt individer kan gå udeluk-kende efter egen behovstilfredsstillelse.

− Kritik #1: Hvordan bedømmes et konsistent nazistisk samfund?

− Kritik #2: Garanterer kontrakten, at de handlinger vi foretager i overens-stemmelse hermed er etisk gode og holdbare?

universel naturalistisk etik, nytteetik, pligtetik

relativ kontraktetik, diskursetik

rationel nytte-, pligt-, kontrakt-, diskursetik

“ikke-rationel” naturalistisk etik og nærværsetik

fokus på sindelag pligt- og diskursetik

fokus på konsekvens nytte- og kontraktetik

10

Teknologi som system

? Teknologi som system eller netværk (Thomas P. Hughes): artefakter, menneskeli-ge kompetencer, lovgivning, logistik, . . .→ Eksempler?

? Fx computere på internettet: computere, kabler, ISP, producenter, teleselskaber,teknikere, sysadms og reparatører, tariffer, lovgivning, overvågning, . . . .

? Systemet er ‘organisk’→ kan påvirkes og vil så søge ny ‘ligevægt’.

? Modsat ‘lineær model’ fra (behov til) forskning til artefakt til teknologi (teknolo-gisk determinisme).

? Verdens-anskuelse og livs-form (Heidegger).

Anvendelsesetik og teknologietik

? Placering af ansvar→ normativt og/eller deskriptivt.

? Etiske imperativer→ fx “Du skal ikke dræbe mennesker (unødigt)”→ Tankeek-sempel: din ven og morderen.

? Det ‘sædvanlige eksempel’→ Atombomben over Hiroshima 6/8/45:

− Forskerne (grundforskning) før krigen (Bohr, Einstein, etc.)?

− Videnskabsmændende i Los Alamos (Oppenheimer, von Neumann, Ulam,etc.)?

− Piloten i B-29-flyveren (Robert Lewis)?

− President Roosevelt (grønt lys til projektet) eller Truman (grønt lys til at smi-de bomben)?

? Hvem har ekspertisen til at vurdere ricisi ved teknologi? Og hvem har overblikog er upartisk?

? Forskningens selvransagelse (bl.a. resultat af Hiroshima).

? Samfundets interesse i at overvåge videnskab og teknisk innovation.

Den lineære model igen

? Teknologi-optimisme fra Oplysningstiden → Teknologi som et gode (fx økono-misk motor).

? Videnskabens berettigelse→ den lineære model:

Videnskabelig forskning→ Anvendt videnskab→ Teknologi.

11

? CUDOS (Merton, Akademisk forskning): Communism, Universality, Disintere-stedness, Organised Scepticism.

? PLACE (Ziman, Teknologisk forskning): Proprietary, Local, Authority, Commi-sioned, Expert.

? ISYP Ideal (Græsrods-forskning): Interdisciplinarity, Social responsibility, ¡Ya bas-ta!, Public opinion, Idealism; (Hansen 2005).

? Kritiske teknologi-syn: mellem pessimisme og “social ansvarlighed”→ teknologisom system.

Case: Kryptering og privatlivets fred

? Teknologisk system ifm. ‘gammeldags’ kommunikation:

− Telefoner, kabler, omstillingscentraler, postkasser, postbiler, sorteringsanlæg,. . .

− Lovgivning omkring “ransagning” af kommunikation→ dommerkendelse.

− Fysisk indgriben→ kunst, spionage.

? Emails og internet-kommunikation:

− Nye artefakter: computere, routere, firewalls, etc.

− Centraliserede opkoblinger.

− Mulighed for central evesdropping, usynlig indgriben, ikke nødvendigvisfysisk indgriben, automatisering.

? Justering af systemet?

US vs. Zimmermann

? Philip R. Zimmermann→ “major in computer science”, tidligere fredsaktivist→privacy-aktivist.

? PGP = “Pretty Good Privacy” = RSA+IDEA for menigmand.

? “Gennemsigtig” software frigivet på internettet 1991.

? Problem #1: RSA er proprietær kode→ licens?

? Problem #2: Stærk kryptering er et våben→ FBI og kongres-høringer.

? Statsapparatets interesse i at overvåge kommunikation→ national sikkerhed→typisk USA?

12

? Eksport-forbud; national og international lovgivning.

? Teknologiens irreversibilitet; teknologisk værdi-ladning?

? Privatlivets fred (rettighed) vs. national sikkerhed (overordnet, upersonligt mål)→ etisk afvejning?

? 9/11→ nye udfordringer, nye reguleringer, ny diskussion.

Case: Intellektuelle rettigheder

? Intellektuelle rettigheder: lov (penge) eller etik (retmæssig kredit)?

? Indlejret i det teknologiske (innovations-)system.

? International og national lov.

? Patenter på ideer (inkl. software-patenter, Dansk patentlov):

− Patenterbarhed (ikke opdagelser, teorier, matematiske metoder),

− Nyhedsværdi,

− Eneret (fremstilling m.m., gælder ikke i ikke-erhvervsøjemed),

− EU endvidere: Opfindelseshøjde: “An invention shall be considered as in-volving an inventive step if, having regard to the state of the art, it is notobvious to a person skilled in the art.”

? Copyrights på frembringelser (kode) → og (frivillige) indskrækninger heri → fx.Open Source Software.

? Konkurrence-klausuler og forretningshemmeligheder (indsigt).

Open-Source Software og etik

? FSF: Free Software Foundation & Richard Stallman → GNU → “essential fre-edoms for computer users”.

? Stallman: Aktivist med civile rettigheder som sag → til tider (for nogle af os)mærkelige allierede→ imod ID-kort, Facebook, spisning af visse fiskearter, visseprinter-fabrikater, Coca Cola, Blu-ray, Harry Potter→ media-stunts fx “Get evenfor 9/11: support gay marriage!” → “anvendt etik”.

? US constitution: civile rettigheder→ “Second Amendment”: NRA→ Raymond(Meyer 2001).

? FSF: “Free software is software that gives you the user the freedom to share, studyand modify it. We call this free software because the user is free.”

13

? Copy-left vs. copy-right→ licens-former med kode-indsigt→ “free software” iforhold til pirateri (tyveri).

? Værdier:

? Kritik:

Teknologiens grænser

? Er der software, jeg/vi ikke bør skrive? Eksempler, argumenter, og meta-argumenter.

− Prioritering→ der er noget andet, vi bør gøre først.

− Erstattelighed→ hvis ikke jeg gør det, er der andre, der gør det (først).

− Etiske imperativer→ fx militær software.

− Dehumanisering→ automatisering af “identitets-opgaver”.

− Demokratisk afmagt→ komplekse systemdefinerende teknologier.

? Personligt, professionelt, eller teknologisk etisk spørgsmål?

Fremmedgørelse og dehumanisering

? Teknologi som system betyder at teknologien ikke er lokaliseret, men udgør etkomplekst system.

? Forståelse vs. operativ viden→ Demokratisk afmagt.

? Automatisering→ rationaliseringens rationale→ de-humaniseret.

? Fremskridt→ For hvem? → Fremmedgørelse.

? Komplekse teknologiske systemer kræver tillæring→ Behov for uddannelse, mo-dernisering, væk fra gamle dages idyl, . . .

? Maskinstormere og teknologi-pessimister.

? Har datalogi del i denne teknologiske fremmedgørelse?

− Automatisering og effektivisering.

− “Lettelse af hverdagen / arbejdsdagen”→ publicity stunt.

− Omlægning af arbejdsgange og hverdage→modernisering.

− Globalisering.

14

Turner: Fighting Temeraire, 1838

15

Case: Jurassic Park (1993)

? Programmøren Dennis Nedry (spillet af WayneKnight).

? (Ene-)ansvarlig for computer-systemet i JurassicPark.

? Korrupt, grisk, egoistisk og uansvarlig.

? Parken afhængig af computerstyringen.

? Efterladte medarbejdere hjælpeløse og fremmed-gjorte.

? “Pull the plug!”

Jurrasic Park (1993)

Hacking: i virkeligheden og på film

? Informationssamfund og computer-kriminalitet:

− Identitetstyveri

− Infrastruktur (trafik-regulering)

− Virtuelt tyveri (banker)

? Infrastruktur og “fire sale”

? “Because I can”

The Net (1995)

16

It’s all about controlling the information

Sneakers (1992)

Die Hard 4.0: Live Free or Die Hard (2007)

17

Hacker-etik

? Romantiseret fremstilling af hackeren→ frihedsideal.

? Hacker-manifestet: “This is our world now. The worldof the electron and the switch, the beauty of the baud.We exist without nationality, skin color, or religious bi-as. You wage wars, murder, cheat, lie to us and try tomake us believe it’s for our own good, yet we’re thecriminals. Yes, I am a criminal. My crime is that ofcuriosity. I am a hacker and this is my manifesto.”

? ROBERT TAPPEN MORRIS (?1965) og The ComputerFraud and Abuses Act of 1986→ og hans videre karriere.

Hackers (1995)

Computeren som universelt gode?

? Hvis computere er “god teknologi” og teknologi er et universelt (økonomisk) go-de, så kan man argumentere (etisk) for at computere bør udbredes globalt.

18

? Der har været og er tiltag i den retning (bl.a. WINtel).

? Hvad er de positive argumenter?

? Er der problemer?

? Hvilke typer argumenter er i spil?

Opsummering

? Det moderne universitet under pres.

? Etik og computere: Normative etiske positioner (dydsetik, pligtetik, nytteetik).

? Teknologi som system:

− Verdens-anskuelse→ organisk system.

− CUDOS vs. PLACE, igen.

? Datalogi som videnskab eller teknologisk forskning — igen, igen!

? Etiske og teknologi-etiske problemstillinger:

− Individuelle rettigheder,

− Copyright og patenter,

− Fremmedgørelse og dehumanisering.

? Næste uge: Datalogiens profession og professionsetik.

Litteratur

Cross, T.: 2006, Academic freedom and the hacker ethic, Communications of the ACM 49(6), 37–40.

Hansen, T. B.: 2005, Grassroots science — an ISYP ideal?, ISYP Journal on Science and WorldAffairs 1(1), 61–72.

Johnson, D. G.: 2001a, Computer Ethics, 3. udg., Prentice Hall, Upper Saddle River (NJ).

Johnson, D. G.: 2001b, Philosophical ethics, i Computer Ethics (Johnson 2001a), kapitel 2, pp. 26–53.

Meyer, B.: 2001, The ethics of free software, Dr. Dobbs Portal: The World of Software Development .

Raymond, E. S.: 2000, Katedralen og basaren. Oversat af P. Makholm og D. Axel.www.catb.org/~esr/writings/cathedral-bazaar/, checked 2007/03/21.

Sørensen, H. K.: 2009, Noter til datalogiens videnskabsteori 2009. Til brug for undervisningen ikurset Datalogiens Videnskabsteori, Aarhus Universitet, 2009. Version 1.6, 7. april 2009.