Moral Lab
Dit onderzoek richt zich op op de vraag hoe we morele data kunnen verzamelen als input voor ethisch programmeren. Het Moral Lab is een wetenschappelijk platform dat een zinnig en bruikbaar antwoord biedt op het morele vacuüm dat ontstaat wanneer techniek menselijke ethiek over neemt. Dit is gedaan door op het snijpunt van normatieve ethiek en empirische wetenschappen morele data te verzamelen. Er is hiervoor een online en offline Moral Lab gebouwd.
lector Mark de Graaf over het onderzoek:"Ethiek: het is gemakkelijk gezegd, informatie delen, regie anders leggen, schotten doorbreken. Maar dit kan een enorme impact hebben op de levens van individuele burgers. Des te meer als daarbij slimme algoritmes en big data wordt ingezet. In de praktijk volgt de ethiek vaak de werkelijkheid, dat willen wij met deze onderzoekslijn omkeren. Laten we eerst goed nadenken over de ethische aspecten van grote transformaties en dan weloverwogen keuzes maken, waarbij we goed naar de belanghebbenden hebben geluisterd. Hier gaat bijvoorbeeld het Moral Lab over.''
Projectresultaten
In samenwerking met Foundation We Are hebben we een pilot gedraaid op de Eindhovense Dutch Design Week 2019 waarbij we voor het eerst een fysiek moreel laboratorium ontwierpen. De bezoeker werd geconfronteerd met een vijftal ethische kwesties en uitgenodigd een AI te helpen een ethische beslissing te nemen. De vijf ethische kwesties vloeiden voort uit situaties waarin techniek een moreel dilemma moet beslechten. Hiermee wilden we vanuit verschillend invalshoeken meten hoe individuen zouden willen dat techniek normatief ethisch oordeelt. Deze pilot diende als fundament voor een methodologie voor toekomstig soortgelijk onderzoek. Met de data die we tijdens de pilot ophaalden koppelen we demografische gegevens aan normatieve ethische voorkeuren in de context van smart society.
De VPRO maakt een documentaire in de context van haar programma ‘toekomstbouwers’ over de bouw van het Moral Lab.
In samenwerking met studenten van de Fontys minor Digital Marketing is in het najaar van 2019 een permanent online Moral Lab gebouwd waarin we middels een interactieve website de resultaten van het offline lab kunnen verifiëren en waar nodig verder kunnen finetunen.
In 2020 is het Moral Lab opgeschaald, zodat er een grotere hoeveelheid morele data achterhaald wordt. Hiervoor zijn pop-up labs ontworpen, waarbij we dichter bij de doelgroep kunnen komen die interacteert met een bepaalde technologie. Denk aan een wijk die door een gemeente op basis van Big Data als een risicowijk wordt aangewezen, denk aan een Festival waar privacyvraagstukken spelen, en denk aan een Tech-bedrijf waar veel programmeurs werken. Daarnaast gaan we een ‘moral intensity-dashboard’ testen waarbij engineers zelf aan de hand van verschillende criteria kunnen toetsen waar de morele verantwoordelijkheid van Moral Programming zou moeten liggen.
Samen met ICT studenten ten slotte zijn chat-bots ontworpen die een ethische dialoog kunnen aangaan met een mens, waarbij de mens de chat bot daadwerkelijk ethisch kan trainen.
Partners
In deze onderzoekslijn werken we samen met:
Publicaties
- Opiniestuk ED: In pandemie zoeken we ook naar exit-filosofie
- Whitepaper: Dilemma's rondom zelfdenkende technologie
- Artikel: Bedrijven in de frontlinie: vriend of vijand?
- ED: ehtische grenzen aan kunstmatige intelligentie. Willen we wel alles wat er kan?
- Boek: Ethiek en economie: een grensoverschijdende inleiding
