Moral Lab

Dit onderzoek is gericht op de vraag hoe we morele data kunnen verzamelen als input voor ethisch programmeren. Het Moral Lab zal een wetenschappelijk platform bieden dat een zinnig en bruikbaar antwoord biedt op het morele vacuüm dat ontstaat wanneer techniek menselijke ethiek over neemt. Dit gaan we doen door op het snijpunt van normatieve ethiek en empirische wetenschappen morele data te verzamelen. We doen dit door een online en offline Moral Lab te bouwen.

Projectresultaten

In samenwerking met Foundation We Are hebben we een pilot gedraaid op de Eindhovense Dutch Design Week 2019 waarbij we voor het eerst een fysiek moreel laboratorium ontwierpen. De bezoeker werd geconfronteerd met een vijftal ethische kwesties en uitgenodigd een AI te helpen een ethische beslissing te nemen. De vijf ethische kwesties vloeiden voort uit situaties waarin techniek een moreel dilemma moet beslechten. Hiermee wilden we vanuit verschillend invalshoeken meten hoe individuen zouden willen dat techniek normatief ethisch oordeelt. Deze pilot diende als fundament voor een methodologie voor toekomstig soortgelijk onderzoek. Met de data die we tijdens de pilot ophaalden koppelen we demografische gegevens aan normatieve ethische voorkeuren in de context van smart society.

De VPRO maakt een documentaire in de context van haar programma ‘toekomstbouwers’ over de bouw van het Moral Lab.

In samenwerking met studenten van de Fontys minor Digital Marketing is in het najaar van 2019 een permanent online Moral Lab gebouwd waarin we middels een interactieve website de resultaten van het offline lab kunnen verifiëren en waar nodig verder kunnen finetunen.

In 2020 zal het Moral Lab opgeschaald worden, zodat er een grotere hoeveelheid morele data achterhaald wordt. We doen dat door pop-up labs te ontwerpen waarbij we dichter bij de doelgroep kunnen komen die interacteert met een bepaalde technologie. Denk aan een wijk die door een gemeente op basis van Big Data als een risicowijk wordt aangewezen, denk aan een Festival waar privacyvraagstukken spelen, en denk aan een Tech-bedrijf waar veel programmeurs werken. Daarnaast gaan we een ‘moral intensity-dashboard’ testen waarbij engineers zelf aan de hand van verschillende criteria kunnen toetsen waar de morele verantwoordelijkheid van Moral Programming zou moeten liggen.

Tenslotte is het de ambitie om samen met ICT studenten chat-bots te ontwerpen die een ethische dialoog kunnen aangaan met een mens, waarbij de mens de chat bot daadwerkelijk ethisch kan trainen.

Bart Wernaart

0657312136
b.wernaart@fontys.nl

Iris van Hest

0653168030
iris.vanhest@fontys.nl

Mark de Graaf

0653659865
m.degraaf@fontys.nl