Van ethische data naar doen

5 ethische risico’s van werken met data én een concrete oplossing

De invoering van de nieuwe privacywet (AVG) in 2018 zorgde ervoor dat veel organisaties privacy hoog op de agenda zetten. In dit artikel lees je over de 5 ethische risico's rondom digitaal werken en werken met data. Ook delen we een concrete oplossing met je: het Responsible Data Framework.

Van ethische data naar doen

5 ethische risico’s van werken met data én een concrete oplossing

Marieke Schulte
Data Science Consultant bij Digital Power
Laatst bijgewerkt: 16-07-2019

6 min.

De invoering van de nieuwe privacywet (AVG) in 2018 zorgde ervoor dat veel organisaties privacy hoog op de agenda zetten. In dit artikel lees je over de 5 ethische risico’s rondom digitaal werken en werken met data. Ook delen we een concrete oplossing met je: het Responsible Data Framework.
De invoering van de Algemene Verordening Gegevensbescherming heeft veel organisaties aan het denken gezet over de manier waarop zij met data werken. Het overtreden van de AVG levert namelijk niet alleen grote boetes op. Het brengt ook steeds grotere risico’s voor de reputatie van organisaties. Hiermee is nog niet gezegd dat organisaties nu ook uit intrinsieke motivatie verantwoord omgaan met data. Niet alles wat legaal is binnen de kaders van de AVG, is namelijk ook ethisch verantwoord.

Luciano Floridi (2019)1, Professor of Philosophy and Ethics of Information en directeur van het Digital Ethics Lab aan de University of Oxford, beschrijft in een recent onderzoek 5 ethische risico’s rondom digitaal werken en werken met data.

Hieronder doorlopen we deze risico’s en passende oplossingen kort met je. Vervolgens delen we een concrete oplossing voor ethische risico’s rondom digitaal werk bij onze klant RNW Media, een Nederlandse maatschappelijke organisatie. Hier wordt een Responsible Data Framework gehanteerd.

1. Ethics Shopping

Het eerste ethische risico rondom digitaal- en data-gerelateerd werk is, volgens Floridi, een gevolg van de grote hoeveelheid ethische principes, codes en handleidingen rondom data. Deze wildgroei van documenten zorgt voor verwarring onder stakeholders. Het risico hiervan is dat organisaties gaan shoppen en kiezen wat hen het beste past. Hierdoor kunnen ze ethische principes mixen en matchen totdat ze passen bij het werk dat zij al doen. Dit doen ze in plaats van hun werk te herzien zodat het voldoet aan een ambitieuze set principes.
Mogelijke oplossing: Duidelijke en grootschalige ethische standaarden, zoals de ‘Ethics Guidelines for Trustworthy AI’ die onlangs door de EU zijn gepubliceerd.

2. Ethics Bluewashing

Als variant op de term greenwashing, beschrijft Floridi het aandikken van de ethische praktijken van organisaties als ethics bluewashing. De implementatie van ethisch beleid rondom digitaal werk is vaak duur en de opbrengsten ervan zijn onzeker. Daarom richten sommige organisaties zich vooral op slimme marketing. Ze maskeren dan bepaalde praktijken en adverteren met opgeleukte ethisch verantwoorde activiteiten. Denk hierbij aan het oprichten van een adviesorgaan (dat vervolgens weinig bevoegdheden krijgt). Hoewel dit op het eerste gezicht goed oogt, voegt het uiteindelijk nauwelijks iets toe.
Mogelijke oplossing: Transparantie en opleiding, bijvoorbeeld in de vorm van campagnes over ethisch verantwoorde praktijken.

3. Ethics Lobbying

Overheidsbeleid loopt vaak achter op de nieuwste ontwikkelingen in de digitale wereld (door asymmetrische informatie). Het lijkt erop dat organisaties proberen te lobbyen tegen de invoering van nieuwe, strengere wetgeving. Ze doen dit bijvoorbeeld door eigen ethisch beleid in te voeren. Vervolgens presenteren ze dit aan beleidsmakers alsof overheidsbeleid niet langer nodig is. Hoewel dit een strategie is die vooral op de korte termijn werkt, kan het veel schade aanrichten. Wanneer overheidsbeleid rondom digitaal werk door lobbyen vertraagd wordt, krijgen organisaties namelijk vrij spel om eigen beleid te ontwikkelen en dit wel of niet na te leven.
Mogelijke oplossing: Gepaste wetgeving en strenge uitvoering hiervan. Ook: het publiek maken van ethics lobbying als dit plaatsvindt. Zo wordt het makkelijker om lobbyen te onderscheiden van oprecht intern beleid bij organisaties.
- Lees verder onder de afbeelding -
ethische-data

4. Ethics Dumping

Sommige organisaties omzeilen ethisch verantwoord door hun onderzoeksactiviteiten rondom digitale processen, producten of diensten te verplaatsen naar landen waar de betreffende wetgeving nog minder streng is (vaak buiten de EU). Hierdoor worden ze niet geremd door beleid. Ook kunnen ze later alsnog de uitkomsten van hun onderzoek toepassen in landen waar de wetgeving wél streng is. Een voorbeeld hiervan: een bedrijf traint nieuwe algoritmes voor gezichtsherkenning op persoonlijke data van niet-Europese burgers in een niet-Europees land. Vervolgens past het deze algoritmes toe binnen de EU. Deze tweede stap, het importeren van onethische producten of diensten, is met name lastig te controleren.
Mogelijke oplossing: Overheden kunnen voorkomen dat onverantwoord onderzoek subsidie ontvangt door strengere controle. Keurmerken voor ethisch verantwoorde producten of processen kunnen de import van onverantwoord onderzoek tegengaan.

5. Ethics Shirking

Tot slot beschrijft Floridi het risico ethics shirking. Hiermee doelt hij op het selectief toepassen van ethisch beleid rondom digitaal werk in gebieden, of in werkgebieden, waar dit het meest loont. Net als met ethics dumping, zijn kwetsbare bevolkingen in ontwikkelingslanden hier met name de dupe van. Hier zijn instituties en organisaties nog niet voldoende ingericht om de bevolking te beschermen tegen de risico’s van de digitale wereld. Daarom investeren bedrijven hier het minst in ethisch verantwoord werken.
Mogelijke oplossing: Verantwoordelijkheden verhelderen en benoemen. Doordat verantwoordelijkheden binnen organisaties onduidelijk zijn, kunnen processen alsmaar verder uitbesteed worden. Dit moet worden aangekaart om Ethics Shirking tegen te houden.

Een concrete oplossing: het Responsible Data Framework van RNW Media

Een concrete oplossing is het Responsible Data Framework waar we bij onze klant RNW Media aan hebben gewerkt. RNW Media is een maatschappelijke organisatie die zich voornamelijk richt op digitale oplossingen voor jongeren, door online communities te bouwen voor specifieke thema’s, zoals seksuele gezondheid en rechten
rnw_logo

De thema’s waar RNW Media social media platformen voor bouwt, liggen in de landen waar ze gebruikt worden vaak gevoelig.

Een voorbeeld van een risico dat hiermee gepaard gaat, is dat een regering met een anti-LHBTI agenda een databestand in handen krijgt met de persoonlijke gegevens van LHBTI jongeren die een platform van RNW Media gebruiken. RNW Media besteedt daarom veel aandacht aan het beschermen en verantwoord verwerken van data van de gebruikers van haar platformen.

We ontwikkelden hiervoor het Responsible Data Framework  (RDF) als basis voor intern beleid waarin verantwoord omgaan met data is vastgelegd. Het RDF van RNW Media is gebaseerd op de bestanden van andere maatschappelijke organisaties, zoals Oxfam.

Hierdoor is het beleid van RNW Media makkelijk te vergelijken met dat van andere NGO’s, terwijl het wel toegespitst is op de organisatie zelf. Het Responsible Data Framework van RNW Media bestaat uit 6 ambitieuze principes:

  1. Respect for data subject’s autonomy
  2. Respect for local context
  3. Do no harm
  4. Privacy principles and FIPs
  5. Transparency and accountability
  6. International considerations

Bij deze zes principes horen specifieke doelstellingen. Hieraan wordt vervolgens beleid gekoppeld. Een voorbeeld is deze doelstelling onder principe:

2. Respect for local context:

  • We respect cultural norms and power differentials:
  • Individuals are agents in the data collection process; and
  • We are aware and considerate of the power differences at play between the data collector and the data subject.

Van intern beleid naar sector-brede ‘declaration’ voor ethische data

Collega’s uit het Data & Digital team van RNW Media zijn onderdeel van een team experts op het gebied van AI & Machine Learning. Ook zijn er experts op het gebied van maatschappelijk werk, dat onlangs The Dagstuhl Declaration on the Application of Machine Learning and Artificial Intelligence for Social Good 🡕  lanceerde.
- Lees verder onder de afbeelding -
ethische-data-beleid

Deze verklaring slaat een brug tussen Data Science en de Sustainable Development Goals, en de mensen die in beide sectoren werken. Het is daarmee een grote stap in de goede richting.

Het Responsible Data Framework van RNW Media was een van de inspiratiebronnen voor de verklaring. Dit soort initiatieven zijn belangrijk voor de bewustwording van de ethische risico’s rondom digitaal werken. Ze zijn een vereiste voor het ontwikkelen van gepaste oplossingen voor ethische data.

RNW Media is hiermee goed op weg om de ethische risico’s van werken met data niet alleen intern te voorkomen, maar ook om samen met andere organisaties een verantwoord data-klimaat te stimuleren. 

Ben jij aan het denken gezet door dit artikel en wil je graag met een van onze collega’s doorpraten over ethische data? Neem contact op.

Floridi, L (2019). Translating Principles into Practices of Digital Ethics: Five Risks of Being Unethical. Philosophy & Technology 32:185-193.

Dit is een artikel van Marieke Schulte, Data Science Consultant, Digital Power
Marieke heeft een achtergrond in sociaal- en ontwikkelingsbeleid en het evalueren hiervan, aan de hand van (ethisch verantwoorde) data.

Lees onze andere artikelen over datagedreven werken

dashboarding-datawat-is-data-science-definitie-betekenis