Denk mee over humaan datagebruik met behulp van Equality Matters

uitdaging

Data is niet altijd eerlijk. Sommige mensen vragen bijvoorbeeld een lening aan, maar worden op basis van data afgewezen. Onterecht, blijkt af en toe. Met Artificial Industry bedachten we een concept dat dit proces eerlijk maakt: Equality Matters. Wij zoeken een partner, die wilt bewijzen dat zij eerlijke beslissingen maakt op basis van data en profilering.

Eerlijke data

Wij zijn al een tijdje bezig met het nadenken over hoe algoritmes werken en hoe de mens controle kan houden over die werking. Het feit dat algoritmes niet objectief zijn en mogelijk juist discrimineren, wordt steeds meer als probleem erkent. Het is voor heel veel bedrijven totaal niet transparant hoe hun algoritmes beslissingen maken. Daardoor is het onduidelijk of ze (onbedoeld) discrimineren. Dat is niet alleen vervelend, maar mogelijk ook strafbaar. We zijn gaan nadenken hoe we deze stap in de dataketen transparant zouden kunnen maken, zodat er garanties zijn dat beslissingsprocessen eerlijk en wettelijk verlopen.

Het idee​

We leggen ons concept uit aan de hand van onderstaande afbeelding.

Het eerste scherm laat een verkoopformulier zien van een bedrijf. Dit kan bijvoorbeeld de aankoop van een verzekering of lening zijn. Equality Matters voegt een knop toe waar de consumenten gebruik van kunnen maken. Als ze dat doen, dan gaan ze naar een scherm waar ze - los van het bedrijf - hun persoonlijke informatie achterlaten bij Equality Matters. Wij slaan hun informatie anoniem op. Vervolgens keert de consument terug naar het verkoopformulier en handelt de verkoop verder af. De consument wordt daarbij goedgekeurd of afgekeurd voor hun verzekering/lening (in dit voorbeeld). Als genoeg consumenten meedoen is Equality Matters in staat om op basis van statistiek af te leiden of de besluitvorming eerlijk is geweest, of dat er (onbedoeld) groepen mensen worden benadeeld (op basis van geslacht of leeftijd in dit voorbeeld). Daarmee maakt Equality Matters een essentiële schakel in de dataketen transparant.

Gezocht: partner

Wij zoeken een partner die enthousiast is over ons concept en wil bewijzen aan haar klanten dat zij eerlijke beslissingen maakt op basis van data en profilering. Een partner die het belangrijk vindt dat haar efficiënte processen humaan blijven en de waarden van onze maatschappij weerspiegelen. We zouden graag testen uitvoeren in samenwerking met deze partner, die het volgende moeten aantonen:

  • Het transparant maken van de dataketen levert winst op in hoe de consument tegen het bedrijf en haar algoritmes aankijkt.
  • Het transparant maken van de dataketen bewijst aan de regulerende instanties (zoals Autoriteit Persoonsgegevens) dat alles eerlijk en volgens de wet verloopt.
  • Het transparant maken van de dataketen verstoort het verkoopproces minimaal, zodat er weinig tot geen schade wordt aangericht met de implementatie ervan.

Klantenbestand

Wij zien voor ons dat een heel klein gedeelte van de klanten van de partner worden blootgesteld aan ons concept. Daarbij gaan we meten wat de positieve en negatieve impact is van het idee. Daaruit kunnen we vervolgens afleiden welke waarde ons concept genereert en of het echt een bestaansrecht heeft.

Meer weten of interesse? Laat onder dit item een reactie achter of neem direct contact op.

Over Artificial Industry

Equality Matters is ontwikkeld door Artificial Industry, een innovatielab dat zich voornamelijk bezig houdt met het creëren van innovatieve oplossingen voor VANAD Group en haar klanten. Ontwikkelingen op het gebied van kunstmatige intelligentie worden hier ook bij betrokken.

Bekijk hieronder de pitch over Equality Matters:

Voorgestelde oplossingen (0)

Facebook Twitter LinkedIn™
Twitter LinkedIn™ Facebook Google+
Geschreven door Fako Berkers op 05-07-18 https://artificialindustry.com

Wil jij op deze uitdaging reageren?

Laatste reacties

Met Artificial Industry bedachten we een concept dat data eerlijk maakt: Equality Matters. Wij zoeken nu een partner.

Initiatiefnemer

Deelnemers

Relevante Global Goals for Sustainable Development

Bijdragen aan een Futureproof bedrijfsleven door: 9 Industry, innovation and infrastructure 17 Partnerships for the goals