Wat is het doel van organisaties om producten en diensten te verkopen?  Natuurlijk, zo relevant mogelijk zijn voor potentiële klanten. Een reclame op een billboard langs de weg kan prima werken, net als een commercial op radio of tv. Maar gepersonaliseerde marketing zet – zeker voor specifieke producten en diensten – pas echt zoden aan de dijk. De ontwikkelingen op dat vlak gaan om die reden razendsnel. Mensen in de marketing en daarmee ICT-ers zoals programmeurs worden op grote schaal verzocht algoritmes te bouwen of ermee te werken, om zo veel mogelijk data te combineren. Met als doel bovenaan het kooplijstje te komen van mensen.

Een consument, ik ben er zelf ook één, wordt over het algemeen best blij van een aanbieding voor tennisballen als ie net een racket heeft aangeschaft. Of een lidmaatschap bij een club heeft afgesloten. Dat ik na het lezen van security-nieuws artikelen krijg voorgeschoteld die daar volgens de computer bij aansluiten, is best prettig. Met een vacature voor een baan die me – op basis van mijn werkverleden en opleiding – precies op het lijf geschreven is, kan ik ook best leven. Meestal en heel vaak absoluut niet.

Etikettering

Het gaat alleen lang niet altijd goed. Stel nou dat ik weliswaar ben opgeleid als business-analist en daarin in de loop der jaren in mijn vak goed werk heb afgeleverd, maar dat ik nu juist zoek naar een nieuwe carrière? Ik wil wel eens wat anders. Iets meer conceptdenken, iets minder maken bijvoorbeeld. Waar ik echt wat aan zou hebben, is een blik op wat er nog meer te halen is, inzicht in welke carrièreswitches ik zou kunnen najagen. Er bestaat geen algoritme dat daarmee rekening houdt.

Waar het om gaat is: al die algoritmes, al die data, die machine learning en deep learning… ze maken bubbels en funnels. Ze vernauwen mijn blik op de wereld, omdat ik in groepen wordt ingedeeld en van andere groepen weinig meer meekrijg. Wat machine learning volgens de gebruikers ervan zou doen is personaliseren, maar in wezen doen de systemen niets anders dan generaliseren. Ze bouwen hokjes en beslissen welke consument in welk hokje past. En die systemen ontwerpen en bouwen de mensen die opdrachten krijgen, van ……… vul maar in

Funnels en bubbels

Hoe erg is dat eigenlijk? Dat hoeft helemaal niet problematisch te zijn. Sterker nog: het kan heel nuttig zijn. Ik krijg dankzij algoritmes antwoorden op vragen die ik nog niet eens gesteld heb. Maar daarin schuilt meteen het gevaar. Namelijk dat we met zijn allen onbewust worden beïnvloed. Algoritmes maken dat we voorkeuren krijgen die niet uit onszelf komen, omdat de computer uit de combinatie van data concludeert dat we het één of ander wel móeten willen. De kans dat we zoiets dan ook echt gaan willen, is reëel. Zie daar de creatie van een funnel.

En bubbels worden net zo makkelijk gecreëerd. Als ik alleen nog maar security-nieuws op mijn beeldscherm krijg, of andere onderwerpen waar ik ooit interesse in heb getoond, hoe kan ik dan ooit mijn visie op de wereld, mijn mening, nog aanscherpen? Alles wat ik te zien en lezen krijg, is het immers met mij eens. Terwijl het voor de hand ligt dat juist tegengestelde meningen zorgen voor een mooie discussie, ook in mijn hoofd.

Helpt dit de mensen in de samenleving?

Als wij, als ,mensen die het dagelijks werk doen in een organisatie (dus ook de programmeurs van ICT), rücksichtslos opdrachten van onze commerciële klanten uitvoeren, dan helpen we zelf actief mee aan het maken van funnels en bubbels. Goed voor marketeers om hun markten te beschermen. Maar minder goed voor de mensen in de samenleving waar we zelf toch ook deel van uitmaken. Dus waarin technologie bepaalt wat jij wel en niet wil, wat voor mening jij hebt en met wie jij zou moeten praten. Wil jij in een samenleving leven waarin je geëtiketteerd bent en volgens dat etiket behoort te leven?

De oplossing is net zo simpel als ingewikkeld. Ieder mens in deze samenleving en die werkt en koopt, heeft een verantwoordelijkheid. Wij moeten niet zomaar alles ontwerpen en doen  wat die opdrachtgevers aan de mensen die dat dagelijks werk doen vragen. We moeten ons continu dingen afvragen: waarvoor dient dit algoritme? Waar is de mens mee bezig, hoe wil hij zich als mens ontwikkelen? En welke antwoorden zoekt hij dan? Welke data mag hij daarvoor gebruiken? Wat wil hij met de uitkomsten? Hoe prettig ervaren de mensen de manier waarop ze middels het algoritme worden benaderd? Belangrijk is altijd, of we met z’n allen, met het werk wat we doen, met dat wat we kopen, met dat wat we bedenken (de mensen in) de samenleving helpen meters te maken in is de ontwikkeling van zichzelf als mens, of als organisatie?

Ieder van ons, of we nu wel of niet werken, of we directeur zijn of mens die werkt onderin de  organisatie, manager of lid van het team, ieder van ons heeft een verantwoordelijkheid. Wij moeten niet zomaar alles realiseren wat een opdrachtgever vraagt.

Pittige discussies

Ja, deze stellingname zorgt voor discussies. Best pittige soms. Belangrijk is de opdrachtgever in te laten zien dat algoritmes niet meer zijn dan een hulpmiddel. En dat wanneer hij toch zijn idee inzake het toepassen van algoritmes doorzet, hij feitelijk van zijn ondergeschikten eist dat zij meewerken aan dat wellicht onjuiste gebruik van dat algoritme. Dus is het nodig de opdrachtgever te laten inzien dat de menselijke afweging uiteindelijk altijd de doorslag moet geven. Daar hoort bij dat marketeers, de ICT-ers die de software, de algoritmes maken opdrachtgevers moeten uitleggen wat de technologie doet, hoe het mensen kan beïnvloeden. Dat mensen die daarmee worden benaderd worden, gecoacht worden in het gebruik ervan. Dat hen verteld wordt wat de nadelen kunnen zijn, de gevaren van onzorgvuldig gebruik van ingevoerde data. En vooral dat klanten van de opdrachtgevers het recht hebben te weten op basis waarvan zij benaderd worden. Met deze visie werk ik nog steeds bij de implementatie van ICT en dat heeft altijd succes. Opdrachtgevers en hun klanten staan hiervoor open. Het is mijn overtuiging dat dat ook met de algoritmes geldt.

Mensen die het dagelijks werk doen in organisaties die dus de business-as-usual doen dan wel meewerken aan veranderprocessen zijn niet slechts de uitvoerders van besluiten die door opdrachtgevers genomen worden. Deze mensen zijn wij allemaal. Wij zitten aan de basis van de processen en de ICT, wij weten hoe die werken en weten welke gevolgen die kunnen hebben. En daarom hebben wij, een belangrijke taak: wij moeten mensen in de samenleving bewust maken, onze verantwoordelijkheid nemen. Kunnen we er niet mee leven, dan geven we de opdracht terug. Immers de vraag is of u uiteindelijk mee wil werken aan het in de boeien slaan van mensen?

Roland, nu ben je toch wel heel er zwart wit bezig! Ja, misschien wel, alleen het gemak waarmee we met z’n allen deze ontwikkeling zomaar laten gebeuren, vraagt er gewoon om om daar stevig tegen in te gaan.

Dank Ivo (frankwatching 180728)