De ethiek van onze tijd

Nu we steeds meer algoritmes gaan gebruiken in organisaties, wordt het belangrijker nog beter te gaan kijken naar onze vooroordelen. Anders zullen deze zeker hun weg vinden in bedrijfsprocessen waar vooral de mensen last van zullen krijgen die het al moeilijk hebben. Dat betoogt voormalig Wall Street wiskundige Cathy O’Neil in haar boek Weapons of Math Destruction.

Deze wiskundige massavernietigingswapens, afgekort WMD’s, zijn in feite slechte veronderstellingen gemaskeerd door wiskunde. WMD’s kunnen grote schade aanrichten en verbeteren zichzelf niet middels feedback. Een doodzonde voor ieder algoritme.

Wiskundige modellen proberen de realiteit na te bootsen. Een heel simpel algoritme zit bijvoorbeeld in een rookmelder. Als er rook is, zal er waarschijnlijk brand zijn, dus gaat het alarm af. Dit kun je niet toepassen op mensen. Ooit een grote schuld gehad? Dan ben je een risico en een klaploper. Banken willen je geen hypotheek geven en HR-afdelingen willen je geen baan aanbieden. WMD’s reduceren mensen tot statistische getallen. Zelfs als ze het regelmatig goed hebben, vallen er gegarandeerd slachtoffers.

Een overwegend positief voorbeeld van het gebruik van algoritmes is Moneyball: het inzetten van sportstatistieken om honkbalspelers aan te kopen en teams samen te stellen. Dit is positief omdat het transparant is en iedereen weet wat er gemeten wordt en hoe dit geïnterpreteerd wordt. Bovendien is er gigantisch veel data beschikbaar. Wat Amazon doet, ontdekken wat hun klanten beweegt, kan ook door de beugel als commerciële toepassing omdat het algoritme continu leert en er geen mensen worden uitgesloten.

Slechte algoritmes delen ons in in groepjes ‘mensen zoals ons’, maar niemand weet goed waarom. Vervolgens worden op basis daarvan beslissingen gemaakt, zoals hoeveel we moeten betalen voor een autoverzekering, welke roofdier-advertenties we te zien krijgen en hoe waarschijnlijk het is dat we een crimineel zijn.

We moeten deze modellen leren herkennen. Niet alleen de data-wetenschappers, maar iedereen die zakelijk gebruik maakt van algoritmes voor processen en beslissingen. Anders creëren we mogelijk een poverty trap waarvan het herstel tientallen jaren kan gaan duren. Vrije markten gaan het probleem niet oplossen, alleen meer bewustzijn kan dat doen.

Advertenties

4 vijanden van goede beslissingen (en hoe ze te verslaan)

Besluitvorming in bedrijven is vaak gebrekkig met als gevolg dat er suboptimale tot simpelweg slechte beslissingen genomen worden. Vele onderzoeken over fusies en overnames – besluiten met enorme belangen – tonen aan dat zo’n 75 procent geen waarde creëert voor de aandeelhouders. Wat zijn de belangrijkste cognitieve en psychologische valkuilen die leiden tot slechte beslissingen en hoe vermijd je die? In hun boek ‘Decisive’ beschrijven auteurs Chip en Dan Heath het proces dat managers zouden moeten volgen om de vier grootste vijanden van goede beslissingen te vermijden.

1. Te smal blikveld
De beroemde psycholoog Daniel Kahneman (auteur ‘Thinking, Fast and Slow’ en grondlegger van de gedragseconomie) stelde dat we vaak veel te snel naar conclusies springen omdat we te veel gewicht toekennen aan de informatie die vlak voor ons ligt, en we de informatie die buiten ons blikveld ligt niet meenemen. Deze cognitieve illusie staat bekend als ‘narrow framing’ en vormt de eerste grote moeilijkheid in besluitvorming. Hetgene dat in de schijnwerper staat zal zelden alles zijn dat nodig is voor de best mogelijke beslissing. Een voorbeeld van zo’n smal blikveld is de vraag stellen; ‘moet ik Peter wel of niet ontslaan?’ Hiermee zet de vraagsteller één optie in de schijnwerper ten koste van alle mogelijke alternatieven.

Hoe te vermijden?
De eerste stap is om het smalle blikveld te herkennen. ‘Wel of niet’ keuzes zijn zelden een goed idee. Paul Nutt van de Ohio State University deed in 1993 een analyse van 168 beslissingen en ontdekte dat slechts 29 procent van de teams meerdere alternatieven onderzocht. Hij ontdekte ook dat ‘wel of niet’ beslissingen op lange termijn in 52 procent van de gevallen faalde. Bij beslissingen waarbij twee of meer alternatieven werden gewogen was dat 32 procent. Nutt stelt dat dit komt doordat wanneer een manager een enkele optie najaagt, hij/zij vooral energie steekt in het laten slagen van dit ene idee in plaats van te zoeken naar betere manieren om het te doen. Opties toevoegen (legitieme opties, geen schijnopties) leiden tot betere en snellere beslissingen. Een goede manier om nieuwe opties te genereren is om iemand te zoeken die al eens met het probleem te maken heeft gehad…

Lees verder op FM.nl

Big data en de waarheid

Aan het toenemende vertrouwen op data voor al onze beslissingen kleeft een risico. Namelijk dat we denken dat de wereld begrijpelijk en voorspelbaar is. Dat is de wereld niet, zeker niet bij zaken waar menselijk gedrag een rol speelt. Bij de verkiezing is de VS keek men naar het verleden. ‘Zo ging het toch altijd?’ Maar de wereld verandert continu, dus zaten de forecasters er compleet naast.

In een incident van iets kleinere magnitude ervoer ik afgelopen zomer in Frankrijk hoe data kan leiden tot verkeerde conclusies. Ik moest Loesje en Rosa naar het vliegveld navigeren en vertrouwde daarbij op het feilloze Google Maps. Toen we door allerlei kleine en verlaten dorpjes werden gestuurd, schijnbaar verder weg van het vliegveld, kreeg Loesje een vreemd gevoel. ‘Zou dit wel kloppen?’ Tuurlijk, riep ik. Google kan het niet verkeerd hebben. De rit eindigde op een doodlopend landweggetje. En deze versperring was niet dagen daarvoor opgeworpen:

big-data-de-waarheid

Na lang in een deuk te hebben gelegen, gaf ik natuurlijk ruiterlijk toe dat mijn blinde vertrouwen in dit op data-gebaseerde product onterecht was geweest. Data is prima om beslissingen te ondersteunen, maar we moeten nooit stoppen met kritisch nadenken. Wat de big-data-aanprijzers (werkzaam voor softwareleveranciers) ons ook willen doen geloven, onze subliem afgestemde intuïtie blijft het beste kompas wat er bestaat. Of die nu van God/het universum afkomstig is of gewoon door onze ervaringen gecreëerd wordt. Kortom: trust your gut and not just the data.

Wat als iedereen dat zou doen?

Hoe bepaal je uit moreel oogpunt wat het juiste is om te doen in een bepaalde situatie? Ga je dan op je gevoel af? ‘Het voelde juist’, geven mensen vaak als reden voor het nemen van een beslissing. Stel dat er een gewonde man bij je aanbelt, laat je hem dan binnen en bel je een ambulance omdat je empathie voor hem voelt?

Immanuel Kant

Volgens de Duitse filosoof Immanuel Kant (1724 – 1804) moeten mensen zulke beslissingen helemaal niet baseren op hun gevoel, maar op wat rationeel het juiste is om te doen. De gevoelens van mensen zijn nu eenmaal anders, vond Kant. Sommige mensen voelen veel empathie en anderen helemaal niet. Voor sommige mensen voelt het goed om geld uit te delen, en voor sommigen helemaal niet.

Wanneer je twijfelt over een morele beslissing, moet je volgens Kant de vraag stellen: ‘Wat als iedereen dat zou doen?’ Als dat niet erg zou zijn, maar positief, kun je dat inderdaad doen. Maar anders niet, want als iedereen uitzonderingen gaat maken wordt de wereld een immoreel zooitje.

Een andere vraag die je moet stellen is: ‘Respecteer ik met mijn actie het doel van alle mensen, of dient het alleen mijn eigen doel?’ Ook hier geldt: Als het alleen eigen doelen dient, niet doen. Kant geloofde dat deze vragen equivalenten waren. Tot slot, kun je je afvragen of je actie vanuit alle perspectieven als rechtvaardig gezien zou worden.

Moraliteitscheck bij beslissingen
1. Zou mijn actie een universele wet kunnen worden?
(Oftewel: Wat als iedereen dat zou doen?)
2. Dient mijn actie het belang van de mensheid als geheel?
(Gebruik ik mensen niet strikt als middel om mijn eigen doelen te bereiken?)
3. Is mijn actie te verantwoorden als regelgever en regelvolger?

Bij drie keer ‘ja’ zit je volgens Kant goed en kun je doorzetten.