[Klaar voor de => “AI-revolutie”]

Machines die slimmer zijn dan mensen. Het kan realiteit worden in de toekomst en daar zitten veel haken en ogen aan. Verschillende topexperts brengen de implicaties in kaart in de documentaire We Need To Talk About A.I.

In deze fase zijn we omringt door Narrow AI, kunstmatige intelligentie die een specifieke taak veel beter dan mensen kan uitvoeren. Bijvoorbeeld schaken, autorijden, beleggen, een vliegtuig besturen en gezichten herkennen. Deze AI is vergelijkbaar met een autistische savant. Dit is indrukwekkend, maar staat nog ver af van A.G.I.: Artificial General Intelligence. Mocht dit ooit arriveren, wat gaat er dan gebeuren? De scenario’s in films zijn meestal niet erg rooskleurig. Denk maar aan The Terminator, The Matrix, 2001: A Space Odyssey en Ex Machina. Ook verschillende publieke figuren hebben gewaarschuwd voor de gevaren van AI, zoals Elon Musk, Stephen Hawking en Bill Gates.

Een van de gevaren is dat AGI-machines niet noodzakelijk dezelfde doelen als de mensheid nastreven: het goal alignment probleem. Bijvoorbeeld, wanneer de missie wereldvrede is, dan vindt de AI het misschien wel een goed idee om het hele menselijke ras uit te roeien. Zie bovenstaande films voor dergelijke scenario’s. De film die waarschijnlijk het meest realistische beeld geeft is 2001: A Space Odyssey. De boordcomputer HAL van het ruimteschip Discovery One besluit dat hij de missie naar Jupiter beter zonder bemanning kan uitvoeren, en probeert astronauten om zeep te helpen. Een duidelijk goal alignment probleem. Maar veel AI-experts worden boos van dit soort bangmakerij. Het is onmogelijk om ver vooruit te kijken bij technologische ontwikkelingen. We moeten gewoon bouwen, experimenteren en leren van wat er goed en fout gaat.

Dat kan zo zijn, maar er is wel een grote zorg die tijdig geadresseerd moet worden. Als AGI wordt ontwikkeld kan dat de machtsverhoudingen op de wereld enorm verstoren. Stel dat een dictator als Poetin, Trump of Xi als eerste AGI in handen krijgt… Ik durf er niet aan de denken. Of mogelijk even verschrikkelijk; een tech-gigant als Google of Facebook die ermee aan de haal gaat. Dit is een winner takes all contest. Degene die het als eerste krijgt zal binnen de kortste keren iedere industrie domineren. Hier moeten we afspraken over maken of het kan rampzalig uitpakken.

Maar er is ook heel veel dat AGI kan brengen. Een paar voorbeelden: tijdig de signalen herkennen van hartproblemen, kanker en suïcide. Het sterk verbeteren van verkeersveiligheid. Het laten slagen van veel meer operaties met robotchirurgie. Maar ook het mogelijk maken van een meer gelijkwaardige verdeling van welvaart binnen een vrije markt economie. En zorgen voor meer duurzaamheid en minder oorlog.

Dit klinkt idyllisch, maar een keerzijde hiervan kan weer zijn het inleveren van vrijheid. Een AI dictatorschap dus. Een tussenvorm kan zijn dat de AI als scenarioplanner fungeert die de mens alle ideale beleidsvoorstellen voorlegt. Maar de mensen blijven beslissen. We moeten hoe dan ook nadenken over hoeveel autonomie we machines geven. Dat geldt bijvoorbeeld ook voor zelfrijdende auto’s die ethische keuzes moeten maken, zoals het laten sterven van hun passagier of het inrijden op een groep kinderen. Wie beslist?

Er komt nogal wat bij kijken. En gezien de enorme revolutie die AI gaat inluiden is het niet verkeerd als hier zoveel mogelijk risicomanagement op los te laten. Alles wat er mogelijk verkeerd kan gaan moet in kaart worden gebracht en alle mogelijke maatregelen moeten worden genomen om deze risico’s in te dammen. De vuistregel van riskmanagement-expert Nassim Nicholas Taleb is hier van toepassing: ‘wat moeder natuur doet, is rigoureus totdat het tegendeel is bewezen; wat mens en wetenschap doen, is gebrekkig totdat het tegendeel is bewezen.’ We zijn gewaarschuwd.

Bullshit Bestsellers

Ik erger me al een jaar kapot aan de titel van een boek dat in iedere boekhandel prominent op de planken staat: The Subtle Art of Not Giving a F*ck. Ik weet niet waarom ik me er zo aan stoor. Misschien omdat van de titel iets uitgaat van; ‘kijk mij eens gedurfd doen’. Omdat het al zo lang in de top 10 staat, dacht ik dat het binnenkort eindelijk wel eens zou verdwijnen. Niet dus. Sterker nog, toen ik van de week de AKO binnenliep, zag ik tot mijn verbazing dat de auteur een nieuw boek heeft uitgebracht:

Everything Is F*cked: A Book About Hope. Haha, weer een goeie grap van bewustzijn.

Ik had het ook kunnen weten. Zodra een boek onverwacht een hit wordt, zet de uitgever de verraste auteur meteen aan het werk voor een follow-up. Dat zagen we recentelijk ook met Sapiens dat direct werd opgevolgd door Homo Deus en 21 Lessons for the 21st Century. Boeken waarin de auteur interessante dingen vertelt en onze misdadige behandeling van dieren aan de kaak stelt, maar die helaas ook het schadelijke mainstream wereldbeeld van de mens als biologische machine in stand houden.

Kortom, tijd voor een positieve bestseller. Mijn boek staat gepland voor 2022, maar wat is de kans dat het een bestseller wordt? Volgens randomness expert Nassim Nicholas Taleb nihil. Een bestseller is een echte Zwarte Zwaan-gebeurtenis (onverwachts en met grote impact). Er bestaat geen formule voor het schrijven van een bestseller, net zoals die niet bestaat voor rijk worden. Boeken als The Millionaire Fastlane zijn grote onzin volgens de auteur van o.a. Fooled by Randomness. De schrijvers van zulke flutboeken negeren de kerkhoven met duizenden ondernemers die geen miljonair zijn geworden. Zo is het ook met bestsellers. Hoeveel miljoenen boeken verdwijnen er niet in de papiercontainer elk jaar? Het boek moet precies op het juiste moment de juiste snaar weten te raken bij een massapubliek. Daarin spelen zoveel factoren een rol dat je het nooit kan berekenen. Wat je wel kan doen als deelnemer aan deze loterij is zorgen voor een fantastisch geschreven boek. En een fatsoenlijke titel. Mocht het onverhoopt een succes worden staat er tenminste geen bullshit in de schappen.

Skin in the game: hoe ver steekt iemand zijn nek uit?

Nassim Nicholas Taleb, auteur van bestseller De Zwarte Zwaan, gooit vele heilige huisjes omver in zijn meest provocerende en praktische boek ooit.

Over de andere werken van deze auteur:
Misleid door toeval
De Zwarte Zwaan (samenvattende essay)
10 filosofische aforismen (Het bed van Procrustes)
Antifragiel (over dingen die sterker worden van volatiliteit)

‘Vertel me niet wat je denkt, vertel me wat er in je portfolio zit’

Een dokter die eruit ziet als een typische dokter met een muur vol diploma’s of één die eruit ziet als een slager zonder diploma’s van topuniversiteiten aan de muur. Welke kies je voor je operatie? De beste keuze is de slager. In termen van perceptie en vooroordelen heeft hij veel meer obstakels moeten overwinnen om toch als dokter te kunnen werken. Volgens dezelfde logica: kies de financieel adviseur wiens details je het minst goed begrijpt. Laat je niet foppen door de presentatie. En laat je ook geen veel te dure en ingewikkelde oplossing aansmeren door een consultant wanneer je een praktisch probleem wilt oplossen. Consultants hebben geen last van de downside van hun advies.

‘Skin in the game’ denken helpt bij het filteren van zin en onzin. Het verschil zien tussen cosmetische en echte expertise, zoals in de voorbeelden hierboven. Wie de beloning krijgt, moet ook de risico’s dragen en wie dat niet doet is per definitie een bullshit verkoper. Aldus voormalig derivatenhandelaar, auteur en professor risk engineering Nassim Nicholas Taleb, die in 2008 wereldberoemd werd met zijn boek De Zwarte Zwaan.

Maar ‘skin in the game’ (hier is geen passende Nederlandse vertaling voor) gaat niet alleen over beloningen. Het gaat over verantwoordelijkheid dragen als de boel in duigen valt. Het betekent in contact staan met de echte wereld en je onderwerpen aan de risico’s die daarbij horen. Dus niet in een bestuurskamertje beslissingen nemen en niet de gevolgen dragen wanneer het misgaat. Een handelaar die belegt voor zijn cliënten, moet blootstaan aan dezelfde risico’s als zijn klanten.

In de Codex Hammurabi, een wetboek uit het antieke Mesopotamië, staat dat als een bouwvakker een huis bouwt dat instort waardoor de eigenaar om het leven komt, de bouwer zelf ter dood veroordeeld wordt. Kleine kans dat deze bouwvakkers risico’s verborgen in het fundament. Dit is anders met moderne handelaren. Zij verstoppen de risico’s in zeldzame gebeurtenissen (Zwarte Zwanen). Zodra de blow-up plaatsvindt, zijn zij al weg en hebben ze hun bonus al geïncasseerd.

Leiderschap en skin in the game
De VS heeft verschillende malen gepoogd dictators te verwijderen en daarmee landen in veel slechtere staat achtergelaten dan vóór hun ingrijpen. Vergelijk het met een dokter die kankercellen injecteert in een patiënt om zijn cholesterol te verlagen en overwinning kraait als in de dode patiënt een lager cholesterol wordt gemeten. Dokters hebben een bepaalde mate van skin in the game. Als ze het verknallen zijn er gevolgen en ze zijn bovendien opgeleid in ethiek. Ook hebben ze een vaag begrip van complexe systemen waarin je nooit moet ingrijpen wanneer je de gevolgen niet kunt overzien. Amerikaanse politici die gematigde rebellen steunen in het Midden-Oosten die vervolgens uitgroeien tot terroristen hebben geen skin in the game. Hun zoons vechten doorgaans niet mee op het slagveld.

Dat was in vroegere tijden anders. Toen vochten de heersers vaak mee in hun oorlogen. Zo kreeg de Romeinse keizer Julian the Apostate een speer in zijn borst op het slagveld en stierf aan zijn verwondingen. Vergelijk het met de moderne CEO. Of kijk naar de bankencrisis. Die werd veroorzaakt door risico’s te nemen met het geld van klanten om vervolgens gered te worden door de belastingbetaler. De schuld ligt hier niet bij het vrije markt kapitalisme, maar bij de overheid. Zij houden het systeem van bailouts in stand en verwijderen zo de skin uit de game. Er is geen evolutie mogelijk zonder dat het risico op uitsterven aanwezig is. Ondernemers zijn daarom de helden van de samenleving, vindt Taleb. Ze falen voor de rest van ons.

Net zo belangrijk als skin in the game is ‘soul in the game’. Alles wat je doet om je werk te optimaliseren, wat bochtjes af te snijden en er steeds meer efficiency uit te knijpen, gaat uiteindelijk ten koste van het plezier wat je eraan beleeft. Echte vakmensen doen dingen eerst voor existentiële redenen, daarna pas voor financiële en commerciële. Ze zullen geen compromissen sluiten over de kwaliteit. Moderne organisaties tasten ‘soul in the game’ aan. Taken zijn gekoppeld aan tijd, en als de tijd verstreken is, is het niet langer het probleem van de werknemer. De ziel is uit het werk gehaald: mensen moeten willen doen wat ze doen.

Net als zijn vorige boeken (Misleid door toeval, Antifragiel, De Zwarte Zwaan), staat Skin in the Game vol met interessante ideeën over een belangrijk en onderbelicht thema. De kern is echter in één zin samen te vatten: mensen die geen persoonlijke risico’s nemen, zouden nooit betrokken moeten zijn bij het nemen van beslissingen die significante impact hebben op anderen.

10 filosofische aforismen (Het bed van Procrustes)

Een aforisme is een korte, bondige uitspraak, vaak niet meer dan een regel lang. Aforismen zijn vaak grappig, paradoxaal en/of absurd en bevatten vaak een boodschap van wijsheid.

Over de werken van Nassim Nicholas Taleb schreef ik eerder:
Misleid door toeval
De Zwarte Zwaan
Antifragiel

Het Bed van Procrustes is een ander soort boek, namelijk een verzameling aforismen. Het thema is het Procrustesbed, vernoemd naar de wrede Griekse herbergier Procrustes die ledematen van zijn gasten afhakte of uitrekte zodat ze in zijn bed pasten. Wanneer wij stuiten op de grenzen van onze kennis creëren we vaak ook zulke Procrustesbedden door het leven en de wereld in heldere, handzame ideeën, reductionistische categorieën, specifieke vocabulaires en voorverpakte verhalen te persen, wat bij tijd en wijle gevaarlijke consequenties heeft (lees De Zwarte Zwaan).

1. In de wetenschap moet je de wereld begrijpen; in het zakenleven moet je anderen de wereld verkeerd doen begrijpen.

2. In de natuur herhalen we nooit dezelfde beweging; in gevangenschap (kantoor, fitnesscentrum, woon-werkverkeer, sport) is het leven slechts RSI; geen toeval.

3. Er is geen tussenfase tussen ijs en water, maar er is er wel een tussen leven en dood: loondienst.

4. De eerste die ‘maar’ zegt, verliest de discussie.

5. Bijna iedereen die betrapt wordt op een logische denkfout beschouwt die als een ‘verschil van inzicht’.

6. Boeken zijn het enige medium dat nog niet is gecorrumpeerd door het profane; bij al het andere dat je voor ogen krijgt, word je gemanipuleerd door reclame.

7. Het tegenovergestelde van succes is niet falen, maar namedropping.

8. Je kunt bepalen hoe oninteressant iemand is door hem te vragen wie hij interessant vindt.

9. Preoccupatie met effectiviteit is het voornaamste obstakel voor een poëtisch, nobel, elegant, robuust en heroïsch leven.

10. Neurobiologisch onderzoek om mensen te begrijpen is als inkt onderzoeken om literatuur te begrijpen.

Ze worden geboren en daarna in een doos gestopt; ze gaan naar huis om in een box te leven; ze studeren door hokjes af te vinken; ze gaan in een doos op wielen naar wat ‘wel’ werk heet, waar ze in een hokje zitten te werken; ze rijden in een doos naar de supermarkt om voedsel in een doos te kopen; ze rijden naar de fitness in een doos om in een hok te zitten; ze praten over ‘niet in hokjes denken’: en wanneer ze doodgaan, worden ze in een kist gestopt. Allemaal dozen, euclidische, geometrisch eenvormige dozen.