Double Bill #01: 2001: A Space Odyssey & A Clockwork Orange

In 1968 and 1971 master director Stanley Kubrick released his two best movies as far as I’m concerned. 2001: A Space Odyssey and A Clockwork Orange are both as perfect as films can be. They are also linked in an interesting way and therefore I thought it would be appropriate to couple them for this first edition of my new feature ‘Double Bill’. The connection is as follows; In 2001 we witness the next phase of evolution for mankind. This civilization appears to be peaceful and focussed on deploying technology to improve society for the better. In A Clockwork Orange on the other hand, we witness a society much like our own in which many people are still little more than violent savages. There is a shot of main hooligan Alex that is visually very similar to one of 2001’s angry apes. We are really not yet that evolved and the space age is still a distant dream. This point is made abundantly clear in the very beginning when Alex and his three droogs batter an old homeless drunk nearly to death just for kicks. “What kind of world is it at all? Men on the moon. Men spinning around the world. And there’s not no attention paid to earthly law and order no more”, the man tells them before the beating and he is right. Another link or rather similarity is the magnificent use of classical music. One of 2001’s highlights is the space waltz on Strauss’s The Blue Danube.

The cinematography alone of these immense, beautiful objects floating in space is breathtaking and then this beautiful music added to it makes this a unique accomplishment in cinema. Kubrick wanted to create a non-verbal experience that did not rely on the traditional techniques of narrative cinema, and in which music would play a vital role in evoking particular moods. Alex would certainly approve. Only he imagines quite different imagery when he listens to his favorite symphonies by Beethoven. In A Clockwork Orange too, many of the best scenes feature fantastic classical tracks that effectively enchant the viewer. Every time I watch these movies, the images and music stay in my mind for weeks afterwards. Another reason to appreciate these films is the intelligence of the screenplays. For instance, HAL9000 is still today – more than 50 years later – the finest depiction of machine intelligence in a film. And A Clockwork Orange treats various themes like free will, politics and good versus evil in a fascinating way. But what these films do absolutely better than any before or since is depicting what mankind is really capable of, both in the very good and the very bad sense. Humanity at its most beautiful and most terrible (and with A Clockwork Orange sometimes a twisted combination of both). An amazing feat by a director who is still unsurpassed in his skill and dedication.

[Klaar voor de => “AI-revolutie”]

Machines die slimmer zijn dan mensen. Het kan realiteit worden in de toekomst en daar zitten veel haken en ogen aan. Verschillende topexperts brengen de implicaties in kaart in de documentaire We Need To Talk About A.I.

In deze fase zijn we omringt door Narrow AI, kunstmatige intelligentie die een specifieke taak veel beter dan mensen kan uitvoeren. Bijvoorbeeld schaken, autorijden, beleggen, een vliegtuig besturen en gezichten herkennen. Deze AI is vergelijkbaar met een autistische savant. Dit is indrukwekkend, maar staat nog ver af van A.G.I.: Artificial General Intelligence. Mocht dit ooit arriveren, wat gaat er dan gebeuren? De scenario’s in films zijn meestal niet erg rooskleurig. Denk maar aan The Terminator, The Matrix, 2001: A Space Odyssey en Ex Machina. Ook verschillende publieke figuren hebben gewaarschuwd voor de gevaren van AI, zoals Elon Musk, Stephen Hawking en Bill Gates.

Een van de gevaren is dat AGI-machines niet noodzakelijk dezelfde doelen als de mensheid nastreven: het goal alignment probleem. Bijvoorbeeld, wanneer de missie wereldvrede is, dan vindt de AI het misschien wel een goed idee om het hele menselijke ras uit te roeien. Zie bovenstaande films voor dergelijke scenario’s. De film die waarschijnlijk het meest realistische beeld geeft is 2001: A Space Odyssey. De boordcomputer HAL van het ruimteschip Discovery One besluit dat hij de missie naar Jupiter beter zonder bemanning kan uitvoeren, en probeert astronauten om zeep te helpen. Een duidelijk goal alignment probleem. Maar veel AI-experts worden boos van dit soort bangmakerij. Het is onmogelijk om ver vooruit te kijken bij technologische ontwikkelingen. We moeten gewoon bouwen, experimenteren en leren van wat er goed en fout gaat.

Dat kan zo zijn, maar er is wel een grote zorg die tijdig geadresseerd moet worden. Als AGI wordt ontwikkeld kan dat de machtsverhoudingen op de wereld enorm verstoren. Stel dat een dictator als Poetin, Trump of Xi als eerste AGI in handen krijgt… Ik durf er niet aan de denken. Of mogelijk even verschrikkelijk; een tech-gigant als Google of Facebook die ermee aan de haal gaat. Dit is een winner takes all contest. Degene die het als eerste krijgt zal binnen de kortste keren iedere industrie domineren. Hier moeten we afspraken over maken of het kan rampzalig uitpakken.

Maar er is ook heel veel dat AGI kan brengen. Een paar voorbeelden: tijdig de signalen herkennen van hartproblemen, kanker en suïcide. Het sterk verbeteren van verkeersveiligheid. Het laten slagen van veel meer operaties met robotchirurgie. Maar ook het mogelijk maken van een meer gelijkwaardige verdeling van welvaart binnen een vrije markt economie. En zorgen voor meer duurzaamheid en minder oorlog.

Dit klinkt idyllisch, maar een keerzijde hiervan kan weer zijn het inleveren van vrijheid. Een AI dictatorschap dus. Een tussenvorm kan zijn dat de AI als scenarioplanner fungeert die de mens alle ideale beleidsvoorstellen voorlegt. Maar de mensen blijven beslissen. We moeten hoe dan ook nadenken over hoeveel autonomie we machines geven. Dat geldt bijvoorbeeld ook voor zelfrijdende auto’s die ethische keuzes moeten maken, zoals het laten sterven van hun passagier of het inrijden op een groep kinderen. Wie beslist?

Er komt nogal wat bij kijken. En gezien de enorme revolutie die AI gaat inluiden is het niet verkeerd als hier zoveel mogelijk risicomanagement op los te laten. Alles wat er mogelijk verkeerd kan gaan moet in kaart worden gebracht en alle mogelijke maatregelen moeten worden genomen om deze risico’s in te dammen. De vuistregel van riskmanagement-expert Nassim Nicholas Taleb is hier van toepassing: ‘wat moeder natuur doet, is rigoureus totdat het tegendeel is bewezen; wat mens en wetenschap doen, is gebrekkig totdat het tegendeel is bewezen.’ We zijn gewaarschuwd.