Jaap van den Herik. Foto Hedske Vochteloo
Vloek of zegen?
Natuurkundige Stephen Hawking noemt kunstmatige intelligentie (KI) een bedreiging voor de mens. Belgische wetenschappers pleitten begin deze maand voor een verbod van ‘killer robots’, wapensystemen die zonder menselijke controle over leven en dood kunnen beslissen. Een gesprek met Jaap van den Herik, bijna veertig jaar expert op KI-gebied in Nederland.
Wroeging? Nadat hij zijn hele wetenschappelijke leven bezig is geweest met iets dat zich uiteindelijk ook tegen de mens zou kunnen keren? Nee, daar moet je bij Jaap van den Herik niet mee aankomen. In een kamer van het Snelliusgebouw van de Leidse universiteit blikt hij voldaan terug. “Ik ben een dankbaar mens.”
Dankbaar omdat hij de revolutionaire ontwikkelingen van dichtbij heeft kunnen meemaken en eraan heeft bijgedragen. En dankbaar omdat hij kon fungeren als doorgeefluik van kennis. De hoogleraar juridische informatica begeleidde in zijn loopbaan met succes 79 promovendi, een uitzonderlijk aantal in deze academische tak van sport. Een terugblik op een bijzondere carrière, aan de hand van drie data.
21 juni 1983
“Ja die dag herinner ik me nog goed, de dag van mijn promotie aan de Technische Universiteit Delft. Mijn tweede promotor was prof. Adriaan de Groot, destijds een autoriteit op het gebied van psychologie en methodologie. Ik had aangekondigd dat ik zijn theorieën uit zijn boek ‘Het denken van den schaker’ uit 1946 zou gaan proberen toe te passen in een schaakprogramma voor de computer. De titel van mijn proefschrift was: Schaakwereld, computerschaak en kunstmatige intelligentie. Als jonge hond en aanstormende wetenschapper beweerde ik dat intuïtie te programmeren moest zijn. ‘Goed dat je het gaat uitzoeken’, zei hij ‘maar ik kan je nu al zeggen dat het je niet gaat lukken’. Drie weken na de promotie verscheen er een stuk van zijn hand in Intermediair, onder de titel ‘De blinde vlek van Van den Herik’. Om publiekelijk aan te geven dat hij mij niet geloofde. Het stemde mij verdrietig noch boos, ik dacht: wat een vechter is die man.”
Van den Herik was ook in de schaakwereld een soort roepende in de woestijn. Max Euwe, de Nederlandse wereldkampioen schaken van 1935 en later betrokken bij het computerschaak, geloofde niet dat de schaakcomputer zou kunnen denken als een grootmeester, laat staan dat de machine de wereldkampioen zou kunnen verslaan. En volgens grootmeester en schrijver Donner begreep ‘die jongen’ er niets van’.
11 mei 1997
Lacht. “Ja, de dag dat de door IBM ontwikkelde computer Deep Blue wereldkampioen schaken Garry Kasparov in New York met 3,5-2,5 versloeg. De volgende dag werd ik door iedereen gefeliciteerd, ik had het immers voorspeld, dat deed me goed.”
Schaken was lange tijd een proeftuin voor wetenschappelijk onderzoek naar kunstmatige intelligentie, om aan te tonen dat computers meer kunnen dan snel en goed rekenen. Eigenlijk heeft het best lang geduurd tot de schaakmachine de mens de baas was. Zeker als je het vergelijkt met de stormachtige ontwikkelingen van nu. Tientallen jaren waren nodig om de wereldkampioen schaken eronder te krijgen. In het bordspel Go – complexer dan schaken – was het in een paar jaar al gepiept. De computer die in 2016 de wereldkampioen in dit oosterse bordspel versloeg (AlphaGo van Deep Mind Google) werd enkele maanden geleden zelf met 100-0 (honderd – nul) verslagen door een nog veel slimmer, zelflerend broertje, AlphaGoZero. Een paar weken geleden verpulverde een nieuw schaak AI-programma van Deep Mind, AlphaZero, het sterkste schaakcomputerprogramma van de wereld Stockfish. Honderd partijen, waarvan AZ er 28 won en niet een verloor, bij 72 remises. AlphaZero is een zelflerend programma, in KI-jargon een deep learning machine, slechts gevoed met de spelregels van het schaken. Na vier uur begon het programma Stockfisch al te overtreffen.
Op 5 december publiceerden de onderzoekers over deze jongste ontwikkeling, het sloeg in de schaakwereld in als een bom. “Ik sta voor de ruïnes van mijn wereldbeeld”, twitterde de Nederlandse profschaker Erwin l’Ami verbluft, na het naspelen van de partijen van AlphaZero.
Google heeft natuurlijk een commercieel belang bij dit soort spectaculaire uitslagen. Kunnen we dit in een tijd van sjoemelsoftware wel vertrouwen? Van den Herik is ervan overtuigd dat de doorbraak de realiteit van dit moment weergeeft en geen marketingstunt is. “Ik ken die mensen van het team achter AlphaZero, onder wie twee mensen met wie ik heb samengewerkt. Ik heb ze ook gefeliciteerd, ik kreeg ook een felicitatie en compliment terug, ze antwoordden dat ze dankbaar waren om ‘op de schouders van giganten’ te kunnen staan.”
Ook Van den Herik is diep onder de indruk van de uitslag AlphaZero – Stockfish. Het doorspelen van de partijen ervaart hij als ‘adembenemend’. “Ik ben overweldigd door het nieuws, want ik dacht dat schaken minder in aanmerking kwam voor de deep learning techniek, vanwege de gevarieerdheid van het spel.”
De Leidse hoogleraar voerde een korte e-mailwisseling met David Silver van het onderzoeksteam. In zijn reactie zei Silver dat het team dat aanvankelijk ook dacht, maar ze wisten het niet zeker. Laten we het dan maar proberen, zeiden ze vervolgens. Met dit overweldigend resultaat.”
Van den Herik schat dat het nog tot 2035 zal duren voordat het schaakspel geheel opgelost zal zijn door de computer. “Dat betekent dat elke partij tussen computers dan bij optimaal spel in remise zal eindigen. Of wit zal op grond van het voordeel van de beginzet winnen, dat weet ik nog niet zeker.”
De mens is op dit moment volstrekt kansloos tegen de schaakcomputer, waarvan de elorating op 3300-3400 ligt. Slechts twee menselijke schakers hebben 2850 bereikt, Kasparov en Carlsen. Matches tussen mens en machine zijn niet meer gehouden, nadat in 2006 Kramnik, toenmalig wereldkampioen, met 4-2 van Deep Fritz verloor.
Misschien dat het spannend zal worden als de computer met een handicap speelt. Van den Herik durft de voorspelling aan dat wereldkampioen Carlsen in een tweekamp over twaalf partijen het onderspit zal delven, zelfs als hij vanaf het begin met een stuk (loper of paard) meer mag spelen. “Ik denk dat de computer met 7-5 zal winnen”, zegt de professor uitdagend. “Niemand die dit gelooft? Dat dachten ze vroeger ook van mijn voorspellingen….”
Het gesprek vindt plaats vlak vóór de recente doorbraak van Alpha Zero. Wil hij zijn prognose aanscherpen? Hij handhaaft de nederlaag van 7-5 als Carlsen met een stuk meer tegen de drie topcomputers van dit moment speelt, Komodo, Stockfish en Houdini. “AlphaZero tegen Carlsen wordt ook 7-5 maar nu geïnterpreteerd als zeven winstpartijen voor AphaZero en vijf remises voor Carlsen.” Dat komt dus neer op een uitslag van 9,5-2,5. “Misschien wat optimistisch voor dit moment, maar het is wel waar we naar toe gaan.”
2984
Glimlacht. “Een jaartal waarmee ik mijn inaugurele rede na mijn benoeming tot bijzonder hoogleraar in Leiden afsloot, op 21 juni 1991.” Van den Herik stelde de vraag: ‘Kunnen computers rechtspreken?’. Een vraag die hijzelf met ‘ja’ beantwoordde. Het gekozen jaartal ligt heel ver weg: duizend jaar na 1984, de titel van de beroemde onheilspellende toekomstroman van de Britse schrijver George Orwell. “De gedachte aan de computer als rechter roept weerstanden op. Onmenselijk, wordt er dan gezegd. “Maar als blijkt dat het resultaat hetzelfde of zelfs beter is in vergelijking met menselijke rechters?”
Al in 1991 stelde Van den Herik al dat de rechtsprekende computer synoniem kan zijn met rechtszekerheid en rechtsgelijkheid. Opnieuw werd hij gezien als een roepende in de woestijn, maar ook dat is aan het veranderen. Enkele weken geleden was Van den Herik uitgenodigd op een bijeenkomst van de Raad voor de Rechtspraak, het orgaan van de rechtsprekende macht. “Ja, ze zijn nu in elk geval bereid te luisteren, ze willen gebruik gaan maken van technologie.”
Van den Herik toont een grafiek die iets zegt over de ontwikkeling van AI-toepassingen en het vertrouwen hierin in de samenleving. De curve van het aantal toepassingen toont sinds 1980 een sterk opgaande lijn, die van het vertrouwen daalt echter bijna net zo hard. “We komen nu in de tweede fase, om het vertrouwen op te vijzelen, waarbij een goede bescherming van de privacy en het voorkomen van aberraties (ziekelijke afwijking van de menselijke geest) belangrijk is.” KI zal overal zijn intrede doen, maar moet met nieuwe wet- en regelgeving in toom worden gehouden, beaamt Van den Herik.
2984 komt snel dichterbij.
Professor dr. Jaap van den Herik (1947) is pionier op het gebied van de kunstmatige intelligentie. Hij werd door niemand geloofd toen hij in 1983 voorspelde dat een computer de wereldkampioen schaken zou kunnen verslaan. Ook zijn opvatting dat computers kunnen rechtspreken oogstte in 1991 louter scepsis.
Van den Herik is hoogleraar in Leiden, hij was eerder ook verbonden aan de universiteiten van Tilburg en Maas
HMC, Kerstbijlage, 23 december 2017
Reacties op Schaaksite.nl op prognose match computer-wereldkampioen
Kunstmatige Intelligentie
Het logo van de moderne beschaving bestaat uit drie elementen: mens-toetsenbord-scherm, zo houdt de sprankelende Italiaanse schrijver/filosoof Alessandro Baricco ons voor. Het vervangt het logo van vroegere beschavingen: mens-zwaard-paard.
Paard en zwaard waren ooit de instrumenten die veranderingen forceerden. In het tijdperk van Kunstmatige Intelligentie (AI, de gangbare Engelse afkorting van Artificial Intelligence) scheppen apparaten de nieuwe wereldorde. Het land dat het succesvolst is in het ontwikkelen van intelligente computersystemen, zal straks de nieuwe wereldleider zijn.
Alleen daarom al is het goed dat staatssecretaris Mona Keijzer van Economische Zaken een ambitieuze AI-strategie namens het kabinet heeft gepresenteerd. Nederland zal zich nooit kunnen meten met het ideologiegedreven machtige China of de winstgedreven dominante Amerikaanse bedrijven. Beide nemen een loopje met privacy en/of mensenrechten. China om via gezichtsherkenning zijn burgers te controleren, de techbedrijven uit de VS voor het binnenhalen van advertentie-inkomsten.
Voor Nederland is bijvoorbeeld onkruidherkenning door zelflerende algoritmes interessanter dan burgers onderdrukkende gezichtsherkenningssystemen. Gelukkig wordt hier al uitvoering onderzoek naar gedaan. Het is dringend gewenst om het huidige overmatige gebruik van gewasbeschermingsmiddelen terug te dringen.
Nederland zal in samenwerking met wetenschap en bedrijfsleven nog veel meer geld moeten stoppen in AI-toepassingen, maar de gekozen richting is goed.
HMC, Commentaar, 15 oktober 2019