Lokhorst (links) en Van den Hoven (rechts)
Sinds 1989 bestaat bij de Faculteit der Wijsbegeerte van de Erasmus Universiteit het doctoraalvak Filosofie en Informatica. `Vroeger was logica allemaal papier. Informatisering en computerisering voegen nu een pragmatische dimensie toe aan de filosofie,' aldus de initiatiefnemers drs. M.J. van den Hoven en drs. G.J. Lokhorst.Ben van Raaij. Filosofen in de ban van de helse machien (interview met M.J. van den Hoven en G.J.C. Lokhorst). Desiderius, 4 (2): 22-26, 1991. ISSN 0922-713X. Reprinted in: Mens en Wetenschap, 18(7):446-448, 1991. ISSN 0921-559X. Also reprinted in: Partner (een uitgave van Bull Nederland N.V.), 21(3):22-25, 1991.
Filosofie en Informatica: computer ethics, kunstmatige intelligentie en de maatschappelijke gevolgen van informatietechnologie.
Een nieuwe, modieuze gril? `Nieuw wel, maar dat is geen diskwalificatie,' meent Lokhorst. Lokhorst is docent Kunstmatige Intelligentie.
Van den Hoven: `Modieus--dat veronderstelt eigenlijk dat zo'n thema wel weer zal verdwijnen. Maar de computer is een universal tool--it's here to stay.' Van den Hoven doceert het deelvak Computer Ethics.
Zowel filosofie als informatica buigen zich over de wetten van logica, redeneren en kennis. Lokhorst: `Informatica is voor een groot deel voortzetting van projecten die traditioneel in de filosofie aan de orde waren. Informatici vinden echter vaak het wiel weer opnieuw uit. Filosofie kan vanuit haar lange ervaring die ontwikkeling versneld verder helpen.' Omgekeerd, zegt Lokhorst, is informatica voor filosofen interessanter dan ooit. `Vroeger was logica allemaal papier, men praatte maar wat. Nu kun je vaak kijken of je theorie echt werkt.' Van den Hoven: `Informatisering en computerisering voegen nu een pragmatische dimensie toe aan de filosofie.'
Lokhorst: `We kunnen nog tweehonderd jaar over Kant zitten praten, maar daar schiet je niets mee op. Het is juist goed dat filosofie met haar tijd meegaat. Dat hebben de grote filosofen altijd gedaan. Aristoteles hield zich ook bezig met het Athene van zijn tijd. Het is een geweldige aanfluiting dat de filosofie zo vaak alleen maar geschiedenis is.'
Studenten bestuurskunde, economie en recht tonen veel belangstelling, zegt Van den Hoven, vooral de meer `verlichte types.' Ze hebben in hun studie veel met informatica te maken, maar de nodige reflectie ontbreekt. Het doctoraalvak vult dus een lacune, in de geest van de aloude Centrale Interfaculteit. De opzet--met tien tot twintig deelnemers per onderdeel--maakt discussie mogelijk, en dat wordt zeer gewaardeerd.
Kunstmatige intelligentie (AI, Artificial intelligence) werd in 1936 geboren toen Turing de logische definitie gaf van de werkwijze van een computer (de `Turing-machine'). `Gewone' computers zijn inmiddels meesters in het serieel bewerken van informatie. Maar, zegt Lokhorst, een snel patroonherkenningsprogramma in Delft heeft nog altijd 12 uur rekenen nodig om boom van boerderij te onderscheiden. De hersenen--klein en zelfprogrammerend--hebben gelukkig genoeg aan een fractie van een seconde.
`Neuro-computing' is de tak van AI-research die daarom in de fysiologie van de hersenen het model ziet voor nieuwe generaties computers. Het brein, legt Lokhorst uit, wordt conform inzichten uit de connectionistische neurologie opgevat als parallel (niet-serieel) werkend netwerk van zenuwcellen en synapsen. Computer-experts sleutelen verwoed aan de kunstmatige versie van het weefsel van de hersenschors.
Neurocomputers vertonen spontaan `intelligentie' doordat schakelingen, via trial and error, beter gaan werken naarmate ze intensiever worden gebruikt. Rosenblatt maakte al in de jaren vijftig een `lerende' waarnemingsmachine, het `Perceptron.' Nu leert het hedendaagse NetTalk zichzelf al in één nacht de uitspraak van een vreemde taal--zonder ingebouwd software-programma. Al-experts zien grootse visioenen opdoemen.
Blijft AI toch niet een mager surrogaat van de menselijke geest? `Denken' is toch veel complexer dan het `informatie-verwerken' van de knapste computer? Lokhorst: `Maar hoe belangrijk is dat denken? Veel vaardigheden die mensen dagelijks uitoefenen berusten op patroonherkenning, daar komt weinig denkwerk aan te pas. Het zou heel wat zijn als de computer ons in al die dingen kon nabootsen, dan spreek je over bijna alles.'
Van den Hoven: `Het wordt pas echt tricky als je gaat praten over mentale processen die naar een buitenwereld verwijzen: kan een computer bijvoorbeeld ook iets begrijpen--want daarin zit onze verhouding tot de buitenwereld besloten.'
Lokhorst: `En wat is begrijpen? Niemand schijnt de quantum-mechanica te kunnen begrijpen, maar iedereen kan met de getallen en symbolen manipuleren. Er is geen reden om aan te nemen dat de computer principieel niet tot begrijpen in staat zou zijn.'
Moderne neurologie en AI hebben in ieder geval de opvattingen over de menselijke geest sterk beïnvloed. Zoals eerder uurwerk en stoommachine, is nu de computer de filosofische metafoor van de mens. Lokhorst: `Philosophy of mind is altijd al geïnspireerd geweest door de neurologie van die tijd. Kant boog zich over de lokalisatie van de ziel als een soort gas in het vocht van de hersenholte. Hij vond dat trouwens een snertidee.'
Inderdaad is de mens een `soort computer,' zegt Lokhorst, die korte metten maakt met het aloude dualisme van Descartes. `Van dat front komt de laatste tijd niet veel nieuws. Ik ben bang dat we het allemaal wel zo'n beetje hebben gehoord. Het dualisme--de menselijke geest is meer dan zijn lichaam--is op de mestvaalt der geschiedenis terechtgekomen. Je schiet er niets mee op.'
De menselijke geest dus een Turing-machine? Lokhorst, monter: `Tja, wie wil weten hoe de wereld in mekaar zit, stuit wel op meer onaangename waarheden. Dat we niet in het centrum van het heelal zitten, dat de aarde veel ouder is dan je misschien zou willen ...je kunt ook zeggen dat we pas nu een idee krijgen wat geestelijke fenomenen zijn. Het wordt alleen maar rijker en raadselachtiger...'
Van den Hoven, ironisch: `Het is zoals we in een poëtische bui ooit in een folder schreven: de moderne computer is de spiegel waarin de mens zichzelf tracht te ontwaren.'
Het ultieme droombeeld van Al is de intelligente robot. Hugo Brandt Corstius vond het geloof in die homunculus onzin, omdat de mens de subtiele complexiteit van zijn denken, taal en cultuur zelf niet begrijpt: `Ik kan dit wel opschrijven, maar ik weet niet hoe ik dat doe. U kunt dit stuk wel lezen, maar u weet niet hoe u dat doet. Dus kunnen we niet verwachten dat een technisch apparaat het ons nadoet. Zo simpel is het.'
Lokhorst acht echter niets onmogelijk. `Waarom zou je het in principe uitsluiten? Als je naar de hersenen kijkt, zie je ook alleen maar elektrische impulsen en computerachtige processen. Wij doen het er ook maar mee, en bij ons leidt dat blijkbaar wel tot bewustzijn, gevoelens, noem maar op.' Van den Hoven vult aan dat het om functionele equivalenten gaat: je hoeft niets te begrijpen, zolang het maar werkt. In laatste instantie zijn zuike vage discussies volgens Lokhorst allemaal een kwestie van mystiek: `Volgens Searle kan alleen protoplasma denken. Je kunt dus alleen denken als je uit eiwitten bestaat. Dat is een dogma: waarom zou dat zo zijn?'
Geestdrift maakt zich nu van de wijsgeren meester. Lokhorst: `Men is pas dertig jaar bezig. Over driehonderd jaar zullen we stellig verder zijn. Dat avontuur, daar willen we graag bij zijn!' Van den Hoven: `We zijn de toeschouwers van het eerste uur.'
Computer Ethics buigt zich over de praktische morele vragen die computer en informatietechnologie oproepen, zoals de auteurs-rechtelijke status van software en de juridische aspecten van computercriminaliteit. Die ethiek is relevant, omdat overheid en rechtspraak de razendsnelle ontwikkelingen niet bijhouden. Nieuwe technologie, nieuwe problemen. Het vergt `conceptueel denkwerk' en ethische afweging van geval tot geval.
De cursus computerethiek behandelt het privacy-vraagstuk bij de automatisering van persoonsgegevens. Persoonlijke levenssfeer botst hier met collectieve doelmatigheid. Van den Hoven: `Het openbaar bestuur heeft er belang bij zoveel mogelijk informatie over mensen bij de hand te hebben. Daartegenover staat het belang of morele recht--privacy is een vaag clusterbegrip--van burgers om te zeggen: tot hier en niet verder. Dat is de motor achter het privacy-debat.'
Ethische problemen ontstaan ook als gevolg van de opmars van beslis- en expertsystemen, bijvoorbeeld in de medische wereld. Zo laat verantwoordelijkheid zich op de ingeprogrammeerde `deskundige' afschuiven (`sorry, computerfout'). Ook krijgen klinische beslissingen een onpersoonlijk, sterk geobjectiveerd karakter.
Van den Hoven wil geen `boeman' spelen, maar hij ziet het risico dat deskundigen afhankelijk worden van een expertsysteem. Hij noemt het epistemic enslavement. `Het kan ontstaan als een expertsysteem bestemd is voor gebruikers die minder weten dan dat systeem, en die bovendien snelle beslissingen moeten nemen zonder de mogelijkheid om derden te raadplegen. De gebruiker verliest zo zijn autonomie en de inhoudelijke mogelijkheid om het systeem te corrigeren.
De cursus benadrukt dat ook van informatica-experts zelf verantwoordelijkheid mag worden geëist. `Belangrijk is dat je ze wijst op het morele aspect van hun vak. Het verbaast me als je met informatica-studenten praat: ze denken er niet over na. Maar ze komen straks op cruciale, verantwoordelijke posities terecht. Ze mogen moreel niet analfabeet zijn,' zegt Van den Hoven.
Een beroepscode is onvoldoende. `Ik ben daarover sceptisch, omdat zo'n code vaak functioneert als doekje voor het bloeden. Ik zie meer in'aanbieden van ethische vakkennis--duidelijk maken dat wat je doet een onlosmakelijke morele dimensie heeft, juist ook omdat het zoveel mensen en belangen treft.'
Een fundamentele vraag is of er beslissingen zijn die nimmer aan computers mogen worden uitbesteed. Computerwetenschappers in de VS tekenden juridisch verzet aan tegen het Strategic Computing lnitiative, basis van het SDI-project (Strategic Defence Initiative) dat gericht is op razendsnelle `launch on computer warning.' Bij `Star Wars' beslist het computersysteem, zegt Van den Hoven. `De bevoegdheid om oorlog te verklaren wordt zo in feite gedelegeerd aan de computer. Lagere Amerikaanse rechters hebben dat ongrondwettig genoemd.'
Ongrondwettig of niet--computerfalen kan dus een kernoorlog ontketenen (en computers zijn in staat gebleken de opkomende maan aan te zien voor een Russische raketaanval). Angstaanjagend, mede omdat SDI vooraf niet te testen valt. Overigens menen experts dat de voor SDI benodigde computerprogrammatuur gezien de technische complexiteit onhaalbaar zal blijken te zijn.
Computer en kunstmatige intelligentie vertonen als elke technologie dus de Januskop van technische vooruitgang in het algemeen. Mooie wetenschappelijke ontdekkingen leiden immers tot ongewenste toepassingen. `We are hunters after reality, wherever it may lead,' schreef George Steiner, maar sommige `deuren' kunnen beter gesloten blijven, zeker als je niet weet wat je daarachter kunt aantreffen.
`Dan hadden we de deur vijfhonderd jaar geleden al dicht moeten laten. Dan hadden Copernicus en Galileï ook hun mond moeten houden. Nee, laat die wind maar waaien,' zegt Lokhorst. Maar hij geeft toe: `De ontdekking van het buskruit was een mooie uitvinding, ik weet alleen niet of je tot massaproduktie had moeten overgaan. De intelligente robot: een leuke uitvinding, maar ik weet niet of je er tien miljard moet gaan vervaardigen.'
Wetenschap en technologie, zegt Van den Hoven, zijn inmiddels steeds meer doelwit van planning, beleid en fondsen geworden, en dat biedt juist de mogelijkheid van politiek-maatschappelijke keuzes en controle over al dan niet gewenste ontwikkelingen, ook inzake Al of biotechnologie. `Misschien moet je af en toe een time-out inlassen.'
Lokhorst blijft sceptisch: alle kennis leidt tot toepassing. `Die ontwikkeling voltrekt zich autonoom. Daarop heeft de politiek geen invloed. In Roemenië hebben ze geprobeerd de typemachine tegen te houden--ook niet gelukt.'
Legio filosofen hebben zich kritisch over maatschappelijk-culturele implicaties van de moderne techniek gebogen: Heidegger, Adorno en Horkheimer, Ellul, Lyotard.
Informatietechnologie en computer kregen meer specifiek aandacht van auteurs als Joseph Weizenbaum, Theodore Poszak en J. David Bolter. Hun werk komt aan bod in het studie-onderdeel Computer en Samenleving.
Bolter ziet de computer als `defining technology': het apparaat beïnvloedt het Zelf en creëert de `Turing-mens.' Weizenbaum, de man van het taalprogramma Eliza, kritiseert in `Computer power and human reason' het `Faustisch pact' dat de mens met zijn schepping heeft gesloten. De computer belichaamt volgens Weizenbaum de Westerse `instrumentele rede': denken gereduceerd tot waardevrije technologische rationaliteit.
Niet louter onzin, vindt Van den Hoven. `Er zit een kern in die de moeite waard is. Maar die inzichten zijn vaak in een kwart A4-tje samen te vatten. Als vakfilosoof vind ik dat ze zich er te gemakkelijk van afmaken. Filosofisch geen bijdrage. Mensen als Weizenbaum zeggen met een groots gebaar dat `iets' ze niet lekker zit bij expertsystemen. Maar wat dan precies?
Weizenbaum (hoogleraar aan het Massachusetts Institute of Technology) redeneert volgens Lokhorst teveel vanuit zijn eigen ervaringen met de VS en het Pentagon. `De instrumentele rede is in de VS veel verder doorgedrongen dan in Nederland. Een Europeaan als Weizenbaum valt dat op. Stravinsky en Schönberg voelden zich in Hollywood ook niet op hun gemak, die zeiden gelijksoortige dingen. Die kritiek heeft te maken met de Amerikaanse cultuur, niet met de computer.'
Lokhorst: `Ik moet zeggen dat ik dat soort boeken nogal tendentieus en overdreven vind. Het zijn allemaal oudere mensen die bang zijn voor nieuwe ontwikkelingen, en het gewoon nogal zwart inzien.' Van den Hoven: `En die bovendien erg bezig zijn met het schrijven van een bestseller...Ze zijn begaan, maar draven teveel door op één enkel punt.'
Het werk van Weizenbaum, Poszak of Bolter mag `weinig substantie' hebben, het blijkt tijdens de colleges wel tot geanimeerde discussies te leiden. Een goede zaak, aldus Van den Hoven, want de wijsbegeerte moet wel vasthouden aan een kritische kijk op de effecten van informatica.
Technologie, vond Weizenbaum, is net Sachertorte: verslavend lekker, maar je moet een keer néé weten te zeggen.
Lokhorst (links) en Van den Hoven (rechts)
Van den Hoven (links) en Lokhorst (rechts)
Giovanbatista Braccelli, Bizzarie di varie figure,
1624
Raoul Hausmann, Assemblage, 1918
In september 1991 start de Faculteit der Wijsbegeerte vier cursussen `Filosofie en Informatica':
Previous | Up | Next
gjclokhorst@gmail.com || July 17, 2015 || HTML 4.01 Strict