VPRO Tegenlicht belicht in de aflevering ‘Mens in de machine’ een fundamentele verschuiving. Volgens het programma wordt software niet langer geschreven, maar door middel van testen opgevoed. Kunstmatige neurale netwerken zijn geïnspireerd door het menselijke brein en leren complexe taken door vallen en opstaan, vergelijkbaar met hoe kinderen leren.
Het probleem met het beheersen van AI ontstaat volgens de aflevering wanneer een slimme machine een opdracht krijgt. Dat komt niet doordat de machine niet goed werkt, maar doordat wij slecht kunnen omschrijven wat we precies willen. Zonder zoiets als gezond verstand kan een superslimme machine een simpele opdracht verkeerd interpreteren, met catastrofale gevolgen.
De vraag is daarom hoe machines leren begrijpen wie wij zijn en wat onze normen en waarden zijn. Zo kunnen ze bijdragen aan een samenleving zoals wij die voor ogen hebben. In de uitzending komen onder anderen Stuart Russell, hoogleraar computerwetenschappen aan UC Berkeley en oprichter van het Center for Human-Compatible AI, en Catelijne Muller, EESC-rapporteur op AI en oprichter van ALLAI Nederland, aan bod.
Volgens Tegenlicht kan de industrie nu geld slaan uit verzamelingen big data, terwijl wetenschappers, maatschappelijke organisaties en de Europese Unie haastig met ethische richtlijnen komen. Het doel is controle te houden over de ingrijpende veranderingen die de samenleving te wachten staan. Beoordeel jij AI in jouw organisatie daarom niet alleen op functionaliteit, maar ook op de vraag of het systeem echt doet wat je bedoelt.
Lees tegenlicht.vpro.nl artikel voor meer informatie.
