Eens een volledig andere kant van de wereld van nieuwe technologie – die absoluut niet vergeten mag worden. Alhoewel de ontwikkeling van slimme devices en apps soms veel weg heeft van het Wilde Westen, waarbij alles mag en kan, zijn lokale en internationale instanties inmiddels hard bezig om de achterstand in wetgeving in te halen. Het doel? Een duidelijker speelveld bepalen voor de talloze ontwikkelaars die zich bezighouden met initiatieven op het gebied van slimme innovatie, Big Data, artificial intelligence, virtual reality, en het Internet of Things.
Een opgave waar ik niet graag aan zou staan. Enerzijds heb je te maken met de onoverkomelijke privacy– en databeveiligingsdebatten, anderzijds is er de druk van de technologie-sector om voortgang in onderzoek en ontwikkeling niet in de weg te staan. Vaak heeft de overheid hier zelf ook een aandeel in, als potentiële geïnteresseerde in – of zelfs mede-ontwikkelaar van – bepaalde initiatieven.
Dit spanningsveld heeft al geleid tot behoorlijk uiteenlopend beleid op verschillende plekken in de wereld. Zo is er in Azië, en met name in China, bijzonder veel mogelijk. Er wordt hier aangemoedigd en zelfs met lichtelijke dwang geleid richting het ontwikkelen van slimme initiatieven. Logisch, ook, met de Chinese overheid als grootaandeelhouder in allerhande surveillance en crowd control-technologie.
Amerika, aan de andere kant, blijft ook dicht bij haar eigen waardes – en heeft vooralsnog besloten om bedrijven geheel vrij te laten en geen regels in te stellen. ‘The land of the free’ bewijst nogmaals dat de mogelijkheden eindeloos zijn en bedrijven hier vrij ver in mogen gaan om te bepalen wat zij nodig achten.
Wetgeving Europese Unie op het gebied van artificial intelligence
Het was onvermijdelijk dat de Europese Unie zou volgen met haar eigen beleid – en wat veel sceptici al vreesden is bewaarheid geworden. Waar de andere economische en politieke grootmachten nog zelf een vinger in de pap proberen te krijgen of de ontwikkeling juist geheel aan de vrije markt laten, zal het Europese blok hoogstwaarschijnlijk de eerste worden die bepaalde vormen van risicovolle artificial intelligence systemen aan banden legt.
Met de talloze voorbeelden uit Black Mirror afleveringen als voorbeeld, is het ook niet verwonderlijk dat men een standpunt in wil nemen om de samenleving te ‘beschermen’ van verregaande technologieën die inbreuk kunnen maken op onze persoonlijke levenssfeer. De afgelopen week kondigde de Europese Commissie aan dat de zogenaamde “high-risk” kunstmatige intelligentiesystemen geheel verboden zullen worden, en andere systemen uit het Europese blok geweerd kunnen worden als ze niet voldoen aan de gestelde (strenge) eisen.
Bedrijven die zich niet aan deze regels houden, kunnen beboet worden tot het aanzienlijke bedrag van 20 miljoen euro of 4% van hun omzet. Behoorlijk pittige sancties voor technologieën die buiten de Europese Unie gewoon toegestaan zijn.
Het zijn de eerste stappen om artificial intelligence te reguleren. De Europese Unie is zich duidelijk goed bewust van de mogelijke implicaties hiervan, en claimt op zoek te zijn naar een “human-centric” of “mens-centraal” aanpak; waarbij de technologie zich vrijelijk kan doorontwikkelen op een manier dat strenge privacy wetgeving niet in het gedrang komt.
Het klinkt ongetwijfeld wat wollig, maar gelukkig wordt het in het rapport verder uitgewerkt. In de praktijk zou het betekenen dat allerhande systemen voor kunstmatige intelligentie die zich bezighouden met productie, klimaatsverandering, of het elektriciteitsgrid gewoon aangemoedigd blijven worden.
Andere technologieën die vandaag de dag al toegepast worden binnen Europa – zoals algoritmes om CV’s te beoordelen, subsidies en toeslagen te bepalen, het asielbeleid te ondersteunen of rechters helpen bij ‘massa-veroordelingen’ – kunnen daarentegen op meer weerstand rekenen.
Dit heeft alles te maken met de fronsende wenkbrauwen die regelmatig geuit worden richting China, waar inmiddels de befaamde ‘social scoring’ systemen geïntroduceerd zijn. Hierop wordt de ‘betrouwbaarheid’ van mensen en bedrijven bijgehouden, gebaseerd op hun economische en sociale status. Inmiddels zijn er verschillende algoritmes die dit systeem bepalen in omloop, waarbij de voornaamste inmiddels gebruikt worden voor ‘blacklist’ of ‘whitelist’ doeleinden.
Op dezelfde wijze wil de Europese Unie, om in lijn te blijven met haar waardes, AI-systemen van de markt weren die kwaad kunnen aanrichten door hun potentie om het gedrag, de meningen of beslissingen van mensen te manipuleren; kwetsbaarheden van mensen te exploiteren of gebruiken; en die ingezet kunnen worden voor massa-surveillance.
De voornaamste uitzondering op deze regel geldt voor autoriteiten die het willen inzetten om zware criminaliteit aan te pakken. Dit maakt het alsnog mogelijk om gezichtsherkenning technologie te gebruiken in openbare locaties, mits dit enkel gebeurt op vastgestelde plekken en tijden – bijvoorbeeld voor het herkennen en vinden van terroristen.
Zoals bij alle discussies rondom dit vraagstuk, heeft deze uitzondering nu al geleid tot felle protesten van onder andere de digitale rechten groep EDRi. Zij geven aan dat dergelijke discretie die verleend wordt aan nationale autoriteiten hen teveel ‘loopholes’ geeft om alsnog te doen en laten wat zij willen.
Nog een aandachtspunt is de vooringenomenheid van dergelijke systemen tegenover bepaalde minderheden, zoals al gezien bij onze eigen Belastingdienst. De Europese Commissie hoopt ook dit terug te dringen door het opnemen van vereisten dat de gebruikte datasets voor bovengenoemde uitzondering ‘vrij zijn van enige bedoelde of onbedoelde vooringenomenheden’, die kunnen leiden tot discriminatie.
European Artificial Intelligence Board
Tenslotte is er als onderdeel van de nieuwe maatregelen gekozen voor de opzet van een European Artificial Intelligence Board, waarin voor iedere EU lidstaat een vertegenwoordiger plaatsneemt, naast de databescherming autoriteit van de EU en een vertegenwoordiger van de Europese Commissie. Dit orgaan zal toezien op de correcte uitvoer van de wet en best practises tussen lidstaten delen.
Het is een begin van iets wat hard nodig is – wetgeving rondom het hete hangijzer van artificial intelligence. Toch zal het ongetwijfeld leiden tot veel heisa in de industrie, die ineens de EU-markt als een stuk minder interessant zal zien. Europese ondernemers en innovators in dit veld zullen ongetwijfeld een verhuizing naar Azië of de Verenigde Staten overwegen. Ook politiek zal het nodige stof opwaaien: de Verenigde Staten is er op gebrand om een standpunt in te nemen tegen het (mis)bruik van kunstmatige intelligentie door China, en had hier graag samen met de Europese Unie een blok in gevormd. Toch is de kans groot dat Amerika dit plan niet ziet zitten voor haar eigen markt, wat een gezamenlijke aanpak rondom de China-zorgen kan vertragen.
Het is duidelijk dat de voorgenomen aanpak die de Europese Commissie deze week publiceert nog lang niet is waar het zijn moet. Toch is het bewonderenswaardig dat de langverwachte eerste stap nu dan eindelijk genomen is. Hopelijk leidt het tot constructieve gesprekken over de toekomst van kunstmatige intelligentie.
