Controle is noodzakelijk, maar regelneverij niet
Verleden week werd bekend dat de Europese Commissie een wetsvoorstel ingediend had om een regelgeving van Artificiële Intelligentie uit te werken. Het gaat nog maar om een voorstel, en er zullen verschillende rondes besprekingen met amendementen volgen bij de Europese Raad en het Europees Parlement vooraleer het uiteindelijk tot een wet komt - dus dit is onder voorbehoud. Maar wat houdt het wetsvoorstel in, en waarom is het (on)nodig?
Om kort te zijn: de meeste toepassingen van AI zullen niet aan controle onderworpen worden, zoals bijvoorbeeld videogames en spamfilters. Enkele andere zullen een lichte regelgeving krijgen, zoals deepfakes en chatbots die ingezet worden bij klantendiensten. Daar zou dan een melding getoond moeten worden dat er een algoritme gebruikt wordt.
Nog andere toepassingen zouden zwaar beperkt worden, of volledig verboden worden. EN het is daar dat er veel discussie kan ontstan, omdat er momenteel met wel heel vage termen gegoocheld wordt.
Enkele voorbeelden van "high risk" toepassingen: -software voor kritieke infrastructuur -systemen waarbij krediet gegeven wordt op basis van je sociale gedrag, zoals in Chine bijvoorbeeld toegepast wordt -subliminale technieken (waarbij boodschappen getoond worden zonder dat je ze ziet) -misbruik maken van de handicap van een persoon om diens gedrag te veranderen waardoor die schade kan veroorzaken (aan anderen of zichzelf)
Wil iemand toch zo'n "high risk" toepassing maken, dan kan dat enkel als er een mens overzicht heeft bij het ontwerp en het gebruik ervan, en als er controle is op de kwaliteit van de data die gebruikt worden om de AI te trainen.
Nu is dit wetsvoorstel eigenlijk eigenlijk best nodig - en heel realistisch. Want wist je dat financiële organisaties, die nu haast allemaal werken met AI, sinds de bankencrisis al aan de regulatoren moeten tonen hoe hun algoritmes werken? Het systeem van die controle zou kunnen dienen als sjabloon voor de regelgeving op AI.
Enkele links waar je meer kan lezen over het wetsvoorstel: - Een beschouwing van Geert Bourgeois, Europees Parlementslid, die zich afvraagt of de regelgeving goed of slecht is voor innovatie - Een kritisch artikel bij ZDNet over het wetsvoorstel - Het voorstel zelf
https://www.geertbourgeois.be/nieuws/europese-ai-regelgeving ...
https://www.zdnet.com/article/europe-wants-to-set-the-rules- ...
https://digital-strategy.ec.europa.eu/en/library/new-coordin ...
|