Naar het overzicht

De Europese verordering inzake AI

Van kracht vanaf 1 augustus 2024

Volgens het art. 3 van de verordening is een AI systeem " een machinaal systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat voor expliciete of impliciete doelstellingen output kan genereren, zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed zijn op de fysieke of virtuele omgeving".
Wat AI is vergt nog meer specifieke aandacht om te beseffen wat het juist is. Het bootst de menselijke intelligentie na. Het leert op machinale wijze ( machine learning ). Het werkt autonoom zodat de toekomstige werking als resultaten niet voorspelbaar zijn, zelfs voor de ontwikkelaar. Soms wordt gesteld dat deze leert op wiskundige wijze, terwijl het denken bij de mens conceptueel verloopt. Het leidt hierdoor tot occasioneel ongewenste resultaten, op basis van een aard van vooroordelen ( biais ) in de algoritmen.
Verder zijn er AI systemen voor specifieke toepassingen, en de algemene ( artificial general intelligence) en deze laatste kan leiden tot meer problemen die juridische antwoorden vergen. (1)
Er wordt aangenomen dat deze technologie in de sectoren van klimaatverandering, milieuen gezondheid, de overheidssector, financiën , mobiliteit, binnenlandse zaken en landbouw enorme concurrentievoordelen kan opleveren. De EU wil enerzijds de invoering van AI bevorderen en anderzijds de risico's van bepaalde toepassingen ervan aan te pakken. De regels zijn bedoeld om het vertrouwen tot gebruik te vergroten, en zijn daarom gebaseerd op de waarden en de grondrechten van de EU.
De verordening van de EU bestaat uit de volgende onderdelen: i) definities ( dus ook de technische en zeer belangrijk om de draagwijdte der regels te vatten ) ii) verboden praktijken iii) AI-systemen met hoog risico iv) transparantieverplichtingen v) maatregelen ter ondersteuning van innovatie vi) de noodzaak tot het in het leven roepen van nationale autoriteiten en de oprichting van een Europees Comité voor AI vii) sancties. Wat hierna weergegeven wordt, is slechts een kleine fractie van een geheel aan complexe en nauwkeurige regeling. Wel bevat het de krachtlijnen.
Art. 5 verbiedt AI systemen die technieken gebruikt die zonder dat de mensen het beseffen of kwetsbare personen hen fysische of psychische schade kan veroorzaken. Ook verboden zijn systemen van gezichtsherkenning behalve o.a. tav detectie van een dader voor misdrijven waarvoor vrijheidsberoving van min. 3 jaar is voorzien, of voor zoeken van potentiële slachtoffers van een misdaad (vb. vermiste kinderen) , of bij dreiging van een aanslag.
Zeer veel aandacht krijgen de AI-systemen met een hoog risico. Dit zijn er veel. Onder meer systemen die te maken hebben met biometrische identificatie, beheer en exploitatie van kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, essentiële particuliere en overheidsdiensten, rechtshandhaving, migratie, asiel en grenscontroles en rechtsbedeling. Enige verplichtingen eraan verbonden zijn onder andere : i) de risico's van het proces moeten systematisch geanalyseerd worden ii) deze systemen moeten de gebruikers in staat stellen de output van het systeem te interpreteren en op passende wijze te gebruiken iii) er dient menselijk toezicht te zijn voor voorkomen of beperken van risico's inzake veiligheid, gezondheid en grondrechten iv) ze moeten een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging geven.
Er dient volledige transparantie te zijn, zodat de gebruikers weten dat ze interageren met een AI systeem. Gebruikers van een emotieherkenningssysteem of biometrisch indelingssysteem informeren de personen over de werking van het systeem. Gebruikers van deep fake maken bekend dat het materiaal kunstmatig is.
De staten worden verder aangespoord om de verzamelde persoonsgegevens te verwerken ( in een testomgeving ) voor het beschermen van zwaarwegend algemeen belang inzake i) voorkoming en opsporing van strafbare feiten ii) openbare veiligheid en volksgezondheid en iii) bescherming en verbetering van het milieu.
De sancties zijn zeer zwaar. Dit betreft in eerste instanties de miskenning van de verbodsbepalingen ( art 5 ) en de opgelegde eigenschappen van het systeem ( art. 10) tot 30 miljoen euro boete of 6% van de wereldwijde jaarlijkse omzet. Tegen de andere bepalingen 20 milj.€ of 4% omzet. Verschaffen van onjuiste informatie aan de bevoegde nationale instanties 10 milj.€ en 2%.

januari 04, 2025, 10:14 p.m.