Datum
19.12.2023
Het is een traditie dat baanbrekend regelgevend werk in Europa gepaard gaat met nachtelijke onderhandelingen. In de nacht van 8 op 9 december heeft Europa met het afronden van de AI Act, belangrijke richtlijnen vastgesteld voor de toekomst van AI. Deze wetgeving, die in de stille uren tot stand is gekomen, bevat cruciale bepalingen voor de ontwikkeling en het gebruik van AI-systemen. Hieronder vallen enkele belangrijke punten:
Transparantie van AI-Systemen
De AI Act verplicht systemen zoals ChatGPT om transparant te zijn over hun werking en trainingsmethoden. Dit betekent dat ontwikkelaars en gebruikers een duidelijk inzicht moeten hebben in hoe deze modellen functioneren en getraind worden.
Regulering van Risicovolle AI
Er komen extra regels voor AI-systemen die potentieel een grote negatieve impact kunnen hebben op mensen en de maatschappij, zoals systemen die credit scores ondersteunen. Deze regels omvatten aspecten van risico- en incidentbeheer.
Beperkingen op Biometrische Identificatie
De wet stelt strenge limieten aan het gebruik van AI-systemen die mensen kunnen identificeren op basis van biometrie, zoals real-time gezichtsherkenning in openbare ruimten.
Verbod op Beoordelende of Beïnvloedende AI
Er is een verbod op AI die gericht is op het beoordelen of beïnvloeden van burgers, zoals het systeem Sesame Credit van Alibaba.
Rechten voor Consumenten
Consumenten krijgen het recht om klachten in te dienen en betekenisvolle uitleg te ontvangen over de besluitvorming van AI-systemen.
Toezicht en Boetes
De act voorziet in toezicht op nationaal niveau, een EU AI Office en stelt aanzienlijke boetes tot 35 miljoen euro voor overtredingen, wat een dwingend kader creëert voor de naleving van de regels.
De AI Act promoot een risicogebaseerde aanpak voor AI-systemen. Door de introductie van ‘regulators sandboxes’, wordt het mogelijk om risicovolle AI-systemen buiten laboratoriumomgevingen te testen, waarbij innovatie wordt aangemoedigd zonder deze te belemmeren. Zo krijgt de vierde industriële revolutie een stevig wettelijk kader, essentieel voor de veilige en verantwoorde integratie van AI in ons dagelijks leven.
Datum
19.12.2023
