De AI-verordening deelt AI-systemen op in vier categorieën afhankelijk van hun risiconiveaus:
- Systemen met een onaanvaardbaar risico: AI-systemen die een duidelijke bedreiging vormen voor de veiligheid en de rechten van mensen worden verboden. Hieronder vallen systemen die subliminale technieken gebruiken of kwetsbaarheden van specifieke groepen uitbuiten, maar ook sociale scoring door overheden.
- Systemen met een hoog risico: AI-systemen die een significante impact hebben op de rechten of veiligheid van individuen zijn onderhevig aan strenge eisen. Voorbeelden zijn biometrische identificatiesystemen, beheer van kritieke infrastructuur en AI-toepassingen in de gezondheidszorg.
- Systemen met een beperkt risico: Voor AI-systemen met een beperkt risico gelden specifieke transparantieverplichtingen, zoals het informeren van gebruikers dat ze interactie hebben met een AI-systeem. Deze categorie omvat chatbots en AI voor klantenservice.
- Systemen met een minimaal risico: AI-systemen met minimale of geen risico's zijn grotendeels vrijgesteld van regelgeving. Deze categorie omvat de meeste AI-toepassingen, zoals spamfilters en AI-gestuurde games.