Aanbieders van AI-systemen met een hoog risico moeten onder andere:
- een risicobeheersysteem opzetten gedurende de gehele levenscyclus van het AI-systeem met een hoog risico;
- gegevensbeheer toepassen en ervoor zorgen dat opleidings-, validerings- en testgegevensreeksen relevant, voldoende representatief en, voor zover mogelijk, vrij van fouten zijn en volledig in overeenstemming met het beoogde doel;
- technische documentatie opstellen om conformiteit aan te tonen en autoriteiten de informatie geven om die conformiteit te beoordelen;
- hun systeem voor hoge risico's zo ontwerpen dat het automatisch gebeurtenissen kan registreren die relevant zijn voor het identificeren van risico's op nationaal niveau en substantiële wijzigingen gedurende de levenscyclus van het systeem;
- hun systeem met hoog risico zo ontwerpen dat het de juiste niveaus van nauwkeurigheid, robuustheid en cyberbeveiliging bereikt;
- gebruiksaanwijzingen verstrekken aan downstreamgebruikers om ervoor te zorgen dat zij aan de eisen voldoen;
- een kwaliteitsbeheersysteem opzetten om naleving te garanderen;
- hun systeem zo ontwerpen dat gebruiksverantwoordelijken menselijk toezicht kunnen implementeren.
Indien systemen met een hoog risico dus gebruikt worden voor netwerkbeheer, automatisering van de klantenservice of fraudedetectie in de telecommunicatiesector, dienen zij te voldoen aan de hierboven opgesomde vereisten.