Les fournisseurs de systèmes d’IA à haut risque doivent, entre autres :
- mettre en place un système de gestion des risques tout au long du cycle de vie du système ;
- appliquer une gestion des données et s’assurer que les jeux de données d’entraînement, de validation et de test sont pertinents, suffisamment représentatifs et, dans la mesure du possible, exempts d’erreurs et parfaitement conformes à leur destination ;
- rédiger une documentation technique pour démontrer la conformité et fournir aux autorités les informations nécessaires pour évaluer cette conformité ;
- concevoir leur système à haut risque de manière à ce qu’il puisse enregistrer automatiquement les événements pertinents pour identifier les risques à l’échelle nationale et les modifications substantielles tout au long du cycle de vie du système ;
- concevoir leur système à haut risque de manière à atteindre des niveaux appropriés de précision, de robustesse et de cybersécurité ;
- fournir aux utilisateurs en aval une notice d’utilisation pour garantir le respect des exigences ;
- mettre en place un système de gestion de la qualité pour garantir la conformité ;
- concevoir leur système de manière à ce que les organisations de déploiement puissent mettre en œuvre une supervision humaine.
Par conséquent, si des systèmes à haut risque sont utilisés pour la gestion de réseau, l’automatisation du service client ou la détection des fraudes dans le secteur des télécommunications, ils doivent respecter les exigences énumérées ci-dessus.