Dans ce premier rapport, certains systèmes susceptibles de présenter des risques élevés ont été identifiés tel que :
- La mise en danger la vie et la santé des citoyens (par exemple, les transports)
- L’accès à l’éducation et le parcours professionnel (notation d’examens)
Ces systèmes auront à respecter des obligations comme :
- L’évaluation et l’atténuation des risques
- Le contrôle de la data
- L’enregistrement des activités pour garantir une traçabilité
En cas de risque limité, il y aura uniquement des obligations en matière de transparence, pour trois types de systèmes :
- ceux qui interagissent avec les humains
- ceux qui détectent les émotions ou catégorisent en fonction de données biométriques
- ceux qui créent ou manipulent du contenu (deepfakes)