Les systèmes d’intelligence artificielle présentant un risque inacceptable sont les systèmes qui violent les valeurs européennes et qui, par conséquent, sont interdits au sein de l’UE. Ce contexte comprend les systèmes de notation sociale en fonction du comportement des individus, les outils de police prédictive qui utilisent des données pour comprendre à l’avance la dangerosité d’un sujet, ainsi que les systèmes de ciblage des utilisateurs qui visent à exploiter certaines caractéristiques sensibles telles que l’âge, le handicap ou encore la condition sociale ou économique. Les systèmes de reconnaissance des émotions sont également interdits, notamment s’ils sont utilisés sur le lieu de travail ou dans les écoles, tout comme les systèmes de reconnaissance biométrique, sauf cas particuliers.

Viennent ensuite les applications d’IA à haut risque, susceptibles de nuire gravement à la santé, à la sécurité et aux droits fondamentaux des citoyens. Cette catégorie comprend à la fois les systèmes concernant des infrastructures et des produits spécifiques déjà couverts par la législation européenne, ainsi que les applications utilisées dans des secteurs sensibles tels que l’éducation, le travail, les forces de l’ordre, la migration ou le processus démocratique. Toutes ces applications doivent être enregistrées dans une base de données consultable par les utilisateurs. En outre, les fournisseurs devront se conformer à une série d’exigences, notamment sur la conception de systèmes prenant en charge et permettant une supervision humaine.

Les applications qui n’impliquent pas de risques considérables sont considérées comme à risque limité et doivent répondre à moins d’exigences, notamment en termes de transparence. Les utilisateurs doivent être informés qu’ils interagissent avec un système d’IA.

Enfin, il existe des applications présentant un risque minimal pour lesquelles il n’existe pas d’obligations particulières découlant de l’AI Act.