Le Conseil des Barreaux européens (« CCBE ») a publié sa position sur la proposition de règlement établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union (8 octobre 2021)
Le CCBE relève qu’en dépit d’une approche fondée sur les risques, la proposition de règlement devrait comporter des dispositions spécifiques relatives à l’utilisation des systèmes d’intelligence artificielle (« IA ») dans le domaine de la justice. Par ailleurs, il considère que toute utilisation de systèmes d’IA portant atteinte aux droits fondamentaux doit être interdite. Cela inclut notamment la notation sociale, l’identification biométrique que ce soit dans les espaces publics ou pour classer les individus en groupes, aux fins de police prédictive ou dans le contrôle des frontières et des migrations, mais également dans la prise de décision automatisée afin que le juge ne délègue pas son pouvoir de décision à ces systèmes. Sur ce dernier point, le CCBE souligne que le processus décisionnel doit rester une activité humaine dans son entièreté, les juges devant assumer la responsabilité des décisions qu’ils prennent. (LT)
