4
Oct
2021
Regarder
L’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales (débat)
Monsieur le Président, Mesdames et Messieurs, alors que le Parlement se prépare à examiner la proposition de règlement sur l'intelligence artificielle, avec ce rapport, nous donnons un message clair et soulignons déjà un point important: À notre avis, il n'y a pas de place en Europe pour la surveillance et la sécurité biométriques de masse et la lutte contre la criminalité ne peut se faire au détriment des droits fondamentaux des citoyens. En effet, l’identification au moyen de données biométriques dans des lieux accessibles au public risque d’entraîner de graves violations du droit à la vie privée et d’autres principes sous-jacents de nos systèmes démocratiques. Le Contrôleur européen de la protection des données a déclaré: ces systèmes auraient un impact négatif direct sur l’exercice de la liberté d’expression, de réunion, d’association et même de libre circulation. Pensons ensuite à ce qui pourrait se passer dans des lieux moins attentifs à la séparation des pouvoirs ou aux libertés fondamentales, qu'il s'agisse d'États ou de villes. Le risque d'abus est trop élevé. C'est pourquoi nous pensons que les exceptions à l'article 5 sur les pratiques interdites dans la proposition de règlement devraient être supprimées. De même, les techniques prédictives pour l'application de la loi comportent un risque très grave de discrimination, en plus de l'absence de preuves de leur exactitude, sapant l'un des fondements fondamentaux de nos systèmes démocratiques, à savoir la présomption d'innocence. Aucun contrôle humain ou ensemble de données exempt d’erreurs ne suffira à garantir que de telles décisions prises par les systèmes d’IA respectent les garanties constitutionnelles et les droits fondamentaux de l’Union, même lorsque ces processus décisionnels sont réversibles. A fortiori, ces systèmes ne peuvent pas faire l'objet d'une simple auto-évaluation de conformité avant d'être mis sur le marché, comme le propose le règlement dans son premier projet dont nous sommes saisis. Une auto-évaluation expose les personnes à des risques inacceptables d'erreurs et de violations, qui ne seraient découverts plus tard par les autorités de contrôle que si elles en avaient les moyens, ce qui entraînerait des dommages, même irréparables, à la vie des personnes. Nous disposons déjà des lois sur la protection des données les plus avancées au monde dans l'UE aujourd'hui. Pour nous, c'est un modèle, un modèle que nous voulons apporter au reste du monde, et nous ne pouvons pas nous permettre de nous retirer même d'un millimètre de ce cadre lorsque nous nous trouvons à réguler l'intelligence artificielle. Dans ce domaine également, nous devons protéger pleinement les droits des citoyens. Je pense que c'est ainsi que nous pouvons agir pour une Europe qui a son propre modèle centré sur les droits de l'homme de l'intelligence artificielle.