4
Oct
2021
Ver
La inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales (debate)
Señor Presidente, Señorías, mientras el Parlamento se prepara para examinar la propuesta de Reglamento sobre la inteligencia artificial, con este informe damos un mensaje claro y ya hacemos una observación importante: En nuestra opinión, no hay lugar en Europa para la vigilancia biométrica masiva y la seguridad y la lucha contra la delincuencia no puede ser a expensas de los derechos fundamentales de los ciudadanos. De hecho, la identificación mediante datos biométricos en lugares de acceso público puede dar lugar a graves abusos del derecho a la privacidad y otros principios subyacentes de nuestros sistemas democráticos. El Supervisor Europeo de Protección de Datos dijo: estos sistemas tendrían un impacto negativo directo en el ejercicio de la libertad de expresión, reunión, asociación e incluso la libertad de circulación. Pensemos entonces en lo que podría suceder en lugares que no están tan atentos a la separación de poderes o libertades fundamentales, ya sean estados o ciudades. El riesgo de abuso es demasiado alto. Por eso creemos que deben suprimirse las excepciones al artículo 5 sobre prácticas prohibidas en la propuesta de Reglamento. Del mismo modo, las técnicas predictivas para la aplicación de la ley conllevan un riesgo muy grave de discriminación, además de la falta de pruebas sobre su exactitud, socavando uno de los fundamentos fundamentales de nuestros sistemas democráticos, a saber, la presunción de inocencia. Ninguna supervisión humana ni conjuntos de datos libres de errores serán suficientes para garantizar que dichas decisiones de los sistemas de IA se tomen respetando las garantías constitucionales y los derechos fundamentales de la Unión, incluso cuando estos procesos de toma de decisiones sean reversibles. A fortiori, estos sistemas no pueden someterse a una mera autoevaluación de la conformidad antes de su comercialización, como propone el Reglamento en su primer proyecto que tenemos ante nosotros. Una autoevaluación expone a las personas a riesgos inaceptables de errores y violaciones, que solo serían descubiertos más tarde por las autoridades de supervisión si tuvieran los medios para hacerlo, y esto resultaría en un daño que ahora ha ocurrido, incluso irreparable, a la vida de las personas. Ya tenemos las leyes de protección de datos más avanzadas del mundo en la UE hoy en día. Para nosotros es un modelo, un modelo que queremos llevar al resto del mundo, y no podemos darnos el lujo de retirarnos ni un milímetro de este entorno cuando nos encontramos regulando la inteligencia artificial. También en este ámbito debemos proteger plenamente los derechos de los ciudadanos. Creo que así es como podemos actuar para una Europa que tiene su propio modelo centrado en los derechos humanos de la inteligencia artificial.