El Parlamento Europeo ha dado un importante paso al hacer oficial la futura Ley de Inteligencia Artificial. Esta normativa pionera que acaba de comenzar su proceso de negociación abordará aspectos cruciales como la ciberseguridad y la privacidad en el ámbito de la IA.

El objetivo principal de esta ley es prevenir los riesgos asociados con la tecnología de Inteligencia Artificial. Para lograrlo, se establecerán una serie de obligaciones tanto para los proveedores como para las organizaciones que utilicen herramientas basadas en IA en función del nivel de amenaza que estas puedan representar.

Como resultado, los sistemas que clasifiquen a las personas en función de su comportamiento o características estarán estrictamente prohibidos.

Además de esta prohibición, la Ley de Inteligencia Artificial también incluirá restricciones relacionadas con los sistemas de identificación biométrica, los sistemas policiales predictivos, los sistemas de reconocimiento de emociones y el rastreo indiscriminado de imágenes faciales obtenidas de Internet o circuitos cerrados de televisión para crear bases de datos de reconocimiento facial. El Parlamento Europeo destaca que estas prácticas violan los derechos humanos y el derecho a la intimidad.

Así mismo, los sistemas de Inteligencia Artificial cuyo propósito sea influir en los votantes o en los resultados de las elecciones también serán prohibidos.

En cuanto a las obligaciones, los proveedores de modelos fundamentales deberán evaluar y mitigar los posibles riesgos asociados con sus soluciones, ya sea en términos de salud, seguridad, derechos fundamentales, medio ambiente, democracia o Estado de Derecho.

Además, se les exigirá registrar sus modelos en la base de datos de la Unión Europea antes de comercializarlos en dicho territorio.

Los sistemas de Inteligencia Artificial generativa basados en estos modelos estarán obligados a cumplir una serie de requisitos de transparencia. Por ejemplo, deberán advertir claramente cuando el contenido haya sido generado por Inteligencia Artificial con el fin de distinguir entre deep fakes y contenido auténtico. Además, deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor utilizados en su desarrollo.

El Parlamento Europeo también busca facilitar la presentación de reclamaciones en caso de que los sistemas de Inteligencia Artificial vulneren los derechos o representen un riesgo. Por esta razón, se ha reformado el papel de la Oficina Europea de Inteligencia Artificial, cuya tarea principal será supervisar la implementación de la nueva Ley de Inteligencia Artificial.

En resumen, la futura Ley de Inteligencia Artificial de la Unión Europea se centra en proteger la seguridad y la privacidad de los ciudadanos estableciendo prohibiciones y obligaciones claras para proveedores y organizaciones y buscando garantizar el uso ético y responsable de la IA en beneficio de todos.