Ley de Inteligencia Artificial de la Comisión Europea (A5C54C2D02)

El avance de la tecnología en los últimos diez años ha supuesto grandes beneficios, pero también múltiples desafíos para la humanidad. Entre estos retos se encuentra la regulación de la Inteligencia Artificial (IA) en sus aplicaciones.

El presente documento desvelará información sobre el estado actual de la regulación de la Inteligencia Artificial en la Unión Europea (UE), así como diferentes aspectos de la Ley de IA de la Comisión Europea (Ley de IA), la cual se prevé que entre en vigor en 2026.

Se prevé que la IA aportará muchos beneficios económicos y sociales en diferentes sectores. Esta tecnología es muy útil para mejorar la predicción, optimizar operaciones y recursos, o personalizar servicios.

Los objetivos principales de la Ley de IA de la Comisión Europea son:

1 | Garantizar que los sistemas de Inteligencia Artificial utilizados en la Unión Europea e introducidos en el mercado europeo sean seguros y respeten los derechos de los ciudadanos.

2 | Estimular la inversión y la innovación en el ámbito de la IA en Europa. El acuerdo establece que el Reglamento de Inteligencia Artificial debe aplicarse dos años después de su entrada en vigor.

Antecedentes

Ante el vertiginoso avance, la regulación de la IA se ha convertido en una cuestión central en la UE. Los políticos trabajan para desarrollar un enfoque “humano” que garantice que las políticas benefician a los ciudadanos de la unión, respetando los valores de la UE.

A nivel internacional, otros países están implementando legislación y políticas para regular la IA. Aunque inicialmente algunos países como Estados Unidos adoptaron un enfoque menos estricto, impera la tendencia hacia una mayor regulación.

Organizaciones como la Organización para la Cooperación y el Desarrollo Económico (OCDE) y las Naciones Unidas (UNESCO) han establecido principios y recomendaciones éticas para guiar el desarrollo y el uso responsable de la IA.

La Comisión Europea ha propuesto un marco regulatorio para abordar los desafíos y riesgos asociados al uso de la IA en la Unión Europea. Este marco se centra en un enfoque basado en el riesgo, que busca equilibrar la promoción de la innovación y el desarrollo tecnológico con la protección de los derechos fundamentales y la protección de los ciudadanos.

A continuación, se exponen las cinco categorías y algunos ejemplos: riesgo mínimo, alto riesgo, riesgo inadmisible, riesgo específico de transparencia, y riesgos sistémicos.

Riesgo mínimo

El riesgo mínimo en la IA se refiere a los sistemas que no representan una amenaza significativa para la seguridad o los derechos fundamentales de las personas. Estos sistemas pueden operar dentro de las leyes y regulaciones existentes.

Alto riesgo

Los sistemas de IA de alto riesgo son aquellos que pueden tener un impacto significativo en la seguridad o los derechos fundamentales de las personas. Estos sistemas a menudo se utilizan en situaciones críticas donde se requiere precisión y fiabilidad.

Riesgo inadmisible: los usos prohibidos

Este tipo de riesgo se refiere a usos extremadamente perjudiciales de la inteligencia artificial que violan los valores y principios fundamentales. Estos sistemas tienen el potencial de causar daños graves a los individuos o a la sociedad en su conjunto. A continuación, se exponen ejemplos significativos del uso prohibido de la IA.

1 | Puntuación social con fines públicos o privados. Se refiere a la clasificación y puntuación de individuos en función de su comportamiento en línea o en la vida real. Esto puede ser utilizado para discriminar a las personas en áreas como la contratación, préstamos bancarios o acceso a servicios públicos.  Este uso está prohibido porque viola el derecho a la privacidad y puede conducir a la discriminación injusta y al trato desigual de las personas.

2 | Identificación biométrica en lugares públicos. Implica el uso de sistemas de inteligencia artificial para identificar a personas mediante el reconocimiento facial en lugares públicos, sin su consentimiento. Esto podría utilizarse para la vigilancia masiva y la infracción de la privacidad de las personas en espacios públicos. Está prohibido debido a que vulnera el derecho a la privacidad y la libertad de movimiento de las personas.

3 | Actuación policial predictiva individual. Consiste en el uso de algoritmos de IA para predecir el comportamiento criminal de individuos específicos. Este enfoque está prohibido porque implica la criminalización anticipada de las personas sin evidencia concreta, lo que incumple el principio de presunción de inocencia y puede llevar a la discriminación étnica o racial.

4 | Reconocimiento de emociones en el lugar de trabajo y en instituciones Educativas. Implica el uso de IA para detectar y analizar las emociones de las personas en entornos laborales o educativos, sin su consentimiento explícito. Esta práctica está prohibida debido a que vulnera la privacidad emocional de los individuos y puede conducir al uso indebido de la información para tomar decisiones injustas o invasivas.

Riesgo específico para la transparencia

Este tipo de riesgo se refiere a los sistemas de IA que pueden ser susceptibles a la manipulación o tener un impacto negativo en los usuarios si no se comprenden completamente. Estos sistemas pueden requerir una mayor transparencia para garantizar su uso ético y responsable.

Se refieren a posibles consecuencias negativas derivadas del uso extendido de modelos de IA avanzados. Estos modelos, como los grandes modelos generativos, son altamente potentes y versátiles, pero su amplio alcance puede ocasionar problemas si no se gestionan adecuadamente.

Crear una ley para el uso de la IA enfrenta varios desafíos debido al dinamismo de esta tecnología. Uno de los principales desafíos se encuentra en la clasificación de diferentes tipos de IA, sobre todo a la hora de categorizar los sistemas considerados de alto riesgo.

Cualquier riesgo que conlleve la posible vulneración de los derechos fundamentales de las personas supone un límite que debe reflejar la legislación. Es por lo tanto lógico que unos límites sean más difíciles de definir que otros. Este es el caso de la regulación de la identificación biométrica y de los sesgos que puede producir una IA por su entrenamiento. A continuación, se expone cómo la Ley de IA de la Comisión Europea enfrenta estos desafíos.

Regulación de la identificación biométrica

La Ley de IA regula el uso de la identificación biométrica de manera estricta. Se prohíbe específicamente su uso en tiempo real en lugares públicos, como el reconocimiento facial con cámaras de seguridad, a menos que se aplique en casos concretos bien definidos, para la prevención de delitos graves como el terrorismo o la trata de personas.

Regulación de los sesgos raciales y de género en la Inteligencia Artificial

La IA puede incorporar sesgos de género y raciales debido a la naturaleza de su entrenamiento. Los algoritmos de IA aprenden a partir de conjuntos de datos históricos, que a menudo reflejan los sesgos presentes en la sociedad.

Por ejemplo, si los datos de entrenamiento están sesgados hacia ciertos grupos demográficos o reflejan estereotipos, es probable que el algoritmo reproduzca esos mismos sesgos en sus decisiones y resultados. Este fenómeno puede ocurrir de manera inadvertida, pero puede tener consecuencias significativas, manteniendo la discriminación y la desigualdad en las aplicaciones de IA.

Para que esto no ocurra, la Ley de IA establece las siguientes medidas:

• Requisitos obligatorios para sistemas de alto riesgo.
• Entrenamiento con datos representativos.
• Detección y corrección de sesgos.
• Realizar auditorías y seguimientos periódicos.

En caso de que se utilicen o comercialicen sistemas de IA que no cumplan con los requisitos establecidos por la Ley de IA, los países de la UE deben aplicar sanciones efectivas, proporcionadas y disuasorias, que incluyan multas administrativas, por los delitos contra los derechos fundamentales. Debe informarse a la Comisión.

El Reglamento establece diferentes umbrales a considerar para estas multas.

La Ley de Inteligencia Artificial (IA) establece el derecho a presentar denuncias ante las autoridades nacionales, lo que ayuda a supervisar el mercado de manera adecuada. Además, se propone una Directiva de Responsabilidad en IA para facilitar indemnizaciones por daños causados por sistemas de alto riesgo.