La Ley Europea de Inteligencia Artificial está a punto de implementarse

El 13 de marzo de 2024, el Parlamento Europeo aprobó la Ley de Inteligencia Artificial, que resolvió de manera integral todas las cuestiones relacionadas con el marco regulatorio de la inteligencia artificial. Se convertirá en una legislación de la UE histórica en Europa.

La Ley de Inteligencia Artificial entrará en vigor en Europa a finales de 2026, dentro de los 24 meses siguientes a su publicación. Pero la prohibición de los sistemas de inteligencia artificial que plantean riesgos inaceptables se implementará dentro de seis meses, lo que significa que podría implementarse en 2024. Además, a mediados de 2025 se empezarán a implementar normas relativas a los sistemas generales de inteligencia artificial.

¿Qué es un sistema de IA?

• Los sistemas de inteligencia artificial mencionados en la Ley de Inteligencia Artificial se definen como sistemas basados en máquinas diseñados para funcionar con distintos grados de autonomía. Estos sistemas exhiben adaptabilidad para objetivos explícitos o implícitos después de que se implementa el sistema, infiriendo de las entradas que reciben cómo producir resultados como predicciones, contenido, recomendaciones o decisiones que pueden afectar el entorno físico o virtual.
• La amplia definición de sistemas de IA hace que el alcance de la Ley de IA sea muy flexible, abarcando no solo productos de software sino también todas las demás herramientas, hardware o soluciones que tienen el potencial de ser considerados sistemas autónomos, pudiendo aprender y sacar conclusiones sobre nuevas situaciones. basándose en los datos de entrada que se les entregaron previamente. Además, esta definición amplia hace que la Ley de Inteligencia Artificial sea aplicable no sólo a los productos de IA en sí, sino también a cualquier otro producto o solución que utilice componentes de IA.

¿A quién se aplica?

• La Ley de Inteligencia Artificial se aplica a las entidades que se ocupan de sistemas de inteligencia artificial, en particular:
  • Proveedor: entidad que desarrolla un sistema de IA y lo comercializa como servicio bajo su propia marca.
  • Implementador: entidad que utiliza un sistema de inteligencia artificial bajo su propia autoridad.
  • Además, la Ley de IA también se aplica a otro tipo de entidades como importadores, distribuidores y representantes autorizados.

Sistemas de IA prohibidos

La Ley de Inteligencia Artificial propone un enfoque de evaluación basado en riesgos e impone diferentes requisitos a diferentes categorías de sistemas de IA en función de su impacto en los individuos (personas físicas afectadas por un sistema de IA determinado).

Los sistemas de IA prohibidos plantean un riesgo inaceptable. Con algunas excepciones, los sistemas de inteligencia artificial prohibidos incluyen:

• Sistemas que utilizan técnicas subliminales, manipuladoras o engañosas para influir en las personas para que tomen decisiones informadas;
• sistemas de puntuación social que resultan en un trato perjudicial o adverso;
• usar sistemas de reconocimiento facial que capturan imágenes no específicas de rostros de Internet o imágenes de CCTV;
• Sistemas de reconocimiento de emociones para lugares de trabajo e instituciones educativas;
• Varios sistemas de clasificación biométrica;
• Ciertos sistemas biométricos remotos en tiempo real.

Sistemas de IA de alto riesgo

La categoría central de la Ley de Inteligencia Artificial son los sistemas de inteligencia artificial de alto riesgo, es decir, sistemas que pueden suponer un riesgo significativo de daño a la salud, la seguridad o los derechos fundamentales de las personas físicas. Según la Ley de Inteligencia Artificial, los sistemas de inteligencia artificial de alto riesgo se refieren a sistemas cubiertos por la legislación de seguridad de productos de la UE, incluidos, entre otros, los siguientes sistemas:

• Sistemas de IA utilizados en infraestructura crítica;
• Sistemas de IA para la educación y la formación profesional;
• Sistemas de IA para el empleo, la gestión de trabajadores y el autoempleo;
• Sistemas de inteligencia artificial para hacer cumplir la ley;
• Sistemas de gestión de inmigración, asilo y control de fronteras.

La lista de sistemas de IA de alto riesgo que figura en el proyecto de ley no es exhaustiva, lo que significa que las categorías de muestra de sistemas de IA de alto riesgo pueden complementarse en el futuro y alinearse con las tendencias tecnológicas.

Además de los sistemas de inteligencia artificial de alto riesgo, la Ley de Inteligencia Artificial también cubre otros sistemas de inteligencia artificial de riesgo medio y bajo.

Obligaciones para los sistemas de inteligencia artificial de alto riesgo

Los proveedores y/o implementadores de sistemas de IA de alto riesgo enfrentarán una variedad de obligaciones, tales como:

• Implementar sistemas de gestión de riesgos durante todo el ciclo de vida de los sistemas de inteligencia artificial de alto riesgo; esto incluye identificar y analizar riesgos conocidos y razonablemente previsibles, y tomar medidas específicas de gestión de riesgos;
• Implementar mecanismos apropiados de gobernanza de datos, garantizando que los datos utilizados para entrenar, validar y probar modelos de IA sean adecuados para su propósito y de calidad adecuada;
  Redactar y mantener documentación técnica detallada para sistemas de IA;
• Equipar el sistema con capacidades de mantenimiento de registros para registrar automáticamente eventos durante el funcionamiento del sistema de IA;
• Mantener la supervisión humana de los sistemas de IA;
• Mantener niveles adecuados de precisión, solidez y ciberseguridad de los sistemas de IA;
• Implementar un sistema de gestión de calidad;
• Realizar evaluaciones de impacto o evaluaciones de conformidad para determinadas categorías de sistemas de inteligencia artificial;
• Implementar vigilancia posterior a la comercialización: recopilar y analizar datos del sistema de IA;
• Obligaciones de registro de bases de datos de la UE;
• Obligaciones de información/transparencia hacia las personas afectadas por sistemas de inteligencia artificial.

inteligencia artificial general

Además de los sistemas de inteligencia artificial estándar, la Ley de Inteligencia Artificial también define una categoría separada: los sistemas que utilizan inteligencia artificial (GPAI). Este es un sistema de naturaleza general y puede usarse en una amplia gama de sistemas o aplicaciones posteriores. GPAI incluye modelos de inteligencia artificial que pueden realizar una variedad de tareas, son de propósito general, a menudo aprenden de forma autónoma a partir de grandes cantidades de datos y pueden usarse en una amplia gama de aplicaciones.

Según la Ley de Inteligencia Artificial, la GPAI enfrenta un conjunto separado de requisitos:

• Documentación técnica detallada del modelo de implementación;
• Implementar políticas específicas respetando la ley de derechos de autor;
• Proporcionar un resumen "suficientemente detallado" del contenido del conjunto de datos de entrenamiento;
• Obligaciones de etiquetado de contenidos generados o manipulados por inteligencia artificial.

Sanciones por infracciones

Dependiendo del tipo de infracción y del tamaño de la empresa, la Ley de IA impone sanciones severas por infracciones. El incumplimiento de las prohibiciones de la Ley de Inteligencia Artificial podría dar lugar a multas de hasta 35 millones de euros o el 7% de la facturación anual mundial, mientras que el incumplimiento de las obligaciones derivadas de sistemas de IA de alto riesgo podría dar lugar a multas de hasta 15 millones de euros o el 3% de la facturación anual mundial. facturación anual global. .

Marco legal más amplio

Aunque la Ley de Inteligencia Artificial se centra en aplicaciones de alto riesgo y GPAI, es importante no perder de vista la implementación más amplia de la IA. Las empresas deben evaluar minuciosamente el despliegue de todas las tecnologías de IA en sus operaciones y revisar las tecnologías que ya estaban en funcionamiento antes de la aprobación del Proyecto de Ley de IA para garantizar el cumplimiento no solo del Proyecto de Ley de IA sino también de los marcos legales existentes. Esto incluye cuestiones de privacidad y protección de datos regidas por el GDPR, así como el cumplimiento de las leyes de propiedad intelectual, protección al consumidor y antidiscriminación que se aplican a varios sistemas de IA.