Claves del nuevo Reglamento de Inteligencia Artificial

El Reglamento de Inteligencia Artificial (IA) de la Unión Europea, conocido como la Ley de IA (AI Act), establece un marco normativo integral para regular el desarrollo, implementación y uso de la inteligencia artificial en la UE. Sus claves principales incluyen:

1. Enfoque basado en el riesgo:

• La ley clasifica los sistemas de IA en función de su nivel de riesgo (bajo, limitado, alto y prohibido). Cada categoría tiene requisitos específicos:
  • Riesgo prohibido: Aplicaciones de IA que se consideran inaceptables debido a su impacto negativo, como la manipulación subliminal o la puntuación social estatal (similar a lo que ocurre en China).
  • Riesgo alto: Sistemas que pueden afectar significativamente a la seguridad y derechos fundamentales de las personas, como IA en áreas de salud, educación, contratación laboral, y aplicación de la ley. Estos sistemas estarán sujetos a estrictas evaluaciones de conformidad y a requisitos adicionales de transparencia.
  • Riesgo limitado y bajo: Aplicaciones con un impacto menor, que solo requerirán requisitos mínimos, como notificación a los usuarios o directrices éticas voluntarias.

1. Obligaciones para desarrolladores y proveedores:

• Los desarrolladores de IA de alto riesgo deben garantizar la transparencia, trazabilidad y seguridad del sistema. Esto implica realizar pruebas rigurosas, crear documentación técnica exhaustiva y evaluar los posibles impactos.
• También deben implementar mecanismos de control humano en los sistemas de alto riesgo, asegurando que un humano pueda intervenir o supervisar las decisiones críticas.

1. Transparencia y derecho a la explicación:

• Para los sistemas que interactúan con humanos, la ley exige que el usuario sepa cuándo está interactuando con una IA. Por ejemplo, los asistentes virtuales deben informar explícitamente a los usuarios que están hablando con una máquina.
• En los casos de IA de alto riesgo, los usuarios y las personas afectadas tienen el derecho a entender cómo se ha llegado a una decisión y a recibir una explicación clara de los criterios usados, especialmente si la decisión afecta derechos fundamentales.

1. Prohibición de sistemas de IA invasivos:

• La ley prohíbe aplicaciones que puedan afectar la libertad, privacidad o dignidad humana de manera invasiva. Esto incluye sistemas de identificación biométrica en tiempo real en espacios públicos, salvo en casos de excepciones limitadas como investigaciones criminales graves, donde estos sistemas pueden usarse bajo autorización judicial.

1. Supervisión y responsabilidad post-mercado:

• Los proveedores de IA deben seguir evaluando y supervisando sus sistemas incluso después de su lanzamiento. La ley impone la obligación de realizar actualizaciones y mejoras de seguridad de forma continua, además de registrar cualquier incidente adverso y notificarlo a las autoridades pertinentes.
• También se les exige a las empresas que proporcionen canales de contacto para reclamaciones y feedback de los usuarios, con el fin de detectar problemas y mejorar el sistema de manera continua.

1. Creación de un Comité Europeo de Inteligencia Artificial (CEIA):

• Se establece el Comité Europeo de Inteligencia Artificial para garantizar la cooperación y coherencia en la implementación de la ley entre los Estados miembros. Este comité asistirá en la elaboración de guías interpretativas, buenas prácticas y asesorará a las autoridades nacionales.

1. Facilitación de la innovación responsable:

• La ley promueve la innovación mediante la creación de “espacios de pruebas o sandbox regulatorios”, que permiten a los desarrolladores de IA probar nuevos sistemas bajo supervisión sin el riesgo de sanciones. Esto impulsa la experimentación y el desarrollo responsable, especialmente en pequeñas y medianas empresas.

1. Multas y sanciones:

• Las infracciones graves pueden resultar en multas de hasta el 6% de la facturación global anual de la empresa. Las sanciones son similares a las previstas en el Reglamento General de Protección de Datos (RGPD) y buscan asegurar el cumplimiento de la ley.

1. Protección de datos y privacidad:

• El reglamento impone obligaciones estrictas sobre el uso de datos personales en los sistemas de IA, asegurando su conformidad con el RGPD. Esto es especialmente relevante en aplicaciones que implican perfiles de usuarios, predicción de comportamientos o decisiones que impactan en los derechos individuales.

La Ley de IA de la UE representa un enfoque pionero a nivel mundial para regular la inteligencia artificial de manera integral, equilibrando la innovación tecnológica con la protección de los derechos fundamentales y la seguridad de los ciudadanos.