Ley de IA: marcos normativos y jurídicos de la inteligencia artificial

Con la Ley de IA, la Unión Europea ha creado un conjunto de normas para la IA que incluye reglamentos armonizados en el ámbito de la UE. El objetivo es reforzar el mercado interior y normalizar los aspectos normativos y jurídicos de cómo tratamos la IA, concretamente, cómo desarrollamos, comercializamos, desplegamos y utilizamos los sistemas de IA.

La inteligencia artificial se define en la Sección 4 de la Ley de IA como una familia de tecnologías en rápida evolución que puede contribuir a una amplia gama de beneficios económicos y sociales en todo el espectro de industrias y actividades sociales.
Antecedentes de la Ley de IA

A largo plazo, la Ley de IA aumenta la confianza en las tecnologías de inteligencia artificial. El marco se basa en los valores consagrados en la Carta de la UE, lo que significa que el objetivo que tiene detrás no consiste en prohibir o limitar la inteligencia artificial, sino en introducir sistemas de IA fiables en todos los ámbitos.

Por ejemplo, sectores como la seguridad alimentaria, la gestión de infraestructuras, los servicios públicos o el transporte y la logística ya están utilizando la inteligencia artificial para crear mejores resultados para la sociedad. La Ley de IA protege los derechos de las personas físicas, las empresas, la democracia, el Estado de derecho y el medioambiente.
Las ventajas de la inteligencia artificial de un vistazo:

• La IA fomenta la innovación.
• La IA facilita mejores predicciones.
• La IA reduce la carga de trabajo de los empleados.
• La IA optimiza los procesos.
• La IA personaliza las soluciones digitales.
• La IA asigna los recursos de forma eficiente.
• La IA mejora la competitividad.
• La IA refuerza la formación general y profesional.

Es decir, a pesar de la Ley de IA, seguirás beneficiándote de la integración de la inteligencia artificial en tus procesos empresariales. La Ley de Inteligencia Artificial se limita a minimizar los riesgos para la salud y la seguridad asociados a la IA y a proteger los derechos humanos.

Fecha de entrada en vigor y disposiciones transitorias

La Ley de IA ya se te aplica hoy en día de las siguientes maneras:

• El 21 de mayo del 2024, el Consejo de los 27 Estados miembros de la UE adoptó oficialmente la Ley de IA.
• El 27 de julio del 2024, la UE publicó la Ley de IA en su boletín oficial.
• La Ley de IA entró en vigor el 1 de agosto del 2024,

aunque se aplicarán disposiciones transitorias durante los próximos dos años. Durante este tiempo, los Estados miembros de la UE tienen la oportunidad de trasladar la Ley de IA a su legislación nacional. Se aplica una excepción a los sistemas de IA de alto riesgo. Para estos sistemas, los períodos transitorios se amplían a 36 meses.

Para ti, como empresa, esto significa que, una vez transcurridos los períodos transitorios, no podrás comercializar ni utilizar sistemas de IA que no cumplan la Ley de IA. Sin embargo, los períodos transitorios también te dan mucho tiempo para prepararte para la ley.

Si tu empresa desarrolla, utiliza o vende inteligencia artificial (IA), tienes que cumplir las normas de la Ley de IA. Esta ley de la UE clasifica los sistemas de IA en cuatro niveles de riesgo, y el nivel de riesgo determina las normas específicas que debes seguir. Esencialmente, cuanto mayor sea el riesgo, más normas tendrás que cumplir.

1. Sistemas de IA de riesgo mínimo

Si utilizas sistemas de IA con un riesgo mínimo, no hay de qué preocuparse. Así que no tienes que hacer nada. Estos sistemas incluyen correctores ortográficos basados en IA, algoritmos de búsqueda, IA en videojuegos o filtros de spam.

2. Sistemas de IA de riesgo limitado

La Ley de IA clasifica los sistemas de IA como asistentes de voz digitales (por ejemplo, Doxi), chatbots o deepfakes como de riesgo limitado. Si utilizas estos sistemas, debes informar a los usuarios de que estás utilizando un sistema de IA con el que están interactuando. También debes conocer los requisitos de etiquetado de los formatos generados por IA, como las grabaciones de audio.

3. Sistemas de IA de alto riesgo

Los sistemas de IA que interfieren en los derechos personales son de alto riesgo. Los sistemas de IA de alto riesgo incluyen el reconocimiento facial biométrico, la inteligencia artificial incorporada a la gestión de RR. HH. o la incorporada a las herramientas de comprobación del crédito. Por lo tanto, La Ley de IA considera como de alto riesgo, por ejemplo, cuando la inteligencia artificial decide si una persona es un candidato adecuado para un puesto vacante o si se concede un préstamo. Los sistemas de IA en los ámbitos de la sanidad, la educación o las infraestructuras críticas también están en la categoría de alto riesgo.

En este caso, utilizar inteligencia artificial es una cuestión de cumplimiento normativo. La ley establece los siguientes requisitos:

• Evaluar en qué medida el sistema de IA podría vulnerar los derechos fundamentales.
• Formar al personal en el uso de los modelos de IA.
• Almacenar los registros creados automáticamente por el sistema de IA de forma conforme con la normativa.

4. Sistemas de IA de riesgo inaceptable

Se prohíben las aplicaciones y prácticas de IA que planteen riesgos inaceptables. El Artículo 5 de la Ley de IA ofrece una perspectiva general sobre estas. Las prácticas de IA prohibidas incluyen:

• Sistemas de IA que utilizan técnicas manipuladoras y engañosas para alterar el comportamiento de las personas con el fin de influir en su toma de decisiones.
• Sistemas de IA que predicen si una persona puede cometer un delito basándose únicamente en la generación de perfiles.
• Sistemas de IA que amplían las bases de datos de reconocimiento facial escaneando imágenes faciales de Internet o de grabaciones de videovigilancia.

La Ley de IA afecta a todas las empresas. Aunque actualmente no utilices IA, los modelos de inteligencia artificial se convertirán en una parte integral del lugar de trabajo en el futuro. Para las empresas que ya utilizan la IA, vale doblemente la pena adelantarse a la Ley de IA de la Unión Europea.

Puedes hacerlo hoy mismo como parte de tu programa de gestión de la calidad:

Evaluar la IA que ya se utiliza

En un primer paso, examina los modelos de IA que ya estás utilizando. Si utilizas sistemas de IA de alto riesgo según el Anexo III, estás obligado a llevar a cabo el procedimiento de evaluación de la conformidad. La Ley de IA prevé dos formas de evaluar los sistemas de gestión de la calidad y la documentación técnica:

1. Controles internos
2. Controles externos por parte de organismos certificados

Merece la pena evaluar ya mismo los sistemas de IA en función del riesgo, independientemente de que tengas que realizar o no un análisis de conformidad, Ya que te ayuda a reducir total o parcialmente los riesgos en los sistemas de IA.

Desarrollar políticas de IA

En el segundo paso, define las directrices internas de la empresa para utilizar la inteligencia artificial basándote en la Ley de IA. Las políticas de IA regulan cómo utilizarás las herramientas de IA. ¿Qué herramientas están permitidas? ¿Qué casos de uso puede cubrir la herramienta? ¿Cómo abordas la cuestión de la protección de datos? Las políticas de IA responden a estas preguntas con claridad y transparencia. De hecho, en SER contamos con una política de IA de este tipo.

La ventaja: sobre esta base, tú decides hoy y en el futuro qué sistemas de IA utilizas, así como de qué manera y dónde piensas utilizarlos. Asimismo, esto también te protege contra el uso indebido en toda la empresa, lo que significa que solo utilizarás la IA de una manera que influya positivamente en tus procesos empresariales.

La Ley de IA ya demuestra que la inteligencia artificial ofrece grandes oportunidades a las empresas en forma de sistemas de riesgo mínimo. Este es el caso, por ejemplo, cuando la inteligencia artificial no controla cada paso de las tareas, sino que solo asume algunos de los que desarrollarían los empleados, lo que reduce su carga de trabajo. Por ejemplo, Doxi, nuestra IA, te ayuda en tu actividad diaria liberándote de tareas rutinarias y redundantes.

Hola, Doxi, ¿cómo puedes optimizar el día a día de la empresa?

Con la Ley de IA, la UE normaliza para todos los Estados miembros la manera de desarrollar, comercializar, desplegar y utilizar la IA. La nueva ley adopta un enfoque basado principalmente en el riesgo, de modo que a medida que aumenta el nivel de riesgo de los sistemas de IA, las empresas también deben cumplir requisitos más estrictos. Y, dado que algunos de estos sistemas están totalmente prohibidos, es aconsejable que las empresas estudien cuáles utilizan, que los evalúen y que desarrollen sus propias políticas de IA. Esto garantiza que los sistemas de IA se utilicen de forma regulada, segura y transparente, y sienta las bases para utilizar la inteligencia artificial únicamente con fines positivos.

¿Quieres hablar con los expertos? Nuestros gurús de la IA están preparados para ayudarte. Contacta con nosotros hoy mismo.

Preguntas frecuentes sobre la Ley de IA