La IA entra en una fase crítica en Europa; todo lo que cambia (y lo que no) en agosto

La inteligencia artificial entra en una fase crítica en Europa y la mayoría de las obligaciones previstas en el Reglamento Europeo -primera ley del mundo que regula el uso de estos sistemas- entran en vigor el próximo día 2 de agosto.

La norma europea, que se aprobó en 2024 y prevé una implementación escalonada hasta 2028, establece un marco común para que la IA se utilice en la UE de forma segura, transparente y respetuosa con los derechos fundamentales, y exige un control técnico y ético de todas estas herramientas para mitigar los riesgos.

El régimen sancionador prevé multas millonarias: hasta 35 millones de euros en el caso de las muy graves, por utilizar por ejemplo sistemas de IA prohibidos; o de 15 millones en el caso de las graves, por incumplimientos relacionados con los sistemas catalogados como "de alto riesgo".

Los sistemas que conllevan riesgos inaceptables están ya prohibidos desde el pasado año, y entre ellos están los que usan técnicas subliminales, manipuladoras o engañosas; los que tratan de explotar la vulnerabilidad de las personas (menores, mayores o discapacitados); los que usan la clasificación biométrica para deducir la raza, la religión o la orientación sexual; o los sistemas que usan la 'puntuación social' para evaluar conductas.

Están también ya prohibidos en la UE los sistemas de IA que infieren emociones en los centros laborales o educativos; la recolección de imágenes de internet para crear bases de datos faciales; o la identificación biométrica remota y en tiempo real en lugares públicos con fines policiales.

'Deepfakes' sexuales y pornografía infantil

Y a estas herramientas 'inaceptables' se acaban de incorporar como sistemas prohibidos -aunque no entrarán en vigor hasta el próximo mes de diciembre- algunos de los peores usos de la IA generativa, como la creación o manipulación sin consentimiento de contenidos íntimos ('deepfakes sexuales') o cualquiera capaz de generar pornografía infantil.

Marcado como el punto de inflexión del Reglamento, el 2 de agosto se empieza a aplicar el grueso de la norma: todas las obligaciones de transparencia, las reglas que regulan la mayoría de los sistema de IA y las obligaciones de los proveedores y de los usuarios, pero la Comisión Europea ha aprobado una norma (Omnibus Digital) para simplificar el complejo ecosistema de leyes digitales e intentar que su aplicación sea más gradual y coordinada.

Y aplaza, hasta diciembre de 2027, algunos de los puntos más trascendentes de la ley, entre ellos las exigentes obligaciones que tienen que cumplir los sistemas de IA catalogados como 'de alto riesgo' (por ejemplo los que se usen para evaluar o calificar a estudiantes, para filtrar currículos, para evaluar la solvencia económica de las personas o para fijar el precio de un seguro de vida o de salud).

Sí entra en vigor el próximo 2 de agosto la obligación de informar a cualquier usuario de que está interactuando con un sistema de IA, pero no el etiquetado obligatorio de los contenidos que se generen con herramientas de IA (con una marca de agua con las siglas AI), que se ha pospuesto hasta el próximo 2 de diciembre para aquellos sistemas capaces de generar contenidos sintéticos (imágenes, vídeos o audios que imiten elementos o personas reales).

Dos años más (agosto de 2028) tardarán en entrar en vigor todas las obligaciones referidas a los sistemas de inteligencia artificial, clasificados también 'de alto riesgo' pero que estén integrados en productos o en servicios ya regulados (como los dispositivos médicos, los asistentes de conducción, los juguetes o los asistentes de la navegación aérea).

¿Regulación versus innovación?  

Especialistas en derecho y transformación digital han analizado con EFE el entramado jurídico y el complejo calendario de aplicación del Reglamento Europeo de IA.

El director general de la empresa BIP Iberia -consultora especializada en adaptación a los mercados digitales-, Giovanni Alessandrello, ha apuntado que el mayor riesgo es que las empresas interpreten las prórrogas "como una invitación a esperar".

En declaraciones a EFE, Alesandrello ha valorado el reglamento como "una prueba de madurez" porque cualquier sistema de IA se debe poder "explicar, gobernar y auditar" y ha rechazado la "falsa" dicotomía que a su juicio existe de que Estados Unidos ha elegido la innovación y Europa la regulación o que este tipo de normas frenen la innovación y competitividad europeas.

"La cuestión no es si debemos regular la IA; el reto es cómo gobernarla sin frenar la innovación, porque sin control puede generar riesgos sistémicos, pero una regulación excesivamente rígida puede impedir que Europa compita. El desafío es encontrar el equilibrio", ha manifestado.

El abogado especializado en tecnología y derechos digitales Guillermo Hidalgo, de la firma Maio Legal, percibe que el Reglamento aporta reglas claras, porque no es lo mismo regular un chatbot de atención al cliente que un sistema que decide si te conceden un crédito, y se ha mostrado convencido de que la norma puede ser "un sello de calidad para la IA europea".

Hidalgo, en declaraciones a EFE, ha advertido que la tecnología avanza más rápido que la regulación y es previsible que aparezcan sistemas con un impacto real sobre las personas que queden fuera de los que ya están catalogados 'de alto riesgo', o de la confusión y la complicación que pueden suponer para muchas empresas el calendario de aplicación o el solapamiento con otras normativas (como las de protección de datos) ya vigentes.