La sesión plenaria del Parlamento Europeo aprobó hoy un proyecto destinado a regular el uso de la Inteligencia Artificial (IA) dentro de la Unión Europea (UE). Este acontecimiento marca el inicio de una delicada negociación con los 27 países miembros de la UE. La normativa aprobada, respaldada por 499 votos a favor, 28 en contra y 93 abstenciones, establecerá regulaciones para la IA en función de su nivel de riesgo. En otras palabras, mientras mayor sea el riesgo para los derechos y la salud de las personas, mayores serán las obligaciones impuestas a los sistemas tecnológicos.
Originalmente, los planes para regular la IA en la UE se remontan a 2021, pero la importancia del tema se volvió urgente con la irrupción de ChatGPT, destacando el rápido desarrollo del sector. Funcionarios de la UE señalan que iniciarán negociaciones directas con los 27 países miembros de la UE de inmediato, con la intención de llegar a un acuerdo antes de que termine el año.
Aunque se logre alcanzar este objetivo, la normativa no entraría en vigor hasta 2026. Por lo tanto, la UE también necesitará negociar un marco provisional y voluntario con las empresas tecnológicas que desarrollan IA.
La mayoría de los eurodiputados respaldó el proyecto de normativa y lo consideró un hito importante. Sin embargo, la tarea de regular la IA es compleja. Durante el debate parlamentario del martes en Estrasburgo, el eurodiputado Dragos Tudorache expresó su apoyo a la regulación, argumentando que el momento actual es adecuado debido al profundo impacto que tiene la IA. Por su parte, Margrethe Vestager, vicepresidenta de la Comisión Europea, afirmó que regular la IA en este momento es necesario para crear confianza y seguridad jurídica, permitiendo así un desarrollo positivo de la tecnología.
La ley en discusión establecerá regulaciones de acuerdo con el nivel de riesgo de la IA. Por ejemplo, se considera un mayor riesgo si se afectan los derechos o la salud de las personas. La lista propuesta por la UE de áreas de alto riesgo incluye infraestructura crítica, educación, recursos humanos, orden público y gestión de la migración. El Parlamento Europeo ha agregado condiciones adicionales antes de clasificar algo como de alto riesgo, incluyendo la posibilidad de dañar la salud, la seguridad, los derechos fundamentales o el medio ambiente.
Se han establecido requisitos especiales para los sistemas de IA generativa, como ChatGPT y DALL-E, que son capaces de generar texto, imágenes, código, audio y otros medios. Estos requisitos incluyen la obligación de informar a los usuarios que el contenido fue producido por una máquina y no por un ser humano.
Brando Benifei, uno de los legisladores que impulsó la iniciativa, ha llamado a un enfoque común para abordar los riesgos asociados con la IA, afirmando que es necesario comparar notas con legisladores de todo el mundo. Por su parte, Tudorache agregó que esta ley es necesaria debido a que no es suficiente confiar en la autorregulación de las empresas para proteger a los ciudadanos.
Además, los legisladores proponen prohibir los sistemas de IA
de vigilancia biométrica, reconocimiento de emociones y vigilancia predictiva. La difusión de imágenes falsas en las redes sociales, creadas mediante aplicaciones basadas en IA, ha alertado sobre los riesgos de manipulación de la opinión pública y los peligros para la democracia. Por esta razón, científicos europeos han pedido una moratoria en el desarrollo de los sistemas más poderosos hasta que estén mejor regulados por ley.
En resumen, la plenaria del Parlamento Europeo aprobó un proyecto para regular la IA en la UE, lo que da inicio a una negociación con los países miembros del bloque. La normativa establecerá regulaciones basadas en el nivel de riesgo de la IA, y se espera llegar a un acuerdo para finales de año. La ley no entraría en vigor hasta 2026, y se requiere un marco provisional con las empresas tecnológicas. Los sistemas de IA generativa y el uso de la IA en áreas de alto riesgo están sujetos a requisitos especiales. Además, se propone la prohibición de ciertos sistemas de IA y se ha destacado la necesidad de un enfoque global para abordar los riesgos asociados con la IA.
