Ley de inteligencia artificial en la Unión Europea: un avance histórico

Ley de inteligencia artificial en la Unión Europea: un avance histórico

Foto: Sergio F Cara

La ley, recién acordada por las instituciones de la Unión Europea, establece el uso de la inteligencia artificial en función del riesgo que pueda representar para las personas. Este marco legal pionero en el mundo busca impulsar a la industria europea y enfrentarse a potencias como China y Estados Unidos. Se aplicará en fases, entrando en vigor en 2026 y contempla multas sustanciales, llegando hasta los 35 millones de euros.

 

Avances en vigilancia y uso de identificación biométrica

 

Uno de los puntos más sensibles de las negociaciones fue el uso de cámaras de identificación biométrica por las fuerzas del orden en espacios públicos. La ley permite su utilización con autorización judicial para prevenir amenazas terroristas, genuinas y previsibles. También prevé el uso para la búsqueda de personas vinculadas a delitos graves. Durante las negociaciones, se discutió ampliamente sobre la lista de delitos, con presiones para su expansión y esfuerzos para limitarla en aras de proteger los derechos fundamentales.

 

Prohibiciones claras en categorización biométrica

 

Esta norma prohíbe sistemas de categorización biométrica basados en creencias políticas, religiosas, filosóficas, raza u orientación sexual. También veta sistemas que puntúen a personas según su comportamiento o características personales, así como la inteligencia artificial capaz de manipular el comportamiento humano. La prohibición se extiende a la expansión indiscriminada de bases de datos faciales y a sistemas de reconocimiento de emociones en entornos laborales y educativos.

 

Regulación de sistemas de inteligencia artificial generativa

 

Asimismo, la regulación abarca sistemas de inteligencia artificial generativa, como ChatGPT de OpenAI o Bard de Google. Estos sistemas deberán cumplir criterios de transparencia, especificando si un contenido fue generado por inteligencia artificial, y garantizar que los datos utilizados respeten los derechos de autor. Aunque inicialmente la ley no estaba diseñada para estos sistemas, su popularidad y la necesidad de regulación se volvieron evidentes tras disrupciones tecnológicas como el caso de éxito de ChatGPT.

 

Negociaciones "apasionadas" y salvaguardas para derechos fundamentales

 

Por su parte, las negociaciones fueron intensas, ya que la ley busca regular una tecnología con vastas posibilidades y cuestionamientos éticos. La norma permite o prohíbe el uso de inteligencia artificial según el riesgo para las personas, identificando sistemas de alto riesgo sujetos a estrictas salvaguardas. Se incluyen ejemplos como la manipulación electoral y la evaluación crediticia por entidades financieras.

 

Presidencia española celebra el pacto

 

La presidencia española del Consejo de la Unión Europea celebró el acuerdo como un hito importante. La secretaria de Estado española de Telecomunicaciones e Infraestructura Digital, Carme Artigas, destacó el logro de permitir a los ciudadanos decidir sobre el uso de la inteligencia artificial. La norma prevé la creación de la una oficina europea de inteligencia artificial, con el propósito de controlar el uso de la tecnología, asesorada por expertos y organizaciones civiles. La entrada en vigor está prevista para 2026, aplicándose en fases específicas. Las multas por incumplimiento van desde 35 millones de euros hasta el 7% del volumen de negocio global de las empresas. (Notipress)

Notas Relacionadas