La UE aprende la primera ley de inteligencia artificial del mundo | Tecnología

La Unión Europea será la primera región del mundo en forma regular y completa para los usos de la inteligencia artificial (IA). Los Estados y el Parlamento Europeo se quedaron atrás, sobre todo a mediados del sábado, y después de tres días de intensas y duras negociaciones, un acto provisional, un texto final que hoy debe ser ratificado por ambas partes antes de que entre en vigor, probablemente hasta la finales de 2026, aunque algunas partes se comprometen a funcionar antes de esa fecha. Este texto define las obligaciones y estándares para quienes deben utilizar la tecnología que existe para trabajar y que transforma completamente la vida cotidiana, pero que tiene tantas posibilidades en términos de riesgos, muchos de ellos inimaginables.

“El objetivo del reglamento es garantizar que los sistemas de IA utilizados en la UE garanticen la seguridad y el respeto de los derechos fundamentales y los valores europeos”, aseguró en X (antes Twitter) el Presidencia española del Consejo de la UE. Es esta ley la que quiere convertirse en referencia o estándar para otras regiones, más allá de las fronteras comunitarias, la que será una de las prioridades que marque España para su semestre europeo, que será este mes.

Garantizan sus posibilidades y limitan al máximo los riesgos, habiendo negociado una ley «preparada para el futuro» que contiene suficiente flexibilidad para poder gestionar funciones o tecnologías habituales hoy o modificarlas. Cambia las experiencias según tus vidas. Pero el diablo, como siempre, está en los detalles, y en las negociaciones, «apasionadas», como los testimonios calificaron de la interminable tira y afloja que comenzaron el miércoles y acabaron rozando la medianoche del viernes al sábado, se alargaron debido al pulso entre Les Estados y los Estados europeos -hay momentos entre cada parte entre ellos- sobre qué es un riesgo o no y que las excepciones y salvaguardias tienen como objetivo garantizar que los derechos fundamentales individuales no se apliquen con el objetivo de no perturbar la economía ni los intereses de los Estados. . La letra pequeña ya se conoce, sin embargo, durante 36 horas de negociaciones, una de las más largas que se han registrado en estos formatos, todas las partes se declaran satisfechas con el “equilibrio” registrado entre ambos objetivos.

“Es una muy buena ley que estimulará la innovación y una forma compatible con los derechos fundamentales”, aseguró la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas.

“La UE se está convirtiendo en el primer continente que tiene reglas claras para el uso de la IA”, afirmó, mientras que el Comisario de Mercado Interior, Thierry Breton, uno de los grandes promotores de la normativa y para quien la ley se propone «mucho más». que un paquete de normas, es una lanza para que el Inauguración Los investigadores y los investigadores europeos están liderando la carrera global a través de la IA”.

En todo esto, apoyé a Artigas, por una “certificación legal y técnica” a ciudadanos y empresas que probablemente horrorizará muchas acciones legales. Para ello, la norma quiere tener dientes suficientes para no tener papel, para tener un sistema de sanciones, aunque un porcentaje del volumen total de negocio de la empresa infrinja el ejercicio anterior o incluya una cantidad predeterminada «al alcalde». «. Además, creó un organismo supervisor independiente, una oficina de IA vinculada a la Comisión Europea y que está asociada a un panel científico y a la sociedad civil.

La presidenta de la Comisión, Ursula von der Leyen, celebró una norma “líder mundial”. El Ejecutivo europeo saludó un marco legal “único” para el desarrollo de una IA en la que se pueda confiar. “Europa está dirigida y realizada”, argumentó la presidenta del Parlamento Europeo, Roberta Metsola, según la ley de IA, conocida en inglés como “legislación responsable y con visión de futuro que impone estándares globales”.

Al mismo tiempo que la satisfacción de ver que muchas veces por ejemplo se escapaban, también tuve gestos de supervivencia entre los principales responsables de las negociaciones, y no sólo porque podía volver a casa, sino porque, subrayaron, aseguré a todos lo que debían hacer. hizo. hecho bien unos deberes con muchas trabas.

Entre ellos, los más experimentados se plantearán, como habrán comprendido, la cuestión de cómo los modelos de proposición general de IA (IA generativa o modelos fundamentales) se basan en herramientas populares como ChatGPT, así como en sistemas de vigilancia biométrica. (como el reconocimiento facial), que al final de la acción planteó el punto más negociado y prolongó las discusiones hasta los últimos años, gracias a las últimas noticias que desesperaban de estas tecnologías potencialmente -y en algunos casos realmente lo son, como se ve en Algunos países con pocos músculos democráticos permiten una supervisión y un control estatales que pueden estar directamente involucrados en los derechos fundamentales de los ciudadanos.

Al final, esto evitó el fragor de las negociaciones, que España insistía en concluir, temerosa de un calendario que, con las elecciones europeas en sus meses, podía asegurar que se redactara y discutiera ampliamente una ley. El Parlamento Europeo celebró que la ley «que garantiza los derechos fundamentales, la democracia, el Estado de derecho y la viabilidad del medio ambiente esté protegida por la IA de Alto Riesgo, porque impulsa la innovación y convierte a Europa en líder» del sector.

El texto final reconoce que los eurodiputados tienen sus principales líneas rojas y confirma que prohíben varios sistemas de vigilancia biométrica que se consideran inaceptables: sistemas de categorización biométrica (por creencias políticas, religiosas, filosóficas o por orientación sexual o racial); sistemas de ampliación o creación de bases de datos faciales que capturen datos de forma indiscriminada durante viajes por Internet o capturas audiovisuales y televisivas; reconocimiento de emociones en el lugar de trabajo y en las instituciones educativas; el calificación social (sistemas que habilitan a las personas en función de su comportamiento social o características personales); sistemas que manipulan el comportamiento humano y la IA se utilizan para explotar las vulnerabilidades de las personas (por ejemplo, a través de la educación o el estatus social o económico).

Vigilancia biométrica

Además, aunque se autoricen sistemas de vigilancia biométrica en tiempo real en espacios públicos, sólo se podrán emplear agentes del orden y son muy limitados y sujetos a restricciones de seguridad: requieren autorización judicial y la lista de delitos que les conciernen. la autorización será muy restrictiva. En el caso de utilización “ex post”, basta con permitir la búsqueda de un condenado o de un sospechoso que haya cometido un delito grave. En el caso de la vigilancia en tiempo real, su uso se limita a «tiempo y ubicación» y sólo se utiliza para buscar víctimas de seguridad, trata de personas o explotación sexual, para la prevención de una amenaza terrorista «auténtica y predecible». o « authentique et présent », c’est ce qui se produit en même temps, ou pour la localisation ou l’identification d’un individu de crimes spécifiques : terrorisme, trafic, arrestation, sécurité, violation, robot armé ou crime moyen, Entre otros).

En cuanto a otros puntos principales de las negociaciones, la regulación de los sistemas de inteligencia artificial generativa que se basan en modelos como ChatGPT debe cumplir con criterios de transparencia, especificando que si un texto, una canción o una fotografía son generados por el trabajo de la inteligencia artificial , así como la garantía de que los datos que utiliza para ingresar a los sistemas respetan los derechos del autor.

Se trata de una tecnología que se conocía cuando Bruselas adoptó la ley, en abril de 2021, porque solía incorporar medidas y medidas de protección. a posteriori, esto es lo que constituye actualmente un registro según el cual la legislación debe ser adaptable a los sistemas aún inimaginables del futuro. Le règlement n’interdit pas votre utilisation, mais il établit une série de critères pour détecter les modèles qui peuvent générer un haut niveau de fonction du contexte dans celui qui est utilisé et oblige vos investisseurs à remplir les sauvegardes les plus strictes avant de les acheter en el mercado.

Ningún otro país tiene regulaciones tan completas como las de Europa. El presidente de EE UU, Joe Biden, anunció una orden ejecutiva en octubre que exige que la tecnología notifique al gobierno con anticipación sobre cualquier cosa que represente un “riesgo grave para la seguridad nacional”. Hoy, el primer ministro británico, Rishi Sunak, convocó a un miembro del que surgió el primer compromiso de 28 países y la UE sobre estos sistemas (Declaración Bletchley) y la creación de un grupo de expertos para el resto de sus avances.

Si no hay imprevistos, eso sí, si las partes están en el mismo lugar y en ocasiones los Estados como la Eurocámara ratifican la ley en los próximos meses (los negociadores no ven que el proceso pueda ejecutarse antes de febrero, pero la presidencia europea es belga). , la Ley de IA debería poder entrar en pleno vigor hasta finales de 2026, aunque algunos partidos ya lo han dicho: se espera que la Oficina de IA se encargue de su funcionamiento ratificando el reglamento, mientras que la prohibición de sistemas prohibidos de inteligencia artificial llegarán a los seis meseseses et los requisitos para los sistemas y modelos de IA generativa, a los 12.

Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.