A mediados de junio de 2023, el Parlamento de la UE acordó un sistema para regular la IA. Lea aquí qué dice exactamente el reglamento sobre IA, cómo afecta a las empresas el desarrollo y uso de sistemas de IA, quién está a favor y qué puntos de crítica se han planteado.
Desde hace más de dos años, la Unión Europea se esfuerza por regular inteligencia artificial (IA). Con la aprobación de la "Ley de IA" en el Parlamento Europeo, este objetivo está ya al alcance de la mano. Entre otras cosas, los eurodiputados piden que se amplíe la lista de prohibiciones propuesta por la Comisión Europea, incluyendo los sistemas de clasificación biométrica basados en características sensibles y los sistemas de policía preventiva. Una vez alcanzado un acuerdo, podrán iniciarse las conversaciones con los países de la UE.
Regulación de la IA: cuando la IA cae en las manos equivocadas
Para un Reglamento de la UE sobre IA ya es hora, porque: "La IA ya es omnipresente en nuestra vida cotidiana", afirma Carina Zehetmaier, Presidenta de Woman in AI Austria, en la Meetups de Inmersión profunda de INDUSTRIEMAGAZIN. Ve un enorme potencial en la aplicación de la IA y cree que generará un considerable valor añadido.
Sin embargo, también apunta a posibles Riesgos de abuso que debería frenarse mediante la regulación. Un caso reciente en China muestra lo que puede ocurrir si la IA cae en las manos equivocadas. Una empresa de ese país ha solicitado una patente para utilizar la IA y el reconocimiento facial para identificar específicamente a la minoría uigur. "Sólo podemos especular sobre su objetivo", afirma Zehetmaier.
Añade que el uso problemático de la IA es cada vez más frecuente, como el ejemplo de Amazon, que utilizó la IA para la selección de personal. Basándose en los datos disponibles, el sistema llegó a la conclusión de que un número desproporcionado de empleados varones de la empresa sería positivo. Como resultado, ni una sola mujer fue invitada a una entrevista de trabajo.
Zehetmaier ve en la IA un reflejo de la sociedad: "La IA no es objetiva ni neutral. Tendemos a ser más tolerantes con las máquinas que con los humanos. En última instancia, la IA refleja nuestras creencias y puntos de vista".
Hasta 2026 está previsto que entre en vigor el Reglamento sobre IA (Ley de IA). La ley ha superado el primer gran obstáculo en el Parlamento Europeo, en Bruselas, y ahora se siguen debatiendo los detalles en el diálogo a tres bandas. Zehetmaier subraya cómo afectará la ley a la economía: "La ley no sólo afecta a las empresas que producen sistemas de IA, sino a todas las que la utilizan".
La UE pretende regular la aplicación y no la tecnología. Otro objetivo es armonizar normas éticas como ya se ha hecho con el Reglamento general de protección de datos se ha logrado. Sin embargo, ni siquiera una regulación estricta de la IA podrá evitar por completo su uso indebido.
Carina Zehetmaier, Presidenta de Woman in AI Austria
La Ley de Regulación de la IA en detalle
Qué Puntos clave incluye ahora la nueva ley sobre Regulación de la IA? La legislación propuesta sigue un modelo basado en el riesgo en el que la regulación depende del riesgo que plantee la IA. Prohíbe los sistemas de IA con riesgos inaceptables, como los que podrían utilizarse para el scoring social. Todas las aplicaciones de IA se clasificarán en función de su riesgo. En función de su clasificación, los proveedores deben cumplir determinadas normas de seguridad y transparencia.
¿Qué clasificaciones de riesgo existen?
- Riesgo inaceptable: aplicaciones de IA especialmente dañinas que vulneran los valores de la UE, por ejemplo porque infringen derechos fundamentales. Esto se aplica en particular a la puntuación social (la evaluación del comportamiento social por parte de las autoridades), la explotación de la vulnerabilidad de los niños o el uso de la tecnología para ejercer una influencia subliminal.
- Alto riesgo: Sistemas de IA que afecten negativamente a la seguridad de las personas o a sus derechos fundamentales (protegidos por la Carta de los Derechos Fundamentales de la Unión Europea).
- Riesgo bajo: Se imponen obligaciones especiales de transparencia a determinados sistemas de IA, por ejemplo si existe un riesgo claro de manipulación, como mediante el uso de chatbots. Los usuarios deben ser conscientes de que están tratando con una máquina.
- Riesgo mínimo: Todos los demás sistemas de IA pueden desarrollarse y utilizarse de conformidad con la legislación de aplicación general.
Los eurodiputados también quieren que se añadan a la lista de alto riesgo los sistemas de IA que puedan influir en las elecciones o en sus resultados o suponer una amenaza significativa para la salud humana, la seguridad, los derechos fundamentales o el medio ambiente. El proyecto de la Comisión prevé normas especialmente adaptadas para el uso razonable de la IA generativa, como ChatGPT.
Para optimizar la Fomento de la innovación en IAlos parlamentarios proponen exenciones para las actividades de investigación y el uso de los llamados laboratorios del mundo real de la IA. Florian Tursky (ÖVP), Secretario de Estado para la Digitalización, expresó su satisfacción por el resultado y subrayó la urgencia de una rápida regulación de la IA.
La hoja de ruta de la Ley de IA
La Ley AI tiene por objeto Normas uniformes para toda Europa que influirán significativamente en el futuro desarrollo de los sistemas de IA. Una vez que los países de la UE y el Parlamento Europeo hayan ultimado sus posiciones, podrán iniciarse las negociaciones sobre el texto legislativo definitivo. El inicio de estas conversaciones aún no está decidido.
Según un comunicado de prensa, en marzo de 2018 se crearon un grupo de expertos en IA y una alianza europea de IA. La primera reunión de estos dos grupos tuvo lugar en junio de 2019. Sin embargo, el correspondiente paquete de medidas sobre IA de la Comisión está sobre la mesa desde abril de 2021.
Importancia mundial de la regulación de la IA
El nuevo Reglamento de la UE sobre IA se convierte en Relevancia mundial ya que se extiende a las empresas que proporcionan o utilizan sistemas de IA en la UE. Incluso si los proveedores tienen su sede fuera de la UE, como en el Reino Unido o Estados Unidos, la ley se aplicaría si sus servicios se utilizan en la UE.
A Punto crítico Una cuestión clave en los debates fue determinar qué aplicaciones de IA debían prohibirse debido a su riesgo inaceptable. Inicialmente, se consideró prohibir las herramientas basadas en IA para vigilar la comunicación interpersonal, pero esta propuesta fue rechazada. En su lugar, se restringió el uso de software para la identificación biométrica.
Este software de identificación, que en un principio sólo estaba prohibido para aplicaciones en tiempo real, ahora sólo podrá utilizarse para delitos graves y con autorización judicial previa. Además, se ha prohibido el uso de software de reconocimiento de emociones asistido por IA en los ámbitos policial, de gestión de fronteras, laboral y educativo.
En proyecto de ley actual aún no contiene directrices sobre los requisitos que deben cumplir los desarrolladores de IA generativa, como los sistemas de IA de propósito general (GPAIS, por sus siglas en inglés), cuya categorización como de alto riesgo se está debatiendo actualmente en el ámbito político. Las infracciones de la ley podrían acarrear multas de hasta 30 millones de euros o el seis por ciento de los beneficios globales, la cantidad que sea mayor.
Críticas a la normativa de la UE sobre IA
Representantes del grupo de reflexión AI Austria expresan su preocupación por la Competitividad europea y subrayan "que la Ley sobre IA también debe promover la capacidad innovadora de Europa en el ámbito de la inteligencia artificial". Estudiar entre las empresas europeas de IA creen El 50% de las nuevas empresas de IAque la próxima ley obstaculizará la innovación en IA en Europa. Otro 16% se plantea detener el desarrollo de la IA o trasladarlo a países fuera de la UE. Estas preocupaciones también se derivan del hecho de que Europa ya está muy rezagada en términos de inversión. Según los estudios a los que hace referencia el think tank, alrededor del 53% de la inversión privada mundial en desarrollos de IA se realiza en EE.UU. y el 23% en China. Europa está muy rezagada, con sólo un 6%.
Hartmut Rauen, Director General Adjunto de la VDMA
En VDMA está a favor de la intención de reforzar el uso de datos en el mercado interior. "Sin embargo, nos preocupa la aplicación real de la Ley de Datos, ya que vemos muchos riesgos potenciales para los modelos de negocio basados en datos de las empresas del sector de la ingeniería mecánica y de instalaciones. Aunque la versión adoptada por el Parlamento de la UE muestra pequeñas mejoras, las preocupaciones del sector industrial aún no se tienen suficientemente en cuenta", afirma Hartmut Rauen, Director General Adjunto de la VDMA.
Rauen critica que la Ley de Datos no tenga suficientemente en cuenta las diferencias entre las relaciones comerciales entre empresas y consumidores (B2C) y entre empresas industriales (B2B). En las relaciones B2B, las empresas implicadas podrían optimizar las condiciones para ambas partes.
"Necesitamos esta flexibilidad en la industria para representar y equilibrar las diversas situaciones de nuestras cadenas de valor. La Ley de Datos limita esta libertad y dificulta la personalización, tanto en las relaciones contractuales individuales como en las iniciativas de datos industriales como Manufacturing-X", prosigue Rauen.
Para las negociaciones a tres bandas, la VDMA pide que la Ley de Datos tenga en cuenta el margen contractual necesario para el intercambio de datos B2B y no interfiera innecesariamente en las relaciones comerciales. Además, debe seguir garantizándose eficazmente la protección de los secretos comerciales y empresariales. Además de las cuestiones relacionadas con el contenido, también deben garantizarse periodos de transición prácticos.
Para muchas empresas, la Ley de datos no sólo representa una desafío burocrático pero también exige una reevaluación de los modelos de negocio y la revisión de contratos y productos. Si la Ley de Datos se aplica correctamente, puede sentar las bases de un ecosistema europeo líder de producción en red inteligente. La ingeniería mecánica, en particular, podría desempeñar aquí un papel clave. Sería lamentable que esta oportunidad quedara desaprovechada.
Español 
Deutsch 
English (UK)