La próxima Ley de IA de la UE
- 23 junio, 2023
- Posted by: dubraskaeliza
- Categoría: Blog
No hay comentarios
El 14 de junio de 2023, el Parlamento Europeo adoptó su posición sobre el proyecto de Ley de IA, que acerca un paso más a un reglamento de la UE para la IA generativa y otros sistemas de IA.
¿Un (borrador) de Ley de IA?
En abril de 2021, el legislador de la UE publicó un primer borrador de la llamada “Ley de IA”, cuyo objetivo es crear un conjunto de reglas armonizadas para el desarrollo, la comercialización y el uso de la IA en la Unión Europea para garantizar Los sistemas de IA se utilizan de manera segura, ética y confiable mientras se protegen los derechos de las personas.
Desde entonces, el texto ha sido modificado y debatido extensamente. En particular, la reciente introducción generalizada de ChatGPT y la atención a tales “sistemas de IA de propósito generativo” ha sido un desencadenante para insertar aclaraciones y obligaciones considerables para los proveedores de dichos sistemas de IA.
Al ser la Ley AI un Reglamento, será vinculante en todos sus elementos y directamente aplicable en todos los Estados miembros.
¿Cuáles son los componentes principales del proyecto de Ley de IA?
Un aspecto central de la Ley de IA es un enfoque basado en el riesgo . Se basa en 6 principios de calidad:
-agencia humana y supervisión
-robustez técnica y seguridad
-privacidad y gobierno de datos
-transparencia
-diversidad, no discriminación y equidad
-bienestar social y ambiental
Estos principios se convierten luego en obligaciones específicas. Las obligaciones que debe cumplir una entidad dependerán (a) de la naturaleza de la entidad y (b) del sistema de IA en cuestión.
a.¿A quién se aplica el proyecto de Ley de IA?
La Ley de IA se aplicará en primer lugar a los proveedores que coloquen sistemas de IA en el mercado de la UE . Al igual que con el RGPD, estar establecido en la UE no es un requisito para estar dentro del alcance de la Ley AI. Por lo tanto, las empresas estadounidenses o chinas también pueden estar sujetas a esta legislación. Además, también los fabricantes, representantes autorizados, distribuidores e importadores tendrán que cumplir con ciertas obligaciones.
b.¿Cuáles son los diferentes sistemas y obligaciones de IA?
El siguiente es un breve resumen de los puntos más importantes para los diferentes sistemas de IA establecidos en el borrador:
• Sistemas de IA con riesgos inaceptables
Existe una prohibición general de poner tales sistemas de IA en el mercado de la UE, ya que se considera que contradicen los valores de la Unión de respeto por la dignidad humana y los derechos fundamentales.
-Score social (clasificación de las personas en función de su comportamiento social o características personales);
-sistemas de reconocimiento de emociones en las fuerzas del orden, el lugar de trabajo o las instituciones educativas;
-Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.
• Sistemas de IA de alto riesgo
Esta es la categoría que se regula más estrictamente. Se trata de sistemas de IA que suponen un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas.
La Ley de IA impone requisitos muy amplios que deben cumplir los sistemas de IA, así como obligaciones de gran alcance para los proveedores si desean comercializar tales sistemas de IA. Incluye la implementación de un sistema de gestión de calidad, la realización de una evaluación de la conformidad (marcado CE), la realización de una “evaluación de impacto de los derechos fundamentales”, la capacitación y el gobierno de los datos y la ciberseguridad.
-Sistemas de IA utilizados para la operación de infraestructura crítica (por ejemplo, el suministro de electricidad);
-Herramientas de contratación automática;
-Puntuaciones de solvencia;
-Sistemas de recomendación de IA utilizados por plataformas de redes sociales que están designadas como plataformas en línea muy grandes según la Ley de Servicios Digitales.
• Sistemas de IA de propósito general
Estos son sistemas de IA diseñados para realizar una amplia gama de tareas que se aplican ampliamente en diferentes dominios. Son capaces de realizar funciones como reconocer y comprender imágenes y voz, generar contenido de audio y video, detectar patrones, responder preguntas, traducir idiomas y más.
Esta categoría se ha introducido recientemente y abarca también la IA generativa (p. ej., ChatGPT) y los ” modelos básicos ” (p. ej., GPT 3.5). Se propone un enfoque escalonado para estos modelos, con un régimen más estricto para los modelos básicos.
Las obligaciones incluyen: realizar evaluaciones de riesgo, obligaciones relacionadas con el diseño del modelo de base (incluso desde una perspectiva de impacto ambiental), registro del modelo de base en una base de datos de la UE, notificar a las personas que están interactuando con un sistema de IA e indicar un resumen de los datos de capacitación disponibles que están protegidos por la ley de derechos de autor.
-Chatbots;
-Herramientas de traducción;
-Asistentes virtuales.
Todos los demás sistemas de IA
Todos los sistemas de IA requieren, en principio, proporcionar cierta información a los usuarios para garantizar la transparencia.
¿
Qué pasa con la aplicación?
Qué pasa con la aplicación?
Las autoridades nacionales de control se encargarán principalmente de la aplicación. Tendrán amplias competencias, incluida la imposición de multas (con montos en cuestión similares a los del RGPD). Sin embargo, la puesta en el mercado de sistemas de IA inaceptables puede ser sancionada con multas administrativas de hasta 40 000 000 EUR o, si el infractor es una empresa, de hasta el 7 % de su volumen de negocios anual mundial total durante el ejercicio fiscal anterior, lo que sea más alto.
¿Cuándo tienen que cumplir las empresas con la Ley de IA?
Se espera un texto final para fin de año y luego se aplicará dos años después.