La Unión Europea dio un nuevo paso en la regulación de la inteligencia artificial con la entrada en vigor de una nueva fase del AI Act, considerada la primera legislación integral del mundo destinada a controlar el desarrollo y uso de esta tecnología. La normativa incorpora nuevas obligaciones para las empresas y establece un régimen de sanciones para quienes no respeten las disposiciones.
Entre los principales cambios, las compañías que desarrollan o utilizan herramientas de inteligencia artificial deberán informar de manera clara cuando una persona esté interactuando con un sistema de IA, como un chatbot o un asistente virtual. También deberán identificar los contenidos generados o modificados mediante inteligencia artificial, incluidos textos, imágenes, audios y videos, especialmente cuando puedan inducir a error.
Uno de los ejes centrales de la ley es garantizar que los ciudadanos sepan cuándo están frente a contenido creado por inteligencia artificial. La normativa obliga a que las deepfakes —imágenes, audios o videos manipulados mediante IA— estén claramente etiquetadas cuando puedan confundirse con material auténtico.
Además, las empresas deberán informar sobre el uso de sistemas de reconocimiento biométrico y otras tecnologías de alto impacto. El objetivo es aumentar la transparencia y reducir los riesgos asociados con la desinformación, el fraude y la manipulación digital.
La legislación contempla fuertes sanciones económicas para las empresas que incumplan las nuevas obligaciones. Las multas podrán alcanzar los 15 millones de euros o el 3% de la facturación anual global, dependiendo del tipo de infracción y del tamaño de la compañía. Para las violaciones más graves, como el uso de prácticas prohibidas por la ley, las sanciones pueden ser todavía mayores.
No obstante, la Unión Europea estableció un período de adaptación para algunos sistemas ya existentes, con el fin de facilitar la implementación progresiva de las nuevas exigencias.
El AI Act clasifica los sistemas de inteligencia artificial según el nivel de riesgo que representan. Las aplicaciones de riesgo inaceptable, como ciertos mecanismos de vigilancia masiva o de puntuación social, están prohibidas.
Los sistemas considerados de alto riesgo, utilizados por ejemplo en salud, educación, empleo o infraestructura crítica, deberán cumplir requisitos mucho más estrictos en materia de seguridad, documentación y supervisión humana. En cambio, las herramientas de menor riesgo estarán sujetas principalmente a obligaciones de transparencia.
Con esta nueva etapa del AI Act, la Unión Europea busca convertirse en un referente internacional en la regulación de la inteligencia artificial, del mismo modo que ocurrió con el Reglamento General de Protección de Datos (RGPD).
La expectativa es que las nuevas reglas impulsen un desarrollo más seguro y responsable de la IA, al tiempo que sirvan de modelo para otros países que analizan implementar legislaciones similares frente al rápido avance de esta tecnología.
Comentarios