IA Generativa: Impulso y Reto en la UE

Fuente de la imagen: ¿Pueden pensar las máquinas? (M. Velasco, 2022)

M. Velasco. 2025. La Comisión Europea (CE), concretamente el Centro Común de Investigación (JRC), ha publicado un informe sobre la Inteligencia Artificial Generativa (GenAI)[1], donde aborda su impacto multifacético en la sociedad, la tecnología y la política, examinando los desafíos y oportunidades de la GenAI en diversos sectores, como la salud, la educación, la ciberseguridad y el sector público y analizando las implicaciones económicas, éticas y normativas de esta tecnología transformadora, con especial atención a la posición de la Unión Europea en el panorama global de la GenAI. Para la CE, la GenAI está remodelando nuestro panorama socio-tecno-económico al ser capaz de producir contenido similar al humano a una escala sin precedentes. Esta tecnología, que ha evolucionado rápidamente desde sus raíces en la investigación académica hasta su adopción generalizada, se basa en habilitadores tecnológicos claves como los algoritmos de inteligencia artificial (IA), la disponibilidad de informática de alto rendimiento (GPUs y TPUs) y la vasta cantidad de datos. A pesar de los desafíos de financiación en comparación con otros actores globales, la Unión Europea (UE) ocupa una sólida segunda posición en publicaciones académicas relacionadas con GenAI, lo que subraya su sólido entorno de investigación y su enfoque distintivo en la ética y la privacidad de la IA. Las implicaciones económicas de GenAI son profundas, impulsando la transformación de la industria y el surgimiento de nuevos modelos de negocio, al tiempo que se esperan ganancias sustanciales en la productividad y la creación de empleo en diversos sectores. Sin embargo, la adopción efectiva de GenAI, especialmente para las PYMES, depende de su madurez digital, incluyendo las habilidades, los procesos de negocio y la infraestructura digital. La integración de GenAI está revolucionando sectores como la fabricación, el comercio minorista, la atención sanitaria y las industrias creativas, optimizando procesos, personalizando experiencias y acelerando la investigación. No obstante, esto también plantea desafíos en el mercado laboral, como la reestructuración ocupacional y los cambios en la demanda de habilidades, enfatizando la necesidad de fomentar la resiliencia y la adaptabilidad de la fuerza laboral.

A nivel social, GenAI presenta tanto oportunidades para la inclusión como riesgos significativos. La manipulación de la información, el sesgo, la interrupción del mercado laboral y las preocupaciones sobre la privacidad son desafíos importantes que requieren un enfoque multidisciplinario. La capacidad de GenAI para crear contenido manipulador convincente y a escala, como los deepfakes, amenaza la confianza pública y los procesos democráticos. Además, se han reportado incidentes de autolesiones y suplantación de identidad digital con el uso de GenAI, afectando la salud mental, especialmente en niños y adolescentes. Los sistemas de GenAI también pueden perpetuar sesgos existentes, incluyendo el sesgo de género, si se entrenan con datos que reflejan desigualdades históricas. La proliferación de contenido generado por IA también resalta la creciente brecha de habilidades y la necesidad de una mayor alfabetización en IA para la ciudadanía y la fuerza laboral. Las implicaciones medioambientales, impulsadas por las altas demandas energéticas de los centros de datos necesarios para GenAI, también son una preocupación creciente. Para abordar estos desafíos y maximizar los beneficios de GenAI, la UE ha establecido un marco regulatorio integral. La Ley de Inteligencia Artificial (AI Act) es pionera en la regulación global de la IA, aplicando un enfoque basado en riesgos que clasifica los sistemas de IA, incluidos los de GenAI, en niveles de riesgo (mínimo, limitado, alto e inaceptable) y modelos de IA de propósito general (GPAI). Impone requisitos de transparencia, como la identificación de contenido generado por IA, y prohíbe prácticas dañinas. La Ley de Servicios Digitales (DSA) complementa esto al exigir que las plataformas en línea evalúen y mitiguen los riesgos sistémicos derivados de GenAI, como la difusión de desinformación y contenido ilegal o dañino. Además, el Reglamento General de Protección de Datos (RGPD) sigue siendo crucial para la protección de datos personales y la privacidad en todas las etapas del ciclo de vida de GenAI, abordando la licitud del procesamiento, la rendición de cuentas y el ejercicio de los derechos de los interesados. 

Los retos en torno a los derechos de autor también son prominentes, especialmente en lo que respecta al entrenamiento de modelos de IA con material protegido por derechos de autor y la responsabilidad por las infracciones en las salidas generadas por IA. Finalmente, las "inmersiones profundas" sectoriales del informe revelan el potencial transformador de GenAI en campos específicos. En la atención sanitaria, GenAI puede mejorar el diagnóstico, acelerar el desarrollo de fármacos y personalizar la atención al paciente, aunque con riesgos relacionados con el sesgo de datos y la privacidad. En la educación, ofrece experiencias de aprendizaje personalizadas y eficiencia administrativa, pero exige una gestión cuidadosa para evitar la dependencia excesiva y asegurar el desarrollo de habilidades de pensamiento crítico. En la ciencia, GenAI está reformando el proceso de investigación, desde la formulación de preguntas hasta la comunicación de resultados, al tiempo que subraya la necesidad de mantener la integridad científica y complementar la experiencia humana. En la ciberseguridad, GenAI puede mejorar la detección y respuesta a amenazas, así como la seguridad del código, a pesar de que también introduce nuevas vulnerabilidades. En el sector público, GenAI tiene el potencial de transformar la gestión y la prestación de servicios, impulsando la eficiencia y la transparencia, siempre que se establezcan enfoques de gobernanza y regulación eficaces. En síntesis, GenAI es una tecnología con un inmenso potencial de impacto social y económico en la UE. Para navegar sus complejidades y garantizar que su desarrollo y despliegue se alineen con los valores democráticos y el marco legal de la UE, se requiere un enfoque político integral y matizado, respaldado por una comprensión continua de sus implicaciones tecno-socioeconómicas. Fuente de la información: Informe de la UE. Fuente de la imagen: mvc archivo propio.

___________________

[1] Abendroth Dias, K., Arias Cabarcos, P., Bacco, F.M., Bassani, E., Bertoletti, A. et al., Generative AI Outlook Report - Exploring the Intersection of Technology, Society and Policy, Navajas Cawood, E., Vespe, M., Kotsev, A. y van Bavel, R. (editores), Oficina de Publicaciones de la Unión Europea, Luxemburgo, 2025, https://data.europa.eu/doi/10.2760/1109679, JRC142598.