Convergencia de Poder

Fuente de la imagen: Los tres pilares de nuestra libertad (Velasco, 2025)

M. Velasco, 2025 (*). Convergencia de Poder: Inteligencia Artificial, Redes Sociales y la Ascensión del Autoritarismo Digital y el Extremismo Algorítmico - Convergence of Power: Artificial Intelligence, Social Networks, and the Rise of Digital Authoritarianism and Algorithmic Extremism

Resumen: Se analiza la transformación de las tecnologías digitales de herramientas de liberación a instrumentos de control social y manipulación política. Se explora si la inteligencia artificial (IA) y las redes sociales son actualmente gestionadas por regímenes autoritarios o facciones extremistas para socavar la democracia. A través de un análisis interdisciplinar que abarca la geopolítica, el derecho constitucional y la ética tecnológica, el texto examina conceptos como el capitalismo de vigilancia, el tecnofeudalismo y el autoritarismo digital. Se argumenta que la opacidad algorítmica y la concentración de "capital en la nube" han permitido tanto a Estados autocráticos como a actores privados ejercer una "gobernanza privada del discurso" que facilita la polarización, la desinformación y la persecución de la disidencia. Finalmente, se discute la necesidad de un constitucionalismo digital y regulaciones como el Reglamento Europeo de IA para mitigar los sesgos discriminatorios y proteger los derechos humanos en el ciberespacio.

Palabras clave: Inteligencia Artificial, redes sociales, autoritarismo digital, tecnofeudalismo, desinformación, derechos humanos, discriminación algorítmica.

Abstract: This article analyzes the transformation of digital technologies from tools of liberation to instruments of social control and political manipulation. It explores whether artificial intelligence (AI) and social networks are currently being managed by authoritarian regimes or extremist factions to undermine democracy. Through an interdisciplinary analysis encompassing geopolitics, constitutional law, and technological ethics, the text examines concepts such as surveillance capitalism, technofeudalism, and digital authoritarianism. It argues that algorithmic opacity and the concentration of "cloud capital" have enabled both autocratic states and private actors to exercise "private governance of discourse," facilitating polarization, disinformation, and the persecution of dissent. Finally, the need for digital constitutionalism and regulations such as the European AI Regulation to mitigate discriminatory biases and protect human rights in cyberspace is discussed.

Keywords: Artificial Intelligence, social networks, digital authoritarianism, technofeudalism, disinformation, human rights, algorithmic discrimination.

I. Introducción

La percepción global de las tecnologías de la información ha sufrido una metamorfosis en la última década. Lo que inicialmente fue bautizado como "tecnologías de la liberación" por su potencial para democratizar el conocimiento y facilitar la movilización civil (Diamond, 2010, citado en Calcaneo Monts, 2021), hoy es visto con una mezcla de sospecha y alarma. El optimismo inicial, alimentado por eventos como la Primavera Árabe, ha dado paso a una preocupación por la extracción masiva de datos y el uso de técnicas de persuasión y manipulación que amenazan los cimientos del orden democrático (Diamond, 2019, citado en Calcaneo Monts, 2021). En este contexto, un "fantasma" recorre el panorama político: el autoritarismo, que utiliza la IA para vigilar, clasificar y silenciar (Coeckelbergh, 2024).

El problema central no radica únicamente en el uso de la tecnología por parte de malos actores, también en la naturaleza misma de los sistemas de IA y las redes sociales. Como señala Coeckelbergh (2024), la IA no es políticamente neutra, conforma nuestros sistemas de manera que, en su desarrollo actual, tiende a favorecer el bien de unos pocos a expensas de la mayoría. Se reflexiona acerca de cómo esta infraestructura tecnológica ha sido cooptada por extremismos y autoritarismos, transformando la "plaza pública digital" en un terreno de vigilancia masiva y control conductual (Zuboff, 2019).

II. El Giro hacia el Autoritarismo Digital y el Capitalismo de Vigilancia

Se analiza cómo las estructuras de poder político y económico se han fusionado con la arquitectura digital para crear nuevos métodos de control social. Se interpreta que el surgimiento de esta fase es una evolución lógica de un sistema que prioriza la extracción de datos sobre la autonomía humana. Se examinarán los mecanismos mediante los cuales los Estados y las corporaciones han transformado el ciberespacio en un entorno de dominación.

2.1. Mecanismos de Control Estatal y Represión Digital

El autoritarismo digital se caracteriza por el uso de la tecnología para intimidar y silenciar voces críticas, así como para estimular el respaldo popular hacia medidas restrictivas (Wilson, 2024). Regímenes autocráticos han pasado de simplemente bloquear el acceso a la información (firewall) a inundar las plataformas con contenidos propios (firehose), fabricando una sobreabundancia de discurso progubernamental que ahoga el disenso (Wilson, 2024). Este modelo es propio de autocracias; en democracias desarrolladas, pero el uso de sistemas de vigilancia con IA es cada vez más frecuente, lo que difumina la línea entre la seguridad legítima y la represión (Feldstein, 2019, citado en Coeckelbergh, 2024).

Un ejemplo paradigmático es el "Escudo Dorado", que integra bases de datos de población, reconocimiento facial y vigilancia digital para monitorizar cada aspecto de la vida ciudadana (Wilson, 2024). Durante la pandemia de COVID-19, muchos gobiernos aprovecharon la crisis sanitaria para implementar programas de rastreo que se convirtieron en un "Estado vigilante" permanente capaz de imponer bloqueos y restricciones basadas en algoritmos opacos (Maydeu-Olivares, 2023). Esta "securitización" de los espacios digitales facilita que el Estado ejerza una soberanía cibernética absoluta sobre la información y los datos de su ciudadanía (Maydeu-Olivares, 2023).

2.2. El Tecnofeudalismo y la Gobernanza Privada

Más allá del control estatal, estamos presenciando lo que Yanis Varoufakis denomina "tecnofeudalismo", un orden donde el capital tradicional ha mutado en "capital en la nube" (Arellano Toledo, 2025). En este sistema, las plataformas digitales funcionan como feudos modernos donde los propietarios extraen "rentas de la nube" en lugar de beneficios comerciales tradicionales, controlando lo que se dice, se comparte y se publica (Arellano Toledo, 2025). Esta concentración de poder en manos de un puñado de empresas ha enterrado la promesa de un Internet libre y descentralizado, sometiendo la capacidad de expresión de millones de personas a decisiones de propietarios privados (Calcaneo Monts, 2021).

Shoshana Zuboff define este fenómeno como "capitalismo de vigilancia", una lógica económica que reclama la experiencia humana como materia prima gratuita para prácticas de extracción y predicción (Zuboff, 2019). Este poder "instrumentario" busca transformar el comportamiento humano en un sistema matemático altamente predictivo, lo que constituye un reto directo a la soberanía de las personas y a la democracia de mercado (Zuboff, 2019). Los usuarios, bajo este régimen, dejan de ser consumidores para convertirse en "materia prima humana" explotada para generar predicciones que garantizan resultados comerciales y políticos (Moscardó Benaventa, 2021).

III. La IA como Herramienta de Manipulación y Extremismo

Se explora cómo la inteligencia artificial (IA) ha sido diseñada y utilizada para influir en la cognición humana y alimentar agendas extremistas. Se interpreta que el modelo de negocio de las redes sociales, basado en la "economía de la atención", es intrínsecamente propenso a amplificar contenidos radicales. Se analizarán las tácticas de guerra cognitiva y la formación de burbujas informativas que facilitan el ascenso de facciones antidemocráticas.

3.1. Desinformación y "Guerra Cognitiva"

La revolución digital ha convertido a gran parte de los habitantes del planeta en terminales de una red donde actúan como emisores y receptores, aumentando drásticamente la capacidad de influir de manera agresiva en los conflictos (Calvo Albero, 2020). La desinformación se ha convertido en una herramienta estratégica que complementa o sustituye a las operaciones militares tradicionales en lo que se conoce como "guerra cognitiva" (Calvo Albero, 2020). El objetivo de estas campañas es debilitar instituciones y valores, cuestionar la legitimidad del sistema y aumentar las divisiones sociales mediante el ataque a la identidad histórica y los principios de una sociedad (Calvo Albero, 2020).

Un ejemplo de esta manipulación es el uso de algoritmos que otorgan protagonismo a mensajes según su viralidad, lo que beneficia directamente a noticias alarmantes y exageradas (Calvo Albero, 2020). Organizaciones extremistas han aprovechado estas infraestructuras para lanzar campañas de propaganda y captación de simpatizantes a nivel global (Maydeu-Olivares, 2023). En entornos democráticos, esta dinámica ha permitido que facciones extremistas utilicen redes como Twitter o WhatsApp como cajas de resonancia para mensajes de odio que afectan al debate público nacional e internacional (Maydeu-Olivares, 2023).

3.2. Extremismo en Redes y el Escándalo de Cambridge Analytica

El caso de Cambridge Analytica representa el "Watergate digital" de nuestra era, evidenciando cómo la IA y el big data pueden comprometer la integridad de los procesos democráticos (Teruel Lozano, 2022). Mediante el perfilado psicológico de millones de usuarios sin su consentimiento, se diseñaron campañas de publicidad política dirigidas a explotar miedos e inseguridades, lo que influyó decisivamente en eventos como el referéndum del Brexit y las elecciones estadounidenses de 2016 (Coeckelbergh, 2024; Maydeu-Olivares, 2023). Estos métodos demuestran que, cuando no se respeta la agencia de las personas, la información se convierte en un arma hostil a la democracia (Zuboff, 2019).

Además, los algoritmos de recomendación crean "filtros burbuja" que aíslan a los individuos en sus propias visiones del mundo, haciéndoles creer que su perspectiva es la única realidad compartida (Donoso, 2020, citado en Calvo Albero, 2020). Esto genera una polarización extrema donde el sujeto se vuelve cínico y crédulo al mismo tiempo, refugiándose en clanes y dogmas emocionales (Arendt, citada en Calvo Albero, 2020). Grupos en distintos países son ejemplos de cómo estas dinámicas pueden derivar en violencia física, alimentada por teorías conspirativas que proliferan en grupos secretos de redes sociales (Coeckelbergh, 2024; Maydeu-Olivares, 2023).

IV. Discriminación Algorítmica y Sesgos Autoritarios

Se estudia cómo la arquitectura técnica de la IA puede perpetuar y amplificar desigualdades preexistentes, funcionando como un mecanismo de exclusión sistémica. Se interpreta que la discriminación algorítmica es un error técnico y una manifestación fáctica de sesgos sociales codificados en datos y modelos. Se detallarán las formas en que estas tecnologías afectan negativamente a colectivos vulnerables y refuerzan lógicas de control discriminatorio.

4.1. Formas de Discriminación y la "Caja Negra"

La discriminación algorítmica se define como el efecto diferencial que un algoritmo impone sobre determinados grupos en función de características protegidas como raza, sexo o religión (Cervera y Obiol Anaya, 2025). Este fenómeno es a menudo abstracto y poco intuitivo, ya que los algoritmos pueden utilizar "variables proxy" o sustitutas que parecen neutrales pero replican patrones discriminatorios (Cervera y Obiol Anaya, 2025). La opacidad de estos sistemas, conocidos como "cajas negras", dificulta la trazabilidad de las decisiones y la rendición de cuentas, permitiendo que sesgos humanos se oculten tras una apariencia de objetividad matemática (Iturmendi Rubia, 2023; Lousada Arochena, 2024).

Existen diversas modalidades de este fenómeno, como la discriminación por correlaciones sesgadas contenidas en los datos de entrenamiento (Cervera y Obiol Anaya, 2025). Por ejemplo, el algoritmo COMPAS, utilizado en el sistema penal estadounidense para predecir la reincidencia, fue denunciado por asignar sistemáticamente mayores niveles de riesgo a personas afrodescendientes (Cervera y Obiol Anaya, 2025; Iturmendi Rubia, 2023). Del mismo modo, herramientas de contratación desarrolladas por empresas como Amazon han demostrado sesgos autónomos que penalizan perfiles femeninos, prefiriendo candidatos masculinos basándose en datos históricos de la compañía (Cervera y Obiol Anaya, 2025).

4.2. Impacto en Grupos Vulnerables e Inmigrantes

La discriminación algorítmica tiene consecuencias especialmente graves para los inmigrantes y otros grupos marginalizados, conduciendo a su exclusión social y la perpetuación de estereotipos negativos (Iturmendi Rubia, 2023). Se han documentado casos en los que algoritmos de vigilancia fronteriza identifican erróneamente a inmigrantes como amenazas, lo que deriva en detenciones injustas o denegaciones de asilo (Iturmendi Rubia, 2023). Además, la falta de diversidad en los equipos de desarrollo y en los conjuntos de datos (datasets) —que suelen estar compuestos mayoritariamente por rostros blancos— provoca fallos críticos en sistemas de reconocimiento facial y diagnóstico médico para poblaciones de otras etnias (Iturmendi Rubia, 2023; Cervera y Obiol Anaya, 2025).

Un ejemplo extremo de esta deriva es el uso de la IA como técnica de control social sobre minorías, como el caso del genocidio de los uigures, donde se emplea tecnología biométrica para el rastreo y la represión sistemática en campos de reeducación (Esteban, 2022, citado en Iturmendi Rubia, 2023). En el ámbito financiero, algoritmos de análisis de riesgos pueden excluir a inmigrantes del acceso a créditos por carecer de historial crediticio en el país de destino, ahondando en la segregación económica (Iturmendi Rubia, 2023). Estos ejemplos subrayan que la IA, lejos de ser un juez imparcial, puede actuar como un multiplicador de la injusticia social (Lousada Arochena, 2024).

V. El Reto Regulatorio y el Constitucionalismo Digital

Se examina las respuestas jurídicas y éticas necesarias para domesticar el poder de los gigantes tecnológicos y proteger los derechos fundamentales. Se interpreta que el modelo puramente liberal de Internet ha fallado al permitir la formación de oligopolios opacos, y que es imperativo transitar hacia un "constitucionalismo digital". Se discutirán las tendencias regulatorias en Europa y las propuestas para aplicar el derecho internacional de los derechos humanos a la moderación de contenidos.

5.1. Moderación de Contenidos y Censura Privada

Las redes sociales se han convertido en los nuevos "guardianes de la libertad de expresión", tomando decisiones unilaterales sobre qué contenido puede circular en la nueva plaza pública (Calcaneo Monts, 2021). Este sistema regulatorio privado es a menudo opaco y discrecional, dejando a los usuarios en una situación de indefensión frente a bloqueos o eliminaciones de cuentas sin garantía de audiencia (Calcaneo Monts, 2021; Teruel Lozano, 2022). Se ha pasado de un modelo dualista (Estado-individuo) a uno pluralista o triangular, donde las empresas dueñas de la infraestructura digital juegan un papel medular en la regulación de la libertad de expresión (Balkin, 2018a, citado en Calcaneo Monts, 2021).

Existe un debate encendido sobre si estas plataformas deben ser tratadas como foros públicos sujetos a principios constitucionales o como empresas privadas con derecho de admisión (Teruel Lozano, 2022). La tradición norteamericana ha sido reacia a imponer reglas de moderación para evitar el "compelled speech" (discurso forzado), pero en Europa se avanza hacia la idea de que las plataformas tienen una "posición de garante" (Teruel Lozano, 2022). Esto implica obligaciones de debido proceso, transparencia y responsabilidad por los contenidos ilícitos que difunden, buscando evitar que el ciberespacio sea un "señorío feudal" donde impera la ley de la fuerza de las grandes corporaciones (Teruel Lozano, 2022).

5.2. Hacia un Marco de Derechos Humanos y la Ley de IA

La comunidad internacional, incluyendo relatores de la ONU, recomienda que las empresas adopten explícitamente la normatividad internacional de derechos humanos en sus reglas de moderación (Kaye, 2019, citado en Calcaneo Monts, 2021). Un hito en esta dirección es el Reglamento Europeo de Inteligencia Artificial (RIA), que establece niveles de riesgo para los sistemas de IA y prohíbe aquellos que supongan una amenaza inaceptable, como los sistemas de puntuación social (Lousada Arochena, 2024; Coeckelbergh, 2024). El RIA busca que la dignidad humana y los derechos fundamentales sean el punto de partida de la regulación tecnológica, imponiendo requisitos de calidad de datos, transparencia y supervisión humana (Lousada Arochena, 2024; Teruel Lozano, 2022).

Además de la legislación, se requiere un cambio cultural y educativo. Coeckelbergh (2024) defiende la necesidad de democratizar el desarrollo de la IA, asegurando que la tecnología apoye activamente a la democracia en lugar de erosionarla. Esto incluye fomentar el pensamiento crítico de la ciudadanía para que pueda distinguir entre información veraz y manipulación intencionada, evitando que la IA debilite la base del conocimiento necesaria para el autogobierno (Calvo Albero, 2020; Coeckelbergh, 2024). Solamente a través de un enfoque multidisciplinar que alinee lo civil, lo jurídico y lo tecnológico se podrá garantizar que el futuro digital sea un hogar para la humanidad (Zuboff, 2019; Iturmendi Rubia, 2023).

VI. El ocaso del ágora digital: Una disección del tecnofeudalismo, la vigilancia algorítmica y la erosión de la autonomía humana.

La promesa original de las tecnologías digitales como herramientas de liberación, capaces de expandir la libertad de expresión y la participación política, ha sufrido un vuelco dramático hacia la preocupación y la sospecha. En lugar de una plaza pública abierta, el ciberespacio se ha transformado en una infraestructura de gobernanza privada del discurso, donde un puñado de propietarios de infraestructura digital decide, de forma opaca y unilateral, qué se puede decir y qué se excluye del debate. Este fenómeno se enmarca en la transición hacia un capitalismo de vigilancia, una lógica económica parasitaria que reclama la experiencia humana como materia prima gratuita para la extracción de datos y la predicción conductual.

En este nuevo orden, el capital tradicional ha mutado en capital en la nube, dando origen a lo que algunos autores denominan tecnofeudalismo. Bajo este sistema, las plataformas operan como feudos digitales donde se extraen "rentas de la nube" y se ejerce un "poder instrumentario" diseñado para automatizar el comportamiento humano. La IA, lejos de ser un juez imparcial, actúa como el motor de esta maquinaria, facilitando el autoritarismo digital mediante la vigilancia masiva y la creación de cajas negras algorítmicas que perpetúan sesgos y discriminaciones sistémicas. Ante el colapso del ideal democrático en la red, se vuelve imperativo transitar hacia un constitucionalismo digital que someta a estos "señores de internet" al imperio de los derechos humanos y restaure la soberanía dela ciudadanía sobre su propio futuro

6.1. El colapso del ideal democrático: Del ágora al feudo digital

La transformación de las tecnologías de la información de "instrumentos de liberación" a mecanismos de control social representa una de las involuciones políticas del siglo XXI. Inicialmente, se celebró el potencial de las redes sociales para democratizar el conocimiento y facilitar la movilización civil contra regímenes opresivos. Pero esta "plaza pública" ha sido capturada por una lógica económica parasitaria que Shoshana Zuboff define como capitalismo de vigilancia, donde la experiencia humana es expropiada como materia prima gratuita para la predicción conductual. En este modelo, la ciudadanía es fuente de un "excedente conductual" que se procesa a través de una inteligencia de máquinas diseñada para garantizar resultados comerciales y políticos a terceros.

Esta evolución ha culminado en lo que Yanis Varoufakis denomina tecnofeudalismo, un orden donde el capital tradicional ha mutado en "capital en la nube". Bajo este sistema, los mercados son sustituidos por plataformas digitales que funcionan como feudos modernos, donde los propietarios extraen "rentas de la nube" de empresas vasallas y explotan el trabajo no remunerado de miles de millones de "siervos de la nube". La crítica es que el poder reside en el control de la infraestructura privada de comunicación que gobierna cómo las personas interactúan entre sí.

6.2. El autoritarismo digital como herramienta de guerra cognitiva

El uso de la IA y las redes sociales por parte de regímenes autoritarios y movimientos extremistas es una explotación deliberada de las vulnerabilidades técnicas de las plataformas. El autoritarismo digital se manifiesta a través de un espectro que va desde la vigilancia masiva invasiva hasta la "guerra cognitiva", diseñada para debilitar las instituciones democráticas y polarizar a la sociedad. Los Estados autocráticos han pasado de simplemente bloquear información (firewalls) a inundar el espacio digital con propaganda y desinformación (firehoses), asfixiando el disenso mediante la sobreabundancia de ruido progubernamental.

La IA desempeña un papel central en esta erosión de la verdad, ya que los algoritmos de recomendación están optimizados para premiar lo chocante y lo indignante, facilitando la creación de "filtros burbuja" que aíslan a los individuos en realidades paralelas. Esta dinámica permite que facciones extremistas utilicen la microsegmentación para alimentar miedos y prejuicios, transformando la desinformación en un arma estratégica que desplaza la racionalidad por la emoción visceral. El peligro reside en que estas herramientas manipulan lo que la gente piensa, degradando la capacidad misma de la población para distinguir entre lo real y lo falso.

6.3. El enredo de la neutralidad y la discriminación sistémica

Un punto crítico de esta reflexión es el desmantelamiento del mito de la objetividad algorítmica. Los sistemas de IA no son jueces imparciales; son "opiniones incrustadas en matemáticas" que reproducen y amplifican los sesgos históricos de las sociedades que los crearon. La discriminación algorítmica opera a menudo de forma opaca a través de "cajas negras", lo que dificulta la rendición de cuentas y la identificación de patrones "exclusores".

Esta discriminación se materializa en múltiples formas, desde el uso de "variables proxy" que ocultan el racismo o el sexismo tras datos aparentemente neutrales (como el código postal o hábitos de navegación), hasta la creación de nuevos "grupos algorítmicos" vulnerables que no están protegidos por las leyes tradicionales. Ejemplos documentados en sistemas de justicia penal, contratación laboral y servicios de salud demuestran que la IA suele penalizar desproporcionadamente a minorías étnicas, mujeres e inmigrantes, convirtiéndose en un multiplicador de la injusticia social. El riesgo es que estas predicciones sesgadas terminen convirtiéndose en "profecías autocumplidas" que moldean la realidad para ajustarse al prejuicio inicial del algoritmo.

6.4. Hacia un nuevo constitucionalismo digital

Finalmente, la crítica debe dirigirse hacia la actual estructura de gobernanza de la red, que ha permitido que un puñado de empresas privadas actúen como los nuevos "guardianes de la libertad de expresión". Esta gobernanza privada del discurso carece de transparencia, debido proceso y rendición de cuentas, dejando a la ciudadanía en una situación de indefensión frente a censuras arbitrarias o manipulaciones algorítmicas. La incapacidad de los Estados-nación para controlar estos poderes transnacionales subraya la urgencia de transitar hacia un constitucionalismo digital.

Es imperativo que la regulación tecnológica deje de centrarse únicamente en la privacidad individual y comience a abordar los riesgos sistémicos colectivos. El Reglamento Europeo de IA es un avance, pero la solución real exige que los derechos humanos sean el punto de partida dogmático de cualquier desarrollo tecnológico. La democracia no podrá sobrevivir si el principio axial del orden social —la división del conocimiento y el aprendizaje— sigue privatizado por oligopolios que priorizan el beneficio sobre la autonomía humana. En última instancia, el reto consiste en asegurar que el futuro digital sea un hogar construido por y para la humanidad, y no un sistema de modificación conductual que nos mantenga "cantando en nuestras cadenas"

VII. Hacia un Nuevo Pacto Digital: Estrategias para la democratización de la tecnología y el rescate de la soberanía ciudadana.

La transición de las tecnologías digitales de ser "herramientas de liberación" a convertirse en maquinarias de autoritarismo digital y capitalismo de vigilancia ha colocado a la humanidad en una encrucijada histórica. El actual modelo de tecnofeudalismo, donde el poder reside en la propiedad del "capital en la nube" y la extracción de rentas conductuales, ha erosionado los contrafuertes de la autonomía individual y la confianza necesaria para el autogobierno democrático. Ante este escenario, resulta imperativo rechazar el determinismo tecnológico que presenta estos avances como fuerzas autónomas e inevitables; por el contrario, aún existe espacio para intervenir y reclamar el futuro digital como un hogar para la humanidad.

El planteamiento de futuro se sostiene que la IA no es políticamente neutra y, por tanto, su rediseño debe ser una tarea colectiva y no meramente técnica. Para garantizar que la tecnología apoye activamente a la democracia en lugar de debilitarla, es necesario transitar hacia un constitucionalismo digital que someta a los "señores de internet" al imperio de los derechos humanos y a estándares de transparencia que eliminen las "cajas negras" algorítmicas. Este cambio de paradigma requiere  regulaciones robustas, como el Reglamento Europeo de IA ,y una transformación cultural basada en la educación crítica y la construcción de un conocimiento común.

En última instancia, el objetivo de estas medidas es convertir a la ciudadanía en la "fricción" necesaria frente a la automatización del comportamiento. Solamente a través de la integración de la ética por diseño, la supervisión pública de los algoritmos de alto riesgo y la promoción del bien común, podremos asegurar que el futuro digital sea primero y ante todo un futuro humano, comprometido con la libertad y la justicia social para todos

7.1. Marco Jurídico: Hacia un Constitucionalismo Digital

Es imperativo transitar de un internet puramente liberal a uno democrático, donde la dignidad humana sea el punto de partida dogmático de la regulación.

• Aplicación del Derecho Internacional de los Derechos Humanos: Las empresas de redes sociales deben adoptar explícitamente la normatividad internacional de derechos humanos en sus reglas de moderación de contenidos. Esto implica someter sus decisiones al test tripartito de legalidad, legitimidad y necesidad/proporcionalidad.
• Garantías de Debido Proceso en la Moderación: Se debe poner fin a la opacidad de la "censura privada" mediante obligaciones de transparencia, motivación de las decisiones y la creación de mecanismos de apelación independientes y efectivos para los usuarios.
• Protección ante la Discriminación Algorítmica: Es necesario establecer una descripción material de la discriminación algorítmica que incluya el uso de variables proxy y la creación de grupos algorítmicos vulnerables, garantizando que estos sistemas sean sometidos a mecanismos de mantenimiento y auditoría continua.

7.2. Ética y Diversidad en el Diseño: "Ética por Diseño"

La tecnología no es neutral; por tanto, los principios democráticos deben integrarse desde la fase embrionaria del desarrollo tecnológico.

• Diversidad en los Equipos de Desarrollo: Se debe promover activamente la inclusión de múltiples grupos demográficos y perspectivas en los equipos de diseño de algoritmos para evitar la reproducción de sesgos históricos y garantizar que las herramientas funcionen para toda la sociedad.
• Apertura de la "Caja Negra": Se propone garantizar la explicabilidad y trazabilidad de la IA, permitiendo el acceso de las autoridades y de la sociedad civil al código fuente y a los criterios de decisión, especialmente en ámbitos críticos como la salud, la justicia y la seguridad.
• Mitigación Proactiva de Sesgos: Implementar técnicas de IA para la eliminación de sesgos (como la modificación de los datasets de entrenamiento) y realizar evaluaciones de impacto en los derechos humanos antes del despliegue de cualquier sistema de alto riesgo.

7.3. Empoderamiento de la Ciudadanía: "Ser la Fricción"

Para contrarrestar el "poder instrumentario" que busca automatizar el comportamiento, es necesario fortalecer la capacidad crítica de la población.

• Alfabetización Digital y Pensamiento Crítico: Los Estados deben impulsar políticas públicas de educación que enseñen a la ciudadanía a reconocer las tácticas de desinformación, manipulación emocional y perfilado psicológico. Programas de "inoculación cognitiva" pueden ayudar a la población a desarrollar inmunidad frente a contenidos maliciosos.
• Fomento de la Resiliencia Social: La resiliencia no debe basarse en el fanatismo, debe sustentarse en la confianza en las instituciones democráticas. Esto requiere una comunicación pública honesta, empática y veraz por parte de los gobiernos para llenar los vacíos informativos que actualmente ocupan las teorías conspirativas.
• Reclamar el Espacio Público: Se debe incentivar una "rebelión en la nube" mediante la movilización colectiva para exigir la propiedad colectiva del capital en la nube y transformar los feudos digitales en nuevos bienes comunes.

7.4. Gobernanza Global y Responsabilidad Corporativa

Dado el carácter transnacional de la tecnología, las soluciones deben ser coordinadas a nivel internacional.

• Código de Conducta Digital de la ONU: Se propone la creación de un marco global avalado por Naciones Unidas que obligue a los Estados a la transparencia en sus políticas digitales, prohíba la vigilancia ilegal de defensores de derechos humanos y sancione el uso de redes de propaganda estatal.
• Moderación Contextual y Local: Las plataformas deben abandonar modelos de moderación estandarizados y contratar equipos locales (hablantes nativos familiarizados con el contexto político) para gestionar los riesgos de violencia y discurso de odio en países vulnerables.
• Protección a los Denunciantes (Whistleblowers): Fortalecer los marcos legales que protegen a quienes revelan malas praxis corporativas o gubernamentales, ya que su labor es necesaria para la salud democrática del ecosistema digital.

XVIII. Conclusiones

La investigación realizada a través de la literatura revisada (fundamentación teórica) permite concluir que la IA y las redes sociales son arquitecturas de poder activamente gestionadas —y en ocasiones manipuladas— por lógicas autoritarias y extremistas. El paso del ideal democrático de un Internet libre al "capitalismo de vigilancia" y al "tecnofeudalismo" ha permitido que tanto Estados como corporaciones utilicen algoritmos opacos para controlar la narrativa pública, silenciar la disidencia y automatizar la discriminación. La IA, al alimentarse de datos plagados de sesgos históricos y estructurales, tiende a amplificar las desigualdades, convirtiendo la "neutralidad técnica" en un velo que oculta decisiones políticas y comerciales cargadas de valores antidemocráticos.

Pero el destino no es inevitable. El surgimiento de un "constitucionalismo digital" y marcos regulatorios robustos como el de la Unión Europea ofrecen una vía para recuperar la soberanía de la ciudadanía sobre sus datos y su comportamiento. La lucha contra el autoritarismo digital exige mejores leyes y una ciudadanía educada y crítica que actúe como "fricción" frente a la velocidad de la desinformación y el control conductual. En última instancia, el reto reside en asegurar que la IA sirva al bien común y refuerce los contrafuertes de la libertad, la igualdad y la fraternidad, garantizando que el ciberespacio no sea una ciudad sin ley, se constituya como un espacio donde impere la fuerza del derecho y la dignidad humana.

(*) Manuel Velasco Carretero es diplomado en ciencias empresariales por la Universidad de Málaga (UMA), especialidad marketing y comercialización, economista (UMA), gestor administrativo por el Ministerio de la Función Pública del Gobierno de España, además de graduado en derecho por la Universidad Internacional de la Rioja (UNIR) con experticia universitaria en compliance, máster jurídico oficial por la UMA, máster económico y financiero oficial convalidado por el Ministerio de Educación, abogado habilitado por la Consejería de Justicia e Interior de la Junta de Andalucía, colegiado no ejerciente, administrador de fincas por el Ministerio de Obras Públicas y Transportes del Gobierno de España y doctorando en ciencias jurídicas y sociales por la UMA.

_____________

Bibliografía

Access Now. (2021). El regreso del autoritarismo digital: Los cortes de internet en 2021. Informe KeepItOn.

Arellano Toledo, M. (2025). Reseña de Varoufakis, Y. (2023). Tecnofeudalismo: El sigiloso sucesor del capitalismo. Universidad Nacional Autónoma de México.

Article 19. (2020). Introducción a la remoción de contenido en redes sociales. Oficina para México y Centroamérica.

Calcaneo Monts, M. A. (2021). Internet, redes sociales y libertad de expresión. Cuestiones Constitucionales, Revista Mexicana de Derecho Constitucional, (44), 35-54.

Calvo Albero, J. L., et al. (2020). Implicaciones del ámbito cognitivo en las operaciones militares. Documento de Trabajo del CESEDEN.

Cervera, A., & Obiol Anaya, E. F. (2025). Cinco formas de discriminación algorítmica: Hacia una descripción material. InDret, (4).

Coeckelbergh, M. (2024). Por qué la IA debilita la democracia y qué hacer al respecto. Cátedra Teorema.

Iturmendi Rubia, J. M. (2023). La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos. Deusto Journal of Human Rights, (12), 257-284.

Loreti, D. (2025). Redes sociales, plataformas digitales y libertad de expresión: Obligaciones de los actores no estatales.

Lousada Arochena, J. F. (2024). Inteligencia artificial y sesgos discriminatorios: ¿Es necesario un nuevo concepto de discriminación algorítmica? IgualdadES, (11), 97-123.

Maydeu-Olivares, S. (2023). Geopolítica de la tecnología: Actores, procesos y dinámicas. Informe Oxfam Intermón.

Moscardó Benaventa, S. (2021). Reseña de Zuboff, S. (2020). La era del capitalismo de la vigilancia. SCIO. Revista de Filosofía, (20), 265-269.

Teruel Lozano, G. M. (2022). Libertad de expresión, censura y pluralismo en las redes sociales: Algoritmos y el nuevo paradigma regulatorio europeo. Derecho Público de la Inteligencia Artificial.

Varoufakis, Y. (2023). Technofeudalism: What killed capitalism.

Wilson, R. A. (2024). La maquinaria antiderechos humanos: Autoritarismo digital y ataque global contra los derechos humanos. Maguaré, 38(1), 171-217.

Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.

Recursos Generativos utilizados en la redacción de este artículo

Teniendo en cuenta que se ha seguido la estructura de un artículo científico, formato conocido por la IAG, para la elaboración de este contenido se ha utilizado IAG en la fase de búsqueda de información, así como en la mejora de la redacción y adaptación de esta redacción a un lenguaje coloquial. Asimismo, antes de editarlo se ha pasado el filtro de plagio (10% de coincidencias) y de lenguaje IAG (14% de coincidencias), considerando ambos ratios razonables y asumibles.