Una teoría crítica de la inteligencia artificial
Autor: Daniel Innerarity (@daniInnerarity)(@daniel-innerarity.bsky.social)
Editorial: Galaxia Gutenberg (2024)
Sobre el autor
Daniel Innerarity es catedrático de Filosofía Política, investigador Ikerbasque en la Universidad del País Vasco, director del Instituto de Gobernanza Democrática y profesor en el Instituto Europeo de Florencia, donde es titular de la cátedra Artificial Intelligence & Democracy. Ha sido profesor invitado en diversas universidades europeas y americanas, como la Universidad de la Sorbona, la London School of Economics, la Universidad de Georgetown y el Max Planck Institut de Heidelberg. Algunos de sus libros: La política en tiempos de indignación (2015), La democracia en Europa (2017), Política para perplejos (2018), Comprender la democracia (2018), Una teoría de la democracia compleja (2020), Pandemocracia. Una filosofía de la crisis del coronavirus (2020), La sociedad del desconocimiento (2022) o La libertad democrática (2023).
Sobre la obra
Una teoría crítica de la inteligencia artificial (2025), ganadora del III Premio de Ensayo Eugenio Trías, se adentra en los desafíos que los sistemas algorítmicos plantean a la democracia, la toma de decisiones políticas y la comunicación pública. Innerarity parte de la idea de que la inteligencia artificial ya no es un accesorio neutral, sino un elemento que transforma de manera decisiva la experiencia ciudadana, sin sucumbir al pánico exagerado ni a la veneración acrítica de la tecnología. Además, el autor destaca tres elementos que modificarán la política de este siglo: (I) sistemas cada vez más inteligentes, (II) una tecnología cada vez más integrada y (III) una sociedad más cuantificada.
Con una prosa accesible pero profunda, el ensayo despliega su argumento en tres secciones principales. Primero, explora la «razón algorítmica» como forma de inteligencia puramente instrumental, capaz de trabajar con datos cuantificables y reglas binarias, pero carente de sentido común, contexto o capacidad reflexiva. A continuación, analiza los límites prácticos de la automatización y plantea la necesidad de un contrato social tecnológico, un nuevo pacto en el que humanos y máquinas compartan responsabilidades bajo criterios claros de transparencia y legitimidad democrática. Por último, desarrolla una filosofía política de la IA que integra la gobernanza algorítmica con los valores del pluralismo y la deliberación, alertando tanto contra los tecnosolucionismos ingenuos como contra los temores infundados.
Innerarity desmitifica la supuesta «inteligencia» de los algoritmos al mostrar que, aunque pueden interpretar textos, ofrecer diagnósticos preliminares y extraer patrones de datos con gran velocidad, lo hacen de manera puramente mecanicista y sin comprensión profunda. Esta diferencia sitúa a la IA como aliada en problemas bien estructurados y cuantificables, pero revela su impotencia ante los «problemas salvajes», que son situaciones mal definidas e inciertas que exigen inevitablemente el juicio y la flexibilidad humana. Como señala el autor, el problema de la inteligencia artificial está relacionado principalmente con la creciente externalización de decisiones humanas en ella. Asimismo, la automatización plantea el problema del lugar que le corresponde a decisión humana.
Un punto central del libro es su reflexión sobre la mediación de la comunicación política. El autor explica cómo los algoritmos de recomendación y la segmentación hiperpersonalizada fragmentan el espacio público, debilitan el debate colectivo y facilitan formas sofisticadas de microtargeting que ponen en riesgo la equidad y la transparencia en las campañas electorales. Frente a estos riesgos, Innerarity rechaza tanto las moratorias impracticables como los códigos éticos meramente formales, y aboga por un marco regulatorio que incluya auditorías independientes, mecanismos de participación ciudadana y obligaciones claras de rendición de cuentas para los gestores de plataformas.
En última instancia, Innerarity sostiene que la democracia no será reemplazada por la inteligencia artificial, sino condicionada por ella, y recuerda desde el arranque de la obra que organizar políticamente a la sociedad equivale a desplegar un entramado de procesos, dispositivos y procedimientos que componen la «tecnología» administrativa de la burocracia. Y que esa ha sido la norma por siglos. El desafío que enfrenta la sociedad actual consiste en diseñar instituciones y procedimientos que fomenten una colaboración fructífera entre humanos y máquinas, reforzando a la vez valores democráticos, protegiendo la soberanía popular y enriqueciendo la deliberación pública con las potencialidades tecnológicas, siempre bajo el imperativo de la responsabilidad compartida.
Enlaces relacionados:
- Inteligencia artificial y democracia: una teoría crítica de la tecnología (Post by Santander. 13.05.2025)
- Daniel Innerarity: «Una teoría crítica de la inteligencia artificial» (Reseña de Alfonso Basallo para Nueva Revista. 08.04.2025)
- Retransmisión de conferencia sobre el libro (Fundación Ramón Areces)
- Vídeo: Entrevista a Daniel Innerarity (La Nación)
