BUROCRACIA ALGORÍTMICA: SOBRE LA INTIMIDAD EXTERIOR

 

A propósito de Magnifica Humanitas

¿Cómo pensar la inteligencia artificial? ¿Como una herramienta, como un arma, como una tecnología ambivalente que podría servir a fines emancipadores pero que, bajo las condiciones actuales de poder, muy probablemente derive hacia nuevas formas de dominación y destrucción? Estas descripciones tienen algo de cierto, indudablemente. Sin embargo, quisiera pensar la IA como una nueva figura histórica de la totalidad. En muchos sentidos, en ella se condensa la pretensión contemporánea de traducirlo todo a una red funcional de datos, correlaciones y predicciones. La IA no es, por ello, un instrumento más puesto ante nosotros, sino una mediación que reorganiza el campo mismo en el que algo puede aparecer como significativo, útil, visible, comunicable o gobernable.

En este punto, entre la variedad de referencias posibles, me interesa rescatar dos nombres: Heidegger y Wittgenstein. Del primero, especialmente su reflexión sobre la época de la técnica y su intuición de que la cibernética no era una disciplina más, sino un signo del cumplimiento moderno de la metafísica como disponibilidad, cálculo y control. La cibernética no es sin más el origen de la neurociencia, de las ciencias cognitivas contemporáneas y de la IA, sino que constituye una de sus matrices decisivas: el punto en el que la vida misma comienza a pensarse bajo el modelo de la información, la retroalimentación y el gobierno de sistemas. De Wittgenstein me interesa, sobre todo, el Tractatus, especialmente su culminación: allí donde el lenguaje alcanza el límite de lo decible, se abre una zona que no puede ser capturada por la proposición. Sobre aquello de lo que no se puede hablar, dice Wittgenstein, hay que callar. Pero ese silencio, leído desde Dussel, no remite sólo a lo místico o a lo indecible en sentido lógico; puede ser reinterpretado como indicio de aquello que la totalidad del lenguaje no puede absorber: una exterioridad que no se deja traducir sin resto al orden de la representación, de la función o del cálculo.

En este punto, la discusión sobre la inteligencia artificial no puede reducirse al vocabulario de la ética aplicada, ni quedar confinada a una regulación de riesgos o a una pedagogía del uso responsable. Todo ello es necesario, sin duda, pero no alcanza si lo que queremos comprender es el núcleo del problema que la IA nos plantea. Lo decisivo es otra cosa: ¿qué ocurre con aquello que no puede —ni debe— ser integrado en la lógica de la mediación algorítmica, técnica o burocrática? ¿Qué ocurre con lo que no se ofrece como dato, rendimiento, productividad, disponibilidad o «participación»? ¿Qué ocurre con aquello que permanece fuera de la totalidad, no porque carezca de sentido, sino porque su sentido no se deja producir por la totalidad? Más aún: ¿qué ocurre si eso que queda fuera no es un residuo marginal, sino la «fuente» misma de todo sentido?

Conviene introducir aquí un inciso. La IA no es una anomalía, ni un accidente externo que irrumpe desde fuera en un mundo previamente humano. Es, más bien, la culminación de una larga preparación histórica: aquello que Heidegger pensó como consumación de la era de la técnica, cuando lo real aparece ante todo bajo la forma de disponibilidad, cálculo, organización y rendimiento. Lo que la IA oculta no es distinto de lo que todo régimen funcionarial, administrativo o burocrático ha ocultado siempre: la vida humana en su desnudez, la existencia concreta antes de ser traducida a expediente, diagnóstico, protocolo, rendimiento, competencia, historial, evaluación o caso. Aquí resulta pertinente recordar la figura agambeniana de la «nuda vida», aunque desplazándola hacia el terreno de las mediaciones técnicas y administrativas contemporáneas.

Nuestras experiencias ordinarias en hospitales, universidades, escuelas, juzgados, oficinas públicas o dispositivos policiales muestran ya una forma rudimentaria de la lógica que la IA vendrá a perfeccionar: una matriz operacional, funcionalista y constructivista que no se encuentra con la realidad, sino que la produce administrativamente bajo categorías de gestión. El paciente se convierte en historial; el estudiante, en expediente; el ciudadano, en trámite; el migrante, en flujo; el pobre, en indicador; el sufrimiento, en incidencia; la palabra, en formulario. Los intercambios con académicos, médicos, jueces, policías o funcionarios revelan a menudo, de manera casi caricaturesca, esta estructura: no porque esas personas sean individualmente perversas, sino porque han sido formadas como agentes de una totalidad normativa y organizacional que distribuye reconocimiento, autoridad y privilegio a cambio de sumisión funcional.

En este sentido, la IA no inventa la clausura. La hereda, la acelera y la automatiza. Cultiva una tierra largamente trabajada. Donde la institución había reducido la vida a procedimiento e intervención, la IA introduce el cálculo; donde la burocracia había sustituido el testimonio por clasificación, la IA introduce un motor de aceleración que elimina todo matiz; donde la administración había subordinado el rostro de la víctima al expediente, la IA introduce predicción preventiva. Su peligrosidad, por lo tanto, no consiste en añadir «máquinas» o dispositivos a nuestras instituciones, sino en consumar técnicamente una forma de mundo que esas instituciones ya gestionaban «industrialmente»: un mundo donde la exterioridad de la vida sólo aparece cuando ha sido previamente neutralizada, sea como dato, caso, perfil o función.

En este punto, Foucault resulta imprescindible para nuestro análisis. Lo que mostró es que el poder moderno no opera sólo reprimiendo desde fuera, sino produciendo campos de visibilidad, saberes expertos, clasificaciones, expedientes, diagnósticos y formas de subjetividad. El hospital, la escuela, la prisión o la administración pública no son escenarios neutrales, sino dispositivos en los que la vida es capturada, ordenada y hecha objeto de gobierno. La IA no inaugura esta lógica: la generaliza, la acelera y la automatiza. Allí donde Foucault analizó la producción disciplinaria de cuerpos dóciles y la administración biopolítica de poblaciones, la IA introduce una gubernamentalidad algorítmica capaz no sólo de clasificar lo existente, sino también de anticipar, modular y preformar el campo de lo posible en cuanto decible. Su poder no consiste únicamente en administrar lo que ya aparece, sino en intervenir sobre las condiciones mismas bajo las cuales algo puede aparecer como palabra legítima, demanda inteligible, necesidad reconocible o vida digna de atención.

Ahora bien, la categoría de «exterioridad», tal como Enrique Dussel la elabora a partir de su lectura de Levinas, permite plantear esta pregunta con mayor precisión. La totalidad no es simplemente el conjunto de las cosas existentes. Es el orden histórico, económico, político, cultural y simbólico que organiza el mundo desde un centro, distribuye lugares, asigna funciones, produce visibilidad y define lo que cuenta como racional, útil, verdadero o humano. La exterioridad, en cambio, no designa un simple «afuera» espacial. Nombra aquello que la totalidad no puede absorber sin destruir, neutralizar o funcionalizar; aquello que, al ser incorporado plenamente al sistema, pierde justamente lo que lo constituía como interpelación.

Dicho de otro modo, la totalidad tiende a desacralizar lo que toca, no necesariamente en un sentido religioso estrecho, sino en el sentido más amplio de reducir toda trascendencia a inmanencia disponible. Aquí podría recordarse la crítica de Charles Taylor al «marco inmanente» de la modernidad: un orden en el que la vida queda encerrada dentro de sus propias condiciones funcionales de inteligibilidad, gestión y rendimiento. Pero en Levinas y Dussel el problema adquiere un filo más radical: la exterioridad no es sólo lo que excede conceptualmente el campo de la representación, sino el rostro del otro, la víctima, el pobre, el excluido, el cuerpo sufriente, la palabra que interpela desde un lugar que no ha sido producido por el sistema.

Por eso la exterioridad no es una diferencia interna más dentro del campo de la totalidad. No es una variación, una anomalía o una singularidad que el sistema todavía no ha logrado procesar. Es la interrupción ética de ese campo. Es aquello que revela que la totalidad no es inocente, porque su orden de sentido está sostenido por exclusiones, silenciamientos y sacrificios. La exterioridad no pide simplemente ser incluida; exige que la totalidad sea juzgada desde aquello que ella misma no puede producir.

Desde esta perspectiva, la IA debe ser entendida como una nueva tecnología de totalización. No porque lo controle todo de manera efectiva, sino porque instala la promesa de que todo podrá ser integrado en un mismo régimen de procesabilidad. Su horizonte no es únicamente automatizar tareas, sino convertir la realidad en una superficie continua de inscripción: textos, imágenes, gestos, desplazamientos, deseos, emociones, vínculos, enfermedades, decisiones, opiniones, aprendizajes.

Por eso la inteligencia artificial realiza, en cierto sentido, una versión técnica extrema de aquello que el enactivismo contemporáneo ha formulado filosóficamente como «creación (o construcción) participativa de sentido». Desde Varela, Thompson y Rosch, y más tarde en Di Paolo, Cuffari y De Jaegher, el sentido deja de concebirse como representación interna de un mundo previamente dado. El sentido se enactúa: surge en la actividad de organismos encarnados, históricamente situados, afectivamente implicados y socialmente coordinados. En la teoría de la participatory sense-making, el sentido emerge en la interacción misma. No hay primero sujetos aislados que luego se comunican; hay dinámicas relacionales que configuran posibilidades de experiencia, comprensión y acción.

Esta intuición tiene una fuerza indudable. Permite superar el sujeto cartesiano, el mentalismo representacionalista y la idea de una cognición encerrada en la cabeza. Sin embargo, su límite aparece cuando la participación se convierte en el nombre casi absoluto del sentido. Si el sentido emerge de la participación, de la coordinación y de la dinámica relacional, ¿qué ocurre con aquello que no participa? ¿Qué ocurre con quienes son expulsados de las condiciones mismas de participación? ¿Qué ocurre con la víctima que no logra entrar en el espacio común de producción de sentido porque ese espacio ya está organizado contra ella? ¿Qué ocurre con el silencio del herido, con la vergüenza, con el trauma, con la pobreza, con la exclusión colonial, con la intocabilidad, con el cuerpo racializado, con la mujer explotada, con el migrante administrado como amenaza o excedente?

Aquí aparece la diferencia decisiva entre una ontología de la participación y una ética de la exterioridad. El enactivismo puede describir cómo se produce sentido en la interacción, pero no siempre puede juzgar desde dónde esa interacción está ya políticamente organizada. Puede mostrar cómo se estabilizan normas, coordinaciones y formas de vida, pero tiene dificultades para pensar aquello que no comparece como participante legítimo. La víctima no es simplemente un agente que participa de otro modo; es quien revela que el orden de la participación está constituido por exclusiones. Su exterioridad no es falta de coordinación, sino denuncia de la totalidad que decide quién cuenta como interlocutor.

La IA radicaliza este problema porque se presenta como una gran máquina de participación. Todo puede entrar en ella: nuestras palabras, nuestras imágenes, nuestras preguntas, nuestros hábitos, nuestras lecturas, nuestros deseos, nuestros estilos de escritura. La IA parece realizar una gigantesca creación participativa de sentido a escala planetaria. Pero esta participación es profundamente ambigua. No se trata de una comunidad de cuerpos hablantes, sino de una captura masiva de huellas. No se trata de diálogo, sino de extracción. No se trata de reconocimiento, sino de modelización. No se trata de comunión, sino de correlación. La IA produce una apariencia de interlocución a partir de una acumulación inmensa de voces despojadas de su situación, de su sufrimiento, de su responsabilidad y de su rostro.

Por eso la pregunta no es sólo si la IA entiende o no entiende. La pregunta decisiva es qué ha tenido que ocurrir para que la palabra humana pueda ser transformada en material disponible para una máquina que responde sin haber vivido, sin haber sufrido, sin haber esperado, sin haber amado. La IA habla, pero no responde en sentido ético. Puede simular atención, pero no puede ser convocada por el rostro del otro. Puede producir consuelo lingüístico, pero no compasión. Puede organizar información sobre el dolor, pero no hacerse cargo del dolor. Puede recombinar las palabras del amor, pero no amar. Puede describir la misericordia, pero no entregarse como donación.

Aquí resulta fundamental distinguir lo privado de lo íntimo. Lo privado pertenece todavía al orden de la propiedad. Puede protegerse jurídicamente, venderse, cifrarse, administrarse, monetizarse o ser violado. La privacidad es una categoría necesaria, pero insuficiente, porque permanece dentro de la lógica posesiva de la modernidad: hay algo que es mío, que puedo reservar, defender, intercambiar o retirar. Lo íntimo, en cambio, no es simplemente lo privado. No es una propiedad interior. No es un dato sensible. No es un contenido oculto. Lo íntimo es la reserva desde la cual algo puede ser donado sin quedar reducido a función. Es aquello que no se entrega porque haya sido solicitado por el sistema, sino porque brota como exceso, como gratuidad, como amor, como compasión.

La intimidad no es privación, sino posibilidad de don. No es el repliegue narcisista del individuo propietario, sino el lugar no apropiable desde el cual la persona puede darse sin ser capturada. Por eso la intimidad no puede ser simplemente «protegida» como un bien privado más. Debe ser reconocida como una dimensión irreductible de la existencia humana. En ella se juega algo que la IA no puede producir: la gratuidad de una palabra que no busca rendimiento, la paciencia de una presencia que no optimiza nada, la compasión que no calcula, el amor que no se traduce en interacción medible.

La totalidad algorítmica amenaza precisamente esa dimensión. No sólo porque recopile datos personales, sino porque acostumbra a pensar toda manifestación humana como inscripción disponible. El problema no es únicamente que nuestras preferencias sean capturadas, sino que la estructura misma de la vida comienza a organizarse como si todo lo significativo debiera exteriorizarse, registrarse, comunicarse, compartirse, evaluarse, archivarse o procesarse. La vida íntima queda empujada a volverse pública o privada, visible o protegida, explotable o cifrada. Pero lo íntimo no pertenece a esa alternativa. Lo íntimo no es lo que oculto para mí, sino aquello que sólo puede aparecer como don.

Desde Dussel, esta cuestión adquiere un espesor ético-político mayor. La exterioridad no es una interioridad burguesa amenazada por la tecnología. No se trata de defender el pequeño refugio subjetivo del individuo moderno frente a la máquina. Se trata de afirmar que la persona, especialmente la persona vulnerada, no queda agotada por las relaciones funcionales en las que la totalidad la inscribe. El pobre no es sólo fuerza de trabajo sobrante. El migrante no es sólo flujo poblacional. El niño no es sólo capital humano en formación. El enfermo no es sólo carga sanitaria. El anciano no es sólo dependencia. La mujer explotada no es sólo cuerpo productivo o reproductivo. Y la palabra humana no es sólo material de entrenamiento.

Aquí aparece también el límite de cierta subjetividad burguesa contemporánea, incluso cuando se presenta bajo formas espirituales, terapéuticas o contemplativas. No se trata de negar el valor de la meditación, del silencio o de la atención interior. Estas prácticas pueden abrir espacios reales de lucidez, desautomatización y libertad frente al ruido funcional del mundo. Pero cuando son separadas de la exterioridad del otro sufriente, quedan fácilmente integradas en la misma lógica que dicen resistir: se convierten en técnicas de autorregulación, higiene subjetiva, optimización emocional o adaptación al sistema. La interioridad, entonces, deja de ser un lugar de conversión y se transforma en refugio administrado del sujeto propietario.

La verdadera apertura no se produce cuando el sujeto vuelve simplemente sobre sí mismo, sino cuando es interrumpido por aquello que no procede de sí: el rostro de la víctima, el clamor del pobre, el cuerpo herido, la vida descartada, la palabra que no puede ser traducida al lenguaje de la eficiencia. La exterioridad no es una profundidad psicológica, sino una irrupción ética. No se accede a ella por introspección pura, sino por exposición, responsabilidad y respuesta. Allí donde la subjetividad burguesa busca preservar su equilibrio interior, la víctima revela que el equilibrio mismo de la totalidad está fundado sobre una injusticia. Por eso, frente a las espiritualidades de la adaptación y frente a las tecnologías de la participación sistémica, Dussel nos obliga a desplazar el centro: no hay liberación en la pura interioridad, sino en la apertura a aquello que la totalidad no puede recibir sin ser juzgada.

La exterioridad nombra ese exceso. Nombra la imposibilidad de reducir al otro a su lugar dentro del sistema. Por eso la IA, cuando se convierte en infraestructura general de mediación, no amenaza únicamente determinados empleos o determinadas competencias cognitivas. Amenaza la estructura misma del encuentro, porque introduce una mediación que tiende a traducir el aparecer del otro en información procesable.

Frente a ello, la encíclica Magnifica Humanitas ofrece una imagen poderosa: la alternativa entre Babel y Jerusalén. Babel representa la unidad falsa de una humanidad que busca un solo lenguaje, una sola técnica y una sola dirección. Es la ciudad de la autosuficiencia, la homogeneización y el dominio. Jerusalén, en cambio, representa la reconstrucción paciente de una convivencia donde la pluralidad no es absorbida por la uniformidad, sino orientada hacia la comunión, la justicia y la dignidad. La IA puede ponerse al servicio de una u otra ciudad. Pero para discernirlo no basta preguntar por su eficacia. Hay que preguntar qué hace con los débiles, con los pobres, con las voces y los cuerpos que no encajan, con las palabras que no producen rendimiento cuantitativo.

El problema, por tanto, no es si debemos participar o no participar. La participación es necesaria. No hay vida humana sin lenguaje, relación, comunidad, historia y mediación. Pero no toda participación es liberadora. Hay participaciones obligatorias, cautivas, administradas, mercantilizadas. Hay formas de inclusión que son modos de sometimiento. Hay sistemas que invitan a todos a participar sólo para convertir toda diferencia en materia de reproducción de la totalidad. Por eso el criterio no puede ser simplemente participar más, comunicarnos más, interactuar más, conectarnos más. El criterio debe venir de la exterioridad: de quienes no pueden participar, de quienes son forzados a participar bajo condiciones injustas, o de quienes exigen preservar el silencio que hace posible una donación no funcional.

La crítica de la IA desde Dussel no consiste, entonces, en defender una nostalgia humanista abstracta contra la técnica. Consiste en preguntar si la técnica queda subordinada a la vida o si la vida queda subordinada a la técnica; si la participación abre lugar a la exterioridad o si la clausura; si la palabra sirve al encuentro o a la captura; si la inteligencia se orienta a la justicia o a la expansión de un poder sin rostro. El núcleo del problema no es la inteligencia artificial, sino la totalidad que encuentra en ella su nueva metáfora, su nueva infraestructura y su nueva promesa.

Lo humano no se salva simplemente regulando máquinas. Se salva custodiando aquello que ninguna máquina puede producir: la capacidad de recibir al otro como otro, de escuchar una palabra que no hemos generado, de responder al sufrimiento que nos interrumpe, de donar sin cálculo, de amar sin utilidad, de compadecer sin convertir la compasión en rendimiento. Allí, en ese resto no funcionalizable, comienza la exterioridad. Y desde allí puede juzgarse la nueva Babel algorítmica.

Referencias

Agamben, G. (1998). Homo sacer I: El poder soberano y la nuda vida. Pre-Textos.

Cincunegui, J. M. (2026a). La vida en la historia: Más allá de la biología, la fenomenología y las ciencias cognitivas [Tesis doctoral, Universitat Pompeu Fabra].

Cincunegui, J. M. (2026b). La vida en la historia: Más allá de la biología, la fenomenología y las ciencias cognitivas. Dado Ediciones.

Di Paolo, E. A., Cuffari, E. C., & De Jaegher, H. (2018). Linguistic bodies: The continuity between life and language. The MIT Press.

Dupuy, J.-P. (2009). On the origins of cognitive science: The mechanization of the mind (M. B. DeBevoise, Trans.). The MIT Press.

Dussel, E. (1998). Ética de la liberación en la edad de la globalización y de la exclusión. Trotta.

Dussel, E. (2016). 14 tesis de ética: Hacia la esencia del pensamiento crítico. Trotta.

Foucault, M. (s. f.). Seguridad, territorio, población: Curso en el Collège de France (1977-1978). Fondo de Cultura Económica.

Foucault, M. (s. f.). Vigilar y castigar: Nacimiento de la prisión. Siglo XXI.

Heidegger, M. (1994). La pregunta por la técnica. En Conferencias y artículos. Serbal.

Larrabeiti, G. (2026, 30 de mayo). «Magnifica Humanitas», o de los nuevos límites. InfoLibre. https://www.infolibre.es/opinion/plaza-publica/magnifica-humanitas-nuevos-limites_129_2200334.html

León XIV. (2026, 15 de mayo). Magnifica Humanitas: Carta encíclica sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Libreria Editrice Vaticana.

Levinas, E. (1977). Totalidad e infinito: Ensayo sobre la exterioridad. Sígueme.

Taylor, C. (2007). A secular age. Harvard University Press.

Varela, F. J., Thompson, E., & Rosch, E. (2017). The embodied mind: Cognitive science and human experience (Rev. ed.). The MIT Press.

Wittgenstein, L. (2002). Tractatus logico-philosophicus. Alianza.