Desde el domingo pasado, una máquina que converse con una persona en Europa deberá dejar claro que es una máquina. Determinados contenidos creados o manipulados mediante inteligencia artificial deberán poder ser identificados como tales. Los deepfakes tendrán que advertir su condición y los textos producidos por IA sobre asuntos de interés público deberán ser etiquetados cuando no hayan pasado por una verdadera revisión humana o responsabilidad editorial.
El 2 de agosto comenzó a aplicarse el artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea, una de las piezas más concretas del primer gran intento regulatorio internacional sobre una tecnología que hasta hace pocos años avanzaba mucho más rápido que las leyes destinadas a controlarla. No toda la normativa europea entra en vigor al mismo tiempo: las exigencias para varios sistemas considerados de alto riesgo fueron postergadas hasta 2027 y 2028. Pero la obligación de transparencia ya está vigente. La idea es elemental y, al mismo tiempo, profundamente política: una persona tiene derecho a saber cuándo aquello que ve, escucha o lee fue producido por una máquina.
Dos días después, el Banco Mundial colocó sobre la mesa otro interrogante. La inteligencia artificial, sostuvo, puede ofrecer a las economías en desarrollo una posibilidad extraordinaria para acelerar avances en salud, educación, agricultura, justicia y productividad. Pero también puede ensanchar la desigualdad si los países no disponen de electricidad, conectividad, infraestructura informática y capacitación suficientes. Su economista jefe, Indermit Gill, utilizó una comparación particularmente significativa: los países que quedaron al margen de la primera Revolución Industrial pagaron durante generaciones las consecuencias y ahora no pueden permitirse quedar afuera de esta nueva transformación.
Ese mismo martes, en California, la discusión tenía otra forma. El Gobierno estadual analiza cómo deberían adaptarse las leyes laborales frente a despidos relacionados con inteligencia artificial y automatización, mientras un proyecto pendiente propone exigir 60 días de aviso cuando una tecnología provoque determinados despidos masivos. La iniciativa aún no es ley. Pero la pregunta ya ingresó en la legislación: ¿deben existir derechos específicos para una persona cuyo puesto desaparece porque una máquina comenzó a realizar sus tareas?
Transparencia. Trabajo. Responsabilidad. Concentración económica. Desinformación. Desigualdad.
Son exactamente algunos de los problemas que, poco más de dos meses antes, habían aparecido reunidos en un documento proveniente de un lugar que no suele participar del debate tecnológico con el lenguaje de Silicon Valley.
El 15 de mayo León XIV firmó Magnifica humanitas, su primera encíclica, dedicada a “la custodia de la persona humana en el tiempo de la inteligencia artificial”. Fue presentada y promulgada públicamente el 25 de mayo. La fecha de la firma no fue casual: exactamente 135 años antes, el 15 de mayo de 1891, León XIII había publicado Rerum novarum, el documento que colocó a la Iglesia frente a la cuestión obrera surgida de la industrialización.
El propio León XIV hizo explícito el paralelismo durante la presentación. Recordó a los trabajadores de las fábricas del siglo XIX, las familias desarraigadas y las nuevas formas de pobreza que acompañaron aquella transformación y afirmó que la humanidad atraviesa ahora “una transformación de magnitud similar”, posiblemente con consecuencias todavía mayores.
Ahí está la clave que permite leer Magnifica humanitas mucho más allá de sus fronteras religiosas.
La encíclica no es fundamentalmente un documento sobre máquinas. Es un documento sobre poder.
De la fábrica a la nube
Cada revolución tecnológica construye su propio vocabulario y tiende a esconder detrás de él relaciones sociales mucho más antiguas.
En el siglo XIX se hablaba de fábricas, máquinas de vapor, capital, propietarios y proletariado. En el XXI hablamos de modelos, nube, algoritmos, datos, plataformas y capacidad de cómputo.
La terminología cambió. La pregunta de fondo se parece demasiado. ¿Quién posee los instrumentos capaces de transformar la sociedad y bajo qué reglas utiliza ese poder?
León XIV identifica ahí uno de los cambios decisivos de nuestro tiempo. Durante buena parte del siglo XX, los Estados tuvieron una capacidad central para impulsar, limitar o conducir las grandes infraestructuras estratégicas. Hoy buena parte de la infraestructura digital, los datos y la potencia necesaria para desarrollar inteligencia artificial se encuentra en manos de compañías privadas, muchas de ellas transnacionales y con recursos superiores a los de numerosos países.
No es una observación exclusivamente vaticana. El Banco Mundial señaló en su informe sobre los fundamentos globales de la IA que los países de altos ingresos concentran el 87% de los modelos de inteligencia artificial considerados relevantes, el 86% de las startups del sector y el 91% del capital de riesgo invertido, pese a reunir apenas alrededor del 17% de la población mundial.
La inteligencia artificial, entonces, no aparece sobre un terreno económico neutral. Se incorpora a un mundo donde la riqueza, el conocimiento, los datos y la capacidad tecnológica ya están distribuidos de manera profundamente desigual.
Magnifica humanitas lleva esa discusión todavía más lejos: incluye entre las nuevas formas de propiedad relevantes del siglo XXI a las patentes, los algoritmos, las plataformas digitales, las infraestructuras tecnológicas y los datos. Y advierte que cuando estos bienes se concentran sin mecanismos adecuados de acceso, aparece una nueva frontera entre quienes pueden participar de la revolución digital y quienes simplemente quedan sometidos a sus efectos.
El planteo modifica incluso la vieja pregunta por los medios de producción. En una economía industrial, controlar una fábrica significaba poseer máquinas, edificios y capital.
En la economía algorítmica, controlar millones de datos, capacidad de procesamiento y los sistemas que ordenan esa información puede significar poseer una parte de la infraestructura invisible sobre la que funciona la vida cotidiana.
Un buscador determina qué encontramos. Una plataforma decide qué vemos. Un algoritmo establece qué contenido obtiene visibilidad. Un sistema automatizado puede ordenar currículums, evaluar riesgos, recomendar candidatos, analizar perfiles crediticios o establecer prioridades. El poder ya no siempre aparece como una orden explícita. Muchas veces aparece como una clasificación.
El trabajador frente a la máquina, otra vez
Ahí el espejo con 1891 resulta inevitable. La discusión sobre la IA suele quedar atrapada entre dos profecías opuestas. Una anuncia un futuro de productividad extraordinaria, jornadas laborales reducidas y personas liberadas de tareas repetitivas. La otra anticipa desempleo masivo y trabajadores reemplazados por sistemas capaces de hacer en segundos lo que antes requería horas.
Los datos disponibles no permiten todavía afirmar ninguno de esos extremos.
La Organización Internacional del Trabajo estima que uno de cada cuatro empleos del mundo tiene algún grado de exposición a la inteligencia artificial generativa, pero considera que, al menos en esta etapa, es más probable la transformación de los puestos que su desaparición completa. Las ocupaciones administrativas siguen entre las más expuestas, mientras el avance de modelos capaces de producir imágenes, voz y video aumentó la exposición de actividades vinculadas con medios de comunicación y tareas web.
El Foro Económico Mundial, sobre la base de una encuesta entre más de mil empresas, proyectó que las grandes transformaciones económicas y tecnológicas podrían crear unos 170 millones de puestos hasta 2030 y desplazar 92 millones. El saldo sería positivo, pero esa cuenta global esconde un problema decisivo: los empleos que aparecen no necesariamente estarán disponibles para las mismas personas, en los mismos lugares ni exigirán las mismas capacidades que aquellos que desaparezcan.
Por eso, el verdadero conflicto quizá no sea simplemente empleo contra desempleo. Puede ser algo más incómodo: quién se queda con el aumento de productividad que produce la automatización. Si una empresa logra generar el mismo valor con menos trabajadores, puede bajar precios, aumentar salarios, reducir la jornada, invertir más o concentrar la diferencia en sus propietarios.
La tecnología no decide cuál de esas posibilidades ocurrirá. La política económica, las relaciones laborales, la competencia, los impuestos y la distribución del poder sí.
León XIV cuestiona justamente la idea de incorporar inteligencia artificial solamente para reducir costos y elevar beneficios. Advierte que los trabajadores pueden terminar obligados a adaptarse al ritmo de las máquinas en lugar de diseñarse las máquinas para ayudarlos y alerta sobre sistemas de vigilancia automatizada, pérdida de autonomía y procesos de descalificación laboral.
El planteo toca un punto particularmente sensible: el trabajo no es solamente ingreso. También organiza horarios, relaciones, proyectos de vida, identidades, conocimientos y pertenencia social.
Una sociedad capaz de producir cada vez más riqueza con cada vez menos intervención humana podría ser tecnológicamente extraordinaria y socialmente explosiva si no responde una pregunta mucho más antigua que la inteligencia artificial: ¿cómo se distribuyen los beneficios del progreso?
América Latina: entre la oportunidad y otra brecha
La discusión adquiere características distintas lejos de las grandes potencias tecnológicas. En América Latina y el Caribe, un estudio conjunto del Banco Mundial y la OIT calculó que entre 26% y 38% de los empleos podrían tener algún grado de exposición a la IA generativa. Entre 8% y 14% podrían beneficiarse mediante mejoras de productividad y entre 2% y 5% presentan riesgo de automatización con las capacidades actuales.
Pero aparece una paradoja: hasta 17 millones de empleos que podrían aprovechar la tecnología para mejorar su productividad no podrían hacerlo debido a carencias de infraestructura digital. En otras palabras: el riesgo latinoamericano no es solamente que la inteligencia artificial quite trabajos.
También puede ser no disponer de suficiente inteligencia artificial allí donde podría mejorarlos. La desigualdad tecnológica tiene así dos caras. Una persona puede quedar afuera porque una máquina hace su tarea. Pero también puede quedar afuera porque nunca tuvo acceso a la máquina.
La CEPAL describió este problema a comienzos de 2026 como una combinación de transformación tecnológica y rezago regional en inversión y capacidades laborales. La cuestión no consiste simplemente en incorporar aplicaciones, sino en desarrollar infraestructura, conocimiento, capacitación y políticas capaces de convertirlas en productividad real.
La Argentina tampoco está completamente fuera de esta discusión. En junio, la Sindicatura General de la Nación aprobó una guía de controles para el uso de inteligencia artificial dentro del sector público nacional, con criterios de riesgo, transparencia y responsabilidad. Al mismo tiempo, existen proyectos legislativos que intentan establecer marcos nacionales para la tecnología, aunque el país todavía se encuentra muy lejos de un régimen integral comparable al europeo.
Esto abre otra dimensión del problema. Los países pueden convertirse en desarrolladores, reguladores y usuarios activos de la nueva tecnología. O pueden limitarse a consumir modelos creados en otras sociedades, entrenados sobre otros datos, bajo prioridades económicas determinadas en otros centros de poder.
Cuando el algoritmo decide
Hay algo particularmente seductor en una decisión tomada por una computadora: parece objetiva. El número transmite una tranquilidad que las personas no siempre producen. Pero un algoritmo no descubre criterios en la naturaleza. Alguien define qué variables debe mirar, con qué datos aprenderá, qué resultado debe optimizar y qué margen de error considera aceptable.
Por eso, una de las cuestiones más profundas de Magnifica humanitas aparece cuando discute decisiones automatizadas sobre empleo, crédito, reputación, servicios u oportunidades. El riesgo no consiste solamente en que el sistema se equivoque. Consiste en que nadie pueda explicar por qué tomó determinada decisión y, sobre todo, que no exista una persona claramente responsable frente a quien reclamar.
La encíclica utiliza para ello una palabra habitual en las discusiones contemporáneas sobre IA: accountability. Es decir, la posibilidad de saber quién debe rendir cuentas, justificar una decisión, controlarla y reparar el daño cuando sea necesario.
La pregunta parece técnica hasta que se coloca frente a una situación cotidiana. ¿Qué ocurre si un algoritmo rechaza un crédito? ¿Qué pasa si descarta a una persona de una búsqueda laboral? ¿Y si determina que un ciudadano presenta un determinado riesgo? ¿Quién explica la decisión? ¿Quién puede revisarla? ¿Ante quién se apela?
El gran peligro del poder algorítmico puede no ser una máquina que gobierne el mundo, sino miles de pequeñas decisiones automatizadas contra las cuales nadie sabe cómo defenderse.
La pelea por la verdad
La revolución de la inteligencia artificial ocurre, además, dentro de otra crisis: la de la confianza.
Durante gran parte de la historia moderna, fabricar una falsificación convincente requería recursos, conocimientos y tiempo. Hoy una persona puede producir en minutos una imagen fotográfica inexistente, una voz sintética, un video manipulado o miles de textos destinados a inundar una conversación pública. La desinformación no nació con la IA. Pero su costo de producción cayó brutalmente.
Esa es una de las razones por las que la regulación europea que empezó a aplicarse este 2 de agosto tiene una carga simbólica tan importante.
El objetivo del artículo 50 es que una persona pueda conocer desde el comienzo si está hablando con un sistema artificial. También exige mecanismos para identificar contenidos generados o modificados por IA y una advertencia clara para los deepfakes. En cuestiones de interés público —política, justicia, salud, ambiente, economía, ciencia o cultura, entre otras— los textos generados artificialmente deberán identificarse cuando no exista una revisión humana sustantiva o control editorial responsable.
Y aquí aparece un detalle particularmente interesante para el periodismo. La propia regulación europea distingue entre una simple corrección formal y una verdadera responsabilidad editorial. Revisar ortografía no alcanza. Para quedar comprendido dentro de la excepción debe existir una persona o estructura editorial capaz de aprobar, modificar o rechazar el contenido, comprobar datos y verificar la confiabilidad de las fuentes.
La cuestión coincide casi literalmente con otra de las preocupaciones de León XIV.
En Magnifica humanitas define la verdad como un bien común y sostiene que la democracia necesita verificación, contraste de fuentes, argumentación y confianza social. Reclama además fortalecer “un periodismo serio” frente a entornos digitales dominados por la reacción inmediata y la amplificación algorítmica.
No es una reivindicación menor. Porque si producir información se vuelve prácticamente gratuito, lo escaso deja de ser el contenido y pasa a ser la credibilidad. El periodismo podría entrar así en una paradoja inesperada. La misma tecnología capaz de automatizar una parte de sus tareas puede volver más importante aquello que ninguna herramienta puede asumir por completo: hacerse responsable de que algo es verdadero y publicarlo bajo un nombre, una firma y una institución que respondan por ello.
No es una encíclica contra la tecnología
Sería tentador simplificar todo esto bajo una vieja oposición: humanidad contra máquinas. Pero Magnifica humanitas no propone regresar a un mundo anterior a la inteligencia artificial. Reconoce explícitamente sus posibilidades en investigación, medicina, educación, productividad y múltiples actividades humanas. León XIV tampoco cuestiona que las máquinas realicen tareas repetitivas, pesadas o peligrosas.
El conflicto aparece cuando eficiencia se convierte en sinónimo de bien. Que algo pueda hacerse más rápido no significa necesariamente que deba hacerse. Que una decisión pueda automatizarse no significa que siempre convenga automatizarla. Que una persona pueda ser sustituida no responde qué consecuencias sociales tendrá sustituirla. Que un algoritmo pueda predecir un comportamiento no le concede el derecho a decidir el destino de quien fue analizado.
La encíclica llama a ese riesgo “paradigma tecnocrático”: la idea de que todo problema humano puede resolverse principalmente aumentando capacidad técnica, cálculo, predicción y control. Es aquí donde el texto sale definitivamente del terreno religioso para entrar en una de las grandes discusiones políticas del siglo XXI. Porque regular inteligencia artificial no significa solamente decidir qué puede hacer una máquina. Significa decidir qué cosas una sociedad no está dispuesta a delegar.
La nueva cuestión social
Rerum novarum no detuvo las fábricas. Tampoco pretendió hacerlo. Lo que hizo fue afirmar que la industrialización no podía convertirse en una zona moralmente vacía donde la productividad justificara cualquier condición laboral.
Después llegaron décadas de conflicto político y social. Jornadas máximas. Sindicatos. Negociaciones colectivas. Seguridad laboral. Jubilaciones. Seguros sociales. Vacaciones. Derechos que hoy parecen naturales pero que tuvieron que ser inventados porque la tecnología y la economía habían construido una realidad para la cual las viejas instituciones ya no alcanzaban.
Ese puede ser el verdadero paralelismo con 2026. Quizá todavía no conozcamos los nombres de los derechos que harán falta dentro de veinte años. El derecho a saber si hablamos con una máquina puede ser apenas uno. El derecho a una explicación frente a una decisión automatizada. El derecho a que exista una instancia humana de apelación. El derecho sobre nuestros datos. El derecho a no ser permanentemente perfilados. El derecho a capacitación cuando una tecnología transforma nuestro empleo. El derecho a distinguir una imagen real de una imagen fabricada. El derecho, incluso, a preservar ámbitos de la vida donde la eficiencia algorítmica no sea el criterio dominante.
Europa comenzó esta semana a convertir algunas de esas preocupaciones en obligaciones jurídicas. California discute cómo proteger al trabajador frente al desplazamiento tecnológico. La OIT intenta medir qué empleos cambiarán. El Banco Mundial advierte a las economías emergentes que quedarse afuera también puede ser peligroso. Y una encíclica publicada en mayo coloca todas esas piezas bajo una pregunta única.
No si la inteligencia artificial será más poderosa. No si conseguirá escribir mejor, programar mejor, diagnosticar mejor o producir más. La pregunta es otra: ¿quién gobernará ese poder y con qué idea de ser humano?
La Revolución Industrial necesitó casi un siglo de conflictos para construir una parte de sus derechos. La revolución algorítmica apenas comenzó. Esta vez conocemos la historia. La cuestión es si seremos capaces de aprender algo de ella.
El trabajo invisible detrás de la inteligencia artificial
Una consulta parece no pesar nada. Una frase entra en una pantalla y segundos después aparece una respuesta. La metáfora de “la nube” colaboró durante años con esa ilusión de inmaterialidad. Pero la inteligencia artificial tiene cuerpo.
Necesita servidores, centros de datos, redes eléctricas, sistemas de refrigeración, chips, cables, minerales y enormes cantidades de capacidad informática. Magnifica humanitas advierte que los sistemas actuales consumen grandes volúmenes de energía y agua y que esas necesidades aumentan junto con la complejidad de los modelos.
Pero existe otra infraestructura mucho menos visible: personas. León XIV dedica una de las partes más duras del documento a aquello que denomina el “trabajo invisible” de la economía digital: etiquetado de datos, moderación de contenidos y entrenamiento de sistemas. Son tareas humanas indispensables para que los modelos aprendan a reconocer, clasificar o descartar información. En muchos lugares se realizan con remuneraciones reducidas y condiciones precarias.
La cadena continúa todavía más abajo. Para fabricar los dispositivos capaces de ejecutar inteligencia artificial hacen falta minerales, procesos industriales y cadenas globales de suministro. La imagen de una tecnología automática y desmaterializada termina entonces revelando una paradoja: cuanto más autónoma parece la máquina ante el usuario, mayor puede ser la cantidad de trabajo humano que permanece fuera de su vista.
El debate sobre IA suele concentrarse en programadores, ingenieros y grandes compañías. Sin embargo, detrás del algoritmo aparecen trabajadores de centros de datos, moderadores, etiquetadores, técnicos, operarios industriales y comunidades ubicadas alrededor de las fuentes de energía y recursos minerales que sostienen la infraestructura.
Por eso, una de las preguntas más incómodas de esta revolución no consiste solamente en saber cuántos humanos podrá reemplazar la inteligencia artificial. Consiste en descubrir a cuántos humanos necesita ocultar para parecer verdaderamente artificial.
Discussion about this post