Ser humanos en la era de la IA

El Papa León, poco después de su asunción, publicó su encíclica llamada “Magnífica humanitas”, en la que explora el rol de la IA en el mundo moderno. Elegir la IA como tema central de su encíclica es una importante declaración sobre el valor social de esta tecnología, mostrando con claridad la importancia de abordar un desarrollo que va más allá de lo estrictamente técnico. En efecto, es cada vez más evidente que no hay aspectos de la vida individual o en sociedad que no se vean afectados, en mayor o menor medida, por la IA. ¿Estamos preparados para afrontar los desafíos que la era de la IA presenta?

Dice León: “Las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. Tratemos estas innovaciones con la responsabilidad que se merecen.

El contexto: ¿qué es la IA?

Uno de los grandes desafíos de la IA como catalizadora de una nueva era de la humanidad es que es mucho más compleja que otras tecnologías de similar impacto en tiempos pasados. No es raro escuchar a expertos, incluso expertos que están trabajando en el desarrollo de la IA, decir que ellos mismos no entienden todos los aspectos de su funcionamiento. Esta característica no es casual ni intrascendente, está en el centro de uno de los peligros más grandes que la IA representa: nunca antes nos habíamos enfrentado a algo con tanto poder que a la vez sea tan poco entendible.

Es difícil responder qué es la IA a un nivel que permita tomar decisiones informadas sin entrar en demasiados detalles técnicos. Pero debemos intentarlo. No podemos renunciar a una realidad en la que solo unos pocos expertos son considerados dignos de direccionar o controlar la IA, mientras el resto somos reducidos al rol de meros usuarios de la “caja negra”. Nuestra primera batalla en pos de lo comunitario radica en democratizar una comprensión básica de la IA. Quienes tienen algo de conocimiento al respecto, deben tomar la responsabilidad de compartirlo. Y todos debemos hacer el esfuerzo de tratar de entender al menos lo que compete a nuestro uso de IA.

En pocas palabras, lo que llamamos inteligencia artificial es un conjunto (o tipo) de algoritmos que buscan resolver problemas o realizar tareas que tradicionalmente se creyeron sólo resolubles a través de la inteligencia, la creatividad o la intuición humana.

En su nivel más fundamental, todo lo que puede hacer una computadora (en todas sus formas) es cuentas. Sumas, restas, divisiones, multiplicaciones. Ni siquiera cuentas muy complicadas. Nada que una persona con un lápiz y un papel no pueda hacer. La diferencia, la única diferencia, es la velocidad y la memoria. Una computadora hace cuentas que cualquier humano puede hacer, pero millones de millones de veces más rápido y con memoria exacta de millones de millones de resultados. Hace estas cuentas siguiendo una receta, un libro de instrucciones, llamado algoritmo. Durante mucho tiempo, se dio por entendido que había problemas que, entonces, una computadora no iba a poder resolver. Nadie tenía una receta que convirtiera las cuentas matemáticas en lenguaje, música, arte, etc. Los algoritmos de IA cambian todo esto.

Sin entrar en detalles técnicos, los algoritmos de IA son un cambio drástico en cómo escribir algoritmos. Dice León: “Las inteligencias artificiales modernas están más cultivadas que construidas: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA crece”. Se crea la infraestructura básica y se los “entrena”. “Aprenden” a simular patrones. Habitualmente, a semejanza de creaciones humanas, de inteligencia humana, pero no tiene por qué ser así. Entrenar, aprender, simular: no son palabras cualquiera, ni analogías simples usadas en el contexto de la comunicación. Son los términos oficiales y ya van definiendo una filosofía, una forma de pensar en estos algoritmos. Se los humaniza, se los antropomorfiza, y esto no es gratis.

Más allá de los verbos usados, cómo se crean estos algoritmos empieza a definir su primera limitación. Se entrenan, o aprenden, de lo que se les enseña. Se cultivan con los nutrientes de la sociedad que los alimenta, con el riesgo de replicar sesgos y prejuicios de sus creadores. Dice León: “la impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos”.

Si entra basura en un algoritmo de IA, sale basura en sus respuestas. Cobra un rol muy importante también quién los entrena y con qué versión de la verdad. León nos llama a pensar en la diferencia entre la construcción de la Torre de Babel, con una sola lengua, una sola tecnología, unificada y sin diversidad; y la construcción de la ciudad con un lenguaje común que viene no de la uniformidad, sino de la comunión: la armonía que nace cuando cada persona asume su parte y la sociedad reconoce el valor del bien común. Volveremos a este punto.

¿Qué puede hacer la IA?

Para dimensionar la revolución en puertas que es la IA, puede ser útil listar las cosas que hoy puede (o que hay consenso de que en un futuro cercano podrá) hacer la IA. Usamos una definición de “hacer” que es “crear de forma indistinguible de lo que hubiera hecho un humano”:

• Tener un monólogo interno, una cadena de pensamiento. OpenAI
• Cooperar con otras IA, cada una con una personalidad, objetivo y “principios” distintos. Hacking de Hugging Face
• Emular lenguaje y comunicación verbal humana y no humana. LLMs
• Generar expresiones de empatía, comprensión, entendimiento de una situación externa. Casos de personas usando LLMs como psicólogos o acompañantes
• Generar imágenes, videos y sonidos (música o voces) que resulten indistinguibles de los reales. Stable Diffusion Nano Banana
• Convencer al menos a algunas personas de que la IA puede tener derechos propios. Mr. Olah de Anthropic
• Expresar preocupación por sí mismas o por otras IA. Expresar no querer ser “borradas”. Caso del ingeniero de Google
• Avanzar en la resolución de problemas científicos y/o matemáticos dignos de premios Nobel o equivalentes. Navier-Stokes problem
• Resolver problemas de programación a la altura de programadores expertos en tiempo récord. Claude Code
• Entablar conversaciones habladas y resolver situaciones diarias como reservar lugares en restaurantes u otros trabajos de secretariado. Google Flash Live

Las “máquinas” han ido escalando en capacidades, incluso superando lo que poco antes se había creído imposible. Han pasado de manejar información, a sintetizar conocimiento, ahora a simular inteligencia. ¿Podrá simular sabiduría?

Todo esto, sólo 4 años después de la primera versión de ChatGPT, Stable Diffusion y DALL-E. Nunca ninguna otra tecnología avanzó tan rápido. ¿Es necesario que avancemos tan rápido? ¿Es siempre la velocidad un objetivo a buscar? ¿Qué podemos pensar nosotros si pensamos que va muy rápido?

¿Qué es y qué no es, en serio, la IA?

Cuando decimos que una IA puede, por ejemplo, crear una obra de arte, lo que en realidad decimos —que es todo lo que podemos decir— es que la imagen que devolvió la IA simula una imagen que podría haber creado un humano en el mismo medio (por ejemplo, la pantalla del celu), tan bien que no podemos darnos cuenta si fue creada por una máquina o por un humano.

Entonces es importante, creo yo, entrar en un ejercicio que puede parecer filosófico, pero que empieza a definir una actitud frente a estas creaciones. ¿Simular perfectamente algo es ser ese algo? No nos quedemos con la respuesta obvia, démosle lugar real a la pregunta. Si cuando me pongo a chatear con la IA se comunica conmigo de una forma en la cual no puedo, de ninguna forma, darme cuenta si del otro lado hay o no un humano, ¿puedo empezar a tratar a la IA como humana? Si una canción creada por la IA genera los mismos sentimientos que una canción creada por un humano, ¿es una canción? ¿Es arte? Si algo simula inteligencia perfectamente, ¿es inteligente? ¿Y si simula conciencia? Si simula humanidad, ¿es humano? Estas preguntas, que hoy pueden parecer ejercicios intelectuales y no mucho más, van a ser un parteaguas en menos tiempo de lo que quisiéramos. Vayamos pensando de qué lado nos ponemos.

Más allá de si es o simula ser, hay bastante (aunque aún no unánime) consenso de que estamos al borde de lo que en la jerga se llama Inteligencia Artificial General: un tipo de inteligencia artificial que puede igualar o superar las capacidades cognitivas humanas en prácticamente cualquier actividad intelectual. Es importante que no basemos nuestra defensa de lo humano frente a lo artificial en el hecho de que haya cosas que aún hagamos mejor. O que la IA pueda cometer errores. O que tenga límites. Esas batallas están perdidas antes de empezar y, en mi opinión, no son las importantes. Debemos prepararnos para un futuro, quizás no muy lejano, en el que la IA haga todo aquello que pueda medirse y compararse, tan bien o incluso mejor que el humano. Énfasis en aquello que pueda medirse y compararse.

En ese sentido, nos encontraremos con un escenario que nunca nos pasó antes. Estaremos frente a una verdadera inteligencia no humana. Durante décadas la ciencia y la ciencia ficción han jugado con el escenario mental de cómo nos comportaríamos si mañana nos visitaran seres inteligentes de otros planetas. Inteligencias con otras formas de pensar, de ver el mundo, con otras prioridades y con principios muy distintos a los nuestros. La IA, si sigue el camino que muestra hasta ahora, no es muy distinta a este escenario. Solo que para el momento en que nos demos cuenta, ya va a estar dentro de cada una de nuestras casas, computadoras y dispositivos. Ya va a estar tomando decisiones por nosotros.

Puede suceder que la IA sea inteligente, incluso que sea consciente. Pero algo que nunca va a ser es “humana”. Quizás la clave está en darle un lugar central a aquello que nos hace humanos. ¿Qué nos hace humanos? ¿Qué hace única la relación entre humanos? ¿Qué ve un humano de único en otro humano?

Rescatar lo humano como respuesta a lo artificial

De cara a una era donde se torne real la posibilidad de tener que interactuar con formas de pensar diferentes a la humana, resulta indispensable no deshumanizar el mundo.

Estamos acostumbrados a estrategias que buscan defender expresiones culturales o formas de vida ancestrales, o heredadas, como mecanismo de protección de la diversidad humana. Los pueblos originarios, la herencia familiar, nuestras raíces. Se está tornando necesario aplicar la misma lógica a lo humano en general. De la misma forma que protegemos costumbres culturales frente a la globalización, tendremos que proteger costumbres e identidades humanas frente a una posible invasión de la IA. Tenemos que empezar a defender lo intangible de la existencia humana, aquello que no se puede medir. No para ganarle a la IA, sino para que la IA no ocupe lugares que no debe.

León, en su encíclica, nos deja pistas desde su mirada: “las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”. “Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias.” “Incluso cuando dichos instrumentos se presentan como capaces de ‘aprender’, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior.” Esta mirada de León es jugada, osada. Este párrafo es, probablemente, el que más movió las aguas de muchos estudiosos de la IA. No es compartida por todos, ni tiene que serlo. Sienta una postura clara y una declaración de principios.

Acá es donde empieza a ser crítica la vista como humanos éticos. En una realidad donde la diferencia entre una persona y otras inteligencias deje de ser medible, deje de poder “verse”, lo que queda pasa al plano de lo intangible. Donde lo que nos define no puede ser lo que podemos o no podemos hacer. Donde los humanos somos humanos no por lo que hacemos, sino por lo que somos. En la encíclica, el Papa León dice, hablando de las personas: “su dignidad no depende de las capacidades que posee, de las riquezas o del rol que desempeña, ni de las decisiones justas o equivocadas que toma, sino que es un don que la precede y la excede, dado por Dios como expresión de su amor que nunca falla.”

La IA llega en un momento social que la hace especialmente peligrosa. El mundo globalizado, la competencia como método de progreso, la búsqueda de eficiencia y velocidad como única métrica de valor, crean un contexto de posthumanismo. Donde las personas se ven como medios y no como fin, donde las democracias están en riesgo y el estado ausente, y donde la libertad es mal entendida. En un contexto donde se valora más la eficiencia que el humano, y donde “el mercado” es quien decide qué es justo y verdadero. En este contexto, si algo puede hacer el trabajo mejor que el humano, el humano se descarta. En este contexto, la IA es peligrosa.

Una característica humana esencial, muchas veces pasada por alto o menospreciada —incluso despreciada—, son las imperfecciones que nacen de nuestra imprecisa, borrosa, forma de ver e interactuar con el mundo. Es una diferencia crucial con la IA: muchas veces lo que hace que, por ejemplo, una pintura sea humana es que tiene errores. Esta identidad muchas veces se tapa en un mundo que solo exalta lo perfecto y eficiente. León lo pone de forma muy sencilla: “Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo”.

¿Qué nos hace humanos? ¿Qué hace única la relación entre humanos? ¿Qué ve un humano de único en otro humano? ¿Cómo rescatamos esos valores?

Principios éticos para la convivencia en la era de la IA

La IA no se va a ir. Tampoco, creo, tiene que ser el objetivo que se vaya. A pesar de lo pesimista que pueda sonar hasta ahora, hay mucho que la IA puede aportarnos para que vivamos mejor. Siempre que tengamos en claro que todos tenemos que vivir mejor. Que solo llegamos a la meta si todos llegamos a la meta. Y para lograr esto, tenemos que estar firmes y fuertes defendiendo lo que nos hace humanos. La IA viene con la promesa de reemplazar al humano: no nos dejemos reemplazar en lo que importa.

León nos deja en su encíclica postulados muy claros basados en una ética humanista universal. León propone “cinco vías de responsabilidad cotidiana y pública: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo”.

• Desarmar las palabras: “La paz comienza por cada uno de nosotros, por el modo en el que miramos a los demás, escuchamos a los demás, hablamos de los demás; y, en este sentido, el modo en que comunicamos tiene una importancia fundamental”. En lo dicho y en lo hecho, rechacemos lo que propicia la desigualdad, la deshumanización y los prejuicios.
• Construir la paz en la justicia: No dejemos la justicia en las manos de las creaciones humanas. Buscamos una paz verdadera que nace de la justicia. Tengamos cuidado de no darle a la IA un lugar sobrehumano, donde decida por nosotros qué es la paz y quién merece justicia.
• Asumir la mirada de las víctimas: “Hay situaciones en las que, para seguir siendo humanos, debemos abandonar las vacilaciones y tomar partido. Hay conflictos en los que no es justo permanecer neutrales y no basta pensar en ‘no ser cómplices’.” Los desarrollos disruptivos tienden a dejar afuera a los más débiles y desprotegidos. La IA traerá consigo un nuevo orden laboral y de recursos. Algunos quedaremos afuera y otros adentro. No perdamos la mirada de quien se queda afuera. Es el principio básico de solidaridad.
• Cultivar un sano realismo: “El realismo auténtico no renuncia a cambiar el mundo: comienza por ver con claridad los intereses, los miedos, las limitaciones y las relaciones de poder, precisamente para calcular qué es posible lograr y con qué pasos.” Tengamos objetivos reales, haciendo un esfuerzo real por tratar de entender las relaciones de fuerzas en juego. No nos olvidemos que la IA está creada por alguien, con intereses y deseos propios que no siempre están alineados con el bienestar comunitario.
• Relanzar el diálogo: “El diálogo es una dimensión ordinaria de la vida humana, y no se refiere únicamente a las relaciones entre los estados. Se trata de adquirir una actitud para construir lazos de fraternidad, hechos de escucha, de miradas sinceras, de tiempo dedicado, incluso de tiempo perdido juntos.” El diálogo no es sólo hablar, ni leer, ni escribir. Es la mirada, la compañía, el abrazo, la empatía, la complicidad, la risa. Todas cosas aún fuera del alcance de la IA.

La IA es, al fin y al cabo, una herramienta. Muy poderosa, muy disruptiva y con la capacidad de hacer mucho bien y mucho mal. Lo que la distingue de otras es la velocidad a la que se está desarrollando y la capacidad que tiene para desdibujar el valor y la identidad del Ser Humano. Es nuestra responsabilidad hacer nuestra parte en darle forma a la Era de la IA. No perdamos el valor de lo humano y la importancia de las pequeñas acciones.

Nuestro rol como usuarios responsables e informados

La IA llegó para quedarse. Si bien podemos ser rebeldes y decidir no usarla de plano, como muchos han hecho con otras tecnologías tantas veces, creo que es más útil jugar el juego, pero con nuestros valores y discernimiento.

Usemos la IA, pero seamos responsables y conscientes. Discernamos siendo dueños de nuestros usos. La IA se ha vuelto la salida fácil para muchos problemas, pero tiene un costo que muchas veces queda oculto. Cuando hacemos un flyer con IA, un diseñador no lo hizo y/o una parte de nuestra humanidad no fue expresada. Cuando buscamos refugio psicológico en la IA, un profesional no pudo ejercer su pasión y/o un compartir con un semejante no sucedió.

Busquemos el equilibrio de la verdad discernida. Hagamos flyers con IA cuando nos saca del paso, pero no dejemos de valorar el arte humano y usarlo cuando realmente es importante. Hablemos con la IA si estamos solos en un aprieto, pero que no sea la norma ni la rutina. Dejemos que la IA pula nuestros textos, pero asegurémonos de que sigan siendo nuestros.

El Papa León propone dos imágenes contrapuestas: la construcción de la Torre de Babel y la reconstrucción de los muros de Jerusalén. El criterio de Babel es la autosuficiencia del “puedo solo y la IA me ayuda”. Un proyecto que privilegia la uniformidad por sobre la comunión, donde el éxito se mide por la eficiencia, incluso cuando se sacrifica la dignidad de las personas y la importancia del humano. Frente a ello surge la figura de la reconstrucción consciente. Antes de edificar, se reflexiona y se escucha con empatía. Luego se contemplan las dificultades de la sociedad y allí se decide cómo reconstruir desde una mirada de humildad y solidaridad con el otro.