El Papa habló sobre inteligencia artificial, y tiene toda la razón...

El Papa León XIV acaba de publicar su primera encíclica, Magnifica Humanitas, y una parte importante la dedicó a la inteligencia artificial. Su advertencia principal es que la IA no es neutral: los algoritmos se alimentan de datos históricos que ya cargaban con prejuicios, y si nadie lo corrige, simplemente los replican y los amplifican. El resultado concreto es que personas vulnerables pueden quedar excluidas de servicios básicos como salud, trabajo o seguridad social, no porque alguien decidió discriminarlas, sino porque el sistema aprendió a hacerlo solo.

Y honestamente, tiene razón.

La IA no es una mente objetiva ni neutral. Fue creada por nosotros, aprende de nosotros y se alimenta leyendo internet, analizando datos y observando patrones humanos. Y en internet y en nuestros sistemas hay racismo, machismo, clasismo y todo tipo de prejuicios. Por ejemplo, si una IA analiza currículums usando datos históricos de empresas donde durante años solo ascendían hombres, el algoritmo va a aprender que "ser hombre" está asociado al éxito, y aunque nadie le diga directamente que discrimine, lo va a hacer igual, porque al final solo está convirtiendo prejuicios humanos en datos.

Ahí entra el concepto que mencionó el Papa: la "algorética", que básicamente significa tomar en cuenta la ética desde el momento en que se escribe el código. Porque la IA hoy no solo genera imágenes: ayuda a decidir quién recibe un préstamo, quién es marcado como sospechoso por la policía o quién tiene prioridad en ciertos tratamientos médicos, y ese tipo de decisiones no se pueden reducir a fórmulas matemáticas. Hay contexto, circunstancias y matices que ningún algoritmo puede medir completamente.

Si nuestra ética no avanza al mismo ritmo que la tecnología, vamos a tener un problema muy grande.