Juan Miguel Alcántara Soria
León XIV advierte el paradigma tecnocrático: “donde la tendencia de la lógica del control y lucro gobierna por sí sola decisiones personales, sociales y económicas; la técnica establece qué cuenta y qué puede descartarse, reduciendo el trabajo a objeto de explotación, y a las personas a engranajes de un sistema que sea más eficaz”. “Paradigma que se ha extendido rápidamente, también como efecto de la difusión de la IA, las ciencias cognitivas, nanotecnología, robótica y biotecnología… Por su poder, pueden actuar como un acelerador del paradigma y, por ello, necesitan un nuevo marco ético y político…ˮ
“En muchos casos, en el contexto digital, el control de plataformas, infraestructuras, datos y capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.
“Hay que evitar el equívoco de equiparar esta “inteligenciaˮ a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana… a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias.
“Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio. Cuando dichos instrumentos se presentan como capaces de “aprenderˮ lo hacen de modo diferente a la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior”.
“En el uso personal, tres aspectos, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana. La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones, contenidos mediáticos y formas de asistencia concreta: pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad.
“La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con sus virtudes y defectos.
“La imitación artificial de una comunicación humana positiva -palabras de consejo, empatía, de amistad- puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. Cuando la palabra es simulada, esta no construye una relación, sino una apariencia. La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro”.
En la parte final del cap. III León XIV aborda la responsabilidad (accountability), la necesidad de identificar quiénes deben rendir cuentas; transparencia y gobernanza de la IA, para custodiar lo humano. Los abordaremos en siguiente entrega.
