No se trata de los robots. No precisamente.
El Papa León XIV abandonó este lunes su primera encíclica. Lo tituló Magnifica Humanitas. Sobre el papel suena a tratado sobre inteligencia artificial. Se centra en la salvaguardia de la persona humana en esta nueva era digital.
Pero mira más de cerca. El anzuelo es tecnológico pero el objetivo es más antiguo. Mucho mayor. Se trata de desigualdad. Guerra. La lenta descomposición de la democracia. La forma en que el poder sigue acumulándose en manos a las que les importa un comino el resto de la humanidad.
Control de élite
El documento tiene 200 páginas. Leo tampoco lo escribió solo. Lo presentó con Chris Olah de Anthropic. El argumento es contundente. Un grupo pequeño que construye y gobierna la tecnología no puede servir al público. Nunca pudo.
El Papa lo dice claramente en el texto. Cuando el poder se concentra en unos pocos, se vuelve opaco. Muere la supervisión pública. El desarrollo se distorsiona.
Crea dependencia. Exclusión. Manipulación.
Cada cambio tecnológico importante amplifica a quienes ya tienen dinero. Quienes poseen los datos. Leo señala que estas élites no sólo tienen poder. Lo usan. Dan forma a cómo consumimos información. Empujan los procesos democráticos. Dirigen la economía en beneficio propio.
“Como ocurre con todos los cambios tecnológicos importantes, la IA tiende a amplificar el poder de quienes ya poseen recursos”.
Esto cae pocos días después de que Trump hiciera una pausa al firmar su propia orden ejecutiva sobre IA. Esa orden habría permitido al gobierno verificar los nuevos modelos antes de su lanzamiento. Los informes dicen que el inversor de capital riesgo David Sachs lo convenció de no hacerlo. Ex zar de la IA. Buscador de ganancias actual. Mismo patrón.
Leo quiere supervisión. Pero no del tipo corporativo. Quiere que las comunidades afectadas estén en la sala.
También pide el fin de la carrera armamentista. Dejemos de perseguir algoritmos más grandes y conjuntos de datos masivos para el dominio geopolítico. Es mentira de todos modos. El poder técnico no significa que tengas derecho a gobernar. Desarmar el supuesto.
Viejos problemas, nuevas pantallas
¿Por qué nos sorprende?
Hemos visto esta película. León XIII escribió la Rerum Novarum allá por 1891. La Revolución Industrial tuvo el mismo problema. Poder concentrado aplastando al pequeño.
Ni siquiera es necesario profundizar tanto.
¿Recuerdas cuando Elon Musk compró Twitter? ¿Recuerda cómo ejerció la plataforma durante las elecciones? Piense en los cientos de millones de jefes tecnológicos que inyectan en los Super PAC. Están luchando contra la regulación de la IA con una diplomacia de chequera. Estos patrones no sólo inspiraron la escritura de Leo. Ellos son la escritura.
La industria tecnológica aumenta las apuestas. Pero los jugadores siguen siendo los mismos.
La verdad está a la venta
Paolo Carozza lo entiende. Está en Notre Dame Law. Es miembro de la Junta de Supervisión de Meta. Le dijo a TechCrunch lo que todos susurran. La información errónea sobre la IA corroe la verdad.
Los deepfakes no sólo nos confunden. Rompen la línea base de la realidad política.
La recolección de datos es más profunda. Ataca la libertad cognitiva.
“La desinformación impulsada por la IA corroe nuestra capacidad de reconocer la verdad… planteando desafíos fundamentales a la libertad cognitiva”.
Estamos siendo manipulados. Por algoritmos propiedad de personas que no nos necesitan. El Papa simplemente lo dijo en voz alta. El resto es sólo ruido.
