José María Lassalle ha estado hablando desde diversas tribunas de la Inteligencia Artificial como arma suprema de control como parte de la visión confucionista del poder chino. Es decir, como una figura terrorífica pero que —al menos para Hobbes y el PCC— impone la paz y el orden necesarios para que la civilización progrese, y para que los individuos no amenacen ni sufran amenazas por parte de otros individuos. La idea parece buena. Pero, ¿ha funcionado hasta ahora?
En primer lugar, el concepto de herramienta ya nos sugiere la necesidad de una voluntad superior. Pretender crear herramientas inteligentes que no precisen de un juicio moral es una contradicción, dado que las herramientas responden precisamente a la necesidad creada por un juicio moral.
Imaginemos por ejemplo un sistema autónomo de triaje en el servicio de urgencias de un hospital. El sistema evaluará cada paciente no solo con criterios de curabilidad y supervivencia, sino de calidad de vida futura e incluso de coste social.
Y ahí entra el juicio moral.
Quizá para una sociedad envejecida y superpoblada ese coste social sea un factor más decisivo que en otra más joven y pujante. Pero eso no lo puede determinar ningún modelo de lenguaje ni algoritmo. Es una percepción subjetiva.
Es posible que un régimen autoritario sea capaz de desplegar con mayor celeridad las herramientas de control de masas que precisa, y es más que obvio que no dudará en usar las más sofisticadas que encuentre: Redes de cámaras, micrófonos y algoritmos de búsqueda capaces de registrar la actividad de cada ciudadano y confrontarla con las premisas emanadas por la dirección política del país. Esto ha sido así siempre, desde la introducción de la religión como herramienta de control de individuos que viven demasiado lejos del rey pero jamás del ojo escrutador de Dios. Y desde luego, nunca ha funcionado perfectamente. Con un control individual exhaustivo, China no ha sido aún capaz de erradicar la corrupción, el crimen y el desaliento entre sus habitantes, y desde luego no fue capaz de evitar una pandemia global.
Sin embargo, hay un hecho diferencial en la IA respecto al uso de creencias religiosas o morales, leyes o poder bruto que hemos visto hasta ahora a través de los siglos: La IA ataca directamente la cabeza del organismo. No es simplemente un brazo más fuerte. ¡Es un reemplazo para la cabeza misma del organismo!
Pretender usarla como una dócil herramienta de control de nuestros semejantes es un poco inocente.
La IA puede encontrar respuestas a preguntas que aún no nos hemos hecho. Y si eso ocurre, entonces habremos perdido la batalla por la supremacía en esta roca a la que llamamos hogar.
Es necesario que el ser humano siga preguntando, cuestionando, guiando este nuevo poder que ya es irrenunciable. Irrenunciable como lo fue en su día el poder de la maquina de vapor o de la energía atómica.
Es nuestra capacidad de seguir maravillándonos por nuestro entorno lo que nos permite mantenernos preguntando y preguntando. Mientras esto sea así, mientras la curiosidad sea consustancial a nuestra naturaleza, podremos decir:
"IA, creo que este es el comienzo de una hermosa amistad".
