Sociedad
¿Deveras va a acabar la IA con los humanos?
“El miedo a la inteligencia artificial: riesgos reales, intereses y mitos.”
¿Deveras va a acabar la IA con los humanos?
“El miedo a la inteligencia artificial: riesgos reales, intereses y mitos.”
Estamos presenciando una campaña de miedo muy intensa alrededor de la IA, que lleva a sospechas.
Es cierto que hay riesgos reales —fraude, suplantación, desplazamiento de ciertos trabajos, concentración de poder, errores en sistemas críticos, armas autónomas, manipulación informativa— y sería irresponsable minimizarlos.
Pero de ahí se salta con mucha facilidad a titulares como “la IA destruirá a la humanidad”, “se volverá consciente y nos dominará” o “ya no podremos controlarla”, afirmaciones sin ninguna evidencia disponible.
Parte de esa exageración tiene una explicación bastante humana. El miedo vende, atrae audiencia y moviliza políticamente. Además, paradójicamente, presentar una tecnología como casi sobrenatural que beneficia a algunas de las propias empresas que la desarrollan: decir que estás construyendo algo tan poderoso que podría acabar con la civilización también comunica que posees una tecnología extraordinaria. Y para gobiernos e instituciones, un relato de peligro extremo puede facilitar regulaciones, controles y barreras de entrada que terminan favoreciendo a los actores más grandes y al crecimiento de la burocracias y disminución de la eficiencia de los paises.
Los modelos actuales pueden razonar en ciertos dominios, planificar, escribir programas, utilizar herramientas y exhibir conductas que parecen intencionales. Pero capacidad no equivale automáticamente a voluntad propia, y mucho menos a conciencia. Una excavadora tiene una fuerza monstruosamente superior a la de una persona; eso no significa que algún día decida derribar la ciudad. Con la IA el problema es considerablemente más complejo porque manipula lenguaje, objetivos e información, pero sigue siendo necesario demostrar el salto entre procesamiento sofisticado y un sujeto que quiere algo por sí mismo.
Por eso me preocupa más un peligro mucho menos cinematográfico: personas utilizando sistemas de IA extraordinariamente poderosos para perseguir objetivos humanos. Una IA empleada para estafar a diez millones de personas, vigilar poblaciones, diseñar propaganda personalizada o automatizar una guerra, representa un riesgo concreto sin necesidad de que la máquina tenga conciencia ni deseos.
En los últimos 15 años he invesitigado y desarrollado sobre Mente Artificial y el campo coherente: quizá el gran error del debate popular sea asumir que inteligencia, conciencia y voluntad son la misma cosa. No lo son. Podemos estar construyendo una inteligencia enorme antes de comprender siquiera qué condiciones producen una conciencia unificada.
Por eso es importante detenernos un momento y preguntarnos ¿Cuánto del miedo actual proviene de riesgos demostrables y cuánto de atribuirle a la IA propiedades humanas que todavía no sabemos si posee?