«La IA nos desplaza de ser la medida de todas las cosas, necesitamos una moral tecnológica»

–Le hago la pregunta prioritaria que fundamenta su libro: ¿Quiere una IA nihilista o humana?

–Quiero una IA humana. Que admita, si llegara a ser consciente, la superioridad de la sabiduría de su creador. Ahora la realidad es potencialmente otra: una IA que funciona sin otro propósito que maximizar el poder que acumula como capacidad de cambio y acción. 

–¿Sueñan los poderes con una 'Civilización artificial' de humanos eléctricos?

–Como deja entrever muy bien con el guiño a Philip K. Dick, sin duda. Aún me veo con 16 años saliendo del cine Coliseum después de ver 'Blade Runner' mientras pensaba si llegaría a vivir algo así… Me quedé dentro de la película de Ridley Scott.

–¿La Inteligencia Artificial es el Frankenstein más perfecto de la historia?

–Es el Prometeo definitivo. 

–Riesgos y oportunidades, límites, legislación...,¿pero se siente optimista ante un freno humanista a toda esa apoteosis?

–El humanismo no ha de ser un freno, sino una oportunidad para dar un sentido a algo que es irresistible e inevitable. 

–¿Ahora da la sensación de que el 'Ciberleviatán' que abordó con ardor guerrero se ha quedado pequeño?

–Es el desenlace práctico a lo que fue una reflexión especulativa que abordé hace tan sólo un lustro.

–¿Se diría que la IA ha pensado hasta ahora más en lo humano, que nosotros en ella?

-Es que se inspira en nosotros. Imita nuestra inteligencia buscando hacerla perfecta mientras que nosotros no pensamos en cuáles serían las consecuencias de tener alguien que pensara sin equivocarse. 

–¿Cabe pensar en paralelismos, en que en otras épocas ante novedosas y rupturistas irrupciones, se plantearon tesis en defensa del humanismo similares a la suya y resultaron fallidas?

–No hay paralelismo porque la IA no es una tecnología facilitadora sino utópica y sustitutoria. Nos desplaza de ser la medida de todas las cosas. 

–¿Cree que nacerá una nueva casta al hilo de la evolución de la IA?

–Depende. Si triunfa el diseño nihilista que impulsan ahora Estados Unidos y China, sin duda. Ya lo son. La élite corporativa del calvinismo siliconizado y el mandarinato comunista chino funcionan como tales. 

–¿Llamaría conquista moral al triunfo de la sabiduría en ese dilema humano que plantea?

–Sí, porque la ética es insuficiente. Hace falta una moral tecnológica que proyecte la prudencia de empatizar responsablemente con la labor de crear como dioses y no como titanes. Afrontamos un viaje sin retorno hacia los orígenes de la creación. Eso nos exige ser sabios que hemos de aprender de Dios.

–Habla de la necesidad de una alternativa europea frente a China y EE UU. ¿Pero Europa no ha perdido ya muchos trenes?

–Todavía no. Necesitamos alinear todos nuestros activos, que son muchos. Entre otros, la cultura y su poder de imaginar, crear y dar sentido a nuestras obras. 

–¿Los robots de compañía son ya las mascotas que preludian la derrota humana?

–Depende. Los japoneses están desarrollando una robótica de cuidados que no es hostil al ser humano. Entre otras cosas porque para la cultura japonesa la materialidad no está desprovista de espíritu. Los objetos tienen su propia alma. 

–Tenemos interiorizada esa iconografía de que llegará el momento en el que las máquinas tomen el mando. ¿Nos hará falta un 'terminator' de la palabra y del pensamiento?

–Mejor diseñar las máquinas conforme a patrones colaborativos y amigables. Como diría Hannah Arendt, no podemos volver atrás y no podemos evitar materializar los sueños del saber. Pero sí orientarlos hacia propósitos humanistas. Merece la pena leerse a Simondon y 'El modo de existencia de los objetos técnicos' para no desesperar. Podemos hacer de la IA nuestra aliada. 

–Habla en su libro de «un diseño robusto éticamente y amigable para el ser humano». ¿Eso es utopía y lo demás, oraciones?

–No, lo es. Depende del propósito algorítmico que movilice a la IA cuando decide basándose en su inteligencia estadística. Se trata de que primen siempre las acciones que salvaguarden la dignidad humana y potencien nuestro bienestar moral.

–¿Cuál es su concepto de un mundo feliz?

–Que sea libre para que cada uno la busque a su manera sin dañar a nadie. 

–Se postula en el espacio del articulismo como 'consultor independiente y analista político. Escritor y profesor universitario'. ¿Esto no hay IA que lo supere? 

–Por ahora, no. Dudo más y soy más curioso que ella… 

–¿Contempla un posible freno al escepticismo y la pasividad frente a gobernantes y políticas insustanciales e invisibles?

–Es la consecuencia de que la democracia liberal va muriendo mientras nace de ella una democracia populista. Por eso no dejo de leer a los estoicos desde hace unos años. 

–Tras su disección, arriesgue un pronóstico. Esa nueva era que se desprende de la consumación tecnológica, ¿tendrá su correspondiente paraíso, aunque sea desde la periferia? 

–Así termina 'Blade Runner', ¿no? 

–Las nuevas generaciones, sus hijas sin ir más lejos, ¿qué conocimientos necesitan para prevalecer sobre las máquinas?

–Mis hijas tienen 10 años. Estudian en la Scuola Italiana porque sus exámenes son orales y la formación básica es matemáticas y humanidades. Las llevo a museos regularmente. No tocan pantallas. Leen, ahora están con 'La isla del tesoro' de Stevenson. Han ido al teatro desde los cuatro años… Además, están en tercero de violín en el Conservatorio. Por supuesto, no hay teléfono. Aquí he de agradecer que los italianos han visto claro que en la escuela y el liceo está prohibido el móvil. La tecnología es un complemento. Y por supuesto el cuidado del cuerpo. La clave está en hacer todo aquello que la máquina no va a hacer. Los seres humanos deben ser más humanos que nunca.

–¿La IA tendría solución para el caso catalán?

–No, porque Cataluña es un problema histórico… La única persona que lo entendió era Sir John Eliott. Escribió 'La rebelión de los catalanes' en 1966 y dio en el clavo. Es un conflicto medieval que se enquista en el Barroco y se aborda sin perspectiva histórica en la Modernidad. He hecho la prueba de preguntarle a una IA y en la respuesta no se citaba las dos obras capitales que explican el caso catalán. El libro de Eliott e 'Historia crítica de la vida y reinado de Fernando II de Aragón' de Jaume Vicens Vives… Ahí está todavía la superioridad humana. La sabiduría humana frente al conocimiento algorítmico.

–¿El libro es el mejor aliado frente a la invasión de 'pantallas' y la falta de educación visual?

–Absolutamente. El libro es invencible. Recomiendo a Michel Desmurget: más libros y menos pantallas. Un excelente libro escrito por un neurocientifico que explica por qué el libro se relaciona mejor con la neuroplasticidad del cerebro que la pantalla.

–Un nada descartable triunfo de Trump, ¿sonaría a himno finalista?

–Más bien a Réquiem de la democracia…

–Usted habla de culpa. A la intemperie y con sentido crítico. ¿Ahí reside la supervivencia?

–Sin culpa no hay redención. Y sin redención no hay esperanza…