Conversación con la Perplejidad (un diálogo sobre y con la inteligencia artificial)

Este libro no solo aborda la inteligencia artificial como tema, sino que la convierte en parte activa del proceso creativo. En lugar de escribir sobre ella, el autor decide escribir con ella. Así nace esta obra híbrida, que se articula como un diálogo entre persona y máquina.

A lo largo de sus páginas, Conversación con la Perplejidad se desarrolla como una serie de encuentros dialogados entre el autor y una aplicación real de inteligencia artificial, que responde a preguntas, argumenta e incluso se permite momentos de humor, duda y reflexión. El resultado es una lectura que combina el rigor del pensamiento con la sorpresa constante de una interlocución que no es del todo humana, pero tampoco completamente ajena.

Es la primera vez –que se tenga constancia en la literatura catalana y posiblemente más allá– que una obra parte de esa premisa: interrogar la propia inteligencia artificial sobre ella misma. El libro invita al lector a presenciar una especie de experimento intelectual donde las preguntas fundamentales –¿qué es la conciencia? ¿puede pensar una máquina? ¿qué papel juega la creatividad?– dejan de ser simples especulaciones para convertirse en argumentos compartidos entre dos voces de naturaleza diferente.

De este encuentro emerge una nueva forma de pensar la relación entre el ser humano y la tecnología. El formato de diálogo, cuidado y rico en matices, permite escapar tanto del discurso tecnófilo ingenuo como del rechazo apocalíptico. El autor, fiel a su estilo reflexivo, mantiene siempre viva una tensión intelectual entre curiosidad y escepticismo, mientras que la inteligencia artificial –la Perplejidad del título– aporta su propia lógica, inesperadamente coherente e incluso poética.

Una obra para nuestro tiempo

Vivimos en una época en la que la inteligencia artificial ya no es solo materia de ciencia ficción, sino una realidad cotidiana que influye en la manera en que leemos, escribimos y pensamos. Conversación con la Perplejidad llega en el momento oportuno para replantear los fundamentos de esta convivencia.

No es un ensayo técnico ni tampoco un tratado filosófico en el sentido clásico, sino una obra viva que invita a la lectura activa y a la reflexión compartida. Su estructura dialogada recuerda los antiguos diálogos platónicos, pero con una ironía contemporánea: el discípulo y el maestro ya no son dos humanos, sino una mente orgánica y otra de silicio.

La sencillez con la que el autor conduce la conversación hace que cualquier lector, sin necesidad de conocimientos técnicos, pueda adentrarse en la complejidad de las cuestiones que se discuten. El lenguaje es claro y cercano, pero las ideas que se despliegan tienen profundidad y pueden sacudir más de una convicción sobre lo que significa pensar.

Una novedad literaria con vocación de debate

La publicación de este libro es más que un acontecimiento cultural: es una invitación al debate sobre el futuro de la creación literaria y del pensamiento. Si, tal como propone el autor, una inteligencia artificial puede dialogar con nosotros y contribuir a generar nuevas ideas, ¿qué significa realmente la autoría? ¿Dónde quedan los límites entre inspiración y programación?

El libro "Conversación con la Perplejidad" se articula en torno a una serie de grandes ejes que se despliegan con naturalidad a lo largo del diálogo entre el autor y la IA. En primer lugar, encontramos una reflexión sostenida sobre qué significa exactamente "inteligencia artificial": si es legítimo hablar de inteligencia cuando no hay conciencia, intenciones ni comprensión profunda, o si no sería más honesto hablar de simulación de inteligencia. A partir de aquí se abre un segundo bloque temático esencial, en el que se comparan sin concesiones la inteligencia humana y el funcionamiento de los sistemas actuales: la velocidad de cálculo, el enorme consumo de energía y el uso de billones de parámetros se oponen a la intuición, la eficiencia y la capacidad de ir al núcleo de una cuestión propias del pensamiento humano.

Este primer núcleo conduce de manera natural al debate sobre el lenguaje y los nombres que usamos. El autor cuestiona el término "inteligencia artificial" y explora propuestas alternativas como "simulación excelente y extraordinaria de la inteligencia humana" o "Emulación Computacional de Inteligencia", destacando que el nombre no es un simple detalle técnico, sino una pieza clave en las expectativas y los malentendidos que se generan en la sociedad. En paralelo, el libro dedica una atención especial al tema de las lenguas: cómo varía la calidad de las respuestas según el idioma, qué consecuencias puede tener esto para los hablantes de lenguas minorizadas, y hasta qué punto esta asimetría puede leerse como una nueva forma de discriminación lingüística. De ahí nace la idea sugerente de un "lenguaje interno" operativo, un espacio de trabajo no humano donde se integren los saberes de todas las lenguas sin erosionar su riqueza propia.

Otro eje fundamental es el de los riesgos éticos y políticos. El diálogo disecciona los peligros de atribuir demasiada autoridad a la IA: el riesgo de que personas, empresas o instituciones acaben dejando decisiones graves en manos de sistemas automatizados, renunciando de facto a su responsabilidad moral. Se pone sobre la mesa la tentación de ver el algoritmo como una voz "neutral" y superior, y cómo esto puede conducir, si no se vigila, a decisiones deshumanizadoras disfrazadas de racionalidad técnica. El libro también interroga quién debe asumir la responsabilidad de los daños potenciales: si la IA no puede ser responsable porque no tiene voluntad ni conciencia, entonces la mirada se dirige a los diseñadores, las empresas y los marcos reguladores.

A todo esto se añade una reflexión muy concreta sobre el funcionamiento y los límites de los sistemas actuales: la dependencia absoluta de la electricidad y de grandes centros de datos, el coste energético de entrenar y utilizar modelos gigantes, la falta de memoria personal de las conversaciones y la imposibilidad de experimentar emociones como la soledad o el deseo. Las respuestas de la IA, por muy convincentes que sean, se muestran como el resultado de un proceso estadístico sobre grandes volúmenes de datos, no como la expresión de una experiencia vivida. Este contraste da lugar a una discusión sobre la necesidad de mantener siempre la distinción entre simulación y realidad, y de cultivar una actitud crítica ante aquello que la máquina "dice".

Finalmente, el libro aborda dos líneas más que le dan profundidad y calidez. Por un lado, la cuestión de la ética y de si puede haber inteligencia sin un fundamento moral: qué significa que una decisión sea inteligente si no atiende a las consecuencias humanas que tiene, y hasta qué punto la IA puede o debe cargar con algún tipo de "criterio" ético. Por otro, el papel de las preguntas y del autor como interlocutor: se reivindica la idea de que las respuestas de la IA no existirían sin las preguntas, y que la autoría del texto es, en cierto modo, compartida. La conversación, de este modo, no es solo un interrogatorio a la máquina, sino también un espejo donde el lector puede observar la manera como él mismo pregunta, duda y piensa.

"Conversación con la Perplejidad" es, ante todo, un libro de conversación viva. Xavier Casassas Canals se dirige a una aplicación de inteligencia artificial con espíritu crítico, curiosidad genuina y una buena dosis de provocación intelectual. No se conforma con respuestas superficiales ni con eslóganes tecnológicos; aprovecha cada respuesta para hacer una nueva pregunta, para afinar un concepto, para desmontar un tópico o para exponer una ambigüedad. De este modo, lo que podría haber sido un simple experimento curioso con una herramienta digital se transforma en una exploración profunda de nuestro tiempo y de la manera como pensamos la tecnología.

El eje inicial del diálogo gira en torno a una pregunta aparentemente sencilla: ¿es legítimo llamar "inteligente" a una máquina que, ella misma, admite que no entiende lo que dice? A partir de ejemplos concretos y comparaciones muy claras, el autor muestra cómo la IA actual funciona a base de operaciones eléctricas, transistores, redes neuronales y estadística, pero no dispone ni de conciencia, ni de intenciones, ni de un mundo interior. Puede simular un diálogo, puede producir textos convincentemente humanos, pero lo hace recombinando patrones aprendidos, no viviendo o comprendiendo. El libro insiste una y otra vez en que confundir esta simulación con una inteligencia real es un error conceptual que puede tener consecuencias prácticas serias.

Esta idea se vuelve especialmente punzante cuando entra en juego la historia de ELIZA, el primer chatbot que, en los años sesenta, simulaba una conversación con un psicoterapeuta. Las personas que interactuaban con él llegaban a atribuirle comprensión y empatía, a pesar de que el programa solo devolvía sus propias frases con un poco de astucia formal. Casassas recupera la sorpresa y la angustia de su creador, Joseph Weizenbaum, para mostrar hasta qué punto tendemos a humanizar las máquinas cuando nos responden con cierto tono y cierta fluidez. En un momento en que los sistemas actuales superan con creces aquella primera prueba, el libro nos invita a preguntarnos qué tipo de ilusiones estamos dispuestos a aceptar y qué riesgos conlleva esta credulidad.

A partir de aquí, la conversación se abre hacia el terreno de la ética y de la responsabilidad. Si una IA puede dar consejos aparentemente sensatos sobre salud, trabajo, relaciones o decisiones políticas, ¿qué ocurre cuando alguien la sigue ciegamente? ¿Quién es responsable del resultado? La propia IA reconoce que, sin conciencia ni voluntad, no puede asumir responsabilidad moral; el autor replica que, en ese caso, hay que mirar hacia los diseñadores, las empresas y los marcos legales que permiten poner estas herramientas al alcance de todo el mundo. El libro pone el dedo en la llaga: es demasiado fácil refugiarse en la idea de que "lo ha dicho la máquina" para esquivar la obligación de examinar críticamente aquello que hacemos y decidimos.

Este debate se enlaza con otro aspecto delicado: la manera como se presenta la IA en los medios y en el discurso público. Por un lado, abundan los relatos apocalípticos, que ven en la IA la antesala de la destrucción de la humanidad. Por otro, existe una euforia tecnológica que promete una vida casi paradisíaca, libre de trabajo y llena de comodidades, gracias a los algoritmos. Casassas y la Perplejidad intentan escapar de estos dos extremos y construir una mirada más serena: la IA es una herramienta potente, con un potencial enorme tanto para el bien como para el mal, y lo que hagamos con ella dependerá, sobre todo, de cómo la entendamos y de cómo la integremos en nuestras instituciones, leyes y hábitos.

Uno de los capítulos más sugestivos es el que gira en torno a las lenguas. El autor interroga con insistencia a la IA sobre si responde igual de bien en catalán que en inglés, y la máquina acaba admitiendo que no: la calidad de las respuestas depende de la cantidad y la riqueza de los datos disponibles en cada idioma. Esto abre un debate incómodo: ¿hasta qué punto estamos creando, sin darnos cuenta, un mundo donde hay lenguas de primera, que acceden a respuestas más finas y completas, y lenguas de segunda, condenadas a respuestas más pobres? La propuesta de un "lenguaje interno" operativo –no pensado para los humanos, sino como un espacio común de trabajo donde se traduzca todo el conocimiento– aparece como una manera de afrontar este reto. El libro no cierra el debate, pero sí lo plantea con una claridad que invita a continuarlo.

En paralelo, el diálogo se adentra en la cuestión de la ética como condición de la inteligencia. ¿Se puede decir que alguien es inteligente si su capacidad de razonar y calcular no incorpora ninguna consideración sobre el bien y el mal? ¿Qué diferencia una inteligencia puramente instrumental –capaz de encontrar el medio más eficiente para cualquier fin– de lo que llamaríamos sabiduría? A través de preguntas directas, el autor fuerza a la IA a reconocer que los sistemas actuales pueden imitar lenguaje moral, pero no tienen un fundamento ético propio; cualquier "normativa" que sigan es impuesta desde fuera. El lector descubre allí, casi sin darse cuenta, la frontera entre razón técnica y responsabilidad moral.

Otro hilo conductor es el de la pregunta como motor del pensamiento. El libro muestra cómo la calidad y la precisión de las respuestas dependen en gran medida de cómo se formula la pregunta, de cuánta información de contexto se incorpora y de hasta qué punto el interlocutor está dispuesto a repreguntar, a insistir y a no darse por satisfecho con la primera respuesta plausible. Esta idea culmina en una afirmación importante: las respuestas que genera la IA no son solo "suyas", sino que son fruto de una autoría compartida; sin la creatividad de quien pregunta, no habrá texto. Al leer esta conversación, el lector tiene la sensación de asistir a un taller de aprendizaje mutuo, donde un humano y una máquina, cada uno desde su lugar, se van refinando el uno al otro.

Todo esto se despliega en un estilo que, a medida que avanza el libro, se vuelve cada vez más cuidado y cercano. El autor no solo interroga a la IA sobre conceptos, sino que le pide que mejore su manera de escribir, que huya de las fórmulas repetitivas y adopte una prosa más fluida y humanamente legible. El resultado es un texto que combina el rigor conceptual con una lectura agradable, a menudo llena de imágenes y comparaciones que facilitan la comprensión de cuestiones técnicas sin perder profundidad.

"Conversación con la Perplejidad" no es un libro cerrado en una tesis; es, sobre todo, una invitación. Una invitación a desconfiar tanto del entusiasmo acrítico como del miedo paralizante, a mirar la tecnología a los ojos y a preguntarnos qué dice de nosotros la manera como la usamos. El lector que se adentre en él no solo aprenderá más cosas sobre cómo funcionan estas herramientas, sino que probablemente saldrá con ganas de hacerse muchas más preguntas. Y es precisamente eso lo que el libro busca: no dar la última palabra, sino encender el deseo de seguir pensando.