Is it necessary that the relevant structures be biological in nature (brains), or might minds equally well be associated with pieces of electronic equipment?
¿Es necesario que las estructuras relevantes sean de naturaleza biológica (cerebros), o las mentes podrían igualmente estar asociadas con piezas de equipo electrónico?
—Roger Penrose, La nueva mente del emperador
Hoy en día, la inteligencia artificial (IA) es uno de los temas más interesantes y debatidos. La inmensa capacidad y potencial que muestran estos sistemas computacionales han alimentado la idea de que estamos frente a máquinas inteligentes. Sin embargo, esta creencia guarda una trampa semántica: atribuirles inteligencia en el sentido humano del término, cuando en realidad lo que hacen es procesar información a partir de algoritmos complejos sin una comprensión genuina del significado de sus acciones.
Además, lo anterior parte de una ambigüedad fundamental: ¿a qué llamamos inteligencia? A lo largo de la historia, la inteligencia ha sido definida de muchas maneras y, a menudo, contradictorias. Algunos psicólogos incluso la han reducido irónicamente a “lo que miden las pruebas de inteligencia”, una tautología que revela la falta de consenso real sobre su naturaleza. En este vacío conceptual, la inteligencia artificial ha encontrado espacio para presentarse como algo más de lo que tal vez es. Pero ¿es correcto llamar “inteligente” a un sistema que carece de conciencia, intencionalidad y comprensión?
Uno de los argumentos más convincentes contra la comparación entre la actividad de una IA y la inteligencia humana es el famoso experimento mental de la "habitación china" propuesto por John Searle. En este experimento, Searle imagina a una persona que, sin saber chino, sigue instrucciones precisas para manipular símbolos de forma que simula una conversación coherente en ese idioma. Aunque desde fuera pareciera que "entiende" chino, en realidad solo está siguiendo reglas sin comprender nada. Este escenario es análogo a lo que hace la IA: operar con sintaxis sin semántica, calcular sin comprender. La apariencia de inteligencia no garantiza la existencia de una mente consciente detrás del proceso.
Esta distinción entre simulación y comprensión también puede verse en una observación del físico Roger Penrose, quien señala que “is not easy to ascertain what an algorithm actually is, simply by examining its output” (no es fácil determinar qué es realmente un algoritmo, simplemente examinando su resultado). En otras palabras, la complejidad de los resultados generados por una máquina no revela necesariamente la existencia de una mente ni de inteligencia como la entendemos en los seres humanos. Solo porque un sistema sea capaz de producir respuestas complejas o creativas no implica que comprenda lo que hace o por qué lo hace.
Desde una perspectiva psicológica, esta trampa semántica recuerda una crítica central a la teoría conductual clásica: el reduccionismo de entender al ser humano únicamente a través de su conducta observable. Al igual que los conductistas iniciales despreciaban la vida mental interna por ser inobservable, atribuir inteligencia a una IA basándose exclusivamente en su output ignora todo lo que ocurre (o no ocurre) dentro del sistema. Esta visión superficial limita nuestra comprensión de lo que implica verdaderamente ser inteligente, ya que deja fuera aspectos esenciales como la conciencia, la emoción y la intencionalidad.
En esa línea, las investigaciones del neurocientífico Antonio Damasio refuerzan la idea de que los sentimientos —entendidos como la experiencia subjetiva de los estados corporales— son una base indispensable para la conciencia y, por tanto, para una inteligencia verdaderamente humana. Para Damasio, la capacidad de sentir es lo que permite la toma de decisiones complejas, la construcción del yo y la adaptación flexible al entorno. Las IAs actuales, por más sofisticadas que sean, carecen por completo de esta dimensión afectiva y corporal. No sienten, no padecen, no tienen historia emocional. Por ende, su "inteligencia" está desconectada de los fundamentos más profundos de la mente humana.
Frente a todo esto, quizás lo más honesto sea reconocer que la inteligencia artificial no es realmente “inteligente”, sino ingeniosa. Es el producto de una ingeniería humana brillante, capaz de simular con precisión asombrosa ciertos aspectos del pensamiento. Pero simular no es igual a ser. En esa confusión semántica —entre simular y comprender, entre output y conciencia— se esconde una de las trampas más grandes de nuestro tiempo.
Nombrar algo tiene poder, pues moldea cómo lo entendemos y cómo nos relacionamos con ello. Llamar inteligente a la IA no solo es conceptualmente impreciso, sino que puede llevar a decisiones éticas, sociales y políticas basadas en una ilusión. Frente al avance imparable de estas tecnologías, más que nunca necesitamos claridad, lo que significa saber distinguir entre lo que algo es y lo que aparenta.
Fuentes de consulta:
Damasio, A. (2022). El extraño orden de las cosas: La vida, los sentimientos y la creación de las culturas. Booket.
Penrose, R. (2007). La nueva mente del emperador. Debolsillo.
Searle, J. (2010). Minds, brains, and programs. Cambridge University Press.
Que acertado