Un artículo de 1974 explica por qué la IA no tendrá conciencia

En 1974, el filósofo Thomas Nagel publicó un artículo de 12 páginas que sigue siendo el mayor obstáculo teórico para la inteligencia artificial consciente. Su argumento: no importa cuánto sepamos sobre el cerebro de un murciélago, nunca sabremos cómo se siente ser un murciélago.

Por qué importa

Cada vez que una empresa anuncia una IA "consciente" o "con sentimientos", choca contra el problema de Nagel. La conciencia no es un conjunto de datos ni un algoritmo: es una experiencia subjetiva de primera persona. No hay forma de verificarla desde fuera.

Para el minimalismo digital, esto es liberador. Si la conciencia es inaccesible por definición, entonces el hype de la IA consciente es humo. No necesitas preocuparte por "competir" con una máquina que siente. Tu foco profundo sigue siendo un recurso escaso y valioso.

Qué dice el contexto

• Nagel usa el murciélago porque usa ecolocalización: un sentido completamente ajeno a los humanos. Así muestra que la experiencia subjetiva puede ser radicalmente diferente.
• El artículo argumenta que la conciencia tiene un "carácter subjetivo" que no se reduce a descripciones objetivas. No importa cuántos datos recojas: siempre habrá un "qué se siente" que se escapa.
• Este problema se conoce como "the hard problem of consciousness" (el problema duro de la conciencia), acuñado por David Chalmers décadas después.
• Nagel no dice que sea imposible entender la conciencia, pero sí que requiere un cambio radical en nuestros métodos científicos actuales.
• El artículo sigue citándose en debates sobre IA, ética y filosofía de la mente. Es uno de los más citados del siglo XX.

Lo que puedes hacer

1. La próxima vez que leas "IA consciente", recuerda a Nagel. Pregunta: ¿cómo saben que es consciente? Si no pueden responder, es marketing.
2. Dedica 20 minutos a leer el artículo original (son 12 páginas). Te dará un filtro mental para evaluar cualquier afirmación sobre IA y conciencia.
3. Usa este argumento para priorizar tu atención: si la conciencia es subjetiva e intransferible, tu experiencia humana es el único lugar donde ocurre. Protégela.

“

En 1974, Nagel demostró que la conciencia no se puede reducir a datos. Cuanto más avanza la IA, más vigente está su argumento.