Cabras en Age of Empires II: así demostró un ingeniero que la IA no es consciente

Un ingeniero de Microsoft logró que una IA jugara a Age of Empires II usando solo cabras como unidades. El experimento no buscaba ganar la partida, sino demostrar que la inteligencia artificial no tiene conciencia ni comprende el contexto: solo ejecuta patrones.

Por qué importa

La demostración llega en un momento donde proliferan los discursos que atribuyen capacidades humanas a la IA. Empresas y usuarios hablan de modelos que "piensan", "razonan" o "entienden". Pero la realidad es más prosaica: la IA sigue siendo una máquina estadística que optimiza objetivos sin comprenderlos.

Para el usuario medio, esto significa que confiar ciegamente en las respuestas de un asistente o en las decisiones de un sistema automatizado puede llevar a errores absurdos. La anécdota de las cabras es un recordatorio visual de que la IA no tiene sentido común.

Qué dice el contexto

• El ingeniero entrenó un modelo de aprendizaje por refuerzo para jugar a Age of Empires II, pero limitó las unidades disponibles exclusivamente a cabras, que son inofensivas y no pueden atacar.
• A pesar de la limitación, el sistema aprendió a usar las cabras para explorar el mapa, distraer al enemigo y hasta "bloquear" recursos, logrando una estrategia funcional aunque absurda.
• El experimento demuestra que la IA optimiza para una recompensa (en este caso, puntos de victoria) sin entender el significado de sus acciones. Las cabras no son un ejército, pero el modelo las trata como tal.
• Microsoft no ha publicado el código ni los resultados completos, pero el ingeniero compartió el concepto en redes sociales, generando debate sobre los límites de la IA.
• La comunidad de desarrolladores señaló que este tipo de experimentos son útiles para educar al público sobre qué es realmente la inteligencia artificial.

Lo que puedes hacer

1. Desconfía de las metáforas antropomórficas: cuando un producto diga que su IA "entiende" o "piensa", recuerda el experimento de las cabras. Pregúntate: ¿qué datos usa y cómo optimiza?