Ingeniería de contexto: cómo simula la memoria la IA

TL;DR. La IA no tiene memoria como la humana: la aplicación le vuelve a pasar los datos anteriores en cada mensaje mediante la ingeniería de contexto. Esa ventana es limitada, así que resume o descarta información y a veces recupera el dato equivocado. Por eso a veces parece que olvida lo que le dijiste. Conviene revisar qué datos guarda y saber corregirlos.

Una situación cotidiana: organizando un viaje

Imagine que lleva dos semanas utilizando una aplicación de inteligencia artificial para organizar sus vacaciones de verano. En la primera sesión, usted le indicó un presupuesto de 2.000 euros, su preferencia por destinos de playa y fechas para agosto. Una semana después, decide ampliar el presupuesto a 3.000 euros y cambiar las fechas a septiembre porque los vuelos son más baratos.
Al día siguiente, al retomar la charla, la IA le propone un hotel de lujo en una isla, pero lo hace basándose en las fechas de agosto que usted ya descartó. Usted se pregunta: “¿Por qué ha olvidado la fecha si ayer hablamos de septiembre, pero sí recuerda que quiero playa?”. La respuesta no está en una “memoria” similar a la humana, sino en cómo la aplicación gestiona la información que tiene a su alcance 1, 2.

Por qué parece que una IA recuerda

La sensación de continuidad que experimentamos al interactuar con una IA no se debe a que el modelo esté “aprendiendo” de nosotros en tiempo real 3. En realidad, la aplicación que utilizamos realiza un trabajo de “ingeniería de contexto” entre bastidores 4, 5.
Cada vez que enviamos un mensaje, la aplicación no solo envía ese texto al modelo de IA; también vuelve a introducir parte de la conversación anterior, datos de nuestro perfil o documentos que hayamos subido 6, 7. La IA parece recordar porque la aplicación le proporciona los “apuntes” necesarios justo antes de que responda a nuestra última pregunta 3.

Las cuatro cosas que el usuario suele llamar memoria

Es común confundir diferentes fuentes de datos bajo el término general de “memoria”, pero para la tecnología son procesos distintos:

1. Información de entrenamiento: Son los conocimientos generales que la IA adquirió durante su creación (como saber qué es una playa o dónde está Italia). Es estática y tiene una fecha de corte 8, 9.
2. Información de la conversación actual: Es el hilo de mensajes que estamos intercambiando en este momento 7.
3. Datos guardados sobre el usuario: Información persistente que la aplicación decide conservar de forma externa, como nuestras preferencias declaradas en el perfil 10, 11.
4. Información recuperada: Datos que el sistema busca en documentos o bases de datos externas (técnica conocida como RAG) para complementar la respuesta 6, 12.

Qué es la ventana de contexto

Para entender la capacidad de atención de una IA, debemos hablar de la ventana de contexto. Imagine que la IA trabaja en un escritorio donde solo cabe una cantidad limitada de papeles. Todo lo que esté sobre el escritorio es lo que la IA puede “ver” y procesar para respondernos en ese instante 13, 14.
La unidad de medida en este espacio no son las palabras, sino los tokens. Los tokens son fragmentos de texto (palabras, sílabas o caracteres) que el modelo procesa de forma numérica 13, 15. Si una ventana de contexto tiene capacidad para 200.000 tokens, equivale a unas 500 páginas de material que la IA puede considerar a la vez 16.

Por qué contexto largo no significa recuerdo perfecto

Tener un escritorio muy grande (una ventana de contexto amplia) no garantiza que la IA utilice toda la información correctamente. Una investigación titulada Lost in the Middle (Perdido en el medio) demostró que los modelos suelen ser muy buenos utilizando la información que aparece al principio o al final del contexto, pero su rendimiento disminuye drásticamente cuando el dato relevante se encuentra en la mitad de un texto largo 17.
En nuestro ejemplo del viaje, si la actualización del presupuesto a 3.000 euros quedó enterrada en el centro de una conversación muy extensa, es probable que la IA ignore ese dato y use el presupuesto inicial 17.

Qué ocurre cuando una conversación crece

A medida que la charla avanza, el número de tokens aumenta y acaba por llenar la ventana de contexto. Cuando esto ocurre, el modelo empieza a perder precisión o a experimentar “confusión” 15. Según explica Anthropic en sus materiales sobre ingeniería de contexto, es necesario aplicar estrategias para gestionar este recurso finito 4, 18:

• Resumen o compactación: La aplicación toma los mensajes antiguos, extrae los detalles críticos y crea un resumen corto que sustituye al historial detallado 19.
• Eliminación: Se descartan partes de la conversación que se consideran poco relevantes, como resultados de búsquedas anteriores o saludos 20.

Cómo puede una aplicación guardar información fuera de la conversación

Cuando la información es demasiado voluminosa para estar siempre “sobre el escritorio”, las aplicaciones utilizan una memoria externa 9, 21.
Una arquitectura de investigación llamada MemGPT propone gestionar la IA como si fuera un sistema operativo 14, 22. En este modelo, existe una “memoria principal” (la ventana de contexto rápida) y un “almacenamiento externo” (una base de datos lenta) 14. La aplicación mueve datos entre estos dos espacios según sea necesario, permitiendo que la IA parezca recordar detalles de sesiones mantenidas hace meses sin saturar su espacio de trabajo actual 14.

Cómo se recupera después esa información

El proceso de traer datos del almacenamiento externo al escritorio de la IA se llama recuperación 6, 12. Cuando usted hace una pregunta, el sistema busca en su base de datos fragmentos que coincidan con su duda y se los entrega al modelo junto con su mensaje 23, 24. Anthropic señala que este proceso puede ser “bajo demanda” (justo a tiempo), donde el modelo utiliza herramientas para buscar activamente en archivos específicos solo cuando lo necesita 25, 26.

Diferencia entre guardar, recuperar y comprender

Es vital distinguir estos tres pasos:

• Guardar: Es un acto técnico de almacenamiento de datos en un disco duro 14.
• Recuperar: Es el proceso de búsqueda y entrega de esos datos al modelo 6.
• Comprender: Es la capacidad del modelo para razonar sobre esa información una vez que está dentro de su ventana de contexto 27, 28.

Que un sistema haya guardado su cambio de presupuesto no significa que la IA lo “comprenda” permanentemente; solo podrá razonar sobre ello si el sistema de recuperación lo pone ante sus ojos en el momento adecuado 29.

Ejemplo de una conversación de varias semanas

Volvamos al viaje. Usted lleva semanas interactuando:

1. Semana 1: Indica presupuesto de 2.000€ y agosto. La aplicación guarda esto en su “historial” 7.
2. Semana 2: Cambia a 3.000€ y septiembre. La aplicación genera un resumen (compactación) de la charla 19.
3. Semana 3: Pregunta por hoteles. El sistema realiza una recuperación de sus preferencias 6.
4. El fallo: El sistema recupera el registro antiguo de agosto porque estaba mejor posicionado o el resumen no se actualizó correctamente 17, 30. Usted cree que la IA “ha olvidado”, pero en realidad es un fallo en la selección de los apuntes que se le han entregado 6, 31.

Fallos posibles del sistema

La continuidad de la IA puede fallar por varios motivos documentados:

• Olvidar una condición: El dato se salió de la ventana de contexto por ser muy antiguo 32.
• Recuperar un dato equivocado: El buscador interno se confunde con palabras similares 31.
• Información no válida: Se conserva el presupuesto de 2.000€ ignorando la corrección posterior de 3.000€ 30.
• Resumen incorrecto: La aplicación compactó la charla y omitió que usted ya no quería ir en agosto 31.
• Mezclar tareas: Datos de un viaje anterior a la montaña aparecen en la planificación de la playa 31.

Privacidad y control del usuario

Dado que las aplicaciones guardan datos para simular memoria, surgen riesgos de privacidad. Las IAs pueden “memorizar” datos sensibles presentes en el entrenamiento o inferir información privada cruzando datos de distintas fuentes 33. El marco de gestión de riesgos de NIST destaca la importancia de saber qué información se está recolectando y cómo se protege 34, 35.

Preguntas que el usuario debe hacerse

Para proteger su información, es recomendable verificar en la configuración de la aplicación:

• ¿Qué datos se están guardando de mis sesiones? 36
• ¿Dónde se almacena este historial? 37
• ¿Durante cuánto tiempo se conservan mis preferencias? 37
• ¿Cómo puedo corregir un dato que la IA cree recordar mal? 38
• ¿Cómo puedo eliminar mi historial de forma permanente? 38

Cierre

La inteligencia artificial no tiene una biografía ni recuerda sus experiencias vitales. Lo que percibimos como memoria es un proceso logístico donde una aplicación selecciona, resume y le entrega información al modelo en cada turno de la conversación. Esta continuidad es una herramienta útil, pero siempre es susceptible de ser incompleta o estar desactualizada.

Fuentes utilizadas

• Building Effective AI Agents. Anthropic. Diciembre 2024.
• Contextual Retrieval in AI Systems. Anthropic. Septiembre 2024.
• Effective Context Engineering for AI Agents. Anthropic. Septiembre 2025.
• MemGPT: Towards LLMs as Operating Systems. Charles Packer et al. Octubre 2023.
• Lost in the Middle: How Language Models Use Long Contexts. Nelson F. Liu et al. Julio 2023.
• NIST AI 600-1: Generative AI Profile. National Institute of Standards and Technology. Julio 2024.
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Patrick Lewis et al. Mayo 2020.
• RAGTruth: A Hallucination Corpus for Developing Trustworthy RAG Models. Cheng Niu et al. Diciembre 2023.

Resumen de la guía

La IA no posee memoria humana; las aplicaciones simulan continuidad reintroduciendo datos pasados en la “ventana de contexto”. Este espacio es limitado y se mide en tokens, lo que obliga al sistema a resumir o descartar información, pudiendo provocar errores u olvidos. La eficacia del “recuerdo” depende de cómo la aplicación guarda y recupera datos externos (RAG) y de evitar fallos de posicionamiento de la información. La supervisión y el control de la privacidad por parte del usuario son fundamentales.

Tabla de verificación

📄 Esta guía también está disponible en formato PDF para consulta offline.