OpenAI le otorga una memoria propia a ChatGPT

Con esta nueva función, ChatGPT es ahora como una primera cita que nunca olvidará los detalles que le has contado sobre ti.

La promesa y el riesgo de internet siempre ha sido disponer de una memoria superior a la nuestra, un recuerdo permanente de la información y los acontecimientos que nuestro cerebro no es capaz de almacenar. Recientemente, las compañías tecnológicas han demostrado que los asistentes virtuales y los chatbots de inteligencia artificial (IA) se encargarían de parte de esta carga mnemotécnica, recordando y recordándonos. Es una visión de la web como una capa de conversación, más que como un repositorio.

Eso es lo que se supone que proporciona la última versión del bot conversacional de OpenAI. La empresa está empezando a implementar la memoria a largo plazo en ChatGPT, una función que mantiene un recuerdo de quién eres, cómo trabajas y sobre qué te gusta hablar. Se llama simplemente Memoria (Memory) y es una prestación que potencia la herramienta de “instrucciones personalizadas” que OpenAI lanzó el pasado julio. Mediante estas, una persona le indica al chatbot que está conversando con un periodista especializado en tecnología que vive en el Área de la Bahía de San Francisco y al que le gusta surfear, y el asistente de IA tendrá en cuenta esa información en futuras respuestas dentro de esa conversación, como una primera cita que nunca olvida los detalles.

En qué consiste la Memoria de ChatGPT

Con esta actualización, la memoria de ChatGPT ahora perdura a través de múltiples chats. El servicio también recordará detalles personales de un usuario aunque este no le dé instrucciones personalizadas ni le diga directamente al chatbot que se acuerde de algo; simplemente recopila y almacena los detalles a medida que avanzan las conversaciones. Esto funcionará tanto en la versión gratuita, ChatGPT 3.5, como en la de pago, ChatGPT 4.

En una demostración para WIRED antes del lanzamiento de la función, Joanne Jang, jefa de producto de la compañía para el comportamiento de los modelos, introdujo algunas consultas de prueba. En una, Jang le pidió a ChatGPT que escribiera un post en redes sociales para la inauguración el Día de San Valentín de una cafetería llamada “Catio”; el bot realizó la tarea. En otra publicación, Jang le indicó que ella abriría una cafetería llamada “Catio” en esa fecha. Posteriormente navegó hasta Memoria en la configuración de ChatGPT; el bot había almacenado esta información sobre ella. Del mismo modo, cuando Jang solicitó una sugerencia de codificación y luego señaló que utilizaba Python, ChatGPT registró en su Memoria que Jang emplea exclusivamente esta plataforma de programación.

Estos datos se incluirán en todas las conversaciones futuras de Jang con ChatGPT. Aunque no haga referencia a Catio directamente en otra charla, el chatbot de IA lo mencionará cuando sea pertinente.

OpenAI indica que la Memoria de ChatGPT está activada por defecto, lo que significa que el usuario tiene que deshabilitarla manualmente. Es posible borrarla en cualquier momento, ya sea en la configuración o simplemente indicando al bot que la suprima. Una vez eliminada, esa información no se utilizará para entrenar su modelo. No está claro exactamente cuántos de esos datos personales se emplean para entrenar a la IA mientras alguien está hablando con el chatbot. Y desactivar la Memoria no significa que hayas descartado por completo que tus chats entrenen a ChatGPT.

La compañía también aclara que no almacenará cierta información sensible en la Memoria. Si le dices a ChatGPT tu contraseña (no lo hagas) o tu número de Seguridad Social (tampoco hagas esto), la aplicación es afortunadamente olvidadiza. Jang también destaca que OpenAI sigue solicitando retroalimentación sobre si otros datos de identificación personal, como el origen étnico de un usuario, resultaría demasiado confidencial para que la empresa los recopile automáticamente.

“Creemos que existen muchos casos útiles para ese ejemplo, pero por el momento hemos entrenado al modelo para que no recuerde proactivamente esa información”, afirma Jang.

El rastro de todas tus consultas en ChatGPT

Es fácil ver de qué manera la función Memoria de ChatGPT podría salir mal, en casos en los que un usuario haya olvidado que alguna ocasión le preguntó al chatbot sobre un fetiche, una clínica para abortos o una forma no violenta de tratar a la suegra, solo para que se lo recuerden tiempo después o para que otros lo vean en un chat futuro. El modo en que esta prestación gestiona los datos relativos a la salud también es una incógnita. “Evitamos que ChatGPT guarde cierta información médica, pero es todavía un trabajo en desarrollo”, resalta Niko Felix, vocero de OpenAI. En este sentido, ChatGPT es el mismo cantar, solo que en una nueva era, sobre la permanencia de lo que realizas y buscas en internet: disfruta de esta nueva y estupenda función de Memoria, hasta que sea vuelva un problema.

OpenAI tampoco es la primera entidad que juega con la memoria en la IA generativa. Google ha hecho hincapié en la tecnología “multiturnos” en Gemini 1.0, su propio gran modelo de lenguaje. Esto significa que es posible interactuar con Gemini Pro mediante una consulta de un solo turno, un ir y venir de preguntas y respuestas entre el usuario y el chatbot, o mantener una conversación continua de varios turnos en la que el bot “recuerde” el contexto de los mensajes anteriores.

Una firma de frameworks de IA llamada LangChain ha estado desarrollando un módulo de Memoria que ayuda a los grandes modelos de lenguaje (LLM, por sus siglas en inglés) a recordar interacciones previas entre un usuario final y el modelo. Dotar a los LLM de memoria a largo plazo “sería muy eficaz para crear experiencias únicas: un chatbot empezaría a adaptar sus respuestas hacia ti como individuo basándose en lo que ya sabe”, opina Harrison Chase, cofundador y CEO de LangChain. “La falta de memoria a largo plazo también generaría una experiencia irritante. Nadie quiere decirle una y otra vez a un chatbot mientras le pide una recomendación de restaurantes que es vegetariano”.

A veces se hace referencia a esta tecnología como “retención de contexto” o “contexto persistente” en lugar de “memoria”, pero el objetivo final es el mismo: que la interacción persona-computadora sea tan fluida, tan natural, que el usuario olvide fácilmente lo que el chatbot es capaz de recordar. Esto también es una ventaja potencial para las empresas que recurren a estos chatbots y quieren mantener una relación continua con el cliente que está del otro lado.

“Podemos pensar que se trata de una serie de tokens que se añaden a tus conversaciones”, explica Liam Fedus, investigador científico de OpenAI. “El bot posee cierta inteligencia y tras bambalinas busca en los recuerdos y dice ‘estos parecen relacionarse; déjame fusionarlos’. Y eso irá a tu presupuesto de tokens”.

Fedus y Jang sostienen que la memoria de ChatGPT no se acerca ni de lejos a la capacidad del cerebro humano. Y sin embargo, casi al mismo tiempo, Fedus aclara que la memoria de ChatGPT se ve limitada por el consumo de “unos pocos miles de tokens”.

¿Es este el asistente virtual hipervigilante que se prometió a los consumidores de tecnología durante la última década, o simplemente otro esquema de captura de datos que se vale de tus gustos, preferencias e información personal para satisfacer más a una empresa tecnológica que a sus usuarios? Posiblemente ambas cosas, aunque OpenAI no lo vea así. “Los asistentes del pasado no tenían la inteligencia necesaria”, señaló Fedus, “y ahora lo estamos consiguiendo”.

Texto publicado originalmente en WIRED. Adaptado por Andrei Osornio.