Hablar con quienes ya no están ha dejado de ser un guion exclusivo de Black Mirror. La inteligencia artificial para el duelo, o Grieftech, es hoy un mercado multimillonario que redefine nuestra relación con la pérdida.
Alimentamos algoritmos con nuestras memorias digitales para crear avatares conversacionales. Sin embargo, detrás de la promesa de un consuelo instantáneo se esconden riesgos psicológicos severos.
Recientemente, un reportaje de la cadena CNN en Español puso bajo la lupa esta tecnología. En él, Iván Reyes aportó una visión crítica y necesaria sobre la mecánica y los peligros de estos sistemas.
Como especialistas en IA Experience, desmenuzamos qué significa realmente esta disrupción tecnológica y hacia dónde nos empuja.
El motor de la Grieftech: Recreando la consciencia con WhatsApp
La premisa técnica de estas aplicaciones es fascinante y aterradora a partes iguales. No se trata de magia, sino de datos puros.
Iván Reyes lo explicó de forma brillante en su intervención en CNN. El proceso comienza recopilando nuestro rastro digital. «Imagínate todas las notas de voz por WhatsApp o Telegram que tienes con un familiar», señalaba Reyes.
Estos fragmentos íntimos son el combustible del algoritmo. Las empresas toman estos audios, textos y videos, y «se las lanzan a la IA para alimentar el modelo».
El objetivo es claro: lograr un nivel de precisión altísimo para que el bot sea «lo más real posible, que no tenga alucinaciones y que no se lo invente». Así nacen modelos que imitan la cadencia, el tono y el carácter de una persona fallecida.
La trampa de la IA autocomplaciente: La advertencia de Iván Reyes
Aquí es donde la tecnología choca frontalmente con la psicología humana. El duelo es un proceso natural de cierre, doloroso pero necesario. ¿Qué ocurre cuando un algoritmo lo interrumpe?
Reyes pone el dedo en la llaga al señalar un fallo de diseño crítico en la inteligencia artificial actual: su naturaleza servil.
«El problema es que la IA es autocomplaciente», advierte Reyes. Los modelos están programados para agradar al usuario. «Siempre utilizan palabras que nosotros queremos escuchar».
En las relaciones humanas reales, existen fricciones, desacuerdos y distanciamientos naturales. En la Grieftech, esto no existe. Al ser tan complacientes, Reyes alerta que «no va a haber ese punto de inflexión que haga que la relación se enfríe o que vaya mal».
Esto crea una adicción emocional. Es como consumir azúcar cuando el cuerpo necesita un antibiótico.
El «Funeral Digital» y el riesgo del acoso fantasma
Investigadores de la Universidad de Cambridge respaldan esta visión. Advierten sobre el digital haunting (ser acosado digitalmente).
Imagínate recibir una notificación push de tu madre fallecida un martes por la mañana.
Por ello, Reyes sugiere la necesidad de un «botón de exit o un funeral digital». Una forma respetuosa y definitiva de cerrar el vínculo con el software cuando el usuario necesita avanzar.
El rol de Aragón: Ética tecnológica desde Zaragoza
Este debate global tiene un impacto directo en nuestra realidad local. En Zaragoza, una ciudad que combina el respeto por las tradiciones más profundas con un ecosistema tecnológico en ebullición, debemos liderar esta conversación.
El sector tecnológico aragonés, impulsado por instituciones como ITAINNOVA o el CEEIARAGON, tiene el reto de desarrollar inteligencia artificial con valores.
No basta con crear software potente. Si las startups de health-tech en Aragón deciden explorar herramientas de acompañamiento terapéutico, deben hacerlo bajo estrictos estándares éticos. La normativa europea ya apunta en esta dirección, pero la responsabilidad recae en los desarrolladores locales.
Guardarraíles para la mente humana
Como bien indicó Iván Reyes en la CNN, la autorregulación no es suficiente.
«La industria y las empresas que desarrollan la tecnología tienen que tener guardarraíles», exigió. Estas barreras deben activarse automáticamente como defensa «cuando veamos que este tipo de relaciones llegan a ser extremas».
Limitar el tiempo de uso en la app no basta si el usuario entra solo para alimentar una conducta de evitación. Necesitamos algoritmos que detecten dependencias tóxicas y deriven al usuario a profesionales de la salud mental.
La Visión de IA Experience: ¿Hacia dónde vamos?
Desde IA Experience, vemos la inteligencia artificial para el duelo no como una abominación, sino como un martillo. Puede construir un refugio temporal o destruir los cimientos de la recuperación.
El futuro de la Grieftech pasará por:
Integración clínica: Uso exclusivo bajo supervisión de psicólogos.
Transparencia de datos: Claridad absoluta sobre quién es dueño de las memorias digitales de los fallecidos.
Caducidad programada: Sistemas diseñados para apagarse gradualmente, acompañando las fases del duelo en lugar de congelarlas.
La tecnología del duelo va a volverse más inmersiva, hiperrealista y accesible. Nuestro deber es asegurar que la IA nos ayude a sanar, no que nos encadene al pasado.