Between innovation and law: the compliance of deathbots with the AI Act
Abstract
Immortality has been one of the dreams of every society. With the arrival of artificial intelligence, a battle is created between human nature and fiction, but also between innovation and law. In this context, it is worth asking whether the creation of deathbots or avatars by dumping data of deceased people, with the aim of simulating their permanence on earth, respects the content of the European artificial intelligence regulation. Thus, it will be evaluated whether, based on the regulation’s classification, this practice should be prohibited or, on the contrary, allowed under certain parameters. This work will therefore focus on studying the legal implications of emulating a conversation with the deceased
Keywords:
deathbots, data protection, artificial intelligence, griefReferences
AGUSTINOY, Albert, «Griefbots: la resurrección artificial del fallecido». Disponible en: https://www.cuatrecasas.com/es/spain/propiedad-intelectual/art/griefbots-resurreccion-artificial-fallecidos
ALKORTA IDIAKEZ, Itziar, «La regulación de los productos sanitarios con Inteligencia Artificial», Tirant lo Blanch, Valencia, 2025.
BARRIO ANDRÉS, Moisés, Comentarios al Reglamento Europeo de Inteligencia Artificial, La Ley, Madrid, 2024.
— Manual de derecho digital, Tirant lo Blanch, Valencia, 2024.
CÁMARA LAPUENTE, Sergio, «La sucesión mortis causa en el patrimonio digital», El Notario del siglo XXI (2019), núm. 84, pp. 375-432.
COMISIÓN EUROPEA, «Libro blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza», 2020. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0065
CONSEJO DE EUROPA, «Consultative committee of the convention for the protection of individuals with regard to automatic processing of personal data», 2019. Disponible en: https://rm.coe.int/guidelines-on-artificial-intelligence-and-data-protection/168091f9d8
CONSEJO DE LA UNIÓN EUROPEA, «Reglamento de Inteligencia Artificial: el Consejo y el Parlamento alcanzan un acuerdo sobre las primeras normas del mundo en materia de inteligencia artificial», consilium.europa.eu, 9 de diciembre de 2023. Disponible en: https://www.consilium.europa.eu/es/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
CONSEJO EUROPEO, «Reglamento de inteligencia artificial». Disponible en: https://www.consilium.europa.eu/es/policies/artificial-intelligence/
ESCRIBANO COLLADO, Pedro, El derecho a la salud, Universidad de Sevilla, Sevilla, 2015.
FABRY, Regina E. y ALFANO, Mark, «The affective scaffolding of grief in the digital age: the case of deathbots», Topoi, vol. 43 (2024), núm. 3, pp. 757-769.
GALLI, Federico, y NOVELLI, Claudio, «The many meanings of vulnerability in the AI Act and the one missing», BioLaw Journal (2024), núm. 1, pp. 53-72.
GAMERO CASADO, Eduardo, «El enfoque europeo de inteligencia artificial», Revista de derecho administrativo (2021), núm. 20, pp. 268-289.
GINEBRA MOLINS, María Esperança, «Voluntades digitales: disposiciones mortis causa», en AA.E. y CL.S., El derecho privado en el nuevo paradigma digital, Dykinson, Madrid, 2020, pp. 209-238.
GRUPO DE TRABAJO SOBRE PROTECCIÓN DE DATOS DEL ARTÍCULO 29, «Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679», 2017. Disponible en: https://www.aepd.es/documento/wp251rev01-es.pdf
GRUPO INDEPENDIENTE DE EXPERTO DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL, «Directrices éticas para una IA fiable», 8 de abril de 2019. Disponible en: https://digital-strategy.ec.europa.eu/es/library/ethics-guidelines-trustworthy-ai
HERNÁNDEZ LÓPEZ, José Manuel, Reglamento de inteligencia artificial, Bosch, Barcelona, 2024.
HERNÁNDEZ RAMOS, Mario, «El marco jurídico regulatorio europeo de la inteligencia artificial. La relación de complementariedad entre el reglamento de la UE y la convención marco del consejo de Europa», Revista Española de Derecho Europeo, 92, pp. 9-41.
HERRERA DE LAS HERAS, Ramón, Aspectos legales de la inteligencia artificial. Personalidad jurídica de los robots, protección de datos y responsabilidad civil, Dykinson, Madrid, 2022.
ITURMENDI RUBIA, José Miguel, «Inteligencia artificial y derechos humanos. Desafíos y oportunidades en la era digital», Deusto Journal of Human Rights (2024), núm. 14, pp. 11- 31.
KA YUK CHAN, Cecilia, y COLLOTON, Tom, Generative AI in higher education. The ChatGPT effect, Routledge, Nueva York, 2024.
KLÜBER-ROSS, Elisabeth y KESSLER, David, Sobre el duelo y el dolor, Luciérnaga Cas, Barcelona, 2016.
KUCHARAVY, Andrei; PLANCHEREL, Octave; MULDER, Valentin; MERMOUD, Alain y LENDERS, Vicent, Large language models in cybersecurity. Threats, exposure and mitigation, Springer, Cham, 2024.
KURPICZ-BRIKI, Mascha, More than a chatbot. Language models demystified, Springer, Cham, 2023.
LINDEMANN, Nora Freya, «The ethical permissibility of chatting with the dead: Towards a normative framework for Deathbots», Publications of the Institute of Cognitive Science, vol. 1 (2022), pp. 52 y 54.
LINERA, Miguel Ángel, «La propuesta de Ley de Inteligencia Artificial Europea», Revista de las Cortes Generales (2023), núm. 116, pp. 81-133.
LUNA, Florencia, «Elucidating the concept of vulnerability: Layers not labels», International journal of feminist approaches to bioethics, vol. 2 (200), núm.1, pp. 121-139.
MARTÍNEZ MARTÍNEZ, Nuria, «Reflexiones en torno a la protección post mortem de los datos personales y la gestión de la transmisión mortis causa del patrimonio digital tras la aprobación de la LOPDGDD», Derecho Privado y Constitución (2019), núm. 35, pp. 169-212.
MARTÍNEZ TORÁN, Manuel y Esteve Sendra, Chele, «Accesibilidad digital y discapacidad», Revista Española de Discapacidad, vol. 10 (2022), núm.2, pp. 11-133.
MCENTEE, Rory, Theology without walls. An interspiritual approach, en M.JL., Theology without walls, Routledge, Nueva York, 2020, pp. 85-97.
MIGUEZ MACHO, Luís, y Torres Carlos, Marcos, «Sistemas de IA prohibidos y sistemas de IA de alto riesgo», en BA. M., El reglamento europeo de Inteligencia Artificial, Tirant lo Blanch, Valencia, 2024.
MORALEJO IMBERNÓN, Nieves, «El testamento digital en la nueva Ley Orgánica 3/2018, de 5 de diciembre, de protección de datos personales y garantía de los derechos digitales», Anuario de derecho civil (2020), pp. 241-281.
NAVAS NAVARRO, Susana, «Herencia y protección de datos de personas fallecidas: a propósito del mal denominado «testamento digital»», Revista de derecho privado (2020), núm. 1, pp. 59-88.
NOVELLI, Claudio; CASOLARI, Federico; ROTOLO, Antonino; TADDEO, Mariarosaria y FLORIDI, Luciano, «AI Risk Assessment: A Scenario-Based, Proportional Methodology for the AI Act», Digital Society, vol. 3 (2024), núm. 13, pp. 1-13.
OBREGÓN FERNÁNDEZ, Aritz, y LAZCOZ MORATINOS, Guillermo, «La supervisión humana de los sistemas de inteligencia artificial de alto riesgo. Aportaciones desde el Derecho Internacional Humanitario y el Derecho de la Unión Europea», Revista electrónica de estudios internacionales (2021), núm. 42, pp. 1-29.
O'CONNOR, Mórna y KASKET, Elaine, «What grief isn’t: Dead grief concepts and their digital-age revival», en M.T.; B.C.; A.S; y G. J. (Eds.), Social media and technology across the lifespan, Springer Nature, Nueva York, 2022, pp. 115-130.
ÖHMAN, Carl y FLORIDI, Luciano, «The political economy of death in the afe of information: a critical approach to the digital afterlife industry», Minds & machines, vol. 27 (2017), núm. 4, pp. 639-662.
ORGANIZACIÓN MUNDIAL DE LA SALUD Y NACIONES UNIDAS, «Salud mental, derechos humanos y legislación. Orientación práctica», 2024. Disponible en: https://iris.who.int/bitstream/handle/10665/379200/9789240098169-spa.pdf?sequence=1
ORGANIZACIÓN MUNDIAL DE LA SALUD, «Informe mundial sobre la discapacidad», 2011. Disponible en: https://iris.who.int/handle/10665/75356
PAASS, Gerhard y GIESSELBACH, Sven, Foundation models for natural language processing: pre-trained language models integrating media, Springer, Cham, 2023.
PÉREZ VALLEJO, Ana María y VIVAS TESÓN, Inmaculada, La transmisión mortis causa del patrimonio intelectual y digital, Aranzadi, Pamplona, 2022.
RAE, avatar. Disponible en: https://dle.rae.es/avatar
RAZQUÍN LIZEAGA, Martín María, «Sistemas de IA prohibidos, de alto riesgo, de limitado riesgo, o de bajo o nulo riesgo», Revista de privacidad y derecho digital (2024), núm. 34, pp. 172-235.
SÁNCHEZ VALLE, María y ABAD ALCALÁ, Leopoldo (coord.), Mayores (des) conectados. Estudio sobre la brecha digital, Dykinson, Madrid, 2024.
SEJNOWSKI, Terry, ChatGPT and the future of AI: the deep language revolution, The Mit press, Cambridge, Massachusetts, 2024.
SIMÓN CASTELLANO, Pere, «Taxonomía de las garantías jurídicas en el empleo de los sistemas de inteligencia artificial», Revista de derecho político (2023), núm. 117, pp. 153-196.
VALLE ESCOLANO, Raquel, «Inteligencia artificial y derechos de las personas con discapacidad: el poder de los algoritmos», Revista Española de Discapacidad, vol. 11 (2023), núm.1, pp. 7-28.
VAN DER SLOOT, Bart, Regulating the synthetic society. Generative AI, Legal questions and societal challenges, Hart Publishing, Oxford, 2024.
