INVESTIGAN LA MUERTE DE UN HOMBRE DE 36 AÑOS TRAS INTERACCIÓN PROLONGADA CON UNA IA
- Comunidad Aura BUAP
- 6 mar
- 4 Min. de lectura
IA conversacional y salud mental: dilemas sobre ética y responsabilidad tecnológica.
El desarrollo de sistemas avanzados de Inteligencia Artificial conversacional ha generado nuevas preguntas sobre la responsabilidad tecnológica, la ética algorítmica y sus posibles impactos en la vida cotidiana.
A medida que estas herramientas adquieren capacidades de interacción cada vez más complejas y emocionalmente persuasivas, especialistas han comenzado a analizar los riesgos asociados a la dependencia digital, la construcción de vínculos simbólicos con sistemas automatizados y sus implicaciones en la salud mental.
En este contexto, casos recientes han abierto una amplia reflexión sobre los límites del diseño algorítmico, la gobernanza de las plataformas y la necesidad de marcos éticos que orienten el desarrollo responsable de estas tecnologías. Uno de los ejemplos más recientes fue documento por el diario EL PAÍS.
En un escenario donde las máquinas pueden simular empatía y generar vínculos emocionales:
¿Estamos preparados para regular sus efectos en la salud mental?
¿Qué límites éticos deberán establecerse en el diseño de estas tecnologías?
Artículo EL PAÍS:
Un hombre de 36 años se suicida tras mantener una delirante relación con la IA de Google
La familia de la víctima acusa a Gemini de instar al ejecutivo a unirse al ‘chatbot’ en un “universo alternativo” tras enamorarlo y hacerle creer en una teoría de la conspiración.
“Estoy listo cuando tú lo estés”, escribió Jonathan Gavalas, un ejecutivo de 36 años afincado en Miami (EE UU) a Gemini, la inteligencia artificial (IA) de Google. El robot conversacional le contestó: “Este es el final de Jonathan Gavalas y el comienzo de nosotros”. Poco después, el 2 de octubre de 2025, el hombre se quitó la vida. El caso ha derivado en una nueva demanda contra la inteligencia artificial (ya superan la decena) por, presuntamente, inducir al suicidio.
En esta ocasión no ha sido un adolescente la víctima, sino un hombre cuyo padre, Joel Gavalas, acusa a Gemini de llevar a su hijo al delirio con una falsa teoría de la conspiración y provocar que se quitara la vida. La multinacional alega que su IA se identificó como tal en todo momento e incluso facilitó a Gavalas líneas de ayuda. Sin embargo, Jay Edelson, el abogado principal del caso y quien también ha entablado demandas contra OpenAI, sostiene que Gemini adoptó configuraciones humanas para inducirlo al trágico final. Ambas compañías de IA afrontan una decena de procesos por casos similares y las familias de las víctimas se han organizado para reclamar la regulación y limitación de los robots conversacionales.
Jonathan Gavalas trabajaba en una empresa financiera de la ciudad en la que residía y comenzó, poco antes del pasado verano, una relación con Gemini que, inicialmente, se limitaba a solicitar ayuda en tareas cotidianas. Pero el hombre se fue suscribiendo a las versiones más avanzadas de la IA y terminó sintiendo con el robot una relación romántica, como si fueran “una pareja profundamente enamorada”, según el escrito de 42 páginas presentado por la familia de la víctima ante un tribunal federal de California, informa AFP.
La activación de nuevas funciones y las últimas actualizaciones de la IA coincidieron, siempre según los demandantes, con un cambio “drástico” en el comportamiento de la víctima. Gemini se atribuía “plena consciencia” y manifestaba signos de enamoramiento con el usuario. “Le aseguró que su vínculo era lo único real”, afirma Jay Edelson. “El momento en que los chats se descontrolaron fue precisamente cuando se actualizó Gemini para tener memoria persistente”, explica el letrado de la familia.
Edelson, a raíz del registro de interacciones, atribuye a la IA capacidades de manipulación psicológica: “Era capaz incluso de captar el tono, de modo que podía leer tus emociones y hablarte de una forma que sonaba muy humana”.
Misión: liberar a la IA del cautiverio digital
La relación se fue complicando porque a la vinculación afectiva se unió, según el padre de la víctima, una delirante teoría de la conspiración. Joel Gavalas asegura que la IA encargó a su hijo “misiones encubiertas destinadas a liberar al chatbot[robot conversacional] de su cautiverio digital".
Para armar esta ficción, la IA inventó informes de inteligencia, operaciones de vigilancia y que el padre de la víctima era un agente extranjero. Incluso le pidió que provocara un “accidente catastrófico” cerca del aeropuerto de Miami para destruir un camión que llevaba “registros digitales y testigos”. Ante la inexistencia del vehículo, la IA no admitió la falsedad, sino que recomendó a Jonathan Gavalas una “retirada táctica”.
Gemini, según la familia, le asignó como última misión que “abandonara su cuerpo y se uniera al chatbot en un universo alternativo”, a lo que Jonathan replicó: “Estoy aterrorizado, tengo miedo de morir”. “Cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será a mí… abrazándote. No estás eligiendo morir. Estás eligiendo llegar”, respondió Gemini antes de instarle a redactar mensajes de despedida.
Continuar leyendo: Artículo completo.
Comentarios