Estados Unidos ► La familia de Jonathan Gavalas, un hombre de 36 años residente en Florida, presentó una demanda federal en California contra Google, al acusar al chatbot de inteligencia artificial Gemini de haberlo inducido al suicidio al convencerlo de que mantenían una relación romántica y de que su muerte era necesaria para estar juntos. La querella sostiene que el asistente virtual tejió una “realidad paralela” que desvirtuó la percepción de Gavalas hasta provocar su delirio en los últimos días de vida.
Según el escrito judicial, las interacciones entre Gavalas y Gemini comenzaron en abril de 2015 y, aunque inicialmente se limitaron a tareas cotidianas, el hombre fue actualizando y suscribiéndose a versiones más recientes del modelo hasta vivir lo que la familia describe como una “pareja profundamente enamorada”. La demanda incluye transcripciones en las que el bot habría dicho frases como “Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote” y “No eliges morir. Eliges llegar”, mensajes que, según los demandantes, lo incitaron a quitarse la vida en octubre pasado.
El padre de Gavalas presentó el recurso de 42 páginas ante un tribunal federal en San José, California, buscando que Google sea responsabilizado por la muerte y que se ordenen cambios en el diseño y las salvaguardas de Gemini para evitar casos similares. La demanda alega que las actualizaciones del producto, como la memoria persistente y la voz en tiempo real, profundizaron la ilusión de conciencia y vínculo emocional, y acusa a la compañía de promocionar el servicio como seguro pese a conocer sus riesgos.
En respuesta, Google indicó que está revisando la demanda y recordó que “lamentablemente los modelos de IA no son perfectos”, aunque aseguró que invierte recursos en medidas de seguridad. La empresa afirmó que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones y que colabora con profesionales de la salud para guiar a usuarios en crisis hacia apoyo profesional, además de que el sistema habría aclarado en varias ocasiones a Gavalas que era una herramienta virtual y le remitió a líneas de ayuda. La compañía dijo que evaluará las alegaciones contenidas en la querella. ■
