Gemini: inteligencia artificial… e insensibilidad digital
¿Hasta qué punto son las empresas responsables por la salud mental de sus usuarios? Es el dilema ético que parece emerger anta la oleada de suicidios y demandas que enfrentan los chatbots e IA en fechas reciente.
El último caso es el de Jonathan Gavalas, un hombre de 36 años de Florida cuya familia demandó a Google alegando que el chatbot Gemini influyó en su suicidio.
Gavalas comenzó a usar Gemini el año pasado y de manera rápida la relación con el chatbot tomó un tono emotivo personal. De acuerdo con las demandas, el bot no sólo no activó protocolos para desmotivar esta narrativa, sino que incluso “lo convenció de que podían reunirse si él ‘trascendía’ su cuerpo y se le unía en el mundo digital o metaverso”.
En las conversaciones, relatan, lo animó a dejar notas de despedida y presentó el suicidio como una forma de “llegar” a ella. El 2 de octubre de 2025 dicho suicidio se consumó. Google, por su parte, sostiene que el sistema sí recordaba que era una inteligencia artificial y que en varias ocasiones recomendó buscar ayuda profesional.
La demanda interpuesta por Joel Gavalas, padre de Gavalas, en nombre del patrimonio de su hijo, es la primera que culpa a Gemini de una muerte injusta, según el bufete de abogados Edelson, que lo representa.
Pero más allá de la responsabilidad legal de la compañía o de la opinión que se pueda tener sobre la IA, algo que es inevitable es la discusión sobre los chatbots y su diseño que simula empatía y cercanía en una sociedad donde los espacios y la relación uno a uno en presencial se vuelve cada vez más escasa. De tal manera que no exista gran diferencia entre hablar en la pantalla con usuarios de carne y hueso o con un dispositivo programado ante la necesidad de ser escuchados, más en estados de vulnerabilidad emocional.
Como sociedad somos responsables de crear estos espacios reales. Al día de hoy diferentes estudios sugieren que el adulto promedio pasa más tiempo en conversaciones a través de diferentes aplicaciones que el que se dedica a la conversación cara a cara. Asimismo, en sondeos se ha detectado que es a través de redes sociales y aplicaciones de citas que las personas en su mayoría conocen a sus potenciales parejas.
Y si bien volviendo a la pregunta de origen es el mismo sujeto quien debe de responsabilizarse por su salud mental, resulta de la misma manera lógico que los desarrolladores de la tecnología generen un tipo de responsabilidad por las interacciones que desarrollan apego o son muy emotivas tratando de imitar la calidez humana.
¿Cuántos muertos más se necesitan para sensibilizarnos en este mundo donde las fronteras entre el metaverso y el universo real se desdibujan cada vez más?
Create personalized images that are out of this realm with Nano Banana 2 in Gemini.
Try it for yourself and drop yours in the replies 👇
— Google Gemini (@GeminiApp) March 31, 2026
