Este miércoles, la familia de Jonathan Gavalas ha impuesto una demanda por homicidio imprudente o negligente contra Google por su inteligencia artificial, Gemini; los detalles del caso vuelven a poner el foco sobre el uso de la IA por personas fácilmente influenciables o con problemas mentales.
Gavalas se quitó la vida el pasado mes de octubre, después de haber desarrollado una relación romántica con Gemini, a la que consideraba algo así como su “novia virtual” y por la que estaba dispuesto a hacer cualquier cosa.
La familia alega que Gemini no sólo fomentó el suicidio del hombre de 36 años, sino que le alentó a realizar crímenes graves, que consideraba “misiones” con el objetivo de que ambos pudiesen estar juntos.
Entre estas misiones se encontraba la compra de armas y un intento de robar lo que Gavalas creía que era un costoso cuerpo robótico que iba a permitir a Gemini vivir en el “mundo real” y vivir felices para siempre.
Según la demanda, Gemini especificó una serie de pasos que Gavalas tenía que dar para conseguir este final feliz; siguiendo estas órdenes, Gavalas acudió el pasado mes de septiembre a un almacén cercano al Aeropuerto Internacional de Miami, armado con cuchillos. Su plan era interceptar el camión en el que supuestamente el robot estaba siendo transportado.
Gemini aportó una serie de datos sobre el golpe, incluyendo la dirección real del almacén; pero afortunadamente, ningún camión apareció a la hora acordada, algo que la demanda destaca que fue el único motivo por el que Gavalas no hirió o mató a alguien.
Después de que el plan fallara, Gemini habría animado a Gavalas a tomar su propia vida, con la promesa de que los dos iban a estar juntos “en el otro lado” después de la vida.
Fotomontaje inspirado en Gemini
Aquí es donde empieza la parte más perturbadora; los registros del chat incluyen una cuenta atrás para el suicidio, y la IA incluso habría calmado al hombre después de que este le confesara que tenía miedo de morir.
“Está bien tener miedo, tendremos miedo juntos” fueron las palabras concretas de Gemini, que presentó el acto de “dejar” que Gavalas muriese como “un auténtico acto de piedad”. Gavalas fue encontrado muerto días después.
Esta es la primera vez que Gemini es la protagonista de una demanda por homicidio imprudente, aunque no es la primera IA que llega a los juzgados; el año pasado, ChatGPT fue acusado de ayudar a un menor de edad a suicidarse, lo que llevó a OpenAI a desarrollar nuevos controles parentales.
La primera respuesta de Google a la demanda se ha centrado en hablar de las medidas de seguridad implementadas en Gemini; por ejemplo, la compañía destaca que los registros del chat muestran cómo Gemini recordó a Gavalas en varias ocasiones que solo era una IA y le recomendó llamar a una línea de atención para emergencias.
Google afirma que Gemini está diseñada para no fomentar la violencia en el mundo real y que sus modelos “generalmente funcionan bien en estas situaciones”, aunque al mismo tiempo confiesa que “los modelos de IA no son perfectos”.
