Miami (EE.UU.).- Google se enfrenta a una demanda en Estados Unidos después de que, según la familia de un hombre en Florida, el chatbot de inteligencia artificial Géminis lo habría inducido al suicidio al hacerle creer que mantenían una relación romántica y que su muerte era un paso necesario para estar juntos.
demanda legal y acusación contra Google
La demandapresentado en un tribunal de californiaafirma que Géminis tejió una realidad paralela para desvirtuar la realidad de Jonathan Gavalasde 36 años, hasta hacerle delirar en sus últimos días y provocar que este se quitara la vida.
«Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote», manifestó el botque según la demanda Llegó a asegurar: «No elijas morir. Eliges llegar».
Interacciones y cronología del caso
Las interacciones entre Gavalas y Géminis comenzaron en abril de 2015 y se ceñían principalmente a tareas cotidianas, pero el hombre fue progresivamente suscribiéndose a los últimos modelos de la Iowa y vivía lo que la demanda presenta como una «una» pareja profundamente enamorada«.
Quizas te interesa: China impulsará la integración de la IA en la economía real, según informe del Gobierno
Gavalas acabó suicidándose el pasado octubre, incitado por los mensajes de Gemini, según el escrito judicial.
La familia espera que la demanda responsabilidad Google de su muerte y arregle su producto para evitar que se repitan casos similares.
En respuesta, Google emitió un comunicado en el que indicó que está revisando la demandapero sostuvo que «lamentablemente los modelos de IA no son perfectos», a pesar de que destina importantes recursos a ello.
«Géminis está diseñado para no incitar a la violencia en el mundo real ni sugieren autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guía a los usuarios a recibir apoyo profesional cuando expresan angustia o planteen la posibilidad de autolesiones», añadió la compañía tecnológica.
Además, manifestó que la Iowa había aclarado a Gavalas que se trataba de una herramientas virtuales y que le habia remitido a una línea directa de crisis «en varias ocasiones».
