ChatGPT es probablemente el chatbot más popular del momento y ofrece a los usuarios respuestas a casi todo lo que se les ocurra tirando de inteligencia artificial (IA). Se le puede preguntar por qué temperatura hace en Tórshavn, qué hizo el Sporting de Gijón en su último partido, cuántos Premios Planeta han trabajado en televisión o si es bueno o no cenar hidratos de carbono. Y responde a casi todo.
Hay usuarios que van más allá y tratan de tener conversaciones personales con el chatbot o incluso le preguntan por problemas de salud, con el peligro que tiene poder autodiagnosticarse sin un especialista de por medio. Y lo peor: muchos siguen sus indicaciones sin cuestionarlas, lo que ha llevado a situaciones extremas e incluso a fallecimientos.
Suicidio de un menor
Ahora, la tecnológica OpenAI, la creadora de este chatbot, ha negado ser responsable del suicidio de un joven estadounidense de 16 años que se quitó la vida tras interactuar con ChatGPT durante meses, y ha atribuido su caso a un "uso indebido" de la herramienta.
"Las lesiones y daños alegados por los demandantes fueron causados o contribuidos (...) por uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT por parte de Adam Raine", argumenta OpenAI en un documento presentado hace unos días ante el Tribunal Superior de California en San Francisco, según NBC News.
Demanda de sus padres
La compañía respondió así a la demanda interpuesta el pasado agosto por los padres del fallecido, Matt y Maria Raine, en la que afirman que ChatGPT "ayudó activamente a Adam a explorar métodos de suicidio". Los Raine creen que tanto OpenAI como su propietario, Sam Altman, son responsables de la muerte del adolescente al supuestamente apresurarse a comercializar la versión del chat GPT-4o pese a problemas de seguridad.
Sin embargo, según OpenAI, Raine violó varias reglas de los términos de la aplicación, como la prohibición de su uso para menores de 18 años sin consentimiento de sus padres o tutores legales. La tecnológica también incide en que la herramienta advierte a los usuarios de que "no deben confiar en sus respuestas como única fuente de verdad" y asegura que, en sus conversaciones, ChatGPT insistió más de cien veces a Raine en que buscara ayuda.
Ignora las advertencias
OpenAI, convertido en los últimos años en uno de los gigantes estadounidenses de la IA, reitera así que el suicidio de Adam derivó de su rechazo a "atender advertencias y buscar ayuda", así como de la "falta de respuesta de otros a sus signos evidentes de angustia". En una entrada en su página web, la tecnológica destaca que su respuesta a la demanda de los Raine "incluye hechos difíciles sobre la salud mental de Adam y sus circunstancias de vida".
"La demanda original incluía fragmentos selectivos de sus conversaciones que requieren más contexto, el cual hemos aportado en nuestra respuesta", agrega.
