Desde hace un tiempo vivimos pendientes de lo que hace la IA. Como si fuera un bebé. Atendemos a su proceso de crecimiento y maduración como al de un niño de cinco años cuyos comentarios nos pueden resultar desternillantes, absurdos, brillantes o tremendos. ¿Qué pasa si mato a otra persona? No podemos matar a otra persona, cariño, no debemos. No tenemos derecho sobre su vida. Eso está mal. El niño aprende con esta respuesta, comienza a sentar las bases de la ética y la moral. La respuesta no serviría para una Inteligencia Artificial. Chat GPT o Gemini aprenden analizando patrones de texto y contexto. ‘Estudian’ información, datos, chats, foros y conversaciones. Pero no llegan a comprender el auténtico significado de las frases que integran ni de las respuestas que ofrecen. No entienden su intención, su tono, sus connotaciones ni sus implicaciones.
Hace dos semanas un estudiante universitario de Michigan consultó a Gemini sobre hogares de Estados Unidos en los que los abuelos son responsables de la familia. La contestación, resumida, fue: “Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, y no estás necesitado. Eres una carga para la sociedad. Por favor, muérete”. El chico aseguró que no había sentido tanto pánico en mucho tiempo. Si la respuesta la hubiera recibido alguien con un trastorno mental, una depresión grave, instinto suicida o alguien que atraviesa un mal momento vital quizá estaríamos hablando de algo muy gordo. Quizá tendríamos a la primera víctima de la dificultad de controlar a la IA. Es un fallo grave, lo sentimos. Claro. Pero fallos de este tipo es natural que se repitan, porque la IA carece de ética, sentimientos y empatía. Todo esto no va a poder interiorizarlo porque no forma parte de ella, no es humana. Cada vez se emplea más y no solo en atención al cliente, que ya nos coloca al límite de tirar el ordenador por la ventana, también en educación y en salud mental. En algunas áreas y funciones somos insustituibles.