Una investigación alerta de que ChatGPT y Gemini podrían filtrar números de teléfono personales

Si bien el uso diario de herramientas como ChatGPT, Gemini o Claude ha generado la falsa percepción de que las interacciones con la inteligencia artificial son privadas, una investigación de la revista MIT Technology Review ha revelado cómo estos sistemas filtran información personal identificable, dejando expuestos los contactos de ciudadanos anónimos.

Esta brecha de seguridad se debe al propio entrenamiento de los Grandes Modelos de Lenguaje. Al nutrirse de cantidades masivas de textos extraídos de internet, estos sistemas ingieren de forma inevitable información personal. La IA es capaz de rastrear, cruzar y mostrar datos que los usuarios publicaron en alguna web hace años, poniéndolos a disposición de cualquier persona que realice una consulta.

Ya ha habido casos

Las consecuencias directas de este funcionamiento, sumadas a las "alucinaciones" (errores donde la IA presenta datos falsos como reales), han provocado situaciones críticas en la privacidad de los usuarios. El informe detalla varios ejemplos concretos.

Entre estas incidencias destaca la asignación errónea de profesiones, evidenciada por un usuario de Reddit que recibió una avalancha de llamadas de extraños en busca de un cerrajero, un abogado y un diseñador después de que la IA de Google proporcionara su número personal como referencia.

Asimismo, estos fallos pueden derivar en el colapso de canales personales, tal y como le ocurrió a un desarrollador de software que sufrió el bloqueo de su WhatsApp al ser identificado por Gemini como el contacto oficial de un servicio de atención al cliente.

Por último, la investigación señala el riesgo de la extracción forzada de datos, demostrado por una estudiante de posgrado de la Universidad de Washington que logró, mediante interacciones específicas con Gemini, que el sistema le revelara el número de teléfono móvil personal de un compañero académico.

El impacto es tan evidente que plataformas como DeleteMe, empresa dedicada a eliminar el rastro digital de los usuarios en internet, han registrado un aumento del 400 % en las consultas relacionadas con IA en los últimos siete meses.

Las quejas principales radican en ver información privada expuesta como si fuera de dominio público, o en sufrir las consecuencias de ser asociados erróneamente a otras entidades.