El control de la gente sobre las decisiones tecnológicas que les afectan suele pensarse como un atributo individual, un consentimiento informado que pocas veces está a nuestro alcance, debido a la complejidad de los asuntos, a la ignorancia o a la sobrecarga que así suele producirse (que me paguen por mis datos, me lo expliquen de manera que pueda entenderlo o quiero dar mi consentimiento individual). En no pocas ocasiones ocurre que las explicaciones son más difíciles de entender que los sistemas que se pretende explicar. ¿Sabemos cuáles son y qué efectos tendrá “aceptar las cookies necesarias”, por ejemplo? No estamos como deberíamos estar en la inteligencia artificial si solo estamos como individuos. No basta con “privatizar la transparencia” (Wishmeyer) y dejar en manos de la ciudadanía el control sobre los algoritmos –un control que apenas pueden llevar a cabo– y renunciar así a la regulación pública. El problema fundamental cuando hablamos de consentir o no es que la tarea de auditar los algoritmos o explicar las decisiones automáticas ha de concebirse como una tarea colectiva, no como un mero derecho individual, en muchas ocasiones de difícil realización.

Hay dos ejemplos que ilustran muy bien la insuficiencia de una aproximación individual: la privacidad y la trasparencia. Si la defensa de la privacidad fuera una tarea que corresponde únicamente a la soberanía individual, nos encontraríamos con la paradoja de que no la podríamos hacer valer más que a expensas de las de otros, ya que el nivel de privacidad y exposición que uno acepta tiene efectos sobre el de los demás. Hay muchos datos supuestamente individuales cuya revelación, aunque sea consentida por el inmediatamente afectado, implica la posibilidad de que queden expuestos datos de los demás, que pueden ser inferidos con facilidad. El grado de exposición y privacidad aceptables solo puede decidirse colectivamente. La relación de uno con los datos que genera no puede pensarse con la lógica clásica de la propiedad sino más bien desde la perspectiva de los bienes comunes que requieren una correspondiente regulación pública.

Otro ejemplo de este entrelazamiento de lo individual y lo colectivo es el asunto de la trasparencia. Si queremos una inteligencia artificial trasparente hemos de tener en cuenta que no todos vemos lo mismo, aunque se nos muestre lo mismo, que hay muchas asimetrías en cuanto a la comprensión. Hay que contar además con el posible efecto no pretendido de que la transparencia sirva a los actores más competentes para manipular el sistema (gaming the system) sin que los usuarios inexpertos se beneficien de ella. Al igual que la autoría de los algoritmos, su comprensión es un asunto colectivo. Más vale trabajar en la construcción social de la confianza que en una transparencia mecánica e individual que no se correspondería con la complejidad algorítmica y, por lo tanto, no mejoraría ni nuestra comprensión ni la supervisión democrática de sus decisiones.

La generación de confianza es fundamental cuando nos encontramos en entornos de complejidad. La inspección de los algoritmos deba ser confiada generalmente a algún auditor de confianza. Se necesitan instituciones que delegadamente interpreten, representen y nos defiendan en escenarios complejos, teniendo en cuenta la asimetría informativa en la que nos encontramos los sujetos individuales, nuestra falta de tiempo y pericia.

En las democracias representativas ha habido un gran avance en los últimos años para hacerlas realmente representativas, lo que implica, entre otras cosas, que la diversidad de los representantes sea lo más similar posible a la diversidad de los representados. ¿Cuál sería hoy una estrategia análoga para poder considerar democrática a una tecnología tan poderosa? La democratización de estas tecnologías pasa por su inserción en espacios donde se articule el pluralismo propio de las sociedades.

En su actual configuración, nuestro entorno digital plantea precisamente muchos problemas de falta de diversidad que requerirían un aseguramiento del pluralismo: tenemos un problema de diversidad derivado de la concentración de poder que ejercen unas pocas plataformas; esa falta de diversidad en el mismo diseño de los sistemas de inteligencia artificial puede reforzar la discriminación dotándoles de una apariencia de objetividad; hay toda una discusión acerca de cómo conseguir una mayor diversidad en la propia informática, una disciplina excesivamente dependiente de la ingeniería y con un modelo estereotipado de masculinidad; la falta de diversidad facial ha generado conocidos problemas de discriminación en el reconocimiento facial que no tienen suficientemente en cuenta las diferencias locales y globales; hay también una falta de diversidad en las recomendaciones de información.

Para que nos representen nuestros algoritmos es necesario que reflejen nuestra diversidad porque el nosotros que es titular de la soberanía está constituido por los diferentes, es un nosotros hecho a partir de su diversidad.

El autor es catedrático de Filosofía Política, investigador Ikerbasque en la Universidad del País Vasco y titular de la Cátedra Inteligencia Artificial y Democracia del Instituto Europeo de Florencia. Acaba de publicar “El futuro de la democracia” (Galaxia-Gutenberg).