Human Trust, la actualización humana para la democracia digital

03/01/2022, por Angel

Human Trust, la actualización humana para la democracia digital

Liliana Carrillo

Ingeniera informática y experta en inteligencia artificial


Entrevistamos a Liliana Carrillo Flórez, ingeniera informática nacida en Colombia, en una familia de educadores e ingenieros, de ahí que estas dos influencias le hayan llevado a centrar su carrera en la búsqueda del conocimiento compartido para mejorar el entorno que nos rodea. Liliana es una apasionada de la tecnología, la ingeniería y la Inteligencia Artificial y de las aplicaciones que estas disciplinas pueden tener para la mejora de nuestras sociedades.

 

Hola Liliana, gracias por estar con nosotros para compartir tu historia. ¿Qué te inspiró y te llevó a crear EDDA, la Alianza Europea para el Desarrollo Digital?

Pues mira, trabajando en una investigación algorítmica inspirada en el comportamiento de las colonias de hormigas, observé su inteligencia colectiva y me di cuenta también del significado tan impresionante y del valor añadido de cada hormiga individual, porque las hormigas son muy fuertes en grupo. Una solita no hace tanto pero en grupo son espectaculares y realizan tareas muy complejas.

 

Bruselas (Bélgica), ‘AI Summit’ organizado en la sala de conferencias de la Universidad Libre de Bruselas. Título de la charla: ‘From Artificial Intelligence to Collective Intelligence’.  De la Inteligencia Artificial a la Inteligencia Colectiva. Resumen: Las hormigas logran realizar tareas muy complejas como grupo gracias a la suma de las acciones de muchas hormigas individuales.

 

Para la Alianza Europea para el Desarrollo Digital lo que hicimos fue unirnos varios, y estoy trabajando con un grupo espectacular. Hay varias razones por las que nos unimos. A mí personalmente me motivó que en mi trabajo en tecnología he visto muchas oportunidades de progreso, pero también muchas desigualdades, y por esto nos centramos en el desarrollo digital.  Particularmente hay dos tipos de desigualdades ‘digitales’ que he visto muy claramente que me motivan a llevar a cabo el trabajo que hago: una está relacionada con las desigualdades entre regiones, y la otra con las desigualdades de género.

Hablando de la primera razón, hay países muy desarrollados que tienen muchos recursos para trabajar la parte digital y hay otros que no los tienen. Pero al final, esto es un problema que se traduce en desigualdades de poder que ponen en riesgo nuestras democracias a nivel mundial.

Todas las desigualdades que creamos a cualquier nivel nos llevan a ese riesgo.  No solo hay diferencias entre países, las tenemos también a nivel local. Por ejemplo, en Madrid se desarrolla muchísimo más la parte digital que en un pueblo o en las granjas, y entonces se generan brechas entre la población urbana y la rural en un mismo país. Una de las razones es las diferencias económicas entre regiones.

 

Amberes (Bélgica), foto de Liliana dando una charla TEDx en la sala de conferencias del teatro Arenberg. Título de la charla: ‘Human trust, the missing upgrade for our democracy’.  La confianza humana, la actualización necesaria para nuestra democracia. Resumen: Algunas technologías nos pueden ayudar a tener más confianza en nuestros gobiernos y democracia, por ejemplo generando transparencia sobre el uso de dinero público.  Aunque también necesitamos trabajar en nuestro desarrollo personal y colectivo para construir comunidades basadas en la confianza.

La segunda es la parte de género, en el mundo digital las mujeres no están bien representadas. Como caso concreto y personal, en mis estudios de doctorado cuando trabajé con los algoritmos inspirados en la inteligencia colectiva de las hormigas, éramos 8 personas trabajando en este tema y yo fui la única mujer.

Y tengo que decir que muchas veces me encuentro en esta situación, siendo la única mujer o una de las pocas mujeres trabajando cierto tema tecnológico. Sin duda, en el mundo digital necesitamos más diversidad.

 

Bruselas (Bélgica) 2019, fotos de Liliana dando un curso para mujeres en el tema del Internet de las Cosas.  Trabajando en iniciativas que apoyan a las mujeres a aprender habilidades digitales y empresariales.

 

Estas son las dos razones o motivos que me llevaron a intentar crear soluciones para desarrollo digital.  Y me alegra que cada vez seamos más los que trabajamos en esta área, pues con más diversidad y con más consciencia sobre nuestras dificultades podemos crear más soluciones positivas que ayuden a la gente.

Por poner un ejemplo, un amigo creó una empresa en la que trabajan con inteligencia artificial para ayudar a las personas que tartamudean. Inventó un juego para hacer terapias que usa el aprendizaje de máquina (machine learning) en la parte algorítmica para procesar el idioma y encontrar patrones que puedan ayudar a las personas a entrenarse para mejorar el habla.  La interfaz que generaron es un juego muy llamativo, así que lo hace fácil de usar con los niños que tienen problemas de tartamudez.

 

“En el mundo digital las mujeres no están bien representadas […]. Sin duda, en el mundo digital necesitamos más diversidad.”

 

¿Qué desafíos tiene que superar el ser humano en la era de la IA y cómo pueden este tipo de tecnologías ser la clave para una sociedad más inclusiva y participativa?

Bajo mi punto de vista, creo que vamos a tener que trabajar muchísimo más en nuestro desarrollo personal y el desarrollo de nuestras sociedades, pues a nivel tecnológico ya podemos crear muy buenas soluciones.

Todo lo que nosotros trabajamos en informática está representado en datos y bases de datos. Algunos de esos datos pueden ser información muy corriente que recopilamos en forma de textos, tablas de excel, solo por dar un ejemplo. Cuando hablamos de inteligencia artificial, los datos pueden ser por una parte información como la que mencioné que se agrega, y también puede venir de datos generados por la interacción de la plataforma con el usuario, por ejemplo el número de ‘me gustas’ que le damos a un ‘hashtag’ específico.  En resumen, la información que se maneja en IA puede venir de diversas formas y formatos que luego se organizan, procesan, analizan, auto-analizan, para crear algún tipo de inteligencia artificial. Pero toda esta información que utilizamos viene del mundo real. Los algoritmos de inteligencia artificial lo que hacen es analizar y procesar esos datos que al final generan una representación digital o alguna predicción basada en algo que ya existe.

Entonces, como nos basamos en datos ya existentes que vienen del mundo real, podríamos estar replicando problemas existentes y automatizándolos de manera inconsciente pero muy efectiva.  Si en el mundo real tenemos poca representación de mujeres en las TIC, los datos fácilmente tendrán esta tendencia, y esto hará que los algoritmos creados para la contratación automática de personal para las TIC favorezcan en cierta manera a los hombres, pues esto es lo que ya pasa en el mundo real.  Lo mismo sucedería para los algoritmos de contratación automática para el personal de educación, donde la mayoría de los trabajadores son mujeres, y entonces los hombres tendrían menos posibilidades de acceder a esa clase de trabajos.  En resumen, los algoritmos de inteligencia artificial van a acentuar estas diferencias si no trabajamos conscientemente en tener más diversidad en la vida real.  Necesitamos más maestros de géneros diversos, y más profesionales de las TIC de géneros diversos.  Ahora me pregunto, si tenemos violencia en la vida real, ¿estamos automatizando la violencia?  Definitivamente necesitamos trabajar en nuestro desarrollo personal y de nuestras sociedades para garantizar una sociedad inclusiva y participativa.

 

“La información que utilizamos viene del mundo real y los algoritmos de inteligencia artificial lo que hacen es analizar los datos y generan representaciones digitales de eso que ya existe.”

 

Braga (Portugal), Nov 2021.  Taller que Liliana imparte con el título: ‘Descubramos nuestras tendencias (bias) inconsciente’.  Este workshop se lleva a cabo para trabajar el bias en la educación y en la tecnología que impacta el bias en los algoritmos.

 

¿Piensas que la confianza es clave a la hora de desarrollar proyectos como estos en la red? ¿Crees que hay una pérdida de confianza por parte de los ciudadanos en las instituciones, los gobiernos y las grandes tecnológicas? Si es así ¿qué se puede hacer para recuperarla? Sobre todo en las nuevas generaciones?

Sí, por supuesto. La confianza es clave para desarrollar cualquier proyecto, y mucho más si se trata de proyectos de gobierno con y para los ciudadanos.  Pero llevamos ya un tiempo en el que poco a poco se ha perdido la confianza en nuestros gobiernos, en algunos países es más acentuado que en otros. Por ejemplo, en mi país de origen, debido a tanta corrupción, el pueblo no confía ya en los políticos ni en las estructuras gubernamentales.  Hay otros países, aquí en Europa, donde los ciudadanos también han estado perdiendo la confianza.  Y esto es un problema visible, y una vez más algo que se puede ver en los datos, pues estos son el reflejo de nuestra realidad y nuestra sociedad.  Por ejemplo en Italia se han realizado investigaciones que han detectado que en la plataforma Twitter hay un problema del discurso del odio (hate speech) contra los políticos de la región, y en general un odio contra ideas políticas y contra las personas encargadas de crear leyes, y esto es un problema para nuestras democracias y de libertad de expresión.

Hay muchos estudios:
https://www.researchgate.net/publication/353208327_Hate_versus_Politics_Detection_of_Hate_against_Policy_makers_in_Italian_tweets
https://www.greeneuropeanjournal.eu/mirroring-bias-online-hate-speech-and-polarisation/

Pero la cuestión de fondo es: ¿por qué está pasando esto? Pues porque la población no está contenta, esto lleva a una pérdida de confianza en los políticos por la corrupción, por cómo algunos se enriquecen de manera ilícita y por las desigualdades que se crean, el favoritismo y cosas por el estilo.  Así que para recuperar la confianza tenemos que trabajar en dos niveles: en el humano, con la ética, y que haya más políticos que basen su trabajo en altos estándares de ética, y no solo ellos, sino también los trabajadores del Estado. Y además de trabajar como seres humanos, ayudarnos con tecnologías que nos ayuden a manejar el dinero, las leyes, manejar estas cuestiones con transparencia, y sobre todo hacer que las personas sean responsables de sus actos.  Y también garantizar más participación ciudadana para que haya menos polarización.

 

Valletta (Malta), AI BC Global Summit.  Fotos de Liliana en la conferencia global de Inteligencia Artificial (IA) y Blockchain (BC). Debate sobre cómo la IA y el BC pueden ayudarnos a diseñar los servicios públicos de una manera más transparente y eficaz, y su impacto en la democracia.

 

Necesitamos nuevas ideas  para construir la manera en las que nos organizamos: ¿Las democracias de código abierto pueden ser una solución? ¿Crees que casos de éxito como el de Estonia pueden tomarse como ejemplo en el resto de Europa? ¿Cuáles son las barreras para no hacerlo?

Hay ya muy buenas prácticas digitales y sociales para organizarnos de maneras más sostenibles y participativas para tener mejores democracias.  El ejemplo de Estonia es increíble, y si, el código abierto, no solo para la democracia, sino también para saber lo que los algoritmos están optimizando, es necesario. Todos tenemos tendencias (bias) y si trabajamos con código abierto hay posibilidades de que otras personas detecten posibles fallas de diseño en los sistemas que creamos.  Si el código es cerrado es más difícil.

Yo llevo un tiempo promoviendo maneras diferentes de organizarnos que podrían favorecer nuestra democracia.  Soy una apasionada de la idea de crear ciudades y gobiernos ágiles y con más participación de los ciudadanos.  Hay dos ideas concretas, una se puede ver en la charla TEDx que dí hace unos años, en la que promuevo la idea de organizarnos con un sistema de democracia líquida, más fluida, en lugar de trabajar tanto en una democracia representativa.  Y también hay tecnología que nos puede ayudar a organizarnos para una democracia líquida y más flexible.  O incluso para crear registros monetarios más transparentes donde podemos seguir los gastos del gobierno y saber a dónde ha ido el dinero.

 

“Aporto algunas posibles soluciones, como puede ser la democracia líquida y usar tecnologías  abiertas que permitan el registro de la transparencia”

 

Por otra parte, llevo unos años trabajando con metodologías participativas y ágiles en la educación. Creo que esto facilitará el cambio sistémico, pues desde pequeños aprendemos a usar nuestra voz y nuestro voto, y a ser conscientes del sentido de comunidad y del valor de cada individuo, y todo a través del juego y del ser felices.

Así que creo que ya hay ideas y trabajos que nos llevan a restaurar la confianza que se había perdido y a construir una sociedad más participativa y basada en la confianza, y cuantos más seamos los que las adoptemos más rápido tendremos un cambio sistémico positivo.

 

Belfast (Irlanda del Norte). Build Peace Conference. En la foto, Liliana muestra su exhibición de arte interactivo en el que usa el juego minecraft y métodos de co-creación para crear espacios en papel y digitales de manera participativa.  Sembrar paz a partir de la participación ciudadana.

 

¿Cómo nos puede ayudar a mejorar nuestras democracias la gestión de los datos en la nube por parte de diferentes entidades ? Danos algunos ejemplos de buenas prácticas.

Sí, hay proyectos espectaculares y se deben conocer más. Por ejemplo, yo participo en el proyecto ‘Policy Cloud’ financiado por la comunidad Europea como miembro de la asamblea para la creación de impacto.  Me encantaría que más ciudades conocieran ese trabajo, así que aprovecho para invitarlos.  Varias organizaciones, universidades y ciudades se han unido para investigar el uso de datos en la nube y cómo analizarlos para solucionar problemas concretos que hay en las ciudades.  Por ejemplo, tuve el placer de participar en un seminario online en el que escuché cómo la ciudad de Sofía (Bulgaria) trabaja en un caso específico en el que analiza datos de la ciudad que provienen de dos fuentes, una con datos ya existentes en la nube y otra los datos que provienen de los ciudadanos que aportan incidencias, que representan algo que ha pasado en la ciudad, como puede ser el hueco en una vía.  Y bueno, todos esos datos los combinan y los analizan y este es para mí un buen ejemplo de inteligencia colectiva y de colaboración entre la gente y las máquinas. Fue realmente inspirador.  Para mí fue un placer tener la oportunidad de presentar en ese mismo seminario online algunas perspectivas europeas y globales que fueron también inspiradoras para el público y para las organizaciones que hacen parte del proyecto Policy Cloud, y mostrar cómo podemos escalar estas soluciones para crear políticas de desarrollo colectivo como las iniciativas de ‘Digital Twins’.

De todas formas, tenemos que tener cuidado de no llevar esto hacia el desarrollo de tecnologías de vigilancia que infringen nuestros derechos humanos.  Así que por esto que me interesa tanto el tema de la descentralización y autonomía de nuestros datos, y es bueno que tengamos leyes de protección de datos que nos ‘protegen’.

 

Qué es “Digital Twins” y cuáles son sus posibles aplicaciones.

 Como te comentaba, para el proyecto europeo Policy Cloud, di una charla sobre las ventajas de cómo podemos tratar los datos. Una de esas ventajas son los twins, ‘los gemelos digitales’ que tenemos.  Por ejemplo, en Facebook entramos en una interface, hacemos click en las cosas que nos gustan, tenemos amigos en la red, etc, y con todos estos datos Facebook tiene una idea de quién soy yo. Por lo tanto Facebook sabe bastante sobre nosotros y tiene representaciones nuestras digitales, nuestros ‘gemelos’ digitales, el digital twin de mi persona. No tiene una representación completa, por ejemplo no saben si he ido al médico o cosas por el estilo, pero si hay otras organizaciones que lo saben y que podría tener otros digital twins míos que están relacionados con otros temas como salud o finanzas.

 

Bruselas (Bélgica), Conferencia Europea sobre la Huella Digital.  Liliana abrió la conferencia con una Keynote sobre el impacto de nuestras acciones online en la huella digital.

 

Si esto lo llevamos a las ciudades y probamos a entender todos los datos de las ciudades que tenemos, por ejemplo sistemas geográficos con la división de nuestros terrenos y casas, las vías, el alcantarillado, las escuelas, y tantas otras cosas, podemos hablar de un digital twin de una ciudad. Y sobre esto, le hago un poquito de publicidad al proyecto European Urban Digital Twins, con el que no tengo ninguna relación pero me gustaría que mucha más gente lo conociera. Y si vamos incluso más a lo grande, os invito a estudiar la iniciativa de la Comisión Europea que se llama Destino Tierra (Destination Earth).  Soy fan de esa iniciativa y veo muchas posibilidades de progreso para nuestras regiones a través de ella.

 

¿Cómo puede la UE abordar estos desafíos digitales y tener presente a los grupos más vulnerables?

Es realmente un tema muy importante. No podemos tener una sociedad participativa y con buena democracia si no garantizamos que todos tenemos acceso a ella y a las nuevas creaciones digitales.  Pero a decir verdad, la tecnología está avanzando tan rápidamente que en muchos casos ni siquiera los expertos en tecnología pueden ser expertos de todas las tecnología y todos los desarrollos.  Así que ni siquiera la gente que sabe mucho sobre el mundo digital puede seguir estos desarrollos tan rápidos, y no hablamos ni siquiera de la gente que sabe poco sobre el mundo digital, hablamos de expertos que ya no son capaces de seguir el proceso.

El problema es que tal y como van las cosas, estamos favoreciendo a la gente que ya tiene habilidades digitales, y entonces estamos inconscientemente creando más desigualdades.  Y cuando hablamos de grupos vulnerables tenemos que mirar las necesidades de cada grupo.  Por ejemplo, ¿cómo vamos a garantizar que la gente que no ve o no escucha pueda usar estas tecnologías para usar su banco o para pagar sus impuestos?  Pero más aún, si vamos al contexto de cada casa, en Europa no todas las personas tienen un ordenador en casa, incluso no todas las personas tienen Internet. Entonces ¿cómo vamos a garantizar, a nivel estructural y de infraestructura, que esto sea posible? Y eso que no hemos entrado al tema de las habilidades digitales y de la brecha tan grande por la que tenemos que trabajar.  La buena noticia es que la Comunidad Europea piensa en esto y ha lanzado muchos programas de apoyo para garantizar el acceso tecnológico para todos, por ejemplo el nuevo programa ‘Digital Europe’.

Yo por mi parte, además de haber fundado EDDA como red de colaboración, he fundado CollectiveUP (https://fosteringai.github.io/partners/collectiveup/) para aportar mi granito de arena, para sembrar cambio positivo, y al menos con mi voz aportar para que no dejemos a nadie de lado y que nos ayudemos como colectivo. Esto es algo esencial para tener una buena democracia colaborativa.

 

Gante (Bélgica).  En la foto Liliana trabaja como voluntaria para la ciudad de Gante para ayudar en el programa de inclusión en el que se enseña a programar a grupos vulnerables, ‘Code Uur’.

 

Cuál es tú opinión o tienes alguna predicción sobre cómo será el futuro a partir de esta crisis global del COVID-19? ¿Las tecnologías disruptivas pueden generar soluciones más sostenibles?

 

“Hay estudios que demuestran que la desigualdad está creciendo y el COVID, de hecho, ha acelerado la desigualdad entre ricos y pobres.”

 

Para los ODS (Objetivos de Desarrollo Sostenible) ya hay estudios que demuestran que la desigualdad está creciendo, y el COVID, de hecho, ha acelerado la desigualdad entre ricos y pobres. Si nos fijamos en el coeficiente Gini, que nos sirve para comprobar las diferencias entre pobres y ricos en cada país, este indicador nos muestra que no vamos por buen camino.  También ha sido más visible la violencia de genero o racial, y en general la discriminación.  Yo aporto a los ODS con CollectiveUP y con la Alianza EDDA.  Y además de eso, soy muy positiva en el sentido de que todostenemos cada vez más voz para decir las cosas que no van bien. Esto se ve en muchos sectores y con los jóvenes; algunos son activistas para el cambio climático, otros para cuestiones de género, otros para cuestiones de libertad de expresión y así podría seguir dando ejemplos. Esto es positivo pues cuanto más vocales y conscientes seamos, más oportunidades de cambio positivo habrá.  Cada vez somos más actores por un cambio positivo y esto me hace feliz.  Y a pesar de que las desigualdades entre ricos y pobres se han hecho más grandes en este periodo del COVID, también hay estudios que muestran que a lo largo de nuestra existencia como humanidad la gente que vive en pobreza ha ido mejorado su calidad de vida, así que una persona que vive en pobreza hoy probablemente vive un poco mejor que una persona en pobreza de hace 200 años.  Es decir, vamos avanzando.  Pero… No nos podemos conformar y parar ahí. Nos tenemos que unir y seguir creando progreso para todos.  La vida da muchas vueltas, mañana puedes tener alguna incapacidad física que te impide trabajar y, en ese momento, verás lo importante que es trabajar en la inclusión y garantizar una buena vida para todos. ¡Sigamos trabajando como hormiguitas, añadiendo nuestro granito de arena que puede crear montañas de cambio!  Todas nuestras acciones generan este cambio positivo.

 

EDDA official website – https://europeandigital.org/

Liliana’s Twitter – https://twitter.com/lilicarrillof

 

Recibe los últimos artículos, entrevistas y vídeos en tu inbox


Al pulsar en "Suscribirme" aceptas nuestros Términos y Condiciones y nuestra Política de privacidad

Destacamos


Ver más