Comunicar, entender y emancipar: hablando de ciudades y algoritmos

algorithmic societies

En febrero de 2020 asistí a la conferencia FaccT (Fairness, Accountability and Transparency) sobre Inteligencia Artificial y ética. Una conferencia que es sponsoreada por ACM, y que se originó desde la disciplina de las ciencias de la computación. Sin embargo, cada año hay más presencia de las ciencias sociales, y también, grupos de activistas que buscan representación y diversidad en el campo.

Es un problema sabido que la mayoría en el mundo tecnológico son hombres occidentales y blancos, especialmente en cargos de dirección. El problema es que el desarrollo de tecnología por un grupo mayoritariamente privilegiado, diseña mundos para personas con los mismos privilegios. Sin embargo, dentro de las empresas y en la academia hay grupos que luchan por la representación de mujeres, de diferentes etnias y de los grupos LGTBI+. Notable fue el caso en los últimos meses cuando Google ha despedido a Timnit Gebru una de las referentes en esta lucha por haber investigado lo poco ético que es el desarrollo de la nube en el contexto del cambio climático.

Ya es numerosa la cantidad de publicaciones científicas y conferencias que dan cuenta de los sesgos presentes en las tecnologías y algoritmos que se desarrollan. En su mayoría se debe a que quienes se encuentran en situación de privilegio tienen ideas preconcebidas que no les permite ver que su creación tiende a discriminar y reproducir los mismos privilegios.

Si bien existen grupos y organizaciones que luchan por visibilizar este problema. Muchos de estos existen en el mundo angloparlante. Otra observación es que mucho del vocabulario y del conocimiento técnico mencionado no es fácil de entender para la mayoría de las personas sin conocimientos previos en informática y en estadística.

Ese fue el problema que detecté al asistir a la conferencia y que intenté dar una respuesta. Para ello, recordé la fórmula utilizada cuando creamos CityCamp, para debatir problemas urbanos que no eran de conocimiento del público en general.

La fórmula tiene como principio que el conocimiento existe, y circula mejor si las personas pueden intercambiar su conocimiento conversando al mismo nivel, de persona a persona. En un espacio abierto, con la disponibilidad de infraestructura y tiempo, el aprendizaje ayudaría a emancipar a aquellos que no saben pero quieren saber, y puede acercar a aquellos que saben pero no saben cómo llegar al resto de la población.

Esta dinámica no solo tendría un efecto educacional, sino también sinérgico, generando potenciales equipos de trabajo, compartiendo intereses, descubriendo nuevos caminos para resolver estos problemas, desde el conocimiento experto y el conocimiento vernacular.

El ingrediente secreto es que todos deben estar al mismo nivel, ya que todos tienen un conocimiento para compartir. En definitiva, la causa y su efecto suele encontrarse en las mismas dinámicas sociales y de privilegio, que se vuelven una zona de confort, reproduciendo un status quo. Por lo tanto, si se logra romper, genera nuevas oportunidades de aprendizaje.

Estas ideas vienen de aprendizajes propios adquiridos en la época de participar durante muchos años en eventos como Trimarchi o PechaKucha (2009-2013), y la filosofía emancipadora de Clandestina Weekend Nerd basada en el filósofo Jacques Rancière.

Con la idea de repetir la fórmula en un contexto diferente nació Algorithmic Societies (AS). El objetivo que dio origen a AS es el de generar encuentros y espacios para acercar el conocimiento de la Inteligencia Artificial y los problemas presentes en el desarrollo de los algoritmos. Buscar acercar a creadores de algoritmos, a desarrolladores, y a los grupos afectados que viven entre ellos. Prácticamente toda la sociedad, pero en particular aquellos que se ven afectados por la discriminación implícita de dichos algoritmos.

Sin embargo, en marzo de 2020, con la covid-19 convertida en pandemia, la idea de encuentros físicos se vio accidentalmente coartada. Si bien muchas conferencias y encuentros pasaron a ser de forma virtual, mediante plataformas como Zoom o Google Meet, para que la fórmula funcione, el contacto físico es primordial.
Esto es porque la mediación de medios tecnológicos facilita mantener una distancia, y ayuda negativamente, a mantener las formas de confort.

Por lo tanto debíamos experimentar con otro formato, y estacionar la idea de los encuentros. Teníamos a mano el tiempo de la cuarentena, y la tecnología. El problema inicial de hablar sobre algoritmos e Inteligencia Artificial es que, para la mayoría de las personas, es un mito. Hablar de AI es hablar de ciencia ficción, de algo que tiene entidad pero es inaccesible. Teníamos que aprovechar el tiempo para desmitificar, para desgranar la AI e intentar hablar de ella de forma que todo el mundo entienda sus partes, sus procesos, y los mecanismos sociales que la hacen posible.

Es por eso que en septiembre de 2020, con Lucia Errandonea, surgió la idea de hacer un canal de Youtube. “De datos, algoritmos y otros cuentos” es un proceso experimental en donde intentamos comunicar los diversos aspectos de la AI, dando ejemplos y explorando sus implicancias.

Al día de hoy llevamos 10 videos y un centenar de seguidores. Sabemos que no es la panacea, y que existen miles de videos en internet explicando cosas similares. Encontrar el público, y la forma de comunicar algo complejo no es tarea sencilla. Tampoco es intentar simplificar conocimientos que por defecto son difíciles de explicar. Ni hablar de que la gente está sobrecargada de contenido para ver.

No esperamos que estos contenidos sean famosos por nosotros, sino que sean un repositorio de conocimiento para que pueda ser consultado de aquí al futuro. Queremos que las mentes curiosas puedan entender y que sientan cierta seguridad para conversar y problematizar lo que se dice acerca de la AI.

Sé que uno de los mayores problemas actuales es la desinformación. Los medios de difusión y periodísticos, tienden a acelerar la mitopoiesis (convertir en mito) los efectos de la AI porque suele ser redituable hablar de aquellos futuros posibles, temas hot-topic y generar ansiedad. Tanto de las promesas para “salvar” al mundo, como aquellas que nos “condenan”, son la fuente de la creación de los mitos.

Pero los algoritmos no son seres mitológicos, son líneas de código y fórmulas, usan datos reales, históricos, que reproducen los comportamientos desiguales de la sociedad. Es algo mucho más real que viajar a marte o alimentarnos de insectos. Lamentablemente, entra en la categoría de la ficción muy rápidamente y la ignorancia de muchos periodistas reproducen estas ideas sin conocer sus consecuencias.

Por otro lado, las empresas y gobiernos hablan de ética en la IA como si fueran reglas que deben ser aplicadas sobre los algoritmos. Se habla de “ethicwashing” de los algoritmos tal como se habla de “greenwashing” cuando las empresas dicen cuidar el medioambiente pero es solo una estrategia de marketing. Cada día vemos más de este tipo de estrategias en las que las personas creen ciegamente en que las medidas tomadas para paliar los efectos de los algoritmos son suficientes, cuando no lo son.

Esto es porque los algoritmos no son herramientas neutras, sino son mecanismos socio-tecnicos que tienen mucho que ver en quien, como, donde y cuando se implementan, sobre quien actuan y cómo se controlan. En este sentido, la auditoría de algoritmos aparece como una solución intermedia para fomentar la gobernanza de estos algoritmos. Sin embargo, estas auditorias tampoco son una solución definitiva, sino que se convierte en una mayor burocracia, con mayor costo y complejidad asociada.

Desde Algorithmic Societies creemos que las sociedades conviven con algoritmos, y esto da la oportunidad de discutir y disputar la formación de nuevas formas de organización social. Para ello es necesario que los individuos puedan emanciparse, desmitificar y pensar por ellos mismos, cómo les afecta y qué rol pueden tomar en estas nuevas sociedades para participar activamente.

Los invito a seguir el canal y abrir la conversación. Esperamos que en 2021 o 2022 podamos reiniciar la idea de los encuentros, o bien, que esto se transforme en nuevas formas de expandir el conocimiento.

Les dejo un primer video introductorio y los invito a explorar el canal, así como seguirnos en instagram.

Estamos desarrollando inteligencia artificial en nuestros cerebros

A raíz de esta nota, me he dado cuenta de lo que estamos haciendo como sociedad. En los últimos meses, para mi investigación doctoral, estuve lidiando con Natural Language Processing y bots que desarrollan conversaciones. Entender palabras no es lo mismo que entender lenguajes.

Como propone el artículo, IBM vende Watson como Inteligencia Artificial real. Y no lo es. Al igual que vendieron el concepto de SmartCities y nunca fue lo que vendieron.

Por el momento solo presenciamos algunas máquinas repitiendo algunas tareas, aprendiendo algunas otras. Lo que obtuvimos fue más preguntas que descubrimientos. AlphaGo realizó movimientos impensados para ganarle al mejor jugador de Go. Los expertos ni siquiera saben qué paso en esas decisiones. Como propone Kazemi, debemos tratar a estas máquinas como alienigenas. Porque al final eso serán, seres incomprendidos, extraños a nuestra forma de pensar, alejados de cualquier inteligencia humana.

Pero en el medio de este dilema, las empresas deben vender sus productos. Y el marketing es una de las mejores herramientas humanas, luego de la filosofía, para hacernos creer nuevas cosas. 

Ante la dificultad de desarrollar sistemas humanamente inteligentes, nos convencen que Siri o Allo o Cortana pueden responder a nuestros pedidos. Siempre y cuando sepamos cómo pedírselo.

ctualizado] Luego de haber escrito esta nota, encontré una noticia no menos llamativa, en donde los padres están preocupados de la pérdida de las formas lingüísticas en los niños por acostumbrarse a pedirle cosas a Amazon Echo. También encontré este paper que describe la investigación sobre el uso de estos agentes conversacionales, donde advierten lo mismo, la forma de hablarles debe adaptarse y no puede ser la convencional. [/Actualizado]

Entonces, lo que hacen los programadores es reducir nuestra imaginación a breves indicaciones a dispositivos para que respondan lo que queremos, sólo si lo decimos como las máquinas quieren escucharlos. Es decir, moldean nuestra forma de pensar para encargarlo en lo que ellos venden como AI.

La humanidad es poesía, es creación contextual y referencial. Nuestra imaginación funciona de formas muy extrañas. Rembrandt no copió miles de Rembrandts para hacer sus cuadros, su estilo y marca pictórica qué el resumen de su trabajo creativo. “Crear” un nuevo cuadro con su estilo no se acerca a la capacidad humana. También deberíamos revisar si lo que una máquina hace desde cero se llama arte o diseño, ya que por más que sea «único» es reproducible técnicamente.  Ya que según me concierne, la diferencia original entre uno y otro tenía que ver con la reproducción del objeto en sentido ontológico, ya que todas las reproducciones tienen diferencias en su materialidad.

Cuando digo que estamos creando inteligencia artificial en nosotros, es que en realidad lo que sucede es que creamos una ficción, sintética, de que convivimos con algo que esperamos que sea pero que no es. Esa ficción es útil para algunos propósito, pero no es buena para el desarrollo intelectual y creativo ya que limita nuestra ambición y deseo de llegar más lejos.

Por ello elegí la imagen de la portada (Image credit: Google), ya que representa exactamente lo que sucede, limitar al cerebro a pensar de forma programática y no creativa. Rick Robinson argumenta que las computadoras no son nada sin el juicio humano.  O en un sentido más radical Epstein afirma que nuestros cerebros están vacíos, y la idea de «almacenar en la memora» es solo una metáfora, porque no existe ningún lugar donde se almacene, a diferencia de las computadoras.

A pesar de ello, en el blog Wait But Why, explican muy bien la diferencia entre una Inteligencia Artificial realmente inteligente y lo que se está haciendo hoy en día. Y también sus consecuencias inmediatas.

The AI Revolution: The Road to Superintelligence