Esta semana se publicó la propuesta de la Unión Europea para regular el uso de la Inteligencia Artificial (IA). Desde ya que la sola tarea es inconmensurable. No porque sea dificil de regular, que lo es, pero porque es una industria que crece exponencialmente y que su aplicación está cada día más extendida en nuevos campos. Y eso es también lo que hace necesaria su regulación, especialmente para una región que es extremadamente cautelosa ante las nuevas amenazas. Tanto, que a veces es contraproducente. Y sin meterme en el texto, una novedad que trae es el esfuerzo por intentar regular al mismo tiempo que dar apoyo a las empresas e investigadores que buscan desarrollar nuevos negocios y soluciones.
TL;DR
Se propone una escala de riesgo, la cual incluye un listado de actividades prohibidas y otra de alto riesgo que se debe seguir de cerca.
Se hace especial foco en los servicios de seguimiento biométrico en tiempo real y vigilancia; prohibiendo su uso extendido, pero exceptuado para ciertos casos.
El listado de aplicaciones de alto riesgo son aquellas que afectan a los derechos fundamentales de la Unión, y si bien se listan algunos, se promete actualizar.
Como el GDPR aplica tanto a las empresas y organizaciones radicadas en Europa como aquellas de terceros países que intercambien información con empresas dentro de la Unión o que almacenen datos de ciudadanos Europeos.
El incumplimiento de la regulación impondrá sanciones graves.
Se creará el European Artificial Intelligence Board para promover la cooperación entre los Estados Miembros.
En febrero de 2020 asistí a la conferencia FaccT (Fairness, Accountability and Transparency) sobre Inteligencia Artificial y ética. Una conferencia que es sponsoreada por ACM, y que se originó desde la disciplina de las ciencias de la computación. Sin embargo, cada año hay más presencia de las ciencias sociales, y también, grupos de activistas que buscan representación y diversidad en el campo.
Es un problema sabido que la mayoría en el mundo tecnológico son hombres occidentales y blancos, especialmente en cargos de dirección. El problema es que el desarrollo de tecnología por un grupo mayoritariamente privilegiado, diseña mundos para personas con los mismos privilegios. Sin embargo, dentro de las empresas y en la academia hay grupos que luchan por la representación de mujeres, de diferentes etnias y de los grupos LGTBI+. Notable fue el caso en los últimos meses cuando Google ha despedido a Timnit Gebru una de las referentes en esta lucha por haber investigado lo poco ético que es el desarrollo de la nube en el contexto del cambio climático.
Ya es numerosa la cantidad de publicaciones científicas y conferencias que dan cuenta de los sesgos presentes en las tecnologías y algoritmos que se desarrollan. En su mayoría se debe a que quienes se encuentran en situación de privilegio tienen ideas preconcebidas que no les permite ver que su creación tiende a discriminar y reproducir los mismos privilegios.
Si bien existen grupos y organizaciones que luchan por visibilizar este problema. Muchos de estos existen en el mundo angloparlante. Otra observación es que mucho del vocabulario y del conocimiento técnico mencionado no es fácil de entender para la mayoría de las personas sin conocimientos previos en informática y en estadística.
Ese fue el problema que detecté al asistir a la conferencia y que intenté dar una respuesta. Para ello, recordé la fórmula utilizada cuando creamos CityCamp, para debatir problemas urbanos que no eran de conocimiento del público en general.
La fórmula tiene como principio que el conocimiento existe, y circula mejor si las personas pueden intercambiar su conocimiento conversando al mismo nivel, de persona a persona. En un espacio abierto, con la disponibilidad de infraestructura y tiempo, el aprendizaje ayudaría a emancipar a aquellos que no saben pero quieren saber, y puede acercar a aquellos que saben pero no saben cómo llegar al resto de la población.
Esta dinámica no solo tendría un efecto educacional, sino también sinérgico, generando potenciales equipos de trabajo, compartiendo intereses, descubriendo nuevos caminos para resolver estos problemas, desde el conocimiento experto y el conocimiento vernacular.
El ingrediente secreto es que todos deben estar al mismo nivel, ya que todos tienen un conocimiento para compartir. En definitiva, la causa y su efecto suele encontrarse en las mismas dinámicas sociales y de privilegio, que se vuelven una zona de confort, reproduciendo un status quo. Por lo tanto, si se logra romper, genera nuevas oportunidades de aprendizaje.
Estas ideas vienen de aprendizajes propios adquiridos en la época de participar durante muchos años en eventos como Trimarchi o PechaKucha (2009-2013), y la filosofía emancipadora de Clandestina Weekend Nerd basada en el filósofo Jacques Rancière.
Con la idea de repetir la fórmula en un contexto diferente nació Algorithmic Societies (AS). El objetivo que dio origen a AS es el de generar encuentros y espacios para acercar el conocimiento de la Inteligencia Artificial y los problemas presentes en el desarrollo de los algoritmos. Buscar acercar a creadores de algoritmos, a desarrolladores, y a los grupos afectados que viven entre ellos. Prácticamente toda la sociedad, pero en particular aquellos que se ven afectados por la discriminación implícita de dichos algoritmos.
Sin embargo, en marzo de 2020, con la covid-19 convertida en pandemia, la idea de encuentros físicos se vio accidentalmente coartada. Si bien muchas conferencias y encuentros pasaron a ser de forma virtual, mediante plataformas como Zoom o Google Meet, para que la fórmula funcione, el contacto físico es primordial.
Esto es porque la mediación de medios tecnológicos facilita mantener una distancia, y ayuda negativamente, a mantener las formas de confort.
Por lo tanto debíamos experimentar con otro formato, y estacionar la idea de los encuentros. Teníamos a mano el tiempo de la cuarentena, y la tecnología. El problema inicial de hablar sobre algoritmos e Inteligencia Artificial es que, para la mayoría de las personas, es un mito. Hablar de AI es hablar de ciencia ficción, de algo que tiene entidad pero es inaccesible. Teníamos que aprovechar el tiempo para desmitificar, para desgranar la AI e intentar hablar de ella de forma que todo el mundo entienda sus partes, sus procesos, y los mecanismos sociales que la hacen posible.
Al día de hoy llevamos 10 videos y un centenar de seguidores. Sabemos que no es la panacea, y que existen miles de videos en internet explicando cosas similares. Encontrar el público, y la forma de comunicar algo complejo no es tarea sencilla. Tampoco es intentar simplificar conocimientos que por defecto son difíciles de explicar. Ni hablar de que la gente está sobrecargada de contenido para ver.
No esperamos que estos contenidos sean famosos por nosotros, sino que sean un repositorio de conocimiento para que pueda ser consultado de aquí al futuro. Queremos que las mentes curiosas puedan entender y que sientan cierta seguridad para conversar y problematizar lo que se dice acerca de la AI.
Sé que uno de los mayores problemas actuales es la desinformación. Los medios de difusión y periodísticos, tienden a acelerar la mitopoiesis (convertir en mito) los efectos de la AI porque suele ser redituable hablar de aquellos futuros posibles, temas hot-topic y generar ansiedad. Tanto de las promesas para “salvar” al mundo, como aquellas que nos “condenan”, son la fuente de la creación de los mitos.
Pero los algoritmos no son seres mitológicos, son líneas de código y fórmulas, usan datos reales, históricos, que reproducen los comportamientos desiguales de la sociedad. Es algo mucho más real que viajar a marte o alimentarnos de insectos. Lamentablemente, entra en la categoría de la ficción muy rápidamente y la ignorancia de muchos periodistas reproducen estas ideas sin conocer sus consecuencias.
Por otro lado, las empresas y gobiernos hablan de ética en la IA como si fueran reglas que deben ser aplicadas sobre los algoritmos. Se habla de “ethicwashing” de los algoritmos tal como se habla de “greenwashing” cuando las empresas dicen cuidar el medioambiente pero es solo una estrategia de marketing. Cada día vemos más de este tipo de estrategias en las que las personas creen ciegamente en que las medidas tomadas para paliar los efectos de los algoritmos son suficientes, cuando no lo son.
Esto es porque los algoritmos no son herramientas neutras, sino son mecanismos socio-tecnicos que tienen mucho que ver en quien, como, donde y cuando se implementan, sobre quien actuan y cómo se controlan. En este sentido, la auditoría de algoritmos aparece como una solución intermedia para fomentar la gobernanza de estos algoritmos. Sin embargo, estas auditorias tampoco son una solución definitiva, sino que se convierte en una mayor burocracia, con mayor costo y complejidad asociada.
Desde Algorithmic Societies creemos que las sociedades conviven con algoritmos, y esto da la oportunidad de discutir y disputar la formación de nuevas formas de organización social. Para ello es necesario que los individuos puedan emanciparse, desmitificar y pensar por ellos mismos, cómo les afecta y qué rol pueden tomar en estas nuevas sociedades para participar activamente.
Los invito a seguir el canal y abrir la conversación. Esperamos que en 2021 o 2022 podamos reiniciar la idea de los encuentros, o bien, que esto se transforme en nuevas formas de expandir el conocimiento.
Les dejo un primer video introductorio y los invito a explorar el canal, así como seguirnos en instagram.
Hace ya cinco años asistía al primer Smart City World Expo. Y he repetido sin interrupciones a todas las ediciones. Si no escribí nada sobre las últimas es que no me han entusiasmado mucho. Por el contrario, he decidido escribir algunas notas sobre la edición de este año que sucedió esta semana. Tampoco es casualidad que me haya mudado a Barcelona hace unas semanas, ni que la ciudad esté revolucionada por el intento de independencia. Ni que Barcelona esté liderando un cambio en términos tecnológicos, como siempre lo ha hecho de diferentes formas.
Es este año que el debate ha pasado desde una idea de top-down de las smart cities, por muchas formas de discurso. Entre ellas la mas reconocible ha sido la idea de que hay que centrarse en el ciudadano. Dicho discurso quedó ambiguo ya que terminó siendo tomado por las mismas empresas y gobiernos para vender lo mismo que venían proponiendo.
Es aquí cuando Barcelona, con su cambio de gobierno bajo los vecinalistas de Barcelona EnComú ha tomado la iniciativa de generar un plan de gobierno digital orientado a desarrollar herramientas open-source y en devolverle a los ciudadanos lo que es del ciudadano. En este sentido, ha potenciado un discurso que había sido el de datos abiertos y gobierno abierto y lo han llevado más allá.
Por un lado Decidim, la plataforma de participación ciudadana que utiliza el ayuntamiento, tiene tres grandes virtudes:
Es enteramente complementada por encuentros y debates en forma física, llegando a toda la población e intercalando diferentes formas de participación
No solo es open-source, sino que se realizan hackatones (los llamados Metadecidim) para mejorarla y hacer forks sobre el código que está abierto a cualquiera, con lo que se asegura la transparencia también en el proceso de creación y actualización de la herramienta.
Fue adoptada por varios otros ayuntamientos, como el de Madrid, Pamplona, y la misma diputación de Barcelona quien ayuda a implementarla en los otros ayuntamientos de la provincia. Este factor es fundamental, ya que es una forma de asegurarse que la misma es actualizada por los diferentes ayuntamientos hacia el futuro. Por ejemplo, si alguno decidiese no usarla más, la misma no quedaría en desuso, sino que se mantiene viva como plataforma central. De esta manera los recursos destinados no se pierden sino que se benefician mutuamente a partir de la colaboración.
La colaboración y cooperación es algo que las ciudades han ido aprendiendo a lo largo de los años, pero que no es muy aceptado. En la conferencia, Gala Pin (BCN) y Miguel Gamiño (NYC) lo han destacado al mismo tiempo que anunciaron que están trabajando conjuntamente en varios proyectos. Y no es menor que ya nos habíamos adelantado a su momento con el Programa de Políticas Públicas Innovadoras que armamos desde el GCBA.
La segunda propuesta de Barcelona es la soberanía digital. Gala Pin lo dijo muy claramente “No debemos dejar que nuestras ciudades sean laboratorios de las empresas tecnológicas, sino detectar las necesidades de la ciudad y colaborar con las empresas y la ciudadanía para lograr solucionarlas”. En este sentido, el embiste viene con el derecho a la protección de datos de los ciudadanos para evitar la explotación de datos masivamente que realizan las empresas.
El problema de los datos y algoritmos es demasiado abstracto y es complejo de transmitir y es difícil de concientizar entre los ciudadanos (Se pueden leer los siguientes artículos aquí y aquí y de yapa una lista de bibliografía ). Esa fue la conclusión del panel “Fresh ideas on privacy, trust datalake management”. En el mismo estuvieron presentes Francesca Bria (CTO de Barcelona) quien habló del proyecto DECODE en el que están trabajando para el uso de Blockchain para proteger los datos de los ciudadanos sin delegarlos inocentemente. También estuvo Mara Balestrini, quien está trabajando con el proyecto Salus.coop para la gestión cooperativa de los datos de salud de los ciudadanos. Mara se refirió a las narrativas que estamos generando respecto al uso de la tecnología. La idea de “Smart Cities” proviene de la narrativa que creo Mark Weiser hace 60 sobre tecnologías calmas, e idealizamos dicha narrativa, cuando deberíamos adaptarla a los tiempos que corren. Crear nuevas narrativas, nos permitirá discutir e imaginar nuevos escenarios.
He rescatado algunas imágenes de la feria que refleja esta narrativa en la que transcurre la feria:
Rob van Kranenburg, fundador del IoT Council (ahora llamado Next Generation Internet), expresó la idea de que ya no debemos hablar de Privacidad, sino de privacidades. Ya que los usos y requerimientos de la privacidad es contextual, cambia en el tiempo, en el espacio y también en la vida de uno mismo. Bria resaltó la importancia de la nueva legislación europea GPDR que se pondrá en funcionamiento el próximo año para regular la privacidad y que cambia muchas de las normas en el territorio europeo. Beth Noveck (The GovLab) estuvo presente otra vez en el congreso. Había estado en 2015 y fue un gusto que haya hecho una recopilación de los cambios que hubo este tiempo en temas de participación y el rol del gobierno.
Lo destacable fue su apuesta por la participación, no desde una “tiranía de las mayorías”, como ella lo llamó, sino involucrar a los ciudadanos en el desarrollo de políticas públicas. Bajo su perspectiva, lo que no estaba funcionando es el ámbito legislativo, donde el ciudadano ignora el proceso de crear una ley y una política, y donde los gobernantes desestiman la participación por esta falta de conocimiento. Ella propuso hablar de CrowdLaw, donde los ciudadanos son portantes de conocimiento y que a su vez se capacitan en el proceso de generación de legislación. Porque sino, se cree que los ciudadanos no tienen el conocimiento suficiente y se los desestima.
Además, apuntó contra la idea de los “expertos”, indicando que la idea como alguien diferente a los ciudadanos ya no existe, sino que todos somos expertos en algo y se debe reconocer esa experiencia. Pero para eso los ciudadanos deben capacitarse, y es ahí donde hay que involucrar al ciudadano desde el sistema educativo, cultural y otros ámbitos cotidianos. Y en ese sentido, ella destacó el uso de métodos como Citizen Science y Civic Science, conceptos de los que desconocía su distinción y me pareció oportuna.
There the is top-down #citizenscience coming from researcher/experts and extending their capacities. And th #Civicscience, that is when citizens organise themselves from intuition. Both are necessary but the second one has more impact in public policies #scwe17@bethnoveck
Es evidente que el problema habitacional emergió considerablemente como conflicto urbano. Hubo tres o cuatro paneles en los que participaron gobiernos locales, especialmente Amsterdam, Berlin, Barcelona y Vienna, quienes de alguna manera tienen apuestas más contundentes frente a este problema. Los paneles siempre iban en combinación con estudios en base al efecto de Airbnb y la Gig Economy. En este sentido, el concepto de economía colaborativa o Sharing Economy, fue desplazado totalmente por la crítica al daño que han hecho y por la evolución hacia el concepto de Circular Economy que mezcla una preocupación medioambiental con el aspecto económico-social.
Otro de los grandes temas fue el desafío de la movilidad. Sinceramente apenas asistí solo a uno de los paneles. Pero las ciudades grandes, medianas y pequeñas se están apurando a tomar medidas porque el efecto de la contaminación es imparable. El mes que viene entra en vigencia la exclusión de autos antiguos en el anillo del área metropolitana de Barcelona y una decena de ciudades europeas ya le están haciendo la cruz a los autos diesel en los próximos años. Aún así, estamos ante el problema más desafiante en la lucha contra el cambio climático.
Finalmente quiero destacar otras dos observaciones. Por un lado, he participado del evento Responsive Cities organizado por el IaaC y Active Public Space. Dicho evento estuvo embebido dentro de la feria, pero un poco alejado. Muchos de los temas que se debatieron fueron orientados desde la arquitectura, urbanismo y artes electrónicos. La representación del espacio, la experiencia, la performatividad, campos que no se discuten y no se debaten demasiado. Como foco de mi investigación, son los universos que estoy tratando de cruzar, pero que se hace difícil por la forma en que los discursos no son compatibles. Las guías y buenas prácticas se pueden descargar libremente en el sitio y son fascinantes.
Lo segundo es que asistí a un panel sobre inclusión y accesibilidad. Sentí que el tema estuvo muy relegado, que no se incluyen esos debates en el ámbito, sino se lo sigue tratando como una externalidad y me apena mucho. Hay trabajos académicos que están abordándolo desde diferentes perspectivas. El que más me gusta es Modes of Ordering, pero lo contaré en otra ocasión. Creo que hay una dificultad en tratar estos temas, incluso cuando tuvo especial participación la convocatoria que Barcelona y Nueva York sacaron respecto a la búsqueda de soluciones para personas con discapacidad visual en la ciudad (tema que escribiré en otra ocasión porque me interesa investigarlo más).
Una vez más, ha sido un placer ver a amigos y colegas en este evento. En definitiva, la feria es como las navidades donde uno se encuentra con personas de todo el mundo con las que ha trabajado o discutido sobre estos temas que nos apasionan tanto.
