R064 - Ciberactivismo, con Simona Levi R064 - Ciberactivismo, con Simona Levi
Artículo

R064 - Ciberactivismo, con Simona Levi

Tech & innovation

La Stasi fue la agencia de inteligencia y policía secreta de la RDA, la República Democrática Alemana entre 1950 y 1990. Se convirtió en un símbolo de la opresión estatal, conocida por su extensa red de informantes y su intrusivo programa de vigilancia. Fue disuelta después de la caída del Muro de Berlín y sus archivos, que documentan sus actividades, fueron hechos públicos, revelando la magnitud de su intervención en la vida de los ciudadanos.

¿Qué hubiese pasado si la Stasi hubiese tenido acceso a toda la información que disponen hoy nuestros estados? ¿Cómo podemos garantizar nuestra privacidad como ciudadanos en un mundo totalmente digitalizado?

Charlamos hoy con Simona Levi, experta en tecnopolítica y derechos digitales. Un nuevo Realworld donde exploramos el territorio de la regulación, la ética y las ganas de cambiar el mundo.

R064 - Ciberactivismo, con Simona Levi

¿Qué es para ti el mundo real?

El mundo real es Internet. No, lo digo para provocar. Y lo digo también porque alguien tiene que defender Internet. Porque normalmente, justamente en el mundo real, cuando se habla del mundo real, nadie considera Internet parte del mundo real. Y esto le crea un perjuicio al Internet que queremos, que realmente es parte de nuestro mundo real. Así que para mí el mundo real es, empezando por mi persona, mi mundo racional, mi mundo emotivo, luego mi relación con los demás, luego la gobernanza del mundo, entonces el espacio privado y el espacio público, y luego el espacio digital. Esta parte del mundo real, cuando ha aparecido en mi vida, realmente la ha cambiado a mejor, por la cual cosa yo pienso que debemos empezar a considerar realmente el mundo personal, público y digital como el mismo mundo, el mundo real.

Fake you

Un aprendizaje que me ha sido muy útil, que básicamente tenemos que hacerlo todos nosotros. Luego quizás encuentras a alguien que te echa un cable, pero si no, cuenta con que lo tendrás que hacer tú.

Otra de las iniciativas que me parece super interesante, es el tema de Fake you. Este otro libro (Fake News) no solo explica cómo funcionan la desinformación y las fake news, sino también hablas de cómo funcionan los sesgos cognitivos en los cuales se apoyan y cómo estar un poco en guardia y armadas, de cara a identificar ese concepto de follow the money, porque al final una de las cosas que yo me llevo es que esto no parte de las personas. Nos quieren hacer creer o hay como una especie de... No sé si nos quieren hacer que suena un poco paranoico, pero de alguna forma hay una narrativa en que somos las personas las que nos estamos inventando estas fake news.

Y lo que descubrís vosotros y lo que denunciáis es que rascando te das cuenta de dónde viene todo esto. Y esto viene de los estados y esto viene de los partidos políticos y esto viene de un sistema que aprovecha estos instrumentos tan poderosos para manipular pura y dura y llanamente hablando.

Todos los caminos llevan a los partidos políticos. Yo creo que todos los males. Yo creo que es por donde tenemos que empezar a reformar para que las cosas vayan mejor.

A mí me gustan mucho los sesgos cognitivos y uso este libro para adolescentes, para yo misma, que he escrito yo misma, pero para repasar, porque pienso que en la parte psicológica debemos estar siempre muy vigilantes de en qué medida nosotros contribuimos a ciertas cosas. Entonces, a mí me gusta repasar también todos los sesgos que podemos poner en las cosas. La intención no es paternalista respecto a los adolescentes. Yo soy muy fan de las nuevas generaciones, creo que vienen muy fuertes, con muchas cosas bastante claras, son muy diferentes de nosotros, pero me gusta mucho codearme con ellos. La idea de hablar de desinformación es que la narrativa sobre desinformación sirve un poco para justificar que, y no solo sobre la desinformación, un poco de nuestra manera de actuar, es que el sistema siempre tiende a culpar la población de muchas cosas, de despilfarro del no sé qué, del gasto energético, de que somos nosotros que usamos demasiada agua.

Es que realmente puede ser que usemos demasiado agua y puede ser también que seamos mentirosos. Pero ojalá las mentiras que cuento yo tuvieran el impacto que pueden tener las mentiras que tiene un gobierno, etcétera. Todo el mundo estaría encantado de que sus mentiras fueran las que gobiernan el mundo. Entonces, yo siempre tengo la perspectiva de corregir, de decir bueno, hasta que quien manda no lo hace bien, no culpemos a la población, que tenemos nuestros defectos, pero también aguantamos mucho. Y en tema de desinformación, la tendencia es este paternalismo institucional de que tenéis que aprender a compartir bien, etcétera, cuando ellos comparten muy mal, por ejemplo, ellos mismos. Entonces, eso. Creo que aguantamos mucho y luego se sorprende que la gente se harta y vota, por ejemplo, soluciones extremas. Pero hay un maltrato institucional bastante fuerte en general sobre la población que luego busca vías de escape y creo que empieza a ser realmente peligroso. Siempre es peligroso, pero hay época histórica en que lo es más o menos. Y creo que empieza a ser... Entramos en una época en que si no reformamos nuestras instituciones, corremos peligro de luego ir hacia soluciones simplistas y de venganza que no serán buenas para nadie.

¿De qué te sientes más orgullosa?

Yo creo que de haber combinado, de haber creado como una metodología de trabajo que nos ha permitido, de haber sabido escuchar y entonces crear así una metodología de trabajo que nos ha permitido hacer muchas cosas entre pocos y pero de una manera muy eficiente, pero al mismo tiempo eso, divertida y no sacrificada. De haber podido trabajar un activismo irónico y eficiente a la vez, que una cosa no quite la otra. Entonces, claro, nuestro Great Hit es el caso Bankia, las tarjetas Black, Rodrigo Rato y todo esto. Esto es el grande... La verdad es que estoy bastante orgullosa. Estoy muy orgullosa también del momento en el que se devolvió todo el dinero a las personas que habían perdido dinero. Hemos conseguido devolver 9 billones, que se dice 9 mil millones, a pequeños ahorradores. Y entonces los mensajes recibidos, aunque todo esto igual en los libros de historia, los grandes, los importantes, no se recuerde que le hemos hecho un puñado de de pelagatos, pero los mensajes de las personas que han recuperado el dinero y su cariño y la relación con esta persona es una de las cosas que creo que siempre me acompañan.

No olvidemos que fuisteis vosotros quienes iniciasteis con una querella en el 2012 todo el proceso, que se abrió el caso Bankia, que acabó con Rodrigo Rato en la cárcel en 2018.

Y que filtramos los correos de Blesa con las tarjetas Black. Tuvimos todo el establishment en contra, incluso el establishment que en teoría es el anti establishment. Entonces se aprende mucho de esto, de las tantas cosas que tú te imaginas, esto lo hará un periodista de investigación, esto lo hará un súper abogado y que no, lo tienes que hacer tú. Esto es un aprendizaje que me ha sido muy útil, que básicamente tenemos que hacerlo todos nosotros. Luego quizás encuentras a alguien que te echa un cable, pero si no, cuenta con que lo tendrás que hacer tú.

¿Qué pueden aprender las empresas del activismo?

Yo creo mucho el emprendimiento, pienso que es nuestra energía, una energía importantísima. Entonces, como somos todos parte de un ecosistema que tendencialmente si es más sano es mejor. Yo creo que también estas formas ágiles, que de hecho nosotros aprendemos de la empresa y viceversa. O sea, yo creo que un grupo activista o un grupo empresarial, o sea, que quiere funcionar una cosa que debe servir en este mundo real, tenemos en realidad muchísimas cosas en común. De hecho, la forma de organizarse yo creo que es muy parecida. Yo creo en el liderazgo, pero creo en el liderazgo distribuido. Yo creo que eso es lo que decía antes. Hay alguien que debe tirar del carro y que tiene que reconstruir el reconocimiento por el cual el resto acepta que tire del carro, pero también al mismo tiempo en el barco tiene que haber otro liderazgo en el que incluso quien es el líder de todo, reconoce como de igual a igual.

Yo creo que las empresas que yo conozco y que aplican también formas de este tipo son empresas en que también se vive mejor y en que hay unos vasos muy comunicantes en la forma de funcionar y que además, muchas veces nos encontramos en el camino de hacer cosas. Por ejemplo, ahora que estamos con la digitalización más democrática de los servicios públicos, pues constantemente es... Nosotros llevamos la parte de derechos digitales, las empresas llevan la parte de la tecnología y es muy rico.

 

La máquina está obsoleta, es un monstruo que no se mueve. Y no es solo una máquina, son las personas que mueven la máquina. Si no tomamos muy en serio la reforma, es una lástima porque estamos perdiendo muchas oportunidades para realmente tener sociedades mejores, mucha más felicidad, mucha menos pobreza, muchas cosas mucho mejor. Yo creo que el problema está más ahí que en la propia legislación.

¿Qué van a votar mañana respecto a la legislación de inteligencia artificial? ¿Dónde se está librando la batalla en este momento? ¿Qué es lo que hay que se está discutiendo?

La batalla mañana será porque se habían puesto de acuerdo, incluso Von der Leyen, que es conservadora, era de acuerdo, por ejemplo, en la prohibición del reconocimiento facial en el espacio público. Y el último momento, justamente hoy, el PP ha aportado unas enmiendas, que mañana sabremos si ganan o no, de permitir el reconocimiento facial en el espacio público. Y esta es la batalla. Esta vez muy claramente el PP, porque era una legislación con mucho consenso. Curiosamente, era una legislación que había iniciado un poco muy liberal, ultra liberal, pero en el sentido malo.

Por ejemplo, solo basada en los riesgos y no tanto enfocada en los derechos humanos. Hemos conseguido introducir que la medida fueran los derechos humanos. O sea, ¿esto qué quiere decir? Está basada en los riesgos. ¿Esta inteligencia artificial a cuánto riesgo te expone? Pero digamos que la medida de riesgo respecto a tus derechos fundamentales se ha consolidado muy fuertemente. Y entonces, por esto que incluso los conservadores que normalmente defienden mucho el reconocimiento facial por tema de seguridad, que yo quiero ser conciliadora en el sentido, yo puedo entender esta preocupación. Pero como todo el mundo entendemos que la famosa patada en la puerta de que el hecho que la policía pueda entrar en tu casa sin un mandato judicial, ciertamente igual nos previene de algún delito para que esto ocurra, ciertamente, podría ser una herramienta muy útil para evitar algún delito, pero la cantidad de daños que pueda hacer a inocentes no compensa. Y entonces aquí estaba un poco en este mismo debate. Y había mucho consenso también de los conservadores y parece que esto ha cambiado.

Los Greatest Hits de las grandes excusas para recortar libertades son los niños y la seguridad. 

Pero volviendo al tema de gobernanza, volvemos a los partidos políticos, porque aquí el gran problema ¿cuál es? Que las personas que decide responde realmente de poder volver a ser candidato y para volver a ser candidato tú tienes que responder primero de todo al jefe de la lista, que es el que decide si te pone o no, y luego a todos los intereses de las personas que son el ecosistema del partido al que tú respondes. Entonces, esto lo entendemos muy bien en un negocio. Nosotros sabemos que el negocio responde a sus intereses. Pues es que los partidos políticos son un negocio, son pequeñas empresas privadas, pequeñas o grandes empresas privadas y entonces deben responder a sus intereses como empresas privadas. Y si entendemos esto, entendemos que no podemos seguir siendo gobernados de esta manera, porque nuestro interés viene siempre después de muchos otros intereses. Entonces, es por eso que a veces es imprevisible.

Cuando tú dices no hay nadie al volante. Están al volante, pero la carretera que recorren no es la de la gobernanza, sino es la de mantener a flote su empresa particular. Y por eso que a veces es muy incongruente las decisiones que toman y repercuten en toda la ciudadanía.

 

 

Liderazgo y autogestión

Yo creo en el liderazgo y creo en lo que decíamos antes, los "hay que hacer", etcétera. O sea, nosotros el método es, "quien propone, se lo come", tal cual. Por lo cual, cuidado con lo que propones, porque te lo vas a comer. Lo aprendemos de los hackers, lo aplicamos de los hackers en una comunidad hacker, la famosa frase: talk is cheap, show me the code. En una comunidad hacker, si uno viene y dice tengo una idea y no tiene nada que enseñar, pero ni se le maltrata ni nada, es como un cactus, no existe, no es un interlocutor. Y entonces, yo creo que si el trabajo demuestra que el colectivo, el grupo pequeño o grande, puede hacer confianza. Esto no quiere decir que nos tenemos que vigilar los unos a los otros, porque luego uno puede envalentonarse y se le pueden ir los humos a la cabeza. Pero si uno a través del trabajo va constantemente de forma transparente demostrando que vale, pues es muy relajado y es bueno para toda la estructura que la persona recibirá el reconocimiento y la estructura recibe el trabajo de una persona que lo hace además de buen humor.

Lo que es muy tóxico es el sistema de gobernanza, que se basa justamente en lo contrario, en parlamentos llenos de personas que hablan y que hacen muy poco. Esto es un poco el contrario de unas organizaciones sociales que funcionan tanto en las empresas como en los grupos civiles que se organizan para activismo, para necesidades, etcétera. Los grupos civiles y las empresas se organizan mucho más así que en nuestra propia gobernancia y de ahí una disonancia muy brutal entre el mundo real y quién gobierna este mundo real. Esto sí que es preocupante. Y entonces gran parte de mi esfuerzo es el de intentar trasladar estas formas que ya están muy estudiadas en el ámbito empresarial y en el ámbito de la organización de la sociedad civil, en el ámbito de la gobernanza, que ya tocaría.

Trazabilidad de la información

Proponéis etiquetar la información, cómo se etiquetan los alimentos, con un tipo de etiquetado muy concreto. Y esto lo habéis llevado al Parlamento Europeo.

Lo hemos llevado por todas partes, pero nadie no hace ni caso, porque son ellos mismos que deberían etiquetarse. El etiquetado de los alimentos, que ahora nos parece normal y sería absurdo que no saber qué contiene lo que comemos, es una cosa muy reciente, tiene 20, 30 años. Cuando antes comentaba que tenemos una metodología, etcétera, yo me quedé fulgurada por Internet en torno al 2006, yo vengo del activismo militante, de esto sufrido, de asamblea horas y horas, y nada en claro, varones testosterónicos heterosexuales que copan todo el discurso, etcétera y claro, de repente Internet entra en mi vida y veo cómo trabajaban las comunidades hacker, etcétera, en las cuales solo se trabaja. O sea, nadie opina durante horas. Hay que hacer esto, pues hagámoslo, venga, pica el código, nos ponemos y lo hacemos. Y por ejemplo, sobre la información, sobre la trazabilidad de la información, nosotros ya trabajamos así. Cuando escribes una pieza en Internet y en las comunidades o en sitios como Reddit, etcétera, si no pones las fuentes, nadie te dice nada, simplemente no pintas nada, nadie te hará caso, no eres nadie. Uno que escribe un artículo sin poner por qué afirma una cosa, de dónde viene la fuente, etcétera. Es una cosa que si podemos hacer, las personas que revoloteamos por Internet, ¿por qué no la pueden hacer los medios de comunicación o los grandes emisores de información que son nuestros gobiernos? Llega el gobierno y dice comunicado, hoy llueve, pero sin ninguna fuente fiable. Y esto es trasladado en los medios de comunicación.

Lo que es muy tóxico es el sistema de gobernanza, que se basa justamente en lo contrario, en parlamentos llenos de personas que hablan y que hacen muy poco. Esto es un poco el contrario de unas organizaciones sociales que funcionan tanto en las empresas como en los grupos civiles que se organizan para activismo.

Entonces, cuando tú me dices ¿con quién habéis hablado de esto? Hemos hablado con muchas autoridades y, por ejemplo, la Generalitat, a través de la Dirección de Derechos Civiles, dijo "Bueno, hagamos una reunión con los medios de comunicación para hablar de este tema". Entonces, hicimos una reunión con todos los medios de todos los colores, los grandes, los pequeños, etcétera, para decir cómo sería la implementación de esto a nivel de Cataluña. Y fue una reunión muy interesante porque simplemente es imposible, es imposible por varios temas. Porque los medios confiesan que el 80 por ciento de lo que publican no es información, sino que es, por ejemplo, copiar y pegar. Hoy el gobierno ha dicho, luego copias todo el comunicado de prensa y ya está, está hecha la pieza. Pero no es, el gobierno ha dicho una cosa y verifico si es cierto o no. Pero también por un tema de inmediatez, por un tema de cómo el modelo... Yo aquí no quiero acusar los medios, sino que ellos dicen al mismo tiempo, si lo hiciéramos todo el mundo y entonces el que informa peor no sería el primero que sale.

¿Quién puede modificar estas dinámicas? Quiénes gobiernan y quiénes legislan. El etiquetado que nosotros proponemos no es sólo para la prensa, porque el problema no es la prensa. No son los ciudadanos, lo es la prensa, pero fifty fifty, los realmente responsables son los grandes emisores de información y los que tienen dinero para viralizarla, las corporaciones con mucho dinero, gobiernos, partidos políticos, instituciones. Entonces, los primeros que no deberían emitir ni una línea sin explicar por qué afirman ciertas cosas son ellos. La fuente primaria, la fuente que invierte en dinero, que tenemos que hacer "follow the money" para saber por qué una noticia tiene tanta relevancia y otra menos, son quien mandan y quien deberían legislar. Por lo cual no va a tener mucho recorrido legislativo nuestra propuesta, pero nosotros seguimos insistiendo. Ahora, intentaremos implementarlo en ciertos proyectos. Nosotros siempre en la metodología se hace el análisis, pero luego se pone en práctica. También con el tema del banco, hay que auditar el cuarto banco de España porque lo vamos a rescatar en 2012. Entonces nosotros lo hemos auditado de verdad. Hemos abierto el caso Bankia. No es solo opinar, sino que también hacer las cosas. Es importante.

¿Qué significa para ti ser activista?

Yo no me imagino otra forma de vida. O sea, es mi manera de ver la vida. O sea, si hay algo que no va hay que arreglarlo y ya está. Y entonces, yo de formación soy directora de teatro, pero si hay que abrir un caso bancario, pues se abre. Y ahora estamos digitalizando, intentando que la digitalización sea más democrática, pues se hace. Para mí es una forma de entender la vida, pero no es una forma heroica, yo no me plantearía otra manera de vivir la vida. Yo dedico todo mi día a esto, pero lo digo no como un sacrificio, es mi forma de estar en el mundo. Y me gusta estar así.

¿Te has sentido amenazada alguna vez?

Digamos que he tenido prudencias, o sea, en momentos más, a veces más, a veces menos, me he organizado con previsión, digamos. Hemos sabido que, por ejemplo, han estado urgando mucho en nuestras cuentas bancarias para ver si teníamos eso, porque hacemos muchas cosas y se tiende a pensar que se hace por interés. Pero de verdad que yo lo hago porque me encanta hacerlo. Y esto es lo único que sabemos de cosas que se han hecho para intentar atacarnos. Seguramente deben de haber otras, pero que no sabemos. Entonces, yo ahora menos, pero depende. En una época también he tomado ciertas preocupaciones volviendo a casa, cosas así, pero de haber tenido miedo no.

La seguridad en muchas ocasiones se utiliza también como palanca para recortar derechos.

Los Great Hits de las grandes excusas para recortar libertades son los niños y la seguridad. Entonces, esto es súper peligroso porque tanto los niños como la seguridad son bienes muy guay que tenemos que proteger de verdad. O sea, no estoy diciendo a la mierda los niños, ¿no? No, pero justamente eso, siempre cuando hay un atentado terrorista es muy fácil luego poner. Entonces, yo siempre explico que hay más muertes por democidio, o sea, cuando el propio gobierno mata a su propia población, que no por guerras. O sea, entonces nos tenemos que proteger del enemigo externo, pero también del enemigo interno. Debemos saber que nuestros gobiernos se les puede ir de las manos justamente porque sus intereses, los nuestros vienen después de los suyos. Y entonces, por eso que a pesar de que igual uno se siente más tranquilo teniendo una cámara de vigilancia en según qué sitio, seguramente se ha de tratar el tema de seguridad de algún otro modo, pero sin recortar nuestras libertades, porque un día toca a uno, pero otro día te puede tocar a ti.

Auditabilidad de las IAs

Hablamos también de la auditabilidad de las inteligencias artificiales, cómo se informa del diseño, cómo está hecha una determinada inteligencia artificial, de dónde salen los datos, qué reglas siguen las inteligencias artificiales. Y vosotros defendéis, tú defiendes, que debe ser pública y trazable esta auditabilidad. ¿Cuánto falta para esto?

Digamos que hay una buena noticia. Existe una inteligencia artificial que tiene un nombre técnico que ahora no recuerdo, que tiene una complejidad tal por la cual cosa ni quien la programa... O sea, que se llama Black Box al final. Sí, una caja negra. Sí, es una caja negra porque no puedes entender cómo llega a sus conclusiones, por la cual cosa no lo puedes publicar, ni siquiera las personas que trabajan con ella. La buena noticia es que se trabaja sobre todo de momento en inteligencia artificial explicable. Entonces yo siempre digo yo soy muy mala en tecnología, o sea, no soy técnica, pero como ciudadana me ocupo de tecnología y siempre explico que la mayoría de las veces se puede explicar como una receta de cocina. Tienes los ingredientes por un lado, que son los datos que entrenan la inteligencia artificial, y luego la receta. Es exactamente lo mismo, es yo con estos ingredientes le pido tanto, tanto rato de sofrito, luego, y si lo hago en otro orden, tendré otro resultado. Y entonces, son los procedimientos que tú pides, que tú ejecutas con estos ingredientes. Entonces, se debe poder publicar la receta, yo digo, del algoritmo y de la inteligencia, siempre que se pueda.

Porque es muy importante para eso, para entender si hay sesgo. En la legislación que se está decidiendo ahora, hay bastante de esto, hay huecos, por ejemplo, se pide que se publique en la base de datos si tienen copyright, pero los otros no son obligatorios y no todas. En algunos ámbitos sí, en otros menos. Pero bueno, ¿qué quiere decir? Que este tema, que a principio a principio era no por problemas de propiedad intelectual, que esto es otra gran excusa de muchas cosas. Y la protección de datos también. No es otro que trabajamos con corrupción. Muchas veces, "ay, este dato no te lo puedo dar porque por protección de datos. ¿Pero cómo? Si son datos públicos". Entonces, a principio de todo se decía, Nada de auditabilidad porque revelamos secretos industriales. Ahora esto ya no cuela. Entonces, incluso la legislación más conservadora dice que hay que publicar los procedimientos, las bases de datos, etcétera. O sea que en este sentido, yo creo que está bien y que se ha reaccionado muy rápido, porque ya había toda una serie de aberraciones ya en curso, porque hay muchas empresas que están trabajando en esto y que están haciendo experimentación.

Hay más muertes por democidio, o sea, cuando el propio gobierno mata a su propia población, que no por guerras. Nos tenemos que proteger del enemigo externo, pero también del enemigo interno.

Hay que decir que el software abierto, los repositorios abiertos, están igualando y lo están haciendo muy bien, pero ya se estaban aplicando barbaridades, tipo, no sé, el control emocional de los alumnos para que sean más felices. Pero mientras tanto le haces un perfil emocional, captas emociones y deduces por unas emociones. Nosotros hemos visto algunas de estas herramientas, ahora que estamos en ámbitos de educación, y son auténticas chapuzas. O sea, las que hemos visto es, ¿sabes cuándo te instalas un aplicativo que te promete, yo que sé, que te baja los abdominales o algo, y que en realidad son cuatro botones. Pues lo mismo aplicado, vendido a las escuelas o a las instituciones educativas, que con cuatro botoncitos, si tú escaneas a toda la... Puedes descubrir el próximo que sufrirá bullying y el que se lo dará. Un desastre absoluto, porque chapuzas absolutas.

¿Cómo está la legislación respecto a la tecnología?

Justo hoy se está discutiendo en el Parlamento Europeo la legislación sobre inteligencia artificial. Y que justo hoy se debate y mañana se vota. Bueno, yo creo que con el reglamento general de protección de datos, que nuestras gobernanzas, varias, nos lo han hecho tragar un poco como una cosa aburrida, complicada, que nos ha complicado la vida, cuando en realidad es un piece of legislation, es una pieza de legislación preciosa, que es el esfuerzo sobre toda la sociedad civil y en particular la alemana que conoció la Stasi, la Gestapo, entonces que entiende qué significa el tener toda la información capilar de toda la población. Entonces, yo creo que esta legislación, que es el reglamento de Protección de Datos, que es de 2016, y anteriormente la de neutralidad de la Red, ha un poco envalentonado, por fin, la gobernanza a nivel europeo a que efectivamente, si utilizamos los derechos humanos como materia prima para la legislación, bueno, creamos un marco con menos dependencia de un lado o de otro, del lado ultra disregulado, del lado hiper controlado.

Y entonces, curiosamente, esta legislación de inteligencia artificial nos ha costado mucho menos introducir elementos más de derechos humanos en la legislación. No es perfecta el reglamento de protección de datos no es perfecto, pero lo que es realmente imperfecto es la implementación. O sea, tú me preguntas por la legislación. Se está legislando relativamente bien. Hay un esfuerzo para hacer. Hay mucho, todavía, muchos problemas y legislaciones erróneas, etcétera. Pero bueno, incluso las cosas buenas, lo que es la inercia terrible es la inercia de la implementación en la mega infraestructura de gobierto. Desde el Ayuntamiento, el departamento más pequeño, al Estado... Esto sí que no funciona. O sea, el reglamento de protección de datos, que debería ser una cosa sencilla para tener mayor privacidad, ha sido transformado en una herramienta burocrática que no nos ha mejorado mucho. Y que los últimos en implementarlo y que lo están implementando peor son las propias instituciones. Por ejemplo, un ejemplo para que se entienda, el famoso cookie, que ahora hace ya un par de años que ya está prohibido poner el botón aceptar o configurar. Ya la ley dice tiene que hacer lo mismo esfuerzo para aceptar y rechazar.

Pues si te fijas, la mayoría de instituciones todavía están con lo de aceptar o configurar, mientras que los particulares, nuestros consultores, ya nos han avisado que esto se ha de cambiar. Entonces, los más atrás en implementar sus propias leyes son nuestras propias instituciones. Y es ahí donde yo veo que, una vez más, todos los caminos llevan al mismo sitio. Entonces, el tema legislativo siempre hay que pelearlo, pero bueno, lo estamos peleando. Ahora, el tema de implementación, esto es agónico y lo ves en el día a día cuando haces acción política. Por ejemplo, ahora nosotros estamos con la digitalización de la educación y bueno, cada paso es... A veces te encuentras un interlocutor político o de la infraestructura de gobernanza que no quiere. Vale, esto es difícil, no quiere. Pero incluso cuando encuentras los que sí quieren y que están convencidos y que quieren avanzar, la máquina está obsoleta, es un monstruo que no se mueve. Y no es solo una máquina, son las personas que mueven la máquina. Es un engranaje que si no tomamos muy en serio la reforma, es una lástima porque estamos perdiendo muchas oportunidades para realmente tener sociedades mejores, mucha más felicidad, mucha menos pobreza, muchas cosas mucho mejor.

Yo creo que el problema está más ahí que en la propia legislación.

Está muy bien que llegue una ley ahora que diga "hasta aquí". Por ejemplo, no perfilado emocional en la educación a los niños, no perfilados emocional para darte o no un trabajo. Es todo esto, esta legislación lo está diciendo, porque eran cosas que ya se estaban haciendo. Entonces, llega bastante a tiempo y está bien. Ahora bien, yo no quiero que estemos hablando solo, no me gusta que estemos solo criticando, en el sentido que yo creo que la inteligencia artificial, eso es una maravilla, debemos investigar, debemos utilizarla, pero si es con un cariz humano seguramente nos puede servir a muchas cosas. Pero ahí también hay un tema, por ejemplo, se dice, el otro día leía que decían que funciona de un programa, de un programa concreto de una gran compañía que no haré el nombre para evitar problemas ilegales a todo el mundo, que dice que funcionaba en 99,96 percent. Si imaginemos que, por ejemplo, dijeran esto de los aviones, que aquí cae solo el 0,04 de los aviones.

Esto no sería muy tranquilizador. Entonces, no debe serlo para los aviones, no debería serlo tampoco para que se nos aplique el 0,04 % de las veces es posible que te acusen de ser, un criminal por un error de una inteligencia artificial. Yo creo que esto no deberíamos aceptarlo como no lo aceptamos para los aviones.

Hay una ley de 2014, o sea, el año que viene son diez años, son dos directivas europeas, la 23 y la 24, que dicen que la contratación pública tiene que ser lotizada al máximo. O sea, el lote es tan pequeño para que pueda participar no solo los mega gigantes, sino una pequeña, mediana empresa, etcétera. Pues esto aquí cumplimos solo un 30 percent, pero la media europea no llega al 50. O sea que nosotros, que siempre pensamos que somos los malos, en realidad, como siempre, los nórdicos lo hacen perfecto, pero el resto... O sea que en toda Europa, en diez años, no se ha aplicado una obligación legal que si yo tuviera mucho dinero, yo empujaría todas las contrataciones públicas hasta que no se lotice. Porque es verdad, es muy complicado.

Pero hay administraciones que lo están haciendo bien, por ejemplo, Valladolid. O sea, que debe ser posible lo que es, pero sorprendente que en diez años no lo hayamos ni intentado. Cambiamos la ley, pero no basta. Tenemos que acompañar esta ley puerta a puerta hasta que se implemente. Y esto es parte del activismo cotidiano, que todas las personas que luchamos en algún ámbito, que realmente es un poco kafkiano el contexto, pero es así. La legislación se está haciendo relativamente bien, pero falta que se implemente.

La legislación, la leo en la playa, lo digo siempre que la leo como una novela negra.

Activismo en tecnología

¿Cómo podemos hacer activismo en tecnología, las personas normales y corrientes?

Pero esto hay que hacerlo de una manera juguetona, porque si no uno se amarga. Si no entras en ninguna web en que no te piden la cookie como Dios manda, si no entras en ningún curso que si no... Te amargas la vida y odias a la humanidad. Pero sí, de vez en cuando, cuando tienes un ratito, dices no, no, yo quiero que se cumpla la ley o yo quiero que me lotices esto. Yo lo hago continuamente en mis negociaciones. Esto yo no lo hago porque esto se hace así. Y si tienes el rato y si lo haces de manera divertida, yo creo que es divertido además, porque ves todo el sistema cambiar alrededor tuyo por una pequeña cosa que tú haces y da satisfacción.

 

Para mí el tema de la legislación, no sé, es algo que siempre me da... Y me doy cuenta de que es un error gravísimo porque es un poco el código fuente de cómo está escrito el sistema.

La legislación, la leo en la playa, lo digo siempre que la leo como una novela negra. Hay que leerla como una novela negra. Mi formación no es jurídica, pero he aprendido, en 2005 hice un espectáculo sobre la base del reglamento del civismo del 2005, que era absurdo. Hice un espectáculo absurdo en la calle explicando a la población. Y a partir de ahí me ha apasionado a leer ley. Porque ves el humano, ves el asesino. O sea, tú vas leyendo y dices mira qué hacen aquí. O sea, mira que el asesino está aquí. Amí me encanta, por ejemplo, el artículo 88.2 de la ley de propiedad intelectual. ¿Por qué? Es lo que te explica por qué la ley de propiedad intelectual en realidad va contra los artistas y no a favor, que es lo que defendemos la gente de la cultura libre. Por qué empieza así: "dando por descontado que el autor ya ha cedido todos sus derechos al distribuidor, coma", a partir de ahí legisla.

O sea, la propia legislación te ha quitado tus derechos, y tan pancha. Y entonces es muy interesante porque lo lees y si lo lees como una novela, lo ves, cualquiera lo puede ver. Las hay, como todas las novelas, las hay más rebasadas y aburridas y otras menos, pero las hay muy divertidas de leer. Porque ves la intención del protagonista, ves qué hay detrás, dónde se quería llegar. Y entonces creo que hay que quitarle el miedo. De vez en cuando uno se lleva el diario, una revista y una ley en la playa y se va leyendo hasta que...

Yo sé que tú has diseñado e implementado un buzón de filtraciones en el Ayuntamiento de Barcelona. ¿Esto es así?

Nosotros éramos amigos de Wikileaks cuando nadie los conocía, de Julian Assange. Éramos amigos cuando éramos todos chavales que íbamos siempre al encuentro de Berlín, en que hay un encuentro hacker, el más grande de Europa. Entonces, todos ahí nos conocíamos. Y ahí descubrimos esta idea de Wikileaks muy, muy interesante, de eso del sistema de filtración, etcétera. Luego uno puede estar de acuerdo o no cómo lo han hecho, pero yo hablo de la tecnología. Entonces, aprendiendo de ellos, cuando abrimos el caso Bankia, pusimos a disposición un buzón anonimizado para poder recibir la información sin que nosotros mismos, ni siquiera nosotros supiéramos quién nos lo manda. Porque claro, esto es la parte importante, que si tú no lo sabes, no pones la fuente en peligro. Y entonces, esto es el buzón de los correos de Blesa. Y entonces, a partir de ahí, nos ha empezado a llegar un montón de otra información de otra gente y intentamos llevar un buzón, hemos ayudado a otros casos de corrupción, pero enseguida fuimos desportados y dijimos, pero si esto lo tiene que hacer la institución, aquí nosotros no somos. Nos dábamos abasto con toda la corrupción que hay.

Es que no puedes. Y entonces, cuando hubo el cambio de gobierno y Joan Linares, que fue uno de los funcionarios a cargo de la investigación del Cas Palau, que estuvo perseguido en peligro de muerte, etcétera, él era el jefe de la oficina de transparencia. Entonces le dijimos "si quieres abrir una oficina de transparencia, pon un buzón anónimo". Él no es nada tecnológico, pero nos hizo caso. Y entonces este buzón no lo abrimos realmente nosotros. Nosotros hicimos la parte activista. La tecnología es de un grupo activista que se llama Global Leaks. Este sistema, la combinación entre nosotros, la parte activista y más legal, etcétera, y la institución y Global Leaks dan estos buzones. Los primeros buzones institucionales que hubieron en España los abrimos en el Ayuntamiento, pero ahora los mismos lo tiene Antifraud, Antifraud Valencia, varios ayuntamientos, la UB, la UPF, Ferrocarriles, la Generalitat. O sea, hay más de 20 que tienen el mismo modelo. Y ahora la OECD, aquí en Cataluña, reproducirá exactamente el mismo. O sea, que ya hemos abierto un camino de una cosa que justamente hoy es obligatoria por ley a todas las instituciones, todas las empresas de más de 250.

Pero cuando lo abrimos en 2017, ahí también la institución, lo primero que nos dijo era que esto no se podía instalar anónimo porque iba a proteger a los pedófilos y a los terroristas. Entonces los niños otra vez. Y entonces nosotros le dijimos, "vamos a publicar esto en los medios de comunicación y vamos a abrir un debate sobre esto". Entonces, enseguida nos dejaron ponerlo en marcha. Y ahora es obligatorio. O sea, en 2017 nos trataban de locos, de amigos de pedófilos y terroristas y ahora es obligatorio por ley. Y entonces, claro, nosotros ahora nos hemos librado, porque ahora ya nuestro buzón lo hemos cerrado y ahora las instituciones se tienen que ocupar. En realidad, algunas se ocupan, otras no. Pero al menos lo que garantizamos con estos instrumentos es que es anónimo. O sea, la persona se protege sola, no con el paternalismo de yo denuncio y debo fiarme que no digan mi nombre a la otra parte.

Todas las personas que han alertado han tenido problemas, salvo algunos que han tomado las precauciones ellos mismos. Y por ejemplo, nosotros, los correos de Blesa, es uno de los pocos de los grandes casos españoles que no se sabe la fuente, porque nosotros la hemos preservado porque simplemente no sabemos quién es. Entonces, incluso han venido tribunales a buscar, a interrogarnos, etcétera. Y como no sabemos quién es, no tenemos posibilidad de que nuestra fuente peligre.

05 Jul. 2023

Carlos Iglesias

CEO en Runroom | Director Académico en Esade | Co-founder en Stooa | Podcaster en Realworld

¡Hablemos!