Transcripción:

Silvia: Antes de empezar, queremos contarte que este episodio cuenta con el auspicio de Platzi.

 

Eliezer: Platzi es la plataforma de educación en línea más grande de América Latina, y está comprometida con la educación accesible y de alta calidad. Tiene más de 5 millones de estudiantes en todo el mundo y apoya a la capacitación de 3.500 empresas. 

 

Silvia: Platzi es educación a la medida de tus objetivos, transforma la vida de las personas a través del aprendizaje continuo en tecnología, inteligencia artificial, negocios, inglés y habilidades profesionales. 

 

Eliezer: Encuentra más información en www.platzi.com 

 

Eliezer Budasoff: Bienvenidos a El hilo, un podcast de Radio Ambulante Studios. Soy Eliezer Budasoff. 

 

Silvia Viñas: Y yo soy Silvia Viñas. 

 

Ayer, jueves 29 de agosto, la empresa X dijo que esperaba en breve que un juez ordenara el cierre de la red social en Brasil. El juez Alexandre de Moraes del Supremo Tribunal Federal le había dado a la empresa un plazo de 24 horas para nombrar un representante legal en el país. Pero X no cumplió con la orden judicial.

 

Eliezer: Días antes, X había anunciado el cierre de sus operaciones en Brasil.

 

Audio de archivo, locutor: Por discrepancias con la justicia de ese país.

 

Audio de archivo, locutor: Musk afirma que el grupo se vio obligado a tomar esta decisión para proteger la seguridad de su personal local.

 

Audio de archivo, presentadora: Depois das decisões do Ministro Alexandre de Moraes do Supremo Tribunal Federal.

 

Silvia: El equipo de Asuntos Globales de la red social explicó la decisión de cerrar operaciones en Brasil en un comunicado. Dijeron que el juez De Moraes amenazó con arrestar a sus representantes legales en el país si no cumplían con lo que la empresa llama “órdenes de censura”. Y que el pueblo brasileño tenía que elegir entre la democracia o el juez.

 

Eliezer: De Moraes está investigando a Elon Musk, dueño de X, en una causa conocida como “milicias digitales”, que tiene que ver con un supuesto plan para promover ataques a la democracia brasileña y que resultaron en el asalto a la Plaza de los Tres Poderes en Brasilia en 2023. El juez señala a Musk por obstrucción de la Justicia, organización criminal e incitación al crimen.

 

Silvia: Y la semana pasada, De Moraes había pedido a X que entregara información de una lista de 12 usuarios de la red social vinculados a estas milicias. Además, según un documento que publicó la empresa, el juez habría establecido multas y prisión para la administradora de X en Brasil por obstaculizar el proceso. Aunque, como es una investigación judicial que sigue abierta y no es pública, no es posible comprobar la veracidad del documento.

 

Eliezer: Este no es el único enfrentamiento que ha tenido Elon Musk relacionado con la desinformación: hace poco recibió también advertencias del gobierno de Reino Unido por compartir información falsa sobre el ataque a tres niñas en ese país y alimentar el discurso racista que derivó en disturbios violentos.

 

Silvia: La pulseada entre Elon Musk y la justicia brasileña es parte de un conflicto que crece en América y Europa: el de plataformas que desafían regulaciones nacionales escudándose en la libertad de expresión para favorecer sus intereses políticos y económicos. 

 

Hoy: cómo Brasil puede marcar un precedente en América Latina sobre moderación de contenido digital, y por qué el modelo de negocio de redes sociales como X se ha convertido en un reto inevitable para nuestras democracias. 

 

Es 30 de agosto de 2024.

 

Eliezer: Claudia El 17 de agosto, Elon Musk anunció el cierre de las oficinas de X en Brasil. Antes de entrar en los argumentos que dio, nos gustaría entender qué implica en términos concretos esa decisión. 

 

Claudia Jardim: Musk ya había amenazado irse de Brasil y reabrir incluso los perfiles que están suspendidos en la plataforma por orden judicial. 

 

Eliezer: Ella es Claudia Jardim, periodista y coordinadora de la producción de podcast en Agencia Pública. El medio brasileño está investigando los negocios de Elon Musk en Brasil y su articulación con la extrema derecha en ese país.  

 

Claudia: Él toma esta decisión porque el análisis que hacemos desde acá es que la red podría, entonces, pasar a operar sin ningún tipo de restricción legal. Al salir, cerrar sus oficinas en Brasil, ya la justicia brasileña no tiene a quién tocar la puerta y exigir explicaciones o exigir que determinados perfiles sean suspendidos de la plataforma por violar la legislación. Entonces, la plataforma técnicamente podría operar libremente. 

 

Eliezer: Es decir, como se cerraron las oficinas, ya no hay una representación legal de X en el país. En teoría, la red social podía seguir funcionando –la gente en Brasil todavía podría usar X– pero sin el control de la legislación brasileña.

 

Claudia: Por otro lado, obviamente, si siguen violando la legislación, eso forzaría a la justicia a cerrar la plataforma, lo que obviamente sería, digamos, un escándalo a nivel de si pensamos en libertad de expresión. Pero también sería o podría ser visto como un combustible que la extrema derecha brasileña necesita para entonces seguir reverberando la idea de que aquí hay una dictadura judicial, que hay una amenaza a la libertad de expresión y etcétera. O sea, es una una situación bastante delicada esta salida.

 

Eliezer: Esta situación delicada de la que habla Claudia iba a empeorar pronto, porque estaba claro que la empresa no parecía dispuesta a cumplir.

 

¿Qué es lo que argumenta Elon Musk? ¿O sea, qué es lo que dice de por qué se van?

 

Claudia: X dice que sus funcionarios estaban siendo amenazados por la justicia brasileña a aplicar medidas de censura en la plataforma.

 

Eliezer: Pero no hay pruebas de estas supuestas amenazas del juez más allá de posibles multas económicas por demoras en los plazos para responder.

 

Claudia: O qué es lo que interpreta Musk como amenazas a sus funcionarios. Pero yo diría que no, no es que la justicia brasileña para este tipo de personas no suele ser o presionar de esta manera en un tono de amenaza. Lo que sí sabemos es que se les exigió que determinados perfiles fuesen suspendidos por el tema de violar la legislación.

 

Eliezer: X publicó el 14 de agosto un pedido firmado por De Moraes para que entregue información sobre 12 usuarios. Uno de estos perfiles es el de Fernando Cerimedo, un consultor político argentino que jugó un papel clave en la campaña para desacreditar los resultados de las elecciones de 2022, en las que ganó Lula Da Silva, y que ha trabajado en la estrategia digital de distintos políticos de extrema derecha del continente Tres días después, publicaron un pedido de De Moraes intimando a X a bloquear cuentas, pero sin aclarar si se refería a los mismos 12 perfiles. Y como les contamos hace unos minutos, este miércoles De Moraes le exigió a Musk que nombrase un representante legal en el país. El juez dijo que si no lo cumplía en un plazo de 24 horas, suspenderían las actividades de X en Brasil. Para la madrugada del viernes, la medida todavía no se había hecho efectiva. 

 

Aunque este es el episodio más reciente, se trata de una cruzada que lleva años, en la que la justicia brasileña le ha pedido a varias plataformas que retiren o regulen sus contenidos .

 

Claudia: Es decir, el ministro ha dicho algunas veces de que a pesar de no haber una legislación, las redes sociales no pueden ser tierra de nadie. Hay que cumplir un reglamento y están bajo la Constitución brasileña, aunque en otros países a lo mejor la plataforma no tenga que dar explicaciones, en Brasil debería dar y no solo no solo X. O sea, Facebook y todas las otras redes sociales tienen que cumplir con esa legislación. 

 

Eliezer: Queremos entender un poco más de este conflicto. ¿Cómo ha sido la relación de Elon Musk desde que compró Twitter con la justicia brasileña?

 

Claudia: Esta pelea, digamos, entre Musk y la justicia brasileña, se arrastra ya hace unos años. Es importante entender que el contexto en que esta pelea entre Musk y la justicia brasileña empieza durante el gobierno de Bolsonaro.

 

Eliezer: Recordemos que Bolsonaro fue presidente de Brasil entre 2019 y 2023. Elon Musk compró Twitter en 2022.

 

Claudia: Y aquí una aclaratoria, ¿no ? O sea, vivimos en una región altamente polarizada, políticamente polarizada y que muchas veces la justicia y el gobierno se confunden. No es el caso aquí en Brasil, yo diría en la mayoría de las veces. Es decir, la justicia brasileña siempre fue muy crítica a todos los gobiernos y eso era una característica en contra de las acciones del gobierno que podrían de alguna manera violar la Constitución. 

 

Eliezer: Acá es donde entra en juego otro de los actores clave en este conflicto y a quien ya mencionamos antes brevemente: el juez y ministro del Supremo Tribunal Federal, Alexandre De Moraes. 

 

Audio, archivo De Moraes: A liberdade de expressão não é liberdade de agressão. Liberdade de expressão não é lá destruição de la democracia 

 

Eliezer: Claudia describe a De Moraes como un juez conservador.

 

Claudia: Conocido por ser mano dura antes de ser ministro del Supremo Tribunal de Justicia. Y que está mucho más alineado al presidente Michel Temer, que era el vice de Dilma, acusado por muchos de haber promovido el impeachment de la Presidenta. 

 

Eliezer: En 2016 Dilma Rousseff fue destituida como presidenta, y la sustituyó Michel Temer, un político conservador  que, apenas asumió el cargo, nombró a De Moraes como ministro de Justicia y luego lo postuló al Tribunal Supremo.

 

Claudia: Es decir, cuando vemos esta discusión y las acusaciones incluso, o sea, de Musk y los bolsonaristas de que Moraes es un comunista, para nada. O sea, es un tipo que está muy lejos del gobierno, muy lejos del presidente Lula, para nada defiende los ideales de la izquierda, ¿no? Pero figura en el país como un tipo que está defendiendo la legalidad.

 

Eliezer: Por ese perfil de mano dura tiene varios apodos. Le dicen Robocop, por ejemplo, entre otras cosas.

 

Claudia: Tiene una pinta muy como de ser un tipo duro, ¿no? Es pelado, antes mismo de ser ministro, ya tenía como, este perfil y claro, y es un tipo muy firme y muy verbal, a diferencia de los otros ministros del Supremo, que son bastante discretos. Moraes convoca rueda de prensa, toma decisiones cuando tiene que tomar. Es decir, ha tomado un protagonismo que quizás no estamos acostumbrados ver en un ministro del Supremo y tiene esta fama de ser muy línea dura. 

 

Eliezer: De Moraes ha encabezado varias investigaciones vinculadas a Jair Bolsonaro y la desinformación.

 

Claudia: Hace ya un poco más de un año que la justicia brasileña creó un expediente para investigar lo que fue llamado las milicias digitales.

 

Eliezer: Son grupos organizados en redes sociales y otras plataformas para difundir mensajes de odio y cuestionar el sistema democrático.

 

Claudia: incluso articular actos, como vimos en el 8 de enero de 2023, poco después de la toma de posesión de Lula, cuando tomaron la Plaza de los Tres Poderes en Brasilia,

 

Presentadora: Los seguidores de Bolsonaro ya ocupan los edificios de los Tres poderes en el país.

 

Presentadora: ingressaram no Palácio do Planalto, ingressaram no STF, ingressaram no Congresso, são locais que estão sendo depredados. 

 

Claudia: Llamando a una intervención militar y un golpe de Estado. Entonces todo esto fue de alguna manera articulado por las redes y a partir de ahí se pasó entonces a investigar la actuación de este grupo en las redes sociales. Muchos perfiles fueron identificados por la Policía Federal de Brasil y entonces se ordenó que estos perfiles fuesen cerrados en las plataformas sociales, incluyendo X.

 

Eliezer: Uno de los casos más conocidos es el de Allan Dos Santos, un bloguero bolsonarista y exsacerdote que ahora vive en Estados Unidos. Es investigado por difundir desinformación y participar de las milicias digitales. Su cuenta en X fue bloqueada y su canal de YouTube suspendido dentro de Brasil.  Entonces, es ahí donde De Moraes empieza a tener un papel más activo en el control de las redes sociales.

Claudia: Aunque en Brasil no hay una ley que reglamente la actuación de las redes sociales. Por supuesto, tenemos leyes que tipifican lo que es crimen o no, por ejemplo, los crímenes de odio que incluye racismo, homofobia, transfobia, etc. Otros es el tema de atentar contra el Estado democrático de derecho, es decir, promover acciones que puedan debilitar las instituciones o incluso llamar a una intervención militar, o un golpe de Estado. Entonces, estos perfiles traían este contenido aún durante el gobierno de Bolsonaro, porque a Bolsonaro no le interesaba la independencia de los tres poderes, es decir él siempre ha defendido el cierre del Congreso o incluso de la Suprema Corte de Justicia. Entonces, digamos que estos perfiles se articulaban en ese sentido para diseminar información falsa, o alentar a la población en este sentido.

 

Eliezer: Claudia me explicó que primero se enfrentaron De Moraes y Bolsonaro. Pero luego se sumaron X e Elon Musk. 

 

Claudia: Hay una línea muy clara de la identificación del dueño de X con los gobiernos de derecha y extrema derecha, no solo en la región, pero a nivel mundial. Entonces, esto se arrastra y Alexandre de Moraes fue visto entonces por Elon Musk como la persona con quien él tendría que enfrentarse. Entonces, lo que era un tema judicial, él convirtió en un tema personal personificando a esta figura del juez que sí tiene un papel, digamos, bastante activo en su toma de decisiones aquí, sobre todo en estos años que fueron bastante convulsos durante el gobierno de Bolsonaro.

 

Eliezer: ¿Cómo ha sido la relación de Elon Musk con Jair Bolsonaro y en general con la ultraderecha brasileña?

 

Claudia: Es una relación muy estrecha, ¿no? ¿O sea, vemos a lo largo del gobierno de Bolsonaro conversaciones de hecho se reunieron en el 2021-2022, si no me equivoco. Para abrir precedentes para la instalación de las antenas de Starlink, que es otro negocio de Musk en la región, sin ningún tipo de trabas. 

 

Eliezer: Starlink es una empresa de Elon Musk que comercializa internet vía satélite 

 

Claudia: Vimos y mis colegas de la Agencia Pública hicieron esa investigación de la diseminación de antenas de Starlink en la Amazonía brasileña, justo donde está la minería ilegal, el garimpo. Y eso pasaba de alguna manera bajo el gobierno de Bolsonaro y nadie hacía nada, porque estamos hablando de la exploración de minería en las tierras indígenas, o sea, algo ilegal.

 

Eliezer: Esa relación estrecha también se puede ver en las mismas redes de Elon Musk, en las que replica comentarios de los seguidores de Bolsonaro, o de los legisladores vinculados a su partido… o de la campaña contra el ministro De Moraes.

 

Claudia: Por ejemplo, el 7 de septiembre, ahora, es el día de la independencia de Brasil. Bolsonaro junto a un líder religioso evangélico convocó una manifestación aquí en San Pablo para protestar en contra del ministro. Es decir, el motto de la manifestación es en contra el Supremo Tribunal de Justicia exigiendo el impeachment y el encarcelamiento del ministro De Moraes. Es decir, tenemos una línea muy clara de discurso entre Elon Musk y Jair Bolsonaro.

 

Eliezer: Musk ha publicado que De Moraes es un dictador, que debería renunciar, que censura a los brasileños. Otra cosa que ha hecho es abrir y cerrar cuentas de X que la justicia pidió que se cerraran. 

 

Claudia: Entonces, perfiles que fueron ordenados para ser encerrados y que fueron en algún momento, de pronto volvieron a aparecer y estar activos en la plataforma. Y obviamente sabemos que las cosas no funcionan así. O sea, un perfil no se reactiva solo si está bloqueado. Entonces él ha jugado y X ha jugado con la justicia brasileña en ese sentido. Ya hace unos meses.

 

Eliezer: Tú nos decías esto de que de hecho, el ministro De Moraes no está alineado en absoluto con el Gobierno, ¿Cómo se ha posicionado Lula en este conflicto?

 

Claudia: Lula ha declarado que está a favor de la regulación de las redes sociales. 

 

Audio, archivo Lula: Uma regulação urgente, porque essas empresas não pagam imposto no Brasil, essas empresas ganham bilhões em publicidade. 

 

Eliezer: Lula dijo que hace falta una regulación urgente, que esas empresas no pagan impuestos en Brasil, que ganan miles de millones en publicidad, y se benefician con la difusión de odio en Brasil y en el mundo.  

 

Claudia: Es decir, este tema está en debate. Hubo un avance en las conversaciones en el Congreso, pero es importante decir, o sea, vivimos en uno de los congresos más conservadores de la historia de Brasil, después de la dictadura. Entonces, es muy difícil que este debate sea puesto en pauta como quieren las organizaciones sociales ¿no? inspiradas en la reglamentación que hay, por ejemplo en Europa. 

 

Eliezer: El año pasado, en Europa comenzó a aplicarse la nueva Ley de Servicios Digitales. Tiene normas específicas para las principales plataformas de redes sociales, como Tik Tok, Instagram o X, y gigantes del comercio electrónico como Amazon o AliExpress. El nuevo reglamento incluye que las plataformas desarrollen mecanismos para que los usuarios puedan denunciar contenidos ilegales, medidas para reducir la desinformación y moderar contenidos, especialmente los que se muestran a menores de edad y los relacionados con la violencia de género. Si las plataformas no cumplen con estas medidas, están previstas multas altísimas y, en última instancia, la suspensión del servicio. 

 

Claudia: Es decir, no es que no se está inventando la rueda acá. Hay países que ya tienen reglas muy claras para las redes sociales, pero claro, o sea, está todo este, digamos, este debate y la diseminación de información, de que reglas significa censura y que sabemos que no es exactamente así.

 

Eliezer: ¿Y qué te parece que es, en definitiva, lo que le interesa a Musk en este conflicto? ¿O sea que qué crees que está buscando o que creen en Agencia Pública que está buscando?

 

Claudia: Eso es lo que vamos a investigar, ¿no? Tenemos algunos indicios de que es esto. O sea, tener parte de la opinión pública favorable a sus negocios acá y ver a Musk como este tipo es el multimillonario, el hombre más rico del mundo que tiene un montón de negocios, que esto atrae sobre todo a los seguidores de Bolsonaro, a la extrema derecha brasileña. Entonces, abre camino para que haya simpatía para sus negocios acá y no solo aquí. O sea, en toda la región. Vemos que los intereses de Elon Musk de la región están conectadas con la exploración de minerales, el litio, está en la Amazonía brasileña y sobre todo, entendiendo que Brasil se ha vuelto esa especie de otro bastión de la extrema derecha regional. Entonces, tener esta plataforma, que es muy poderosa, en un país tan importante en la región como Brasil, diseminando este tipo de información y lo vemos replicado en Argentina, en Estados Unidos, y ahora estamos a las puertas de otra elección en Estados Unidos. Es decir, toda esta articulación económica y comunicacional le interesa y mucho a Musk para entonces seguir teniendo, digamos expandiendo sus relaciones y su poder en la región.

 

Eliezer: Claudia cree que esta disputa entre Musk y la justicia brasileña puede sentar un precedente, para bien o para mal, en la región. 

 

Claudia: Sin duda Brasil ahora tiene una oportunidad de mostrar, o no, esa capacidad de limitar las redes sociales. Es un debate muy delicado, porque limitar siempre. Entonces estamos cuestionando qué tipo de mensaje es limitado y si esto es o no es censura, o si podría o no caer en un debate sobre la libertad de expresión. 

 

Es decir, las redes sociales tienen una responsabilidad muy grande en la diseminación de información, sea ella falsa o no, y pone en jaque sin duda nuestras democracias. Entonces Brasil yo creo que  tiene ahí un papel importante y vamos a ver qué es lo que pasa, es decir, qué tan estricta será la justicia brasileña en la aplicación de esa legislación y cómo termina esa disputa.

 

Eliezer:La noche del jueves 29, cuando se cumplió el plazo de 24 horas que le había dado el juez a X para nombrar un representante legal en el país, la plataforma anunció que no cumplirían con la orden y que esperaban en breve el bloqueo de la red social en Brasil. 

 

Al cierre de este episodio, el servicio no había sido suspendido todavía, pero, un poco antes, De Moraes mostró que iba en serio con otra medida judicial: decidió congelar en Brasil las cuentas de Starlink, la empresa de internet satelital de Elon Musk. Esta decisión, de acuerdo con la prensa, sería una manera de asegurarse el cobro de una multa que debe pagar X por no cumplir con órdenes previas. 

 

“Alexandre de Moraes es un dictador maligno que se hace pasar por juez”, publicó Elon Musk al final del día, entre otros insultos y amenazas, mientras X esperaba que llegara la suspensión de su servicio. Algo que ya ha pasado antes con otras empresas tecnológicas. 

 

Después de la pausa, por qué la pelea por el contenido que se publica en las redes se ha extendido a varios países, y cómo operan estas plataformas para favorecer intereses políticos y económicos bajo el discurso de la libertad de expresión. 

 

Ya volvemos.

 

Elías: Esta semana terminó nuestra campaña de recaudación de fondos más reciente y queremos agradecerte porque seguimos adelante gracias a oyentes como tú. Más de 130 personas aportaron para financiar los episodios de cada viernes. Pero el reto de hacer El hilo sigue vigente. Así que si tienes la posibilidad de unirte a Deambulantes, nuestras membresías, recibimos donaciones durante todo el año en elhilo.audio/donar. Tu aporte nos ayuda a hacer un periodismo cada vez más escaso y más necesario. Muchas gracias. 

 

Silvia: Estamos de vuelta en El hilo. En el segmento anterior hablamos sobre la disputa entre X y la justicia brasileña. Pero esta no es la primera vez que vemos algo así. En 2023, el juez De Moraes ordenó bloquear en Brasil a Telegram por tres días. La empresa había mandado mensajes con información falsa a sus usuarios en ese país, oponiéndose a un proyecto de ley contra la desinformación. Al final, Telegram retiró el mensaje y envió otro pidiendo disculpas. 

 

Y en otros países también ha habido cruces entre la justicia y las plataformas. En Francia, por ejemplo, detuvieron al fundador de Telegram y no lo dejan salir del país mientras lo investigan por varios presuntos delitos, entre ellos, no frenar transacciones ilegales en la plataforma.

 

En India, Meta amenazó con retirar WhatsApp si no hay cambios a una ley que obligaría a la plataforma a quitar el encriptado de extremo a extremo en los mensajes. Y en Australia, Facebook bloqueó por unos días el acceso de los medios de comunicación locales para el mundo y de la prensa internacional para los usuarios australianos. Fue en respuesta a una ley que obligaba a Facebook a pagar a los medios por la difusión de noticias locales en la red social. 

 

Silvia: Elon Musk dijo que cerraba sus operaciones en Brasil porque las medidas judiciales eran un acto de censura y un ataque a la libertad de expresión. Pero  ¿quién es responsable por lo que publica un usuario de una plataforma como X?

 

Carissa: Este debate lo hemos tenido desde el principio de las redes sociales y empieza en Estados Unidos, en parte porque las redes sociales empezaron en Estados Unidos y Estados Unidos toma la postura de que las redes sociales no son responsables del contenido que los usuarios son responsables del contenido. 

 

Silvia: Ella es Carissa Veliz, profesora en el Instituto de Ética para la Inteligencia Artificial en la Universidad de Oxford y autora del libro Privacidad es poder.  

 

Carissa: Ahora los críticos apuntan que las redes sociales quieren convencernos de que son herramientas neutrales, pero no es así. Las redes sociales tienen algoritmos que de alguna manera organizan, identifican contenido, le dan más visibilidad a cierto contenido que a otro y entonces pueden crear polarización, pueden crear mucha más desinformación, que si no hubiera algoritmos cambiando exactamente qué es lo que vemos y que por lo tanto estas compañías deberían ser responsables. Estas compañías muchas veces contestan que no es factible, que hay tantos usuarios y hay tanto contenido que no podrían moderarlo adecuadamente.  Y a mí me parece muy interesante y un poco increíble que este argumento sea exitoso, porque la implicación parece ser que si logras crear un monstruo que sea tan grande y tan complejo que no lo puedes controlar, entonces no eres responsable. 

 

Silvia: Carissa cree que no hemos encontrado un balance. En algunas ocasiones las redes sociales han aceptado más responsabilidad y moderar los contenidos, por ejemplo, después del asalto al Capitolio en Estados Unidos.  

 

Carissa: Las redes sociales se sintieron más responsables y empezaron a tener reglas más duras y a aplicar ciertos criterios. Pero unos años después vemos que ahora están del otro lado. Ahora están queriendo cada vez más no hacerse responsables de ningún tipo de contenido, sobre todo contenido político.

 

Silvia: Hablemos entonces del Reino Unido, donde vives. Hubo disturbios racistas después del homicidio de tres niñas y se atribuyen en parte a la desinformación que se difundió sobre el caso. ¿Nos puedes contar un poco qué fue lo que pasó y por qué está involucrado X en eso?

 

Carissa: Sí, X está involucrado por lo menos de dos maneras. La primera es que efectivamente los disturbios empezaron por un caso de desinformación en el que se creía que la persona que cometió los atentados era musulmán y que estaba en cierto centro religioso. Y entonces empezaron a haber disturbios racistas.

 

Audio de archivo, presentadora: La ultraderecha lleva días incendiando las calles, con ataques a edificios y agentes. 

 

Audio de archivo, presentadora: Según las autoridades, los disturbios se produjeron luego de que circularan informaciones falsas sobre la religión y la identidad del presunto atacante. 

 

Silvia: Al final se trataba de un joven que había nacido en Cardiff, la capital de Gales, en Reino Unido, no de un inmigrante musumlan ni solicitante de asilo, que era la desinformación que estaba circulando. Y, en medio de los disturbios, Elon Musk en X dijo que, cito, “la guerra civil es inevitable”. Estaba respondiendo a una publicación que decía que las manifestaciones violentas eran la consecuencia de “la migración abierta y las fronteras abiertas”. La ministra de Justicia del Reino Unido, Heidi Alexander, dijo que no era aceptable de ninguna manera que Musk usara lenguaje como “guerra civil”. Y el primer ministro, Keir Starmer, recordó que incitar a la violencia en redes también es un delito. 

 

Carissa: Es gravísimo que alguien con esa cantidad de seguidores, y no solamente los seguidores. No sé si tienes X, pero aunque no sigas a Elon Musk, al tío lo vas a ver todos los días y cada vez que abres la plataforma, entonces alguien con ese tipo de impacto, con esa, como en inglés se llama como reach, con esa capacidad de llegar a lectores, a ciudadanos alrededor del mundo que sugiera que una guerra civil es inevitable. Es súper grave.

 

Silvia: Carissa se refirió a la periodista Carol Cadwallader, que planteó la idea de que Elon Musk está probando estrategias en Inglaterra pensando en las  elecciones de Estados Unidos.  

 

Carissa: Y sugiriendo que un poco esto en Inglaterra es un poco como el espacio de experimentación antes de que ciertas cosas sucedan en Estados Unidos. Entonces, por ejemplo, nosotros vivimos Brexit antes de las elecciones en donde fue elegido Trump. Y ella sugiere que algunas de las cosas que están pasando en Inglaterra y cómo está reaccionando Elon Musk son pruebas que va a implementar si pasa una cosa u otra en Estados Unidos en las elecciones en tres meses.

 

Silvia: Wow. ¿Como usar X para básicamente agitar y crear protestas y disturbios si pierde Trump?

 

Carissa: Exactamente. Y en Inglaterra eso puede ser grave, pero en Inglaterra pues la gente está con ladrillos y con palos. En Estados Unidos tienen armas y no solamente son unos cuantos, hay milicias. Entonces, el grado de escalación podría ser mucho peor.

 

Silvia: Estábamos hablando de quién es responsable. ¿Crees que nuestros sistemas democráticos y nuestras instituciones podrían adaptarse de forma más o menos ágil para proteger la influencia y alcance que tienen las redes sociales como X?

 

Carissa: En algunos sentidos, sí, y en algunos sentidos no. Una de las características más interesantes de la democracia es que es muy robusta. Es difícil tirar una democracia. Pero al mismo tiempo es tan frágil que hay veces que la democracia ya está cayendo y uno no se da cuenta porque sigue más o menos funcionando, pero los cimientos están muy frágiles. Entonces, por una parte es increíble lo que la democracia ya ha aguantado, teniendo el tipo de tensiones, de desinformación y el nivel de tantos agentes internacionales con diferentes intereses queriendo intervenir como Rusia y demás. Es sorprendente lo bien que ha resistido la democracia en algunos sentidos. Pero por otra parte, evidentemente no. El hecho de que Cambridge Analytica haya sucedido me sigue pareciendo algo gravísimo que no acabamos de digerir o de adaptarnos o de asegurarnos de que no vuelva a suceder. 

 

Silvia: Recordemos: Cambridge Analytica era una consultora que desarrollaba campañas para políticos y marcas. Usaron datos personales de millones de usuarios de Facebook para manipular a los votantes en las elecciones en las que finalmente ganó Trump en 2016. Antes habían hecho algo similar en el referéndum que terminó con la salida del Reino Unido de la Unión Europea.

 

Silvia: ¿Cómo pueden ser explotados políticamente estos datos personales?

 

Carissa: En general, los datos personales, como su nombre indica, son muy personales, o sea, son muy, mucho más sensibles de lo que la gente se imagina. No solamente es tu nombre, dónde vives, quién es tu familia, quiénes son tus amigos, dónde trabajas. Es con quién te estás acostando, si te está siendo infiel a tu pareja, si no estás pagando bien tus préstamos, lo que te preocupa, tu estado de salud, tus prácticas sexuales, tus tendencias políticas, tu perfil psicológico, cuáles son tus puntos débiles, si perdiste a un hijo, si te duele un fracaso en tu vida. Eso se explota en tu contra para manipular tu psicología. Entonces, si tiendes a ser alguien nervioso, por ejemplo, que tiene un poco de miedo, pues, eso se va a explotar para meterte miedo de los inmigrantes o de lo que sea, no de cualquier campaña política que se propongan.

 

Silvia: Carissa me explicó que las campañas que usan datos personales para fines políticos suele apuntar a los votantes que no están tan convencidos. Así fue en el caso de Cambridge Analytica.

 

Carissa: Se concentraba en gente que podía ser convencida de no votar. Entonces, se les enseñaba contenido, de que no, la democracia ya no funciona. Todos los candidatos son iguales. No merece la pena nada para incentivarlos a que no fueran a votar, porque si fueran a votar votarían por el candidato que era contrario a Cambridge Analytica, que en este caso era Hillary Clinton.

 

Silvia: Y aunque Cambridge Analytica ya no existe, Carissa dice que hay otras empresas que siguen comerciando con los datos personales. Y que esto atenta contra la democracia. 

 

Carissa: Es que es totalmente en contra de la democracia tener un comercio de datos personales, porque al final se utiliza casi de la misma manera, como si vendiéramos y compráramos votos. Y eso no lo hemos cambiado. Y bueno, hay gente que dice bueno, pero Cambridge Analytica no tuvo tanto efecto, Brexit hubiera pasado de todas maneras. Eso es controvertido y no sabemos porque al final es un contrafáctico, pero el que se haya intentado ya es suficientemente malo y sobre todo, que no hemos cambiado nada para que no vuelva a pasar.

 

Silvia: Parece que en la Unión Europea son los que están tratando de regular más, no sé si eso es una impresión. Pero no sé si hay algún ejemplo de legislación que esté aplicando o que se esté aplicando en algún lado que te parezca un modelo a seguir.

 

Carissa: Es difícil porque, sí, la Unión Europea está regulando más y me parece que sobre todo está regulando más la privacidad y eso ya es un acierto, porque si hay menos datos personales que se comercian y la gente está menos vulnerable a campañas de desinformación y campañas políticas personalizadas. Y eso es un ejemplo positivo. 

 

Silvia: Esto está relacionado con la Ley de Servicios Digitales que mencionamos en el segmento anterior. Carissa me explicó que la controversia suele aparecer cuando se quiere regular contenidos, porque implica que alguien decida qué es verdad y qué no. Algunos ejemplos históricos, con evidencia, son claros y no generan dudas.   

 

Carissa: Por ejemplo, en Alemania es ilegal negar el Holocausto. El Holocausto está clarísimo que es un evento que está muy bien documentado y que hay muchas razones para hacer ilegal negarlo. 

 

Silvia: Pero la moderación de contenido puede ser riesgosa en otros casos o países. Carissa puso el ejemplo de China o de Singapur. 

 

Carissa: Entonces ellos deciden cuáles son los hechos. Los hechos no son algo documentado como el Holocausto y moderan el contenido de una manera que es totalmente pues afín a regímenes totalitarios. Es complicado porque hay legislación que solamente funciona bien si hay un Estado de Derecho y una democracia liberal. Si tomas esa misma legislación y la usas en un país que puede ser, por ejemplo, muchos países en Latinoamérica que no hay un Estado de derecho puede ser catastrófico si la usas en un estado totalmente dictatorial, puede ser terrible. 

 

Silvia: Por eso Carissa dice que no es fácil que una legislación pueda funcionar igual de bien en todos los países cuando se trata de moderar contenido.

 

Carissa: Lo que yo argumento y que ningún país lo está haciendo y es un error, es que se debería de regular el modelo de negocio, porque ahora mismo las redes sociales tienen un modelo de negocio basado en el comercio de datos personales y basado en algoritmos que están diseñados para crear lo que en inglés llaman engagement. El que te quedes en la red social el más tiempo posible. ¿Por qué? Porque mientras más tiempo estés ahí, más datos personales das, más anuncios ves, más clics haces y generas más contenido que al final genera más contenido y más personas se meten en la conversación. Y lo peor del caso es que el contenido que genera más adicción o más deseo de engancharse, que engancha más, es contenido que suele ser súper tóxico. Suele ser desinformación porque muchas veces la verdad es un poco aburrida, es mucho más divertida esas teorías de la conspiración muy extremas o estas noticias de algo que terrible que pasó, ¿no? Lo que puedes hacer para enganchar a alguien es hacerle sentir este tipo como de. ¿Como se dice? Como moral outrage. Como una indignación moral. De que algo muy injusto está pasando. Y para eso, lo más efectivo son las noticias falsas. Entonces, siempre y cuando tengamos ese modelo de negocio, no hay nada que hacer. Ya puedes tener miles de moderadores. Ya puedes tener algoritmos moderando el contenido. Puedes hacer lo que quieras. Pero mientras el incentivo sea enganchar a la gente, vamos a tener problemas. Entonces, si al revés, lo que regulamos es el modelo de negocio y no puedes tener algoritmos cuyo objetivo sea enganchar lo más posible, entonces tendríamos muchos menos problemas en cuanto a contenido. No habría esa necesidad de legislar exactamente qué es verdad y qué no.

 

Silvia: ¿Y por qué no están regulando el modelo de negocio? ¿Por qué no te escuchan?

 

Carissa: Buena pregunta. En parte porque hay tanto dinero involucrado en el comercio de datos personales. La mayor parte del Internet está financiado de esa manera, que es algo muy provocador decir que no deberíamos comerciar con los datos personales, pero por una parte es un error el que el que haya tanto dinero en algo no significa que lo justifique, pues, también hay mucho dinero en traficar seres humanos o en robar. Y no porque algo se haga de una manera muy efectiva de ganar dinero está justificado. 

 

Silvia: Carissa dice que otra razón por la cual a los gobiernos les cuesta regular el modelo de negocio de estas plataformas es porque tienen muchísimo poder…

 

Carissa: O sea, para darte una idea, Elon Musk tiene más dinero que cualquiera de las agencias que está intentando regular y con el dinero va a poder. Y no solamente es Elon Musk, es Microsoft, es Google, es Meta. Y date cuenta que muchos gobiernos dependen totalmente de estas plataformas en muchos sentidos, no solamente porque son plataformas muy poderosas económicas, sino que también están utilizándolos para su e-mail, para tener conversaciones con otros gobiernos. Entonces, es una relación de poder muy complicada en la que los políticos no están teniendo suficiente independencia.

 

Silvia: Y como usuarios, ¿qué podemos hacer para cuidarnos de estas plataformas tan poderosas? Porque seguramente muchos de nuestros oyentes están en X, o en Facebook, o en Instagram, o en todos. Usamos Internet. O sea, es parte de nuestra vida ya estar en estas plataformas. ¿Qué podemos hacer para cuidarnos, para cuidar nuestros datos, nuestra privacidad?

 

Carissa: Pues por una parte, siendo muy realistas, este es un problema que tiene que ser atajado de una manera comunitaria, porque ningún individuo va a resolverlo. Y por más que pongas toda tu energía en tratar de proteger tu privacidad, que deberías de poner mucha energía en ello, no va a ser perfecto. Ahora, el que no sea perfecto no significa que no sea importante hacerlo, porque aunque no sea perfecto, cuidar tu privacidad te puede salvar de un caso de robo de identidad. Te puede ayudar cuando apliques a un trabajo o a un préstamo y sobre todo que también tiene una función de expresar una preferencia importante. 

 

Silvia: Carissa me dio el ejemplo de Facebook y Apple. 

 

Carissa: En 2021, Apple empezó a exigir que las aplicaciones para sus dispositivos le pidan permiso a los usuarios para rastrear sus datos. Esto, claro, afectaba a Facebook porque recoge un montón de datos personales… y reaccionó contra esta medida porque iba a limitar la capacidad de usar publicidad personalizada. Incluso hizo una campaña para que la gente elija que los rastreen igual. Para diciembre de ese 2021 menos del 40% de los usuarios de Apple en Estados Unidos permitían ser rastreados, una clara señal de que no querían que aplicaciones como Facebook tuvieran tanta información sensible. En 2022, Meta, la empresa matriz de Facebook, había perdido 10 mil millones de dólares por estos cambios. 

 

Carissa: Y eso es importante porque por una parte le da razones y armas a los poderes legislativos para regular mejor a las empresas de que la gente no está contenta dando sus datos y que cuando le das una opción escoge no dar sus datos. Pero también le da una oportunidad a las empresas de ver a la privacidad y a la ética de la inteligencia artificial como una ventaja competitiva. Cuando expresamos que estamos cansados de que nos exploten, de que nos mientan, de que se aprovechen de nosotros, le damos una oportunidad a las buenas empresas de innovar y de ofrecer productos que no exploten a la gente.

 

Silvia: En su libro Privacidad es poder, Carissa tiene todo un capítulo sobre esto, pero entre sus sugerencias dice que deberíamos tratar de escoger productos de empresas que no dependan del comercio de nuestros datos personales.

 

Carissa: Por ejemplo, Google sobre todo hace su dinero a través de datos personales, con lo cual siempre va a tener un conflicto de interés, siempre le va a convenir recolectar tus datos. En vez de utilizar Google, puedes utilizar DuckDuckGo, que funciona muy bien. En vez de utilizar WhatsApp, utiliza Signal. En vez de utilizar Gmail o algo así, utiliza ProtonMail. Utiliza Proton Pass para tener organizadas tus contraseñas y tener diferentes contraseñas. En general, suele haber alternativas. Hay una página que se llama www.privacytools.io que ofrece alternativas a los productos más comunes. En vez de utilizar Dropbox, utiliza Proton Drive y en general, haz un esfuerzo sin hacer tu vida imposible. No hace falta ser perfecto para hacer una gran diferencia y bueno para los que quieran más detalles, están en mi libro Privacidad es poder.

 

Silvia: Carissa, para cerrar, nos gustaría apelar a tu rol como profesora de Filosofía y Ética porque hemos hablado de desinformación, hemos hablado de datos personales. También, volviendo a Elon Musk, él es tal vez la cara más visible, o una de las caras más visibles de un movimiento global que se ha apropiado de banderas como la libertad de expresión para atacar minorías, difundir desinformación y organizar campañas de acoso digital. ¿Nos puedes explicar a qué nos referimos cuando hablamos de libertad de expresión y cuáles son sus límites? 

 

Carissa: En general, cuando hablamos de libertad de expresión hablamos de una libertad muy fundamental en el contexto de la democracia liberal. Es el derecho a decir lo que piensas y hablar con otras personas libremente, y a discutir y a intercambiar opiniones. Y claro, si no tienes libertad de expresión, si tienes miedo de decir lo que piensas, si tienes miedo de hacer preguntas, si tienes miedo de hablar con otras personas, pues eso no va a ser una democracia funcional. Pero claro, la libertad de expresión tiene límites. Entonces, por ejemplo, el límite más común y más obvio en el que la mayoría de la gente puede estar de acuerdo es el incitar a la violencia.

 

Silvia: O sea, puedes criticar a alguien, opinar… pero cuando dices que hay que atacar o matar a esta persona, estás cruzando la línea.

 

Carissa: El problema con la libertad de expresión es que es muy atractiva, es muy atractivo defenderla. Pero también es muy fácil manipular lo que queremos decir con libertad de expresión. Entonces, por ejemplo, se supone que Elon Musk está totalmente a favor de la libertad de expresión y para él lo que significa, para él es no tener ningún tipo de filtro, no tener ningún tipo de censura. 

 

Silvia: Carissa me dio un ejemplo: Musk criticaba que los modelos de lenguaje como Chat GPT son demasiado woke, o progres, que intentaban no ser racistas o sexistas.

 

Carissa: Y llegó a decir que eso era algo así como falso, sugiriendo que el racismo y el sexismo es como la verdad, ¿no? Y eso, claro, es controvertido. Es poco. Entonces, en la plataforma de X, por ejemplo, yo estoy viendo muchísimo más contenido sexista y es interesante entender como la falta de filtros, es un error porque en X hay filtros. Los algoritmos siempre están escogiendo qué contenido vemos y qué contenido no vemos. Entonces, si yo estoy viendo contenido sexista y evidentemente siendo mujer, pues no soy el público adecuado. O sea, ya me imagino lo que ve alguien como que sea un chaval de 20 años blanco, ya me imagino el contenido que ve porque X está decidiendo que veo eso, porque yo no estoy haciendo clic en ese tipo de contenido. Yo no estoy quedándome a ver los vídeos. Entonces, Musk quiere hacer parecer como bueno, eso es libertad de expresión. Eso es lo que hay. Esa es la realidad. Pero no hay una realidad en las redes sociales. La realidad siempre es como dicen en inglés curated es seleccionada. Y luego, Elon Musk sí, mucha libertad de expresión, mucha libertad de expresión, pero aquel que lo critique en X fuera de la red. 

 

Silvia: Por ejemplo, hubo un momento en que muchos usuarios estaban inconformes con X –todavía se llamaba Twitter–, y anunciaban en la plataforma que se iban a ir a otra red: Mastodon. Y Twitter empezó a bloquear enlaces a Mastodon.

 

Carissa: Entonces, sí, Musk muy a favor de la libertad de expresión, siempre y cuando no le afecte a él.

 

Silvia: Bueno, Carissa, muchas gracias.

 

Carissa: Nada, Un placer. Gracias a ustedes.

 

Nausícaa Palomeque: Este episodio fue producido por mí, Nausícaa Palomeque. Lo editaron Silvia y Eliezer. Bruno Scelza hizo la verificación de datos. El diseño de sonido y la música son de Elías González. 

 

El resto del equipo de El hilo incluye a Daniela Cruzar, Mariana Zúñiga, Analía Llorente, Samantha Proaño, Paola Alean, Juan David Naranjo Navarro, Elsa Liliana Ulloa y Natalia Ramírez. Daniel Alarcón es nuestro director editorial. Carolina Guerrero es la CEO de Radio Ambulante Studios. Nuestro tema musical lo compuso Pauchi Sasaki. 

 

El hilo es un podcast de Radio Ambulante Studios. Si valoras el periodismo independiente y riguroso, te pedimos que te unas a nuestras membresías. América Latina es una región compleja y nuestro periodismo necesita de oyentes como tú. Visita elhilo.audio/donar y ayúdanos con una donación. Muchas gracias.

 

También puedes seguirnos en redes sociales, recomendar nuestros episodios y suscribirte al boletín de correo.

 

Gracias por escuchar.