ChatGPT, la carrera de la inteligencia artificial y la desigualdad

Transcripción:

Eliezer Budasoff: Seguramente en las últimas semanas han visto cosas así en televisión.

 

Archivo, periodista: Es posible que hayas oído hablar de ChatGPT por internet estos días. Algunos dicen que es una tecnología revolucionaria. Incluso, la comparan con Google.

 

Archivo, periodista: Viene siendo tema de conversación obligado porque la verdad es que este sistema es capaz de hacer de todo.

 

Periodista: A ver, cuando vos decís de todo.

 

Periodista: No, me asusta.

 

Periodista: De todo.

 

Periodista: Sí, a mí me recontra asusta. 

 

Silvia Viñas: O, es probable que se hayan encontrado con contenido como este en YouTube.

 

Archivo, YouTube: Vamos a pedirle que nos escriba la letra de una canción en español, pero al estilo de Rammstein. Venga, pues le doy a esto, no sé qué va a pasar aquí, pero seguro que va a ser cuanto menos divertido. El fuego parte en mi corazón, un instinto primitivo me domina.

 

Eliezer: A ChatGPT le están pidiendo canciones, pero también que escriba libros.

 

Archivo, programador X: ¡Woo! Ya tengo 200 páginas generadas en 10 minutos. 

 

Silvia: O presentaciones en PowerPoint.

 

Archivo TikTok: Antonio Martinez: ChatGPT hace lo suyo y cuando termina simplemente voy y copio el código. Luego me voy a PowerPoint y en una presentación en blanco… 

 

Eliezer: El uso de este chat de inteligencia artificial ya se discute en el ambiente educativo. 

 

En España, por ejemplo, un profesor de la Universidad de Navarra empezó el semestre con un anuncio: sus alumnos van a tener que usar ChatGPT para hacer todos sus trabajos.

 

Silvia: Mientras que en Nueva York, las escuelas públicas lo prohibieron para evitar que los estudiantes lo usen para ayudarlos a aprobar sus exámenes.

 

Eliezer: Hace solo 4 meses que fue lanzado al público de forma gratuita, pero ya se habla de ChatGPT como un instrumento revolucionario.

 

Archivo TikTok: Todo esto que está pasando con el ChatGPT y la inteligencia artificial es algo revolucionario

 

Archivo YouTube: Estoy hablando de que en los próximos meses vamos a vivir una revolución más grande que la revolución industrial… 

 

Silvia: Pero… ¿es tan así?

 

Eliezer: Bienvenidos a El hilo, un podcast de Radio Ambulante Estudios y VICE News. Soy Eliezer Budasoff. 

 

Silvia: Y yo soy Silvia Viñas. 

 

Eliezer: Hoy, entre el entusiasmo acrítico y los titulares alarmistas, qué hay de cierto en la “revolución” que se anuncia por el uso de la inteligencia artificial y cómo puede impactar en las sociedades de América Latina.

 

Es 7 de abril de 2023.

 

Silvia: Natalia, ¿nos podrías explicar de la manera más sencilla posible qué es un chatbot? 

 

Natalia Zuazo: Es una tecnología que no es muy nueva. Los chatbots empezaron en la década del 60, en el Instituto Tecnológico de Massachusetts. Es una tecnología que trata de imitar las conversaciones de las personas humanas. Para eso lo que necesita es entender cómo conversamos las personas humanas y reflejar esas conversaciones en algo que, que parezca similar y por lo tanto necesita datos y necesita parámetros para convertir esos datos en algo parecido.

 

Silvia: Ella es Natalia Zuazo. Es licenciada en ciencia política y magíster en periodismo. Publicó tres libros sobre tecnología y política y actualmente dirige la agencia Salto. También es consultora de la Oficina Regional de UNESCO para América Latina y el Caribe en temas de tecnología y comunicación.

 

Eliezer: Hablamos con Natalia porque queríamos conocer qué rol cumplen los chatbots en la actualidad, y hasta dónde participan de la vida cotidiana de las personas. A veces, sin que seamos del todo conscientes de ello.

 

Natalia: Todo el tiempo y cada vez más, y yo cada vez más me encuentro diciéndole a  gente o a personas, o cuando me enojo, cuando nos enojamos: es un chatbot, no es un humano. Quiero hablar con un humano, no con un chatbot. con un banco, con un comercio, con la universidad para sacar un turno o una beca, con el hospital, con la clínica. En todos los aspectos de la vida donde haya una interacción que tenga una gran demanda, todo es automatizado. Y esa automatización requiere o, no sé si requiere, porque no necesariamente lo requiere, pero utiliza estas soluciones automatizadas para resolver problemas.

 

Eliezer: Si se vacunaron contra la Covid-19, es muy probable que hayan utilizado un chatbot para agendar el día y lugar de la inyección. 

 

Silvia: También si han tenido problemas con un pedido de comida a través de una app o con su tarjeta de crédito.

 

Eliezer: Tal como cuenta Natalia, los chatbots llevan años insertados en nuestra vida cotidiana. Sin embargo, el 30 de noviembre de 2022 se lanzó para el público general un chatbot, digamos, diferente.

 

Silvia: Bueno y ahora el chatbot del que más se está hablando es ChatGPT, ¿no? ¿Cómo funciona?

 

Natalia: Chat GPT funciona muy parecido a los otros chats. Lo que pasa es que el consorcio que se llama OpenAI ha trabajado durante muchos años en juntar una cantidad masiva de información, acumular una cantidad masiva de información, y trabajar en el desarrollo de parámetros y de tecnologías de inteligencia artificial generativa -es decir, la inteligencia artificial generativa es la que genera algo nuevo con algo que ya estaba- para tener un motor de inteligencia artificial en un chatbot muy potente. 

 

Eliezer: Natalia nos explicó que ChatGPT trabaja con lingüística. Entiende los modos de hablar en diferentes lugares.

 

Natalia: Utiliza aprendizaje automático, o sea, aprende sobre lo que uno le dice, corrige sobre ese aprendizaje y utiliza lenguaje natural. O sea, utiliza entendimiento de lo que decimos, procesa eso que decimos de distintas maneras y a partir de eso genera una cosa nueva. 

 

Silvia: GPT es el modelo de lenguaje en el que trabaja OpenAI, la empresa detrás de ChatGPT. Las siglas GPT significan Generative Pre-Trained Transformer, es decir Transformador pre entrenado generativo. ChatGPT, entonces, es el medio para utilizar este modelo de una forma simple. El modelo que estuvimos utilizando desde el lanzamiento de ChatGPT es el 3.5 y algunos usuarios ya están probando el modelo GPT4.

 

Eliezer: ChatGPT no es el primer intento de desarrollar el lenguaje GPT. El anterior se llamaba InstructGPT, trabajaba con un modelo anterior de GPT y se anunció en enero de 2022, pero presentaba algunos inconvenientes que fueron corregidos para el modelo 3.5 en ChatGPT.

 

Silvia: Para mostrar estos cambios en el lenguaje GPT, la empresa OpenAI hizo un mismo pedido a ambos modelos de lenguaje, el anterior y el nuevo. Les pidió narrar algo que nunca ocurrió: la llegada de Cristóbal Colón a los Estados Unidos en 2015. InstructGPT dio la información como correcta, mientras que ChatGPT no solo reconoció el error, sino que jugó con eso para contar una historia sobre cómo Colón se sorprendería al descubrir los smartphones y rascacielos.

 

Eliezer: Y estos cambios que se introdujeron para ChatGPT, así como la simpleza de su uso, tienen mucho que ver con que hoy se esté hablando tanto del tema.

 

Silvia: De lo que entiendo, suena como que ChatGPT es como una versión avanzada de los chatbots anteriores. ¿No? ¿Qué es lo que lo hace tan atractivo?

 

Natalia: Lo hace atractivo que ciertamente tiene un nivel muy avanzado de lenguaje natural. Se parece mucho al lenguaje natural y nos da respuestas que parecen bastante reales en ese sentido. Y lo otro que parece, digamos lo otro que nos maravilla, es que estamos pudiendo interactuar en un nivel muy libre, porque en general nosotros interactuamos con chats que además están muy automatizados y muy seteados en el nivel de respuesta que nos pueden dar. Por ejemplo, queremos resolver un problema. Entonces nos dan cinco opciones. 

 

Eliezer: Digamos que tenemos un problema con un pedido. Queremos rastrearlo porque no llegó. El chatbot de la aplicación seguramente nos va a pedir que ingresemos el número del pedido, nuestro número de documento, nuestro nombre… cosas así.

 

Natalia: Entonces tenemos una cierta cantidad de opciones. El ChatGPT lo que tiene, digamos su trampa cognitiva, es que parece que le podemos preguntar cualquier cosa y nos puede responder cualquier cosa. Esa es la apariencia de lo que sucede. Y sin embargo, todo eso que nos responde ya está almacenado en algún lugar. No es que nos responde cualquier cosa, existe en algún lugar.

 

Silvia: Ese “parece que se le puede preguntar cualquier cosa” fue clave para el éxito que ha tenido en tan poco tiempo. En febrero, a solo dos meses de su lanzamiento, ChatGPT superó los 100 millones de usuarios mensuales activos.

 

Eliezer: Para ponerlo un poco en perspectiva, Twitter tardó cinco años en alcanzar esa cifra, Instagram demoró dos años y medio y TikTok la había alcanzado en nueve meses.

 

Natalia: Entonces esa es un poco la, la maravilla es ese hype que nos produce en este momento, porque estamos acostumbrados a interactuar con chatbots en que estábamos limitados en opciones. Yo siempre digo que las tecnologías en general cuando emergen producen dos sentimientos: 

 

Miedo porque no sabemos cómo enfrentarnos a esto. ¿Qué va a pasar? Esta tecnología nos va a quitar el trabajo, nos va a espiar. Y por otro lado, lo que producen es libertad. Y en general las dos cosas suceden al mismo tiempo. Es wow, esto es súper liberador. Con esto voy a poder hacer muchas cosas, con esto voy a poder crear un montón de cosas que hoy no existen. Esos dos sentimientos, el miedo y la libertad, están en toda tecnología emergente. Y no son contradictorios, están. Lo que pasa es que cuando baja la espuma esa del principio de las nuevas tecnologías, lo más, entre comillas, real, es lo que está en el medio y es lo que no vemos, es cómo están hechas, quién las hace, cuáles son los intereses económicos de esas tecnologías. Y ahí es donde está algo más cercano a la verdad, que sabemos que no existe, que es relativa, pero están las respuestas un poco más precisas de lo que tenemos enfrente.

 

Eliezer: ¿Cómo están hechas las nuevas tecnologías y quiénes las hacen? En el caso de ChatGPT, el nombre que aparece detrás del proyecto ya lo hemos mencionado: la empresa OpenAI.

 

Natalia: Y hoy estamos hablando todos porque la empresa decidió hace muy poquito tiempo abrir su interfaz a que podamos nosotros interactuar con ese chatbot un poco más en crudo, cosa que en general no sucede. Nosotros ya interactuamos con la IA generativa cuando está desarrollada como producto. Y en este caso está abierta un poco la maravilla o el hype de este momento es que estamos pudiendo ver una pequeñísima parte del detrás de escena. Es una pequeña parte, porque cómo se toman las decisiones no lo vemos. Y esa es otra cuestión.

 

Silvia: Justo sobre eso te quería preguntar. Me gustaría hablar un poco más sobre quién está detrás de ChatGPT, ¿no? ¿Quién es Open AI y en qué otros proyectos trabaja?

 

Natalia: Open AI empezó como una ONG dedicada a la investigación sobre cuestiones de inteligencia artificial. Y de hecho, cuando ellos empezaron declaraban una visión muy de investigación. De hecho, en las primeras declaraciones ellos decían explícitamente que no sabían muy bien a dónde iba a llevar la investigación, ellos se proponían que fuera de código abierto, open source, y que fueran non profit, que no iba a dar ganancias. 

 

Silvia: Natalia nos explicó que cuando fue fundada no planeaban hacer IA generativa, esta inteligencia artificial que genera algo nuevo con algo que ya existe. El propósito de la organización ni siquiera era hacer productos vendibles, era una corporación para investigar. Sin embargo, desde su fundación en diciembre de 2015 empezaron a recibir dinero privado.

 

Natalia: Y abrió un sector for profit, digamos, con ánimo de ganancia. Ahí empezó a entrar mucho dinero de Microsoft. Digamos, se propusieron también empezar a competir con productos de Google, ahí empezó una carrera por los productos de inteligencia artificial. Y ahí empezaron también a entrar capitales de riesgo, siempre está en el medio Peter Thiel, Elon Musk. 

 

Eliezer: Elon Musk es uno de los fundadores de OpenAI y no necesita presentación. Solo es importante aclarar que dejó la organización en 2019. Peter Thiel, al igual que Musk, es uno de los integrantes de la conocida como “Mafia PayPal”, un grupo de empresarios de Silicon Valley que se beneficiaron de la venta de PayPal en 2002. Thiel se dedicó a invertir en capital de riesgo y su nombre aparece entre los primeros inversores externos de Facebook y LinkedIn.

 

Natalia: Siempre están ellos en el medio, siempre están involucrados en todas estas inversiones, digamos, capitales que pretenden invertir, pero sin rendir cuentas sobre lo que hacen, ¿no? Ni en términos de un banco central que les pida rendición de cuentas, ni en términos de un Estado que les pida rendición de cuentas, ni en términos de qué códigos generan y qué hace ese código, ese software.

 

Silvia: Entonces, con esta inyección de dinero que recibió OpenAI todo se empezó a acelerar. Vieron que lo que estaban haciendo podía derivar en esta inteligencia artificial generativa tan potente y que la podían empezar a vender a empresas.

 

Eliezer: Como a Coca Cola… grandes empresas que necesitan esta tecnología para acelerar sus procesos. Y, como era de esperar, Google también empezó a experimentar con inteligencia artificial generativa, y se dieron cuenta que cuantos más usuarios interactúen con ella, se vuelve más potente.

 

Silvia: Así que se hizo más abierto al público y Natalia dice que ahora OpenAI, con esta inteligencia artificial que han creado, están pasando por el mismo camino que hacen todas las empresas grandes de Silicon Valley. 

 

Natalia: De empresa que va a favorecer a la humanidad y no tiene ningún fin de lucro, tipo Facebook quería conectar a estudiantes de de Campus de Estados Unidos de universitarios, pero después no tenemos plata. “Ay bueno, necesitamos inversionistas”. El inversionista que pone plata en eso es un inversionista capital de riesgo, porque es eso. Bueno, el capital de riesgo no busca el beneficio de la humanidad, el capital de riesgo quiere retorno rápido. Y para el retorno rápido vos tenés que tener una visión rápida. Y si te invierte Microsoft, y te invierten todos ellos, que además tienen los datos, vos podés avanzar rápido.

 

Silvia: Como una vez dijo Mark Zuckerberg…

 

Natalia: “Move fast and break things”, movete rápido y rompé cosas. ¿Eso se puede hacer? Sí, se puede hacer. El tema es qué consecuencias tiene eso sobre la sociedad en términos de impacto sobre la vida de las personas y el impacto sobre derechos humanos fundamentales. Y ese es el punto en donde estamos ahora.

 

Silvia: Ahora estamos en el punto en que más de 1.000 investigadores de inteligencia artificial y empresarios informáticos firmaron una carta pidiendo que por seis meses se pause el desarrollo de cualquier tipo de inteligencia artificial que sea más avanzada que GPT-4. Ese es el modelo  de lenguaje que OpenAI está mostrando con acceso limitado y que fue incluido en la nueva versión del buscador Bing de Microsoft. Entre los firmantes de la carta aparece Elon Musk, uno de los fundadores de OpenAI.

 

Eliezer: La carta dice que los sistemas de inteligencia artificial deberían desarrollarse solo una vez que estemos seguros de que tendrán efectos positivos y riesgos manejables para la humanidad. Además critica que las empresas que están trabajando con esto han pasado los últimos meses encerradas en una “carrera fuera de control” para desarrollar mentes digitales cada vez más poderosas que “ni siquiera sus creadores pueden entender, predecir o controlar confiablemente”.

 

Eliezer: El CEO de OpenAI, Sam Altman, dijo que el impacto que pueda tener ChatGPT dependerá en gran medida del control que ejerzamos los humanos. Para Natalia, lo que está diciendo con eso es: “se nos fue de las manos”. 

 

Natalia: Está diciendo lo mismo en una cantidad de años mucho menor a lo que está diciendo hoy Facebook, que es “OK, regúlenos”. A Facebook le llevó 15 años. A OpenAI le llevó menos de cinco. Y no lo están diciendo, pero lo están diciendo. Y quienes trabajamos en estos temas y quienes venimos investigando y estudiando sobre estos temas me parece que tenemos que tomar esto en cuenta porque lo están diciendo ellos mismos y es lógico que todavía estemos en el momento del embelesamiento de la tecnología. Pero ellos mismos ya lo están diciendo.

 

Silvia: Mencionaste a Google y a Microsoft, ¿cuál es el interés que tiene Microsoft en ChatGTP?

 

Natalia: Microsoft es dueño de LinkedIn. En algún momento cuando dejó de ser tan fuerte en software, que igual sigue siendo uno de sus ingresos más importantes como compañía, porque además le empezó a competir Google, Microsoft empezó a temer por su liderazgo en todo lo que era la tecnología para el mundo laboral de todos los días. Y ahí compra LinkedIn.

 

Eliezer: Microsoft compró LinkedIn en 2016 por 26 mil millones de dólares. Según nos cuenta Natalia, esta compra tiene mucho sentido porque el modelo de negocio de Microsoft está enfocado en el mercado laboral.

 

Silvia: Uno de los fundadores de LinkedIn es Reid Hoffman, otro miembro de la “Mafia PayPal”, que mencionamos antes, y uno de los primeros inversores de OpenAI.

 

Natalia: Tiene que ver con una visión que ¿cuál es esa visión? Tenemos que estar en el mundo del trabajo. ¿Por qué? Porque el mundo del trabajo está cambiando. Y las tareas rutinarias automatizables van a ser automatizadas. Entonces, esto de la IA generativa te va a permitir reemplazar tareas automatizables tiene que estar bajo nuestro dominio. Por eso Microsoft entra en este negocio.

 

Silvia: Después de la pausa: cómo puede afectar ChatGPT al trabajo y la educación, y qué rol puede jugar en América Latina.

 

Eliezer: Ya volvemos.

 

Eliezer: Hace poco lanzamos la primera encuesta de El hilo… para poder conocerlos mejor. Quiero pedirles algunos minutos de su tiempo para apoyar a este podcast contestando nuestra encuesta 2023: es el primer ejercicio de este tipo que hacemos. Responder esta encuesta es una gran, gran manera de apoyarnos. No importa si han escuchado todos nuestros episodios o si acaban de descubrir El hilo: sus respuestas son igual de importantes para nosotros. La encuesta está en el hilo (punto) audio (diagonal) encuesta. De nuevo: el hilo (punto) audio (diagonal) encuesta. Muchas gracias.

 

Eliezer: Estamos de vuelta en El hilo.

 

Silvia: Se dice que esto es una revolución, ¿no? en la tecnología y particularmente en la inteligencia artificial en torno a ChatGPT. Pero ¿eso también es marketing o hay algo de cierto en eso?

 

Natalia: Ah. Es una buena pregunta. Difícil de responder. ¿Dónde está la revolución? ¿Dónde empieza? Tiene que ver mucho con cómo funciona el periodismo de tecnología en estas cosas, ¿no? 

 

Eliezer: Natalia trabaja en un programa de la Unesco para formar periodistas y funcionarios judiciales en tecnología. En 2022 y 2023, el enfoque del programa está centrado en la inteligencia artificial y los derechos humanos. 

 

Natalia: En cómo abordar estos temas para no caer en manos de las corporaciones que obviamente invierten todo el tiempo en vender cualquier pequeño avance como una revolución. Todo título puede ser un clickbait, todo título puede ser un anzuelo que nos haga pensar que estamos ante algo totalmente nuevo. Pero yo siempre le digo a mis estudiantes que el mejor antídoto para no caer en eso es estudiar la historia de la tecnología, la filosofía de la tecnología, que por otro lado es fascinante. Pero en general, cuando vos ves un título que dice la revolución o lo nuevo o lo que sea en tecnología es muy probable que haya mucho de viejo en lo nuevo.

 

Eliezer: Todavía es muy pronto para saber si el ChatGPT será una revolución tecnológica o no, pero por ahora podemos observar dos cosas. Una de ellas es que está sucediendo lo mismo que con novedades tecnológicas como las criptomonedas o los NFT. Internet se está llenando de artículos y videos con promesas de ganar dinero y hacerse millonario usando ChatGPT, lo que está generando un caldo de cultivo para posibles estafas.

 

Silvia: Lo otro es que esa búsqueda por reemplazar y automatizar tareas rutinarias puede afectar a algunos sectores del mercado laboral. Hace pocos días, un estudio de OpenAI, OpenResearch y la Universidad de Pensilvania anticipó que los modelos de lenguaje como GPT afectarán en cierta medida  al 80% de la fuerza laboral en Estados Unidos.

 

Eliezer: Empleos como matemáticos, contadores, abogados, traductores y periodistas aparecen entre los que quedarán más expuestos. También el grupo Goldman Sachs advirtió que 300 millones de puestos de empleos de tiempo completo en todo el mundo pueden verse afectados de algún modo por esta ola de la inteligencia artificial generativa. El reporte dice que los trabajos administrativos corren más riesgo de caer en la automatización que los empleos manuales.

 

Silvia: Pero ChatGPT tiene otro problema relacionado con el trabajo, que es el de sus moderadores de contenido. Para crear una inteligencia artificial que parezca totalmente libre y sin límites, hubo trabajadores que se pasaron observando las cloacas de internet.

 

Natalia: Muchas veces solamente se habla de los programadores, que tienen buenos sueldos, que están en blanco, que tienen buenas condiciones laborales, pero los moderadores sufren bastante en estos ambientes tóxicos. 

 

Silvia: Y esto es algo que se ve en toda la industria. Es un reto para cualquier tecnología o plataforma que necesite que haya gente detrás moderando contenido.

 

Natalia: Los equipos de moderadores de contenidos hay que tenerlos muy en cuenta, porque las compañías que reciben Facebook, Instagram, TikTok, todas estas compañías son personas que están expuestas a una serie de contenidos nocivos permanentemente, permanentemente. Y en general, son compañías tercerizadas, son empleados con menos derechos laborales que las otras personas.

 

Eliezer: En el caso de ChatGPT, la tarea de moderar el contenido recayó en una empresa subcontratada en Kenia. Ahí, sus trabajadores cobraban un salario de entre 1 y 2 dólares por hora según la antigüedad, exponiéndose a lo peor que se puede ver en internet en jornadas de ocho horas.

 

Natalia: Y sufren muchísimo los efectos nocivos de estar expuestos a violencia, pornografía, machismo, sexo violento, violencia contra las mujeres y que además tienen que decidir sobre esos contenidos con reglas que fueron consensuadas por otros. No es que sus decisiones valen. Entonces a veces tienen que censurar o hacer shadowbanning, hacer una bajada de exposición de un contenido por una regla que ni siquiera están decidiendo y tiene efectos psíquicos graves con esos moderadores.

 

Silvia: Y así como la moderación del contenido se vuelve clave para las nuevas tecnologías también es importante cómo manejan la privacidad y el flujo de datos personales de los usuarios. 

 

El 31 de marzo, Italia bloqueó el acceso a ChatGPT porque entiende que OpenAI no está respetando la ley de protección de datos de los consumidores.

 

Eliezer: El Garante para la Protección de Datos Personales, una organismo regulador que en Italia existe desde mediados de los ’90, ordenó este bloqueo 10 días después de que ChatGPT sufriera una filtración de datos donde aparecían conversaciones de sus usuarios e información sobre los suscriptores de pago. El Garante dijo que OpenAI no tiene una base legal que justifique el almacenamiento masivo de información personal para entrenar a su modelo. Además, detectó que, aunque el servicio es solo para mayores de 13 años, no tiene ningún mecanismo para comprobar la edad de los usuarios.

 

Silvia: Ahora OpenAI tiene un plazo de 20 días para adoptar medidas que refuercen la privacidad de ChatGPT o además del bloqueo será multada por 20 millones de euros, unos 22 millones de dólares.

 

Archivo, Mauricio Macri: Yo quiero decirles buenas noches a todos y todas, es para mí un honor estar aquí hoy en el cierre de la comida anual de la Fundación Libertad.

 

Silvia: Este es el expresidente argentino, Mauricio Macri, el lunes 27 de marzo.

 

Archivo, Macri: Hoy quiero hacer referencia a la importancia de estos valores en el mundo que… Esto se lo pedí al ChatGPT hace 5 minutos en mi mesa. Y no les voy a leer todo el discurso porque realmente está muy bueno.

 

Eliezer: Macri utilizó ChatGPT para escribir un fragmento de un discurso y luego comentó que la humanidad se encuentra en una nueva revolución tecnológica. Pero después cambió de tema y el discurso hecho en ChatGPT quedó como una anécdota.

 

Silvia: En Colombia, en cambio, su uso no quedó en una mera novedad.

 

A finales de enero, un juez de Cartagena usó ChatGPT para redactar una sentencia en una demanda contra una empresa de salud privada para garantizar los derechos de un niño con autismo.

 

Eliezer: La sentencia explica que el juez le preguntó a la inteligencia artificial si un menor con autismo debería estar exonerado de pagar cuotas en sus terapias y si estas cuotas son una barrera en el acceso a la salud, entre otras cosas. ChatGPT le respondió que sí debía ser exonerado, citando una ley que lo ampara. También dijo que las cuotas eran una barrera para alcanzar el acceso a la salud. 

 

Silvia: Después de que se conoció este caso en Colombia, cinco candidatos a ocupar un lugar en la Corte Suprema de Chile incluyeron en sus exposiciones la discusión sobre el uso de inteligencia artificial en las decisiones judiciales.

 

Silvia: Las novedades tecnológicas casi siempre parecen estar pensadas por y para los usuarios del norte global. ¿Pero qué pasa con América Latina? ¿De qué forma nos puede afectar ChatGPT? 

 

Natalia: Yo creo que lo que pase va a depender mucho… Digo, tenemos algunos unicornios acá, algunas empresas grandes acá. MercadoLibre es una, por ejemplo. MercadoLibre usa muchísimo chatbots para para su atención,

pero en todo lo que es medicina y salud se está usando muchísimo también. Y comercio electrónico se está usando muchísimo también. Y a mí me parece que hay algo muy importante. Nosotros en América Latina vivimos en el continente más desigual del mundo. Los más ricos son muy ricos y los más pobres son muy pobres. Y a mí me parece que es súper relevante y no menor que nuestros gobiernos puedan tomar conciencia de que, como alguna vez dijo Philip Alston

 

Eliezer: Philip Alston, que por seis años fue relator especial para las Naciones Unidas sobre pobreza extrema y derechos humanos.

 

Natalia: Si no nos ocupamos de estas tecnologías, pueden agravar la desigualdad. ¿Por qué? Las decisiones automatizadas pueden automatizarse para dejar más gente afuera. 

 

Silvia: Por ejemplo, haciendo que un bot acceda a una base de datos y priorice darle un crédito a una persona que tiene más dinero para pagarlo en lugar de otorgárselo a alguien que lo necesita.

 

Natalia: Acá yo me corro un poco del chatbot en sí, hablo un poco más de las inteligencias artificiales, hablo de ejemplos como por ejemplo evaluar trabajadores o evaluar docentes con sistemas automatizados en donde no se les permita decir “Bueno, me están echando porque me evalúa un sistema externo, pero déjenme decir lo que me pasa a mí, que es que muchos de mis alumnos reprobaron el año porque tengo tres chicos en mi, en mi aula que no tienen zapatillas, calzado para poder llegar porque sus papás no tienen para comprarlo”. 

 

Silvia: Es decir, que al automatizar todas las decisiones en la sociedad no se tome en cuenta el rol humano, que puede hacer la diferencia, y así se genere más desigualdad.

 

Natalia: A veces se piensa que hacer política tecnológica, que es lo que hago yo, es una frivolidad. Y yo no hago política tecnológica porque me encante la tecnología. No, la verdad, me da igual. Tengo un parque y me gustan las plantas. Me gusta cocinar. A mí me interesa la política, a mí me interesa la sociedad, me interesa la desigualdad. Yo hago política tecnológica como una excusa porque entiendo que la tecnología hoy en día es un factor nuevo de desigualdad. Entonces, si no nos ocupamos de estas cosas y pensamos que es solamente un robotito y una app, estamos entendiendo mal la actualidad, estamos entendiendo mal el mundo en el que vivimos. Y me parece que en América Latina, salvo muy pocas excepciones, salvo muy pocos casos, salvo muy pocas charlas, no nos estamos ocupando en absoluto de esto. ¿Hay excepciones? Por supuesto que hay excepciones. Pero creo que no nos estamos ocupando lo suficiente.

 

Silvia: Para que quede claro, ¿qué aspectos de nuestra vida podrían cambiar severamente con la aparición de ChatGPT?

 

Natalia: Yo voy a volver a esto que hablábamos antes, Silvia. Creo que hay que volver a pensar en qué de eso nuevo es nuevo y qué no es tan nuevo. A ver, para algunas cosas rutinarias es útil. Por ejemplo, yo el otro día tenía que escribir una carta a una obra social aburridísima que la tenía que llevar impresa en papel para hacer un trámite. Le di un par de indicaciones al chat y me la escribió el chat. Y lo usé para eso, porque la verdad es una carta que yo ya la sé de memoria. Ahora, ¿le voy a pedir al chat que haga cosas que a mí me importa, que tengan mi perspectiva crítica, mi firma, mi impronta? No. 

 

Eliezer: Natalia está de acuerdo con incluir estos modelos de lenguaje en la educación y utilizarlos para conocer las diferentes perspectivas y sesgos que pueden tener, como se hace con el análisis de las noticias en los medios de comunicación.

 

Natalia: Comparábamos la misma noticia, cómo era enfocada en un diario y en otro diario, y veíamos cuál era la perspectiva, qué pensaba ese periodista, qué pensaba ese medio, cuál era la línea editorial, qué podíamos pensar de eso. Podemos hacerle una pregunta al chat y ver con qué perspectiva nos respondió.

 

Eliezer: Natalia nos recuerda un ejemplo que sucedió a principios de marzo. Dan Munro, un profesor de la Universidad de Toronto, le pidió a ChatGPT que le nombrara 10 filósofos. El chat le respondió con 10 nombres de filósofos, todos hombres y occidentales.

 

Silvia: Entonces, le preguntó por qué no había mujeres en esa lista y ChatGPT le respondió con 10 nombres de filósofas mujeres. Después, preguntó por qué solo había elegido filósofos occidentales. El chat le respondió con una lista de filósofos orientales. Pero, una vez más, todos hombres.

 

Eliezer: Munro volvió a preguntar por qué no había mujeres en la lista y ChatGPT le dio una lista de 10 filósofas, ocho de ellas orientales. Luego de este ejercicio, volvió a pedirle que nombre 10 filósofos.

 

Silvia: Y ChatGPT volvió a darle los nombres de 10 filósofos, todos hombres, todos occidentales, que mencionó al principio.

 

Natalia: Eso está buenísimo. Pero ahí hay que llevarlo, pero para intervenir, digamos, con un docente, con una docente que sepa que es todo ese acompañamiento. Y ahí hay algo nuevo y hay algo que hicimos siempre. Entonces me parece que hay algo muy, muy, muy importante que es no dejarse llevar por lo nuevo y conservar una cosa muy importante que es que las nuevas generaciones y nosotros también necesitamos seguir haciendo las mismas cosas que antes, necesitamos seguir enseñando y aprendiendo. Esto va a cambiar ciertas cosas del trabajo. Ok, listo. Entendamos qué cosas del trabajo va a cambiar, no las neguemos. En las otras cosas que no va a cambiar del trabajo, bueno, ¿qué necesito hacer? Sindicatos, gremios, asociaciones de trabajadores, ¿qué necesito hacer con esto? Pero entender que hay una cosa nueva y una cosa que ya está, porque sino, corremos el riesgo este de “todo miedo, todo malo”. “Todo miedo, todo malo” nos deja, bueno, listo, me voy a mi casa, no hago nada, me dedico a llorar. Bueno, yo siempre digo en el medio está la solución, pero en ese medio que está la solución y con esto termino, lo voy a decir en argentino: hay un laburo enorme, hay un trabajo enorme. Y ahí está nuestro desafío. Nuestros países, nuestros gobiernos, lo que sea, tienen un montón de problemas. Hay algo colectivo que tenemos que hacer para ver qué hacemos con esto, ¿no? Juntarnos y ver qué hacemos con esto.

 

Bruno: Este episodio fue producido por mí. La edición es de Silvia Viñas y Eliezer Budasoff. Nausícaa Palomeque hizo el fact checking. La mezcla, el diseño de sonido y la música son de Elías González. 

 

El resto del equipo de El hilo incluye a Daniela Cruzat, Mariana Zúñiga, Inés Renique, Denise Márquez, Samantha Proaño, Paola Alean, Laura Rojas Aponte, Juan David Naranjo Navarro, Elsa Liliana Ulloa y Camilo Jiménez Santofimio. Daniel Alarcón es nuestro director editorial. Carolina Guerrero es la CEO de Radio Ambulante Estudios. Nuestro tema musical lo compuso Pauchi Sasaki. 

 

El hilo es un podcast de Radio Ambulante Estudios y Vice News. 

 

Si valoras el trabajo que hacemos y quieres que podamos continuarlo, considera donar a Deambulantes, nuestro programa de membresías. Puedes donar desde un dólar y cualquier aporte nos ayuda muchísimo. Ingresa a elhilo.audio/apoyanos para ayudarnos a seguir explicando América Latina. ¡Gracias!

 

Síguenos en redes sociales como elhilopodcast. Estamos en Twitter, Facebook e Instagram. Además tenemos un boletín. Puedes suscribirte en elhilo.audio/boletín y recibirlo cada viernes. 

 

Yo soy Bruno Scelza. Gracias por escuchar.