Reflexiones
Sus defensores presentan la inteligencia artificial (IA) simultáneamente como una solución milagrosa para la economía y una amenaza existencial. Pero toda esa publicidad y grandes declaraciones ocultan la realidad cotidiana, que a la vez es sumamente problemática.
el 26 de marzo de 2026
Desde las alucinaciones provocadas por la IA durante el discurso inaugural del rector de la Universidad de Gante hasta la difusión de imágenes sexualizadas de mujeres y niños, la IA plantea nuevos desafíos y refuerza las desigualdades existentes. Pero, ¿puede la IA también propiciar avances positivos? Kif Kif desmiente los mitos y busca una solución.
Mito 1: El término 'IA' tiene un significado claro.
El término «IA» es de uso común, pero pocos podrían ofrecer una definición clara. Por consiguiente, no existe una definición única y aceptada de IA. Esto dificulta la elaboración de una legislación precisa al respecto. Sin embargo, también facilita que las empresas etiqueten sus productos y servicios como «IA» y hagan grandes promesas sobre sus beneficios (lo que se conoce como «lavado de imagen con IA» ).
La IA es un término general que engloba una amplia gama de métodos computacionales digitales, también conocidos como algoritmos. Estos reconocen patrones a partir de datos y generan un resultado específico. Una característica importante de las técnicas de IA es que utilizan el aprendizaje automático. Esto significa que no es necesario introducir manualmente cómo el algoritmo toma decisiones repetidamente. En cambio, se le puede enseñar a tomar decisiones de forma autónoma.
Inicialmente, por ejemplo, un algoritmo no puede distinguir las imágenes de un perro de las de un gato. Por lo tanto, los analistas de datos humanos primero entrenan el algoritmo etiquetando las imágenes. Con el tiempo, el algoritmo aprenderá a estimar mejor qué imagen contiene un perro y cuál contiene un gato. Sin embargo, no se conocen los criterios que utiliza el algoritmo para aprender a distinguirlos. Por consiguiente, las razones subyacentes de las decisiones de los algoritmos son, por así decirlo, una incógnita. Esto suele ser relativamente inofensivo cuando se trata de imágenes de perros y gatos, pero se vuelve mucho más arriesgado cuando, por ejemplo, se trata de reclutar candidatos para una vacante. Hablaremos de esto más adelante en este artículo.
Mito 2: La IA es objetiva y neutral.
La IA aprende a partir de datos que proporcionan información sobre un entorno específico. Sin embargo, estos datos no son neutrales: reflejan las desigualdades sistémicas y la exclusión en nuestra sociedad. La científica informática Joy Buolamwini denomina a este fenómeno « sombras de poder ». Esto provoca discriminación estructural en el algoritmo, lo que se conoce como sesgo.
El sesgo suele surgir por la falta de datos representativos. En estos casos, los conjuntos de datos no contienen la misma cantidad de datos (de buena calidad) para los distintos grupos de población, lo que provoca que el algoritmo funcione con mucha menos precisión para los grupos subrepresentados. La activista digital canadiense-estadounidense y mujer negra Joy Buolamwini lo experimentó en carne propia cuando su rostro no fue reconocido por el algoritmo de reconocimiento facial, ya que este había sido entrenado principalmente con rostros blancos y masculinos. Tuvo que ponerse una máscara blanca para ser “reconocida”.
También pueden surgir sesgos cuando se incluyen datos sensibles en los conjuntos de datos. Algunos datos se consideran demasiado riesgosos para incluirlos, como el color de la piel de una persona. Sin embargo, otros datos, como la dirección o los ingresos, se incluyen, aunque a menudo sean consecuencia de las desigualdades sociales. Por lo tanto, las decisiones basadas en estos datos también pueden dar lugar a discriminación. Por ejemplo, en los Países Bajos se produjo el escándalo de las ayudas para el cuidado infantil , en el que el gobierno neerlandés utilizó inteligencia artificial para determinar quiénes cometían fraude social. La IA identificó la doble nacionalidad como un factor de riesgo para el fraude social. Como resultado, miles de ciudadanos neerlandeses con doble nacionalidad fueron etiquetados erróneamente como defraudadores y perdieron sus ayudas para el cuidado infantil.
Desigualdad en la percepción y el lenguaje.
El sesgo en los datos, y por ende en la IA, tiene consecuencias no solo individuales, sino también sociales. La IA refleja una visión del mundo occidental, blanca, heterosexual y masculina. Como resultado, se difunden estereotipos racistas , sexistas y homófobos en toda la sociedad. Esto genera desigualdades estructurales en la percepción y el uso del lenguaje.
Por ejemplo, una investigación de la organización sin ánimo de lucro «Queer in AI» muestra que las personas y las identidades queer están infrarrepresentadas en los datos, y que la IA se entrena con textos que contienen discursos de odio. Dicho discurso se difunde posteriormente a través de IA como ChatGPT. Los modelos de IA también parten de un sistema de género binario, lo que contribuye a su arraigo estructural en la sociedad. De este modo, las personas y las identidades queer quedan excluidas e invisibilizadas.
Otro estudio demuestra que las imágenes creadas por IA generan sistemáticamente imágenes racistas y sexistas.
Además, los investigadores también solicitaron la generación de imágenes de terroristas. El modelo de IA asoció, en particular, a hombres de aspecto árabe con el terrorismo. Por lo tanto, queda claro hasta qué punto la IA sigue y refuerza los estereotipos.
La desigualdad se refuerza no solo a través de las percepciones, sino también mediante el uso del lenguaje. Dado que muchos idiomas no se incluyen, o apenas se incluyen, en conjuntos de datos como los de ChatGPT, la extinción de algunos idiomas se acelera. No se debe subestimar el impacto de esto. El lenguaje también conlleva ciertos valores, tradiciones y conocimientos. Gran parte del conocimiento sobre plantas locales y procesos ecológicos, por ejemplo, depende del idioma. Cuando se pierde un idioma, también se pierde mucho conocimiento valioso. De esta manera, las normas, los valores y los sistemas de conocimiento occidentales se vuelven aún más dominantes.
¿Una IA libre de sesgos?
Los responsables políticos y las empresas consideran que las soluciones al sesgo en la IA se centran principalmente en mejorar la calidad de los datos para desarrollar una IA “justa” o “confiable”. Sin embargo, investigaciones recientes demuestran que es técnicamente imposible crear conjuntos de datos completamente libres de sesgos y discriminación, incluso en condiciones ideales y aplicando todas las medidas posibles . Aun admitiendo imperfecciones, crear un conjunto de datos de alta calidad sigue siendo muy difícil y costoso. Las empresas ven la protección de datos como un obstáculo para sus beneficios al entrenar modelos de IA. Por ejemplo, las grandes empresas tecnológicas presionaron a la Unión Europea para que aboliera ciertas protecciones relativas al uso de datos sensibles . Por lo tanto, no debemos esperar mucho de ellas en lo que respecta a la lucha contra la discriminación en la IA. En consecuencia, debemos ser muy cautelosos al usar aplicaciones de IA: siempre existe un riesgo real de discriminación, a pesar de las buenas promesas.
Mito 3: El auge de la IA es una revolución.
Las empresas tecnológicas suelen hablar de la revolución de la IA que transformará radicalmente nuestras vidas. Desde una disrupción total de la economía hasta el fin del mundo, estas grandilocuentes afirmaciones sirven para atraer capital y ocultar la verdad sobre la IA. Porque las consecuencias, muy reales (y perjudiciales), de la IA no representan una ruptura con el pasado. Al contrario, la IA está integrada en el contexto social y refuerza las dinámicas capitalistas y coloniales ya existentes. No se trata, por tanto, de una revolución, sino de una evolución.
Por lo tanto, las preguntas que debemos hacernos sobre la IA no se centran principalmente en el contenido técnico, sino en el poder. ¿Cómo se produce la IA? ¿Y quién se beneficia de ella? Kate Crawford, autora del libro « El Atlas de la IA », escribe: «La inteligencia artificial no es solo código o un algoritmo; es un sistema industrial global construido sobre diversas capas de extracción: de energía, mano de obra, minerales y datos».
Mano de obra y datos.
En primer lugar, la producción de IA, al igual que la de muchos otros bienes, requiere la mano de obra más barata posible para maximizar los beneficios. En busca de mano de obra barata para entrenar los modelos de IA, los productores de IA, como OpenAI, contratan a empresas de etiquetado de datos como subcontratistas, quienes a su vez buscan trabajadores de datos autónomos para procesar grandes cantidades de datos para sus clientes. El Banco Mundial estima que entre 150 y 450 millones de trabajadores de datos están empleados en todo el mundo.
Los trabajadores de datos suelen ser personas en situación de vulnerabilidad, principalmente del Sur Global, que luchan por encontrar un empleo estable y, por consiguiente, tienen opciones laborales limitadas. El trabajo de datos para empresas tecnológicas se presenta como la vía para construir una vida mejor. Se les promete autonomía y un buen salario, junto con la idea de que formarán parte de la revolución tecnológica. Sin embargo, la realidad es muy distinta . Los trabajadores de datos reciben salarios muy bajos , trabajan jornadas muy largas y carecen de seguridad laboral, a pesar de la naturaleza intensiva, mentalmente agotadora y compleja del trabajo. De esta manera, las empresas tecnológicas adineradas se benefician de la mano de obra mal pagada del Sur Global y eluden toda responsabilidad mediante el sistema de subcontratación. El testimonio de Oskarina, una trabajadora de datos venezolana que habla sobre el alto costo que implica este trabajo, merece la pena verse en el vídeo a continuación.
Impacto ambiental
La producción de IA tiene un impacto significativo en el medio ambiente. En primer lugar, se requieren recursos naturales baratos para producir IA. Por lo tanto, la extracción de recursos naturales para la IA conlleva violaciones de derechos humanos a gran escala y contaminación ambiental, principalmente en el Sur Global. Por ejemplo, se necesitan materias primas como litio, cobalto y coltán para los centros de datos (grandes edificios que contienen computadoras) donde se ejecuta la IA. La extracción contaminante se lleva a cabo allí en condiciones inhumanas . Recientemente , 200 personas murieron en el derrumbe de una mina de coltán en el Congo.
Además, el desarrollo y uso de la IA consume mucha agua y energía. Según un estudio , cada comando a ChatGPT (o similar) consume medio litro de agua. Por otro lado, un estudio de Greenpeace estima que los centros de datos a nivel mundial consumirán 664 mil millones de litros de agua anualmente para 2028, en comparación con los 239 mil millones de litros de 2024. Esto coincide con la publicación por parte de la ONU de un informe sobre la escasez de agua, que habla de una crisis permanente. En cuanto al consumo de energía, las investigaciones estiman que para 2035, el 20 % del consumo total provendrá de los centros de datos. Se dice que este aumento se debe en gran medida a la IA.
Finalmente, estos centros de datos suelen ubicarse en regiones más pobres, lo que provoca que las comunidades locales sufran escasez de agua, contaminación y un aumento en los precios de la energía. En Chile, Google quería construir centros de datos en una región caracterizada por una sequía persistente, cuyo consumo equivaldría al de toda la comunidad local. En Bélgica, no es casualidad que Google esté construyendo centros de datos en Hainaut , una de las regiones más pobres del país. Mientras tanto, las comunidades locales están empezando a oponerse cada vez más a la llegada de estos centros.
Si bien los ingresos derivados de la IA benefician principalmente a una pequeña minoría en el Norte Global, los enormes costos humanos y climáticos de esta tecnología recaen sobre todo sobre los sectores más pobres de la población, tanto del Norte como del Sur. En resumen, la industria de la IA genera desigualdad económica global de forma similar al resto del comercio mundial dominado por las multinacionales. Por lo tanto, tampoco cabe hablar de una revolución a nivel económico.
Mito 4: La IA nos facilita la vida
Según los expertos en grandes tecnológicas, la IA será una gran ayuda para la gente común. Ya sea que tengas dificultades en la escuela o no encuentres trabajo, la IA estará ahí para ayudarte. Además, completaremos nuestras tareas más rápido, lo que nos dará más tiempo libre. Pero en realidad, los efectos de la IA, además de la naturaleza del algoritmo en sí, dependen del contexto en el que se aplique. Y ahí radica el problema.
Las investigaciones demuestran, por ejemplo, que tres cuartas partes de los reclutadores belgas en el mercado laboral utilizan IA para la contratación de personal y dependen cada vez más de LinkedIn para el reclutamiento. Sin embargo, se desconoce el funcionamiento de los algoritmos de LinkedIn y la discriminación que se produce en ellos. Es muy posible que la IA considere un puesto de trabajo como “masculino” y, en consecuencia, perjudique a las mujeres en la evaluación de los currículos. Por un lado, el algoritmo dificulta aún más la detección de la discriminación. Pero, por otro lado, los propios reclutadores dependen cada vez más de grandes plataformas tecnológicas y algoritmos complejos, lo que reduce su capacidad de decisión y su influencia en el proceso. Por lo tanto, nuestra sociedad se está volviendo cada vez más compleja y dependiente de las grandes tecnológicas debido al uso de la IA. Esto conlleva el riesgo de que las personas y los gobiernos tengan aún menos control y capacidad de decisión sobre los asuntos que les conciernen.
En los debates sobre el uso responsable de la IA, se suele mencionar el principio de intervención humana. Según este principio, las decisiones finales siempre deben ser tomadas por un ser humano. La IA debería ser simplemente una herramienta. Sin embargo, el ejemplo del uso de la IA en la selección de personal demuestra que este principio se topa con serias limitaciones. Al fin y al cabo, las investigaciones muestran que la mayoría de los reclutadores no poseen el conocimiento suficiente sobre cómo funciona la IA. Y esto no es solo una deficiencia individual. La IA suele ser diseñada por los vendedores para parecer neutral y correcta. Como resultado, en la práctica, las personas a menudo siguen ciegamente el resultado del algoritmo en lugar de cuestionarlo.
También debemos preguntarnos con qué propósito se está implementando la IA. ¿Qué problemas resuelve realmente? ¿Ayudará la IA a detectar el fraude social a sacar a la gente de la pobreza? ¿Contribuirá la IA que predice la reincidencia entre los jóvenes a brindarles un futuro mejor? ¿O se trata simplemente de delegar problemas sociales complejos a programas informáticos, principalmente para evitar realizar ellos mismos el arduo trabajo del cambio social real? ¿Podemos confiar en que nuestros políticos defiendan el bien común, prestando atención al racismo y la discriminación?
¿Más fácil o más rápido?
Además, para evaluar el impacto de la IA en nuestras vidas, debemos analizar cómo la utilizamos individualmente. En algunos casos, la IA es claramente útil. Podemos redactar correos electrónicos más rápido o encontrar restaurantes cercanos que nos ayuden a elegir. Pero esta comodidad y el ahorro de tiempo también tienen su lado negativo. Por ello, el antropólogo Brett Scott afirmó : «La tecnología no nos facilita la vida, la acelera».
Podemos tomar nuestro trabajo como ejemplo. A corto plazo, la IA puede ayudarnos a terminarlo más rápido. Pero, paradójicamente, esto no se traduce en más tiempo libre, sino en un trabajo más intenso y alienante. Así como el trabajo manual evolucionó del trabajo artesanal al trabajo en cadena industrial en los siglos XIX y XX, lo mismo ocurrirá con el trabajo intelectual. Consideremos, por ejemplo, el trabajo de programación de un profesional de TI. Mientras que antes escribía el código él mismo, ahora tiene que revisar el trabajo de la IA. Esta disminución en la calidad del trabajo conlleva una sensación de alienación. Como atestigua un joven programador : “Una gran parte del trabajo ahora consiste en corregir el código de la IA. Es algo lamentable: se echa de menos la satisfacción de programar uno mismo”.
La cuestión de si la IA mejorará nuestras vidas va mucho más allá de la comodidad que pueda ofrecer. Se trata de cómo se toman las decisiones, de la participación y de quién ostenta el poder y el control. Y, sobre todo, se trata de cómo se produce el cambio social y qué es lo que realmente mejora nuestras vidas. ¿Es siempre mejor lo más rápido? ¿Es la tecnología la solución a los problemas sociales? ¿O corremos el riesgo de simplemente acelerar la carrera desenfrenada por el consumismo?
Mito 5: Los movimientos progresistas nunca deberían usar IA
Las grandes tecnológicas están haciendo todo lo posible por mantener el control sobre la IA y moldear el mundo según su visión ideal. Las consecuencias para las comunidades racializadas, el clima y los derechos humanos les son indiferentes. Sin embargo, este lado oscuro de la IA no significa que esta tecnología no tenga cabida en un futuro mejor.
Como se mencionó anteriormente, la IA procesa grandes cantidades de información para reconocer patrones y hacer predicciones. En algunos contextos, esto resulta muy valioso. Buenos ejemplos incluyen la predicción de cambios en los patrones de migración animal debido al calentamiento global, la detección temprana de enfermedades como el cáncer y el funcionamiento más eficiente de la red eléctrica .
En un contexto más cercano, la organización belga Strategies & Leaders utiliza la IA para fortalecer la cohesión de los movimientos progresistas . Si bien podemos y debemos cuestionarnos los aspectos éticos de este tipo de uso de las grandes tecnológicas, no debemos rechazar sin más cualquier aplicación de la IA. El uso creativo de las herramientas a nuestro alcance contribuye a lograr eficazmente los cambios que deseamos. Por lo tanto, no todo uso de la IA es negativo.
Sin embargo, es fundamental que la IA se construya y utilice según principios diferentes. Debemos alejarnos de los modelos gigantescos y derrochadores de energía que presuponen que el mundo entero puede ser abarcado con datos, lo que perjudica tanto a la verdad como a nuestro planeta. Debemos evolucionar hacia una IA ecológica . Esta IA se produciría y aplicaría a menor escala, para tareas específicas y contextos culturales bien definidos, teniendo en cuenta las limitaciones inherentes de los modelos de IA.
Un claro ejemplo de esto es la IA de Te Hiku Media . Te Hiku Media es una plataforma de medios para y por el pueblo maorí en Nueva Zelanda. Desarrollaron una IA que ayuda a mantener viva la lengua maorí, que se encuentra en peligro de extinción. El modelo de IA se entrenó con fragmentos de audio hablado y, a pesar del conjunto de datos reducido, mantuvo una precisión del 92 %, superior a la de las grandes empresas tecnológicas. El proyecto siguió el principio de soberanía de datos: los datos siguieron siendo propiedad de la comunidad maorí y solo podían utilizarse con su consentimiento.
Otro ejemplo es Thaura . Dos hermanos sirios desarrollaron Thaura como una alternativa ética a ChatGPT. Según ellos, esta IA consume un 90 % menos de energía que los principales modelos de IA y no pretende ser políticamente neutral ante eventos como el genocidio en Palestina. Su objetivo es ofrecer una alternativa a las grandes tecnológicas y proporcionar a los movimientos progresistas una herramienta ética para organizar la resistencia social. Este proyecto se encuentra actualmente en sus primeras etapas.
Hoy en día, la IA está dominada por las grandes empresas tecnológicas que intentan vender el mayor número posible de aplicaciones de IA, ocultando los costes y peligros reales. Sin embargo, las iniciativas mencionadas demuestran que la tecnología puede desarrollarse y utilizarse de forma diferente. La IA puede ser ambientalmente responsable, respetando nuestros datos y derechos civiles, y velando por el interés público. En resumen, es necesario un control democrático sobre la IA para que podamos decidir si la utilizamos y qué tipo de IA utilizar. Está en nuestras manos hacer todo lo posible para que este futuro se convierta en realidad.
Clic para ir a la fuente de este artículo
Esta es una traducción al español del artículo original, haciendo uso del traductor de Google
