Nos dicen que la inteligencia artificial (IA) es futuro, progreso y neutralidad. Que hará la vida más fácil, más rápida y más eficiente. Y, seguramente, en parte será así. Pero también debemos decir otra verdad: la IA también puede discriminar.
Hoy, un algoritmo ya puede decidir si un currículum pasa el primer filtro, si una operación bancaria genera sospechas o si un sistema considera un barrio más conflictivo que otro. Y todavía hay quien piensa que eso es neutral porque “lo decide una máquina”. Pero no es cierto.
Las máquinas aprenden de datos creados por personas, y las personas vivimos en una sociedad con desigualdades, prejuicios y racismo estructural. Si durante años se ha vigilado más unos barrios que otros, la IA aprenderá eso. Si durante años se ha excluido más unos perfiles que otros, también lo aprenderá. La tecnología no crea el racismo de la nada. Pero sí puede amplificarlo.
La lucha contra el racismo no solo se juega en la calle, en los juzgados o en las instituciones; también se juega en las decisiones que toma la tecnología.
Barcelona quiere ser una capital tecnológica europea. Y me parece positivo. Pero una ciudad moderna no es la que tiene más cámaras, más sensores o más discursos sobre innovación. Una ciudad moderna es la que garantiza mejor la dignidad y los derechos de todo el mundo.
También me preocupa quién toma estas decisiones. A menudo hay empresas, consultoras y expertos. Pero casi nunca están las personas que más pueden sufrir las consecuencias: barrios populares, jóvenes racializados, familias precarias o personas migrantes. Quienes reciben el impacto raramente deciden las reglas.
Estudio inteligencia artificial y participo en espacios antirracistas. Y cada día lo tengo más claro: no hay solución técnica para un problema político. Sí, hace falta transparencia. Sí, hacen falta auditorías. Sí, hacen falta equipos diversos. Pero, sobre todo, hace falta valentía para poner límites. Porque si no lo hacemos, automatizaremos las mismas injusticias con herramientas más sofisticadas.
La lucha contra el racismo no solo se juega en la calle, en los juzgados o en las instituciones. En 2026 también se juega en las decisiones que toma la tecnología.
Jordi Callejo, estudiante de AI Data Analytics / AI Engineering en Ironhack.