La inteligencia artificial, al ser creada por seres humanos, no está exenta de sesgos como el machismo, el racismo y la xenofobia. Combatir y corregir estas formas de violencia ha sido uno de los objetivos centrales de la Red de Investigación en IA Feminista (FAIR) [2]. A través de investigación y el desarrollo de prototipos, FAIR ha trabajado en más de 15  proyectos para crear una inteligencia artificial más inclusiva, efectiva y transformadora. 

El Tecnológico de Costa Rica (TEC) [3] fue un actor dentro de esta iniciativa, al encargarse de la administración de los fondos, que ascienden a dos millones de dólares canadienses.  

El proyecto FAIR abordó temas como la recopilación de datos sobre violencia de género, la seguridad de las mujeres en el transporte, la violencia y el acoso digital en redes sociales, y la auditoría de sesgos en modelos de lenguaje. Además, incluyó enfoques en derechos de las personas indígenas, conservación del agua, educación, derechos digitales, justicia y política pública. 

Este proyecto, que inició en el 2020, incluyó la participación de investigadoras, académicas y profesionales de Latinoamérica, el Medio Oriente y el Norte de África, así como del Sudeste Asiático, quienes han trabajado para hacer inteligencia artificial más efectiva e inclusiva. Entre los países participantes se encuentran Argentina, Brasil, Chile, Ecuador, Egipto, India, Indonesia, México, Filipinas y Tailandia. Las personas de estos países que fueron parte tuvieron la oportunidad de atravesar distintas etapas para concretar un artículo académico, un prototipo o llevar su idea a un piloto, todo esto mientras recibían acompañamiento de especialistas. 

Al ser una iniciativa internacional, el TEC tuvo la oportunidad de posicionar al país y a la universidad pública de ciencia y tecnología como líderes en investigación y desarrollo tecnológico responsable con los derechos humanos, y como potenciales aliados en iniciativas de este tipo. Esto se logró con el liderazgo del profesor de ingeniería de Computación del TEC, Jaime Gutiérrez Alfaro. 

Así lo estableció la rectora del TEC, la Ing. María Estrada Sánchez, quien reconoció el posicionamiento de la universidad en este tipo de proyectos. 

“Nuestra participación en el proyecto FAIR evidencia el compromiso del TEC con una ciencia y tecnología responsable y ética, que respeta e incluya los derechos de todas las personas, en particular de las mujeres. Este rol no solo reafirma nuestro liderazgo a nivel global en estos temas, sino que también nos permite establecer redes de contactos internacionales en el ámbito de la inteligencia artificial feminista, posicionando al TEC como un referente mundial en la creación de tecnologías inclusivas y transformadoras”, afirmó Estrada. 

Los recursos para ejecutarlos fueron proporcionados por el Centro de Investigaciones para el Desarrollo Internacional (IDRC) [4], de Canadá, que apoya a los países en desarrollo a encontrar soluciones innovadoras, han sido administrados de manera eficiente por el TEC, asegurando el éxito, la continuidad y la culminación del proyecto. 

FAIR fue dirigido por Women at the Table [5] –una organización global con sede en Suiza– y el TEC, y se enfocó en diseñar soluciones de inteligencia artificial (IA) con un enfoque de género, corrigiendo sesgos relacionados con género, raza y clase, y abordando barreras hacia la igualdad y la representación de las mujeres para asegurar una IA más equitativa y adaptada a las necesidades de todas las personas. 

El coordinador del proyecto en Costa Rica e ingeniero en Computación, Jeff Schmidt, destacó la oportunidad de vinculación que tuvo el TEC con otros países gracias a este proyecto. 

“El TEC participó además en diversas actividades relacionadas con la iniciativa de inteligencia artificial feminista, colaborando con investigadores de Filipinas, Egipto, Chile, Argentina y México. Esta participación subraya el compromiso del TEC con el avance de tecnologías de vanguardia y su enfoque crítico hacia la equidad en la inteligencia artificial”. 

En está línea coicindió el colaborador del proyectto , el ingeniero en computación y profesor Aurelio Sanabria,  quien señaló que hacer inteligencia artificial implica trabajar para que estas herramientas respeten los derechos humanos y no presenten discriminación ni sesgos, especialmente hacia las mujeres.  

“Participar en esta discusión es crucial para definir y dar forma a estas tecnologías, evitando quedar al margen. Además, participamos en la Red Latinoamericana de Inteligencia Artificial Feminista, lo que nos permite establecer contactos para futuros proyectos y posicionarnos como referentes regionales", destacó Sanabria. 

Asimismo, este proyecto permitió que el investigador Jaime Gutierrez representará al TEC en el Foro de París para la Paz 2021. 

A esta iniciativa se sumó con su colaboración también Luis Diego Noguera Mena, ingeniero en computación y director del Centro Académico de Limón. 

Proyectos de IA para la seguridad de las mujeres 

Del 2021 al 2023, se recibieron 51 solicitudes de 17 países para el Programa de Incubación de la Red de Investigación en IA Feminista f<a+i>r (2021-2023). De estos, se financiaron nueve artículos independientes. De los cuales, cuatro lograron concebir un prototipo, mientras que cinco avanzaron más allá, desarrollando un prototipo y creando un piloto. 

Entre los principales proyectos realizados, se concretaron pilotos relacionados con violencia contra las mujeres y su seguridad:  

• AymurAI: AymurAI es un software desarrollado en colaboración entre la ONG feminista Data Género y el Juzgado Penal 10 de Buenos Aires, Argentina. Su objetivo es anonimizar documentos judiciales y extraer datos sobre violencia de género a partir de sentencias, mejorando la transparencia en el sistema judicial de América Latina. El proyecto busca automatizar la recolección de estadísticas de violencia de género, como los feminicidios. AymurAI es un caso de estudio en el kit de herramientas global de la UNESCO sobre IA y el estado de derecho. Ha recibido financiamiento para expandirse a más tribunales en Argentina, México y otros países. 

• SafeHer: Una aplicación filipina de seguridad en el transporte impulsada por IA para Manila, una de las ciudades con los sistemas de transporte más peligrosos del mundo para las mujeres, ya que el 80% de las mujeres que utilizan el transporte público reportan acoso o agresión sexual. Desarrollada por una profesora de filosofía y su equipo tecnológico, SafeHER combina funciones defensivas con la acción colectiva de las mujeres. También integra una cooperación activa con las autoridades de transporte de Manila y las unidades gubernamentales. 

• SOF+IA: Desarrollado por la Fundación Datos Protegidos y el Observatorio de Estadísticas de Género e Interseccionalidades en Chile, SOF+IA es un chatbot que utiliza IA Generativa para dialogar y abordar situaciones de violencia y acoso digital que enfrentan las mujeres en plataformas de redes sociales. 

• E.D.I.A.: Este conjunto de herramientas permite a personas sin conocimientos técnicos explorar y auditar sesgos y estereotipos en modelos de lenguaje. Durante la fase piloto, E.D.I.A. se centra en crear y publicar materiales didácticos para que estos métodos puedan ser replicados en otros idiomas y contextos.  

• IA & Igualdad: Una Caja de Herramientas de Derechos Humanos, Curso y Comunidad 

En las fases de artículo científico y prototipado, también se trabajó con enfoque de derechos de las personas indígenas, conservación del agua, educación, derechos digitales, justicia y política pública. 

Puede consultar sobre más proyectos en: https://aplusalliance.org/feminist-ai-papers/  [6]

Del papel al piloto 

El proyecto de la Red de Investigación en IA Feminista (FAIR) se desarrolló en tres etapas clave para asegurar la creación y evaluación de soluciones innovadoras en inteligencia artificial con un enfoque en justicia y equidad: 

1. Desarrollo del artículo: La primera etapa consistió en la redacción y evaluación de artículos de investigación. Los proyectos se iniciaron con la elaboración de artículos que presentaban ideas prometedoras sobre la inteligencia artificial. Estos artículos fueron evaluados para determinar sus potenciales aportes a la sociedad. 
2. Creación de Prototipos: Los artículos que demostraron tener un alto potencial pasaron a la siguiente etapa, donde se desarrollaron prototipos. En esta fase, se elaboraron herramientas iniciales basadas en los principios de justicia y equidad. Se expandieron las asociaciones para incluir comunidades, académicas, activistas y tecnólogas, con el fin de asegurar que los prototipos fueran inclusivos y relevantes para diversos contextos. 
3. Prueba de piloto: Los prototipos más efectivos avanzaron a la fase de prueba de piloto. Durante esta etapa, se implementaron y evaluaron en colaboración con nuevas asociaciones en los sectores público y privado. Estas pruebas permitieron innovar activamente y corregir inequidades históricas, evaluando la efectividad y aplicabilidad de las soluciones desarrolladas. 

A lo largo de todo este proceso, los proyectos recibieron acompañamiento constante de uno de los tres hubs internacionales. Estos hubs, ubicados en Latinoamérica, el Medio Oriente y el Norte de África, y el Sudeste Asiático, proporcionaron seguimiento mediante reuniones semanales para revisar el progreso y ofrecer sugerencias, asegurando que cada proyecto alcanzara sus objetivos con éxito.