Faltaban cinco minutos para medianoche cuando te vi revisando el portal del banco por tercera vez esta semana. Esa línea delgada entre ‘aprobado’ y ‘denegado’ que ahora decide un algoritmo. Tus dedos cansados sobre el teclado me recordaron cuando ayudamos a Mateo con su tarea de matemáticas – ambos intentando explicar qué hace justo un sistema. ¿Cuántas decisiones familiares dejarán en manos de máquinas que aprenden de nuestra historia?
Los datos que heredamos
Recuerdo aquella mañana en TransMilenio rumbo al trabajo, cuando me contaste cómo los modelos crediticios fallaban más con mujeres de Soacha que con hombres de El Chicó. No eran cifras abstractas – era la señora que vende empanadas frente a tu oficina, cuyos hijos estudian con los nuestros.
Es curioso cómo estos sistemas aprenden como niños pequeños: absorbiendo patrones sin distinguir lo justo de lo injusto. Cuando el algoritmo ‘juzga por el código postal’ como tú dijiste con esa mezcla de raza y tristeza que solo los que cargan responsabilidades familiares entienden.
Y pienso en cómo enseñamos a Valeria a no prejuzgar por apariencias mientras las máquinas repiten errores que creímos superados. Tus manos separando cuentas domésticas que siempre equilibran lo impredecible de criar humanos en un mundo automatizado.
Los sesgos que no vemos
Te admiro cómo detectas esas discriminaciones silenciosas que otros pasan por alto. Como cuando explicaste que no es lo mismo trabajar en Rappi por necesidad que por comodidad – matices que los sistemas no entienden pero que tú vives cada lunes revisando horarios escolares y turnos laborales. Y esa misma atención al detalle que aplicas en lo cotidiano…
Aquella vez que bromeaste: ‘Confiamos más en la IA que en el GPS que nos hizo perder en Suba’. Reímos, pero esa carcajada llevaba preocupación. Esa misma astucia con que adviertes cuando Gabriel intenta esconder sus malas notas ahora la usas para cuestionar tecnologías que afectan a miles.
¿Hasta qué punto delegamos nuestro juicio crítico? Tus batallas contra sistemas que catalogan como nosotros clasificamos ropa infantil – apresuradamente, con etiquetas que nunca cuentan la historia completa.
Educar con código y lápices
«No inventamos nada sin dejar nuestro corazón en el código»
Educar a la IA se parece tanto a criar niños. Pienso en tus reglas claras: ‘Nada de pantallas durante la cena’ pero también ‘investiguemos quién hizo esta app’. Exigir transparencia tecnológica como exiges honestidad en juegos familiares.
Cuando llevas a los niños al Museo de los Niños para que vean cómo funcionan las cosas detrás de la pantalla, estás criando futuros auditores de algoritmos. Esos sábados que dedicáis a enseñarles a detectar noticias falsas… ¡eso sí que son semillas para el futuro que necesitamos!
Tu insistencia en incluir voces diversas en nuestras decisiones familiares refleja lo que los expertos piden para los conjuntos de datos: representación real, no teórica.
Recursos para transformar la mesa en aula
1. Los viernes de ‘tecnología con conciencia’:
– Jugar a rediseñar apps famosas pensando en la abuela
– Comparar cómo diferentes bancos explican sus criterios
2. Tu selección de recursos educativos:
– Videos que explican IA con ejemplos de mercado campesino
– Guías para adolescentes sobre huella digital con casos bogotanos
3. Esa costumbre tuya de preguntar ‘¿Cómo habría sido justo en nuestro caso?’ aplicado a sistemas automatizados
El futuro que tejemos entre los dos
Al dormir a Sofía anoche, me contaste su pregunta: ‘¿Las máquinas también necesitan valores?’. Tu respuesta fue el mejor manifiesto tecnológico.
Ahora entiendo que cada vez que cuestionas un sistema automatizado están educando no solo a las IA. Están formando a los niños que gobernarán esos mismos sistemas.
No es solo por una tecnología más equitativa. Es por ese mundo donde Valeria no tenga que explicar tres veces su historial crediticio. Donde aprendimos juntos que enseñar a algoritmos es tan sagrado como criar humanos.
Cuando vuelvas a ver esa pantalla de solicitud de crédito, recuerda: tu mirada crítica es el mejor firewall contra la injusticia digital. Somos los primeros programadores éticos de este nuevo mundo.
Fuente: AI and credit: How can we keep machines from reproducing social biases?, Phys.org, 2025-09-23