Tecnología boba

La humanidad anda falta de autoestima. Y no es un problema actual, sino que viene de lejos. Sin faltarnos nada para vivir con dignidad, siempre nos ha pesado llevar las riendas y con ellas la responsabilidad sobre nuestra propia suerte. Ese estigma, el del miedo a la libertad, nos aboca siempre de nuevo a misteriosas fuerzas irracionales que, por obra de dios, del mercado y ahora del algoritmo, nos someten a la voluntad ajena, confiándoles justicia y poder a sacerdotes, economistas y matemáticos. En nombre de absurdas deidades antropomórficas, de indemostrables principios económicos o de un oxímoron tan deleznable como lo es, si lo pensamos bien, el concepto de ‘inteligencia artificial’, condenamos así nuestra emancipación y progreso social al dictado de voces siempre ajenas a nuestros intereses, con tal de no asumir la autonomía que nos corresponde por nuestra propia naturaleza.

El encaje de las verdades incuestionables ha respondido siempre a una sola lógica: la de reproducir las relaciones de poder y de hacer callar, hasta hacerlo inaudible, cualquier conato de lucidez colectiva. El nuevo actor que se alza ante nosotros, el algoritmo, viene vestido con un hábito codificado y acompañado de una hueste de analistas. Su iglesia es la del ADM, el Algorithm Decision Making (toma de decisión algorítimica), que por su carácter ‘inhumano’, se nos dice es más objetivo y neutral. La clave, como en el caso del mercado o de la religión, es la de una inteligencia ‘superior’, cuya interpretación queda reservada a los ‘iniciados’. Pero en realidad son muchas las evidencias que muestran hasta qué punto el ADM afecta ya nuestras vidas y cómo su lógica no es otra que la de la incrementar beneficios y poder. Como denuncia Algorithm watch, el ADM es todo menos neutral. Es opaco, invasivo y poco democrático.

Lo describe con mayor detalle Cathy O’Neil, doctora en matemáticas por Harvard, y que pasó del mundo financiero al movimiento ‘Occupy Wall Street’. En su libro ‘Armas de destrucción matemática’ nos muestra cómo el ADM incide hoy en la evaluación del riesgo crediticio, en el acceso a la universidad, en la publicidad y la decisión de compra, en la justicia (software de predicción de delitos), el acceso a créditos o seguros, o incluso en la búsqueda de pareja. Tampoco se libra el mundo del trabajo. La campaña iniciada por el gran sindicato de servicios Uni Global Union a favor de acuerdos y contratos colectivos que delimiten la incidencia del ADM, pone en evidencia hasta qué punto éste comporta riesgos para la salud, deshumaniza el trabajo, o comporta más discriminación. Los casos relatados por UNI, pero también por la autora norteamericana muestran como la dimensión algorítmica es de todo menos neutral.

En el telemarketing las herramientas ADM se utilizan por ejemplo para monitorizar el lenguaje y el tono de voz de los trabajadores para asegurar que mantienen una actitud positiva. En el comercio en EEUU refuerzan la irregularidad de los horarios de apertura calculando la probabilidad de que tenga o no visita una tienda. A la planificación de horarios hay que sumar el control de la productividad (neotaylorismo), o la selección de personal que discurre al margen de cualquier respeto al anonimato o a la equidad en el acceso a un trabajo. Los ADM casi siempre refuerzan tendencias ya existentes, al codificar tan sólo el ‘pasado’. Simplifican y ‘justifican’ la toma de decisiones (los baremos son fijados por otros), y promueven la desigualdad porque confunden causalidad y correlación (que un afroamericano aporte menor seguridad crediticia puede ser estadístico, pero es un prejuicio que se confirma a sí mismo).

Todo ello discurre como siempre con el aura de la ‘perfección’ y la ‘imparcialidad’ ultraterrena, en este caso de una máquina, en otros anteriores de la divinidad o del inveterado e imparcial motor de la demanda y de la oferta. Nos dice Cathy O’Neil que “si nos retiramos y tratamos los modelos matemáticos como si fueran una fuerza neutra e inevitable, como la meteorología o las mareas, estaremos renunciando a nuestra responsabilidad”. Por eso el primer paso es algo tan sencillo y tan necesario como ‘tomar las riendas de nuestra utopía tecnológica’, y desconfiar profundamente de quien asigne a una máquina un criterio objetivo y neutral. El veredicto de una máquina es tan interesado y limitado en su ‘autonomía’ como lo es una bula papal o el código ético de una multinacional. Por eso se trata de intervenir, participar y asumir la propia responsabilidad. Si no lo hacemos, una vez más, serán ‘otros’ los que nos escriban nuestra propia historia.