Respaldo algorítmico: beneficios y riesgos
Difícilmente alguien puede desestimar los beneficios que programas y máquinas automatizadas representan para las actividades humanas.
Difícilmente encontrarás a alguien que pueda desestimar los beneficios que programas y máquinas automatizadas representan para prácticamente todas las actividades humanas. Acaso habrá quien desconozca los avances al respecto. Pero quien haya al menos escuchado sobre el tópico, o leído algún artículo, sabe que la exigencia de rapidez, precisión, el correcto y oportuno desprendimiento de conclusiones y decisiones no se entienden, ahora, en innumerables sitios, sin el apoyo de tal tecnología.
A pesar de ese hecho incuestionable, la experiencia que los Sistemas de Desarrollo Algorítmico (SDA) nos han brindado en los últimos años también nos alerta ante descuidos, errores y graves consecuencias que llegan incluso a poner en riesgo desde la justa aceptación escolar, laboral o crediticia, hasta amenazar la vida de personas y comunidades, así como hacer tambalear la estabilidad democrática de naciones.
Afortunadamente, no es escasa tampoco la literatura y materiales disponibles que nos ayuden a estar atentos a estos fenómenos y alertas ante las amenazas que todos, literalmente, enfrentamos.
Quizá el mejor material con que nos hemos encontrado en los últimos tiempos es un estudio encargado por el Parlamento Europeo al Instituto Nacional de Investigación en Informática y Automatización.
Se trata de ‘La Comprensión de la Toma de Decisiones Algorítmicas: Oportunidades y Riesgos’, investigación profunda y muy completa en cuanto a los beneficios y amenazas que los cada día más sofisticados sistemas algorítmicos representan a todos, incluyendo a quienes no saben de su existencia.
Material obligado para los desarrolladores, también es lectura ampliamente recomendable y útil para los interesados en esos temas. Los autores destacan los datos y algoritmos con los que hoy se asumen tantas decisiones, lo que se representa en tres niveles: el personal, el empresarial y el sector público.
Prácticamente en todas las áreas (legales, educativas, de salud, laborales y un largo etcétera) no hay forma ya de volver atrás en cuanto a la dependencia de las plataformas automatizadas. No sólo se trabaja y atiende de forma más rápida y eficaz: las políticas empresariales y de gobierno que se asumen en plazos inmediatos, medianos o en largo término ya se basan en gran medida en los datos y resultados obtenidos por los SDA.
Pero esos sistemas estructurados y manejados por seres humanos no extrañamente son contagiados por las deficiencias y prejuicios del desarrollador, con los consecuentes algoritmos que arrojaran resultados parciales, sesgados o abiertamente erróneos.
El estudio realizado en el Viejo Continente da luces relevantes para el entendimiento de esos riesgos y amenazas. También expone una serie de caminos y sugerencias, a la luz de la experiencia de muchos especialistas recopilada hasta ahora, para mejorar esa tecnología sin la cual aparentemente ya no podemos vivir.
Muy conveniente resaltar lo imperioso de estar atentos a prácticas de injusticia, discriminación, amenazas de piratas tecnológicos, pero que igualmente toma en cuenta las sugerencias para cuidar las bases técnicas, éticas, profesionales, legales y de cuidado social con que se han de elaborar y perfeccionar esos sistemas que, insistimos, todos usamos en la aldea global en que habitamos.
El autor es fundador y CEO de Metrics.