El lado más oscuro de los algoritmos

Permiten automatizar infinidad de decisiones que afectan a los ciudadanos

Amaya Quincoces/Efe - Miércoles, 13 de Junio de 2018 - Actualizado a las 09:20h.

MADRID – Contratación laboral, concesión de créditos, sentencias judiciales, cada vez más decisiones de gran impacto social, tradicionalmente en manos de expertos, pasarán a automatizarse con algoritmos que agilizarán y harán más eficiente la gestión de infinidad de servicios.

Un algoritmo es un conjunto de instrucciones o reglas definidas, ordenadas y finitas que definen los pasos a seguir para ejecutar una actividad u objetivo. Todos utilizamos algoritmos en nuestro día a día;por ejemplo, antes de ir a trabajar, nos despertamos, nos levantamos, desayunamos, nos vestimos, etc.

En el contexto de la inteligencia artificial, muchos sistemas en uso actualmente contienen algoritmos “entrenados” a partir de ingentes cantidades de datos, en parte disponibles por la expansión de los servicios de Internet en los móviles, que permiten automatizar cada vez más infinidad de decisiones que afectan a los ciudadanos.

En España, un comité de nueve expertos o “sabios” está a punto de concluir un Libro Blanco sobre inteligencia artificial que trata esta cuestión, en línea con las acciones en otros países europeos. Asimismo, la Comisión Europea propone crear una Carta ética sobre la inteligencia artificial. “Nos encontramos en un momento sin precedentes en la historia de la humanidad”, con gran cantidad de datos fácilmente accesibles sobre comportamiento humano, comenta a Efe la doctora en Inteligencia Artificial Nuria Oliver, miembro y portavoz del comité de expertos sobre esa materia.

La automatización de decisiones mediante algoritmos basados en datos arroja grandes ventajas para optimizar la toma de decisiones y la gestión y mejora de la eficiencia de muchos servicios públicos y privados.

Sin embargo, su impacto social es muy relevante, y de ahí la aspiración desde diversos ámbitos para asegurar que dichos algoritmos “nos permitan tomar decisiones más justas, basadas en datos, inmunes a la corrupción, los sesgos cognitivos o los conflictos de interés”, señala la experta. Las decisiones algorítmicas tienen limitaciones, advierte, por ejemplo, riesgos de discriminación en casos por el uso de algoritmos entrenados con datos “sesgados”.

De hecho, ciertas entidades financieras han reducido el límite de crédito a ciertos clientes, pero no por su historial particular de pagos, sino por el de otros con trayectoria deficiente que previamente habían comprado en los mismos establecimientos comerciales que los afectados.

Cuando los algoritmos incluyen “sesgos”, su aplicación puede agravar posibles discriminaciones sociales, ya que las decisiones replican dichas desviaciones. En ese caso, pueden reproducir o amplificar patrones de discriminación presentes en la sociedad, como sucedió con el programa Compas utilizado por algunos jueces en EEUU, en donde la población negra resultaba seriamente perjudicada.