Los algoritmos son utilizados cada vez más en la sociedad para tomar decisiones que afectan nuestras vidas, desde la selección de las publicidades a las que nos exponemos en las redes sociales hasta los pilotos automáticos de los aviones en que viajamos. En muchos lugares del mundo, los gobiernos también los están comenzando a utilizar para proveer servicios públicos. Ya sea para definir la asignación de recursos, agilizar procedimientos gubernamentales, o para colaborar en la toma decisiones, la IA llegó para quedarse. Los algoritmos son creaciones humanas potencialmente factibles de errores y sesgos como los procesos humanos, y no siempre su procesamiento es transparente o auditable. Sin embargo, pocos países han manifestado la voluntad de regular esta tecnología digital. Para aquellos países que aún no tienen regulaciones específica, la discusión es amplia y los modelos propuestos son variados, donde se distinguen dos grupos: aquellos que impulsan una regulación horizontal (por tipo de tecnología) de aquellos que impulsan una regulación vertical por sector. Entre los grandes desafíos que se le plantean a la democracia, se encuentra el uso de la tecnología, los datos y los sistemas automatizados de formas que amenazan los derechos del público en general. Con demasiada frecuencia, estas herramientas se utilizan para limitar nuestras oportunidades y evitar nuestro acceso a recursos o servicios críticos. Estos problemas están bien documentados. Se ha descubierto que los algoritmos utilizados en las decisiones de contratación y crédito reflejan y reproducen desigualdades no deseadas existentes o incorporan nuevos sesgos y discriminación dañinos. La recopilación de datos de redes sociales sin control se ha utilizado para amenazar las oportunidades de las personas, socavar su privacidad o rastrear de forma generalizada su actividad, a menudo sin su conocimiento oconsentir. Estos resultados son profundamente dañinos, pero no son inevitables. Los sistemas automatizados han generado beneficios extraordinarios, desde tecnología que ayuda a los agricultores a cultivar alimentos de manera más eficiente y computadoras que predicen la trayectoria de las tormentas, hasta algoritmos que pueden identificar enfermedades en los pacientes. Estas herramientas ahora impulsan decisiones importantes en todos los sectores, mientras que los datos ayudan a revolucionar las industrias globales. Sin perjuicio de lo expuesto, impulsadas por el poder de la innovación, estas herramientas tienen la oportunidad y el potencial de redefinir cada parte de nuestra sociedad y mejorar la vida de todos.
En consecuencia, a mi leal saber y entender, resulta relevante tener conciencia de que este revolucionario progreso, no debe darse a costa o desmedro de los derechos civiles y/o de valores democráticos.
Por FCN
