15/09/2021 11:30 - pidi una "moratoria"

Los sistemas de reconocimiento facial preocupan a la ONU por sus efectos sobre los DDHH

La Alta Comisionada de la ONU para los Derechos Humanos, Michelle Bachelet,llam a evaluar los riesgos que presentan los sistemas de inteligencia artificial para la vida privada o la libertad de expresin.

La ONU pidió que se activen garantías para proteger los derechos humanos.
La ONU pidi que se activen garantas para proteger los derechos humanos.

La ONU pidi este mircoles imponer una moratoria a la venta y el uso de algunos sistemas de inteligencia artificial (IA), como el reconocimiento facial, hasta que se activen garantas para proteger los derechos humanos.

"La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologas de IA tambin pueden tener efectos nocivos e incluso catastrficos, cuando se emplean sin prestar la debida atencin a su capacidad de vulnerar los derechos humanos", dijo la Alta Comisionada de la ONU para los Derechos Humanos, Michelle Bachelet, en un comunicado.

Bachelet llam a evaluar los riesgos que presentan para la vida privada o la libertad de expresin los diferentes sistemas que se apoyan en la inteligencia artificial, indic la agencia de noticias AFP.

"Dado que la evaluacin de los peligros y cmo superarlos puede llevar todava algn tiempo, los Estados deberan implementar desde ahora moratorias sobre el uso de las tecnologas que presentan un alto potencial de riesgo", aadi.

Bachelet cit como ejemplo las tecnologas que permiten tomar decisiones automticas o aquellas que establecen perfiles.

El informe destaca en particular el uso cada vez ms frecuente de los sistemas basados en la IA por parte de las fuerzas del orden, que se utilizan para identificar a determinadas personas a distancia y en tiempo real, lo que puede permitir un seguimiento ilimitado de los individuos.

"No podemos seguir reaccionando tardamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisin, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos", insisti Bachelet, reconociendo que "la capacidad de la IA para servir a la poblacin es innegable".

Adems, los sistemas de inteligencia artificial se usan "para decidir quin recibe servicios pblicos, quin tiene oportunidad de obtener un empleo y, por supuesto, afectan a la informacin que la gente ve y que puede compartir en Internet", seal la Alta Comisionada.

Este informe, que haba sido pedido por el Consejo de Derechos Humanos -la instancia ms alta de la ONU en ese rea-, analiz las formas en las que esas tecnologas se aplicaron a menudo sin que se haya evaluado de manera correcta su funcionamiento o impacto.

La IA hizo que muchas personas hayan sido injustamente tratadas, "ya sea porque se les ha denegado prestaciones del seguro social debido a la aplicacin de instrumentos deficientes de IA o porque han sido arrestadas como consecuencia de errores en los sistemas de reconocimiento facial", indic un comunicado.

"El riesgo de discriminacin inherente a las decisiones basadas en la IA -decisiones capaces de cambiar, definir o perjudicar a las personas- es muy real", aadi Bachelet.

El informe describe detalladamente cmo los sistemas de IA se basan en grandes bases de datos con informacin personal "compilada, intercambiada, combinada y analizada con mtodos diversos y a veces opacos".