La ONU advierte que la IA sin control puede violar los derechos humanos y exige tomar medidas urgentes contra el abuso

La alta comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, ha advertido este miércoles sobre la necesidad urgente de establecer una moratoria a los sistemas de inteligencia artificial (IA), al considerar que representan un grave riesgo en cuestión de derechos.

“La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos”, declaró Bachelet.

En ese sentido, la alta comisionada instó a detener temporalmente la venta de ciertas tecnologías de interés, sobre todo aquellas que se usan en espacios públicos, y enfatizó la necesidad de establecer una prohibición total de las aplicaciones de IA que no cumplen con el derecho internacional.

“Mientras mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la tecnología de IA. Pero dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo”, agregó.

Vulneran varios derechos

Un informe publicado el mismo día por la ONU revela que ciertas tecnologías de aprendizaje automático vulneran directamente varios derechos, como los relativos a la intimidad, la salud, la educación, la libertad de movimiento, y la libertad de expresión. Además, los sistemas de reconocimiento facial, que se usan cada vez más para identificar a determinadas personas a distancia y en tiempo real, plantean dudas por permitir un seguimiento ilimitado de individuos.

Tomando en cuenta que tanto Estados como compañías se han precipitado por incorporar este tipo de tecnologías sin ejercer la debida diligencia, ya se han registrado casos de personas que acaban recibiendo tratos injustos o discriminatorios, sea porque se les denegó algún tipo de servicio o porque fueron acusados injustamente debido a errores en los sistemas de reconocimiento facial, sostiene la ONU.

Otro problema que describe el documento es que los sistemas de IA se basan en grandes bases de datos, alimentadas con información personal de usuarios. “Dado el rápido y continuo crecimiento de la IA, llenar el inmenso vacío de asunción de respons

abilidades sobre cómo se recogen, almacenan, comparten y utilizan los datos es uno de los cometidos más urgentes que afrontamos en materia de derechos humanos”, apuntó Bachelet.

https://diario-octubre.com/2021/09/16/la-onu-advierte-que-la-ia-sin-control-puede-violar-los-derechos-humanos-y-exige-tomar-medidas-urgentes-contra-el-abuso/

1 comentario en “La ONU advierte que la IA sin control puede violar los derechos humanos y exige tomar medidas urgentes contra el abuso

  1. No sólo con complicadas aplicaciones de IA se vulneran repetida y sistemáticamente los derechos individuales, es algo que ocurre a diario, y desde hace tiempo, de forma muy simple.

    Una persona toma una foto o se hace un selfie en un lugar público y yo ( cualquiera ) me veo automáticamente expuesto en un sinfín de perfiles públicos de redes sociales diversas, sin haber otorgado mi consentimiento para el uso de mi imagen personal. Ya no tenemos el control sobre nuestra propia imagen personal, y nadie ha protestado por ello.

    Pero incluso en ámbitos privados ocurre igualmente. Alguien hace una foto en una fiesta, la sube a internet y expone a todos los que aparecen sin su consentimiento expreso. Y estoy hablando simplemente de una foto en cualquier lugar. Lo que ocurrirá en el futuro cercano con las aplicaciones de IA más complejas puede tener consecuencias tremendas para muchas personas.

    Ya ha habido casos de personas que han perdido su trabajo o patrocinadores por aparecer en fotografías hechas en determinadas situaciones. Pero ahora estamos hablando de que cualquiera puede saber todos tus movimientos durante el día. La pérdida de libertad que entraña es absoluta. Y la intimidad en espacios privados, pero también en los públicos, es un derecho fundamental.

    La gente no es consciente del peligro que entraña todo esto.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *