Inteligencia artificial y democracia

El coto vedado incluye principios y valores cuyo respeto permite asegurar un funcionamiento cabal de la democracia

Ernesto Garzón Valdés

El pasado 10 de julio el precandidato de Morena a la Presidencia de la República Marcelo Ebrard presentó su plan Ángel para combatir la inseguridad en México. Entre las estrategias propuestas están el reconocimiento facial y morfológico, así como el uso de inteligencia artificial (IA) para prevenir actos criminales. Ya en varios países son utilizados por las fuerzas del orden para esos fines y cada día el uso de estas herramientas se hará más recurrente.

El empleo de la IA tiene muchas aristas e implica una serie de exigencias políticas, sociales y económicas. Recurrir a la IA para elaborar y diseñar políticas públicas requiere del uso y análisis de una gran cantidad de datos para presentar soluciones a problemas sociales: la IA no inventa datos, los examina, los recombina y extrae conclusiones en menos tiempo que un humano, pero a partir de datos fríos de pasadas experiencias.

La IA no puede estar exenta de posibles soluciones equivocadas: los datos también incluyen evaluaciones cargadas de prejuicios hacia la población receptora del servicio, en especial con grupos étnicos desfavorecidos o criminalizados. Las políticas públicas elaboradas a partir de algoritmos usados por la IA tendrán su origen en políticas del pasado y las predicciones también estarán abrumadas con prejuicios hacia el futuro.

El uso de la IA implica una serie de dilemas éticos y morales, especialmente en el combate al crimen organizado. La tentación de aprovechar el acceso a información íntima y sensible obtenidos mediante métodos de espionaje y vigilancia para usos políticos siempre está presente en todos los gobiernos, especialmente si éstos son considerados como regímenes con democracias fallidas o con características autoritarias.

El uso de las herramientas tecnológicas –inicialmente designadas para recabar información para combatir la delincuencia organizada– ha tentado hasta los gobiernos considerados supuestamente democráticos. A pesar de que el gobierno mexicano ha negado el uso del programa Pegasus, se ha podido comprobar, a partir de Guacamaya Leaks, que periodistas y promotores de derechos humanos han sido blanco de espionaje por parte de la Secretaría de la Defensa Nacional (Sedena).

Con esto en mente, la necesidad de regular el uso de la IA es una obligación apremiante, pues su desarrollo y uso se generaliza. El pasado 23 de mayo el diputado panista Ignacio Loyola Vera presentó en la Cámara de Diputados una iniciativa para expedir la ley de regulación ética de la inteligencia artificial y la robótica, donde señala que “el uso faccioso, la manipulación, la concentración de información y el mal uso de la inteligencia artificial para la humanidad se ha convertido en un reto que se tiene que resolver”.

¿Cómo abordar la regulación de la IA para garantizar que los derechos humanos sean considerados eje fundamental para su elaboración? El marco regulatorio debe considerar la llamada “agencia humana” establecida en las diferentes cartas de derechos humanos. Un principio fundamental de la democracia es la garantía de dichos derechos ciudadanos; sin embargo, a pesar de que los gobiernos se han comprometido a asegurarlos, en su insistencia por conservar el poder, se ven tentados a usar herramientas contrarias a preceptos indispensables del “coto vedado” (Ernesto Garzón Valdez), esencial para asegurar la calidad de la democracia.

Twitter: @Ismaelortizbarb

jl/I