¿Cómo se construye una política estatal de inteligencia artificial (IA)? ¿Cómo construir sobre algo que avanza, se transforma y multiplica?
La Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) del gobierno uruguayo entregó el 28 de junio un documento al Parlamento con recomendaciones para la regulación de esta tecnología, tal como se lo encargó la Rendición de Cuentas pasada. La idea fue “hacer hincapié en los entornos”, dijo a la diaria el director ejecutivo de la Agesic, Hebert Paguas; ¿a qué se refiere con “entornos”? A los espacios en los que “la tecnología puede impactar y dónde habría que poner el ojo” para “hacer respetar los derechos de las personas, los derechos personales, o los derechos humanos”. Ahí entra a jugar “la explicabilidad algorítmica”.
El término es muy concreto: se trata de tener procesos y métodos que permitan saber con certeza cómo la IA llega a esos resultados. En este sentido, el texto de la Agesic comienza por recomendar la existencia “de una entidad de control” que tenga carácter “autónomo” y toman como ejemplo el Tribunal de Cuentas y la Corte Electoral. En otras palabras: garantizar la transparencia de la tecnología que usa IA y se aplica en el Estado.
El otro escollo está en la calidad de la inteligencia artificial. Según Paguas, existe una “dificultad” en poder llegar “a un porcentaje que te permita decir que estás ofreciendo un servicio con un grado de efectividad bueno”. Si el Estado uruguayo ofrece una tecnología que “se equivoca muchas veces, estoy haciendo mal”, es por eso que “los estados tampoco avanzan tan rápido en la opción de inteligencia artificial para brindar servicios directamente a los ciudadanos”. En el relevamiento hecho por la Agesic, se constató que 13 reparticiones del Estado utilizan IA, siempre de forma interna.
Legislación
La propuesta de legislación de la Agesic se adapta a los estándares internacionales que se han definido. Propone, entre otras cosas, establecer “de forma obligatoria” la “evaluación de impacto en los derechos humanos” cuando se incorpore IA a tareas gubernamentales, establecer un registro obligatorio a cargo de la entidad que se cree para regular la tecnología, tener un proceso de autorización o certificación, auditorías periódicas y la ya mencionada “explicabilidad algorítmica”.
Aun así, la legislación sobre IA, para Paguas, es trabajar sobre una tecnología que “el mundo está usando ya hace mucho”, aunque no se conociera antes con ese nombre, y ahí aparece “la dificultad de proteger a Juan Pérez, que viene usando todo lo que tiene en el teléfono hace muchísimo”, y cómo se evita que los gigantes tecnológicos que desarrollan las aplicaciones del teléfono “digan ‘no, mirá, tu legislación no me sirve, me voy’”.
La vigilancia por parte del Ministerio del Interior
Como una medida puntual, la Agesic “recomienda analizar, como parte del paquete de medidas a evaluar, la regulación del desarrollo, la adquisición y la aplicación de sistemas de vigilancia con fines de seguridad pública”, y lo hace por una “preocupación” concreta: la adquisición de sistemas de vigilancia con IA por parte del Ministerio del Interior a lo largo de este período.
“Basta con realizar una búsqueda en prensa para constatar que, en los últimos años, el Ministerio del Interior viene adquiriendo de forma sostenida nuevas tecnologías para combatir el crimen”, comienza el documento en uno de sus apartados. Destaca que estas adquisiciones “utilizan potentes sistemas de IA, ya sea para detectar disparos colocando micrófonos en la vía pública [como es el caso de la tecnología utilizada por Shotspotter] o para identificar a las personas basándose en patrones biométricos”.
De acuerdo con la Agesic, “ninguna de estas tecnologías se encuentra debidamente regulada por ley bajo los estándares reclamados por las diferentes relatorías del sistema internacional de derechos humanos”, por eso recomienda “la regulación del uso de la IA con fines de vigilancia por parte del Ministerio del Interior con carácter urgente”.
El ministerio, indica la agencia, construye desde hace un tiempo “un ecosistema de vigilancia automatizada en apoyo al cumplimiento de sus cometidos, basada tanto en IA como en otro tipo de sistemas”, y no ha sido acompañado “por la debida regulación ni por criterios de transparencia proactiva que aporten confianza sobre su funcionamiento”.
La Agesic enumera, además de Shotspotter, la tecnología de reconocimiento facial automatizado, el software Ucinet, que patrulla interacciones en redes sociales para detectar posibles grupos criminales, y la más reciente compra: un software de IA, instalado en unas 2.000 cámaras de videovigilancia, que permite detectar movimientos sospechosos o pedidos de auxilio y enviar una alerta. Todos –es bueno aclararlo– pasan por una revisión humana antes de enviar un móvil policial.
De todas formas, según Paguas, “hay mucha legislación en Uruguay que limita y protege derechos”; por ejemplo, en la ley de protección de datos personales (18.331) se regula y se da la posibilidad de impugnar los datos obtenidos mediante la “recolección automática”; si bien no menciona la IA –porque no era un término popular en ese momento–, sí se puede entender que este uso de la IA queda comprendido en la “recolección automática”.
Más allá de esto, el documento elaborado por la Agesic continúa: insiste en que “con el objetivo de establecer una regulación estricta sobre su uso” para así brindar “garantías contra los actos discriminatorios y contra su uso abusivo o arbitrario” se deberían introducir modificaciones “en el Código del Proceso Penal y en la Ley de Procedimiento Policial para regular el tema de forma adecuada”.
Esto incluye, por ejemplo, “la obligación de realizar un análisis de impacto (en lo posible público) sobre los derechos fundamentales” previo a adquirir IA “con fines de vigilancia”, así como establecer “líneas rojas en cuanto a qué usos están estrictamente prohibidos” y cuáles requieren una orden judicial.
En concreto, sobre el uso de tecnología para el reconocimiento facial, la Agesic es enfática en prohibir “el enrolamiento masivo de toda la población en el sistema” adquirido por el ministerio y también en “la prohibición del uso de vigilancia biométrica en tiempo real y sin orden judicial en espacios públicos”.
El Partido Nacional y “un Estado más simple”
Con un nuevo gobierno a partir del 1º de marzo, es clave la pregunta sobre las propuestas de candidatos y partidos respecto de la IA, saber qué piensan hacer en esta materia en caso de ganar las elecciones. El candidato a la presidencia por el Partido Nacional (PN), Álvaro Delgado, se centra sobre todo en la utilización de la tecnología “para asistir en la toma de decisiones”, como reza su programa de gobierno, e implementar un “sistema de auditoría” impulsado con IA que permita “minimizar errores”.
El coordinador de programa de Delgado, Agustín Iturralde, dijo a la diaria que ven que existe “potencial a nivel de Estado en dos áreas muy concretas”. Una, “la gestión pública”, donde se concentran “trámites y gobierno electrónico”; otra, concentrada en el séptimo capítulo del programa, que propone “un Estado más simple”.
“Tenemos bien claro que hay muchísimas cosas que se pueden hacer con la incorporación de tecnología para simplificar el vínculo entre las personas y el Estado, entre las empresas y el Estado”, agregó Iturralde, que además mencionó “la escalada de cámaras que este país necesita”. Esta incorporación de más cámaras de videovigilancia “no es razonable sin la incorporación de IA”.
Esto se menciona en el programa, que insiste en continuar en la línea de mejorar “las capacidades tecnológicas del Ministerio del Interior”. Se incluye, además de las cámaras y la utilización de IA “para la generación de información”, pensar en la incorporación de “sistemas de interceptación de comunicaciones”. Consultado respecto de la utilización de IA en el comando electoral, no es algo que tenga protagonismo, pero sí se utiliza para “la realización de textos y otros materiales”.
El PC, centrado en educación y los smart ports
Matías Bordaberry, coordinador programático del candidato del Partido Colorado (PC), Andrés Ojeda, dijo a la diaria que en su programa –bautizado “Contrato con Uruguay”– la IA “juega un rol fundamental”. Muestra de ello es “una batería de propuestas a lo largo de todo el programa, producto del enorme impacto que la IA está demostrando tener en todas las áreas sociales, económicas y comerciales”.
En la misma línea que el PN, se propone una agenda “a nivel de eficiencia del Estado”, que implica la digitalización de trámites, concentrados en plataformas “que unifiquen y simplifiquen”; en concreto, “reducir los tiempos de la burocracia”.
Al hablar de IA, el programa colorado hace hincapié en la educación, algo esperable si se tiene en cuenta que el candidato a la vicepresidencia, Robert Silva, lideró la llamada “transformación educativa” del gobierno. La propuesta, señaló Bordaberry, es fortalecer “los aprendizajes de las competencias relacionadas con el pensamiento computacional” y un sistema de becas para “estudiantes de carreras científicas y tecnológicas”. “Apuntamos a profundizar el proceso iniciado por Ceibal, así como una mesa de diálogo con figuras educativas, cientistas sociales, expertos en tecnología y ciencia de datos”, agregó Bordaberry.
Respecto de los sistemas de vigilancia utilizados por el Ministerio del Interior, Bordaberry dijo no creer “que hagan falta mayores controles a los estipulados, siempre y cuando lo que se esté aplicando dentro de los marcos regulatorios se cumpla”, más allá de que las regulaciones deban “seguir los avances tecnológicos”.
En el programa del PC, además, se introduce el concepto de smart ports, en particular para el puerto de Montevideo. Esto implica, según explicó Bordaberry “la sistematización y digitalización” de la cadena logística y aduanera; como segundo objetivo, marcó la mejora de la “seguridad portuaria” mediante “la integración de las tecnologías avanzadas como la IA, la monitorización remota y sistemas de detección de anomalías para una mejor vigilancia”.
FA, partidario de regular y apostar a la “soberanía”
Las bases programáticas del Frente Amplio (FA) son claras al marcar la necesidad de proveer “ambientes abiertos para el testeo, aceleración, experimentación y pruebas” en cuestiones de IA, que se harán “en un marco de absoluta transparencia respecto del tratamiento de datos a partir de los cuales se obtienen resultados”.
Al igual que los colorados, la oposición busca promover “en el marco de la Educación Primaria y Media” la formación en conceptos de computación e inteligencia artificial. De la mano con esto, en un plano más general, el FA se propone apelar a la “alfabetización de la población respecto a los alcances del uso de la IA”.
Más allá de las aplicaciones de la IA en el ámbito estatal, el FA también insiste en el “liderazgo de Antel” en estos procesos, “con el objetivo de consolidar a Uruguay como centro regional”. En este sentido, considera necesario “proponer una ley que disponga los mecanismos de regulación de las empresas tecnológicas de gran porte internacional”.
“Los nuevos escenarios tecnológicos ameritan nuevas políticas públicas y regulaciones que contribuyan a la promoción, protección y condiciones adecuadas para el ejercicio completo de esos derechos” y por eso, señalan las bases programáticas, “el entorno regulatorio también se ha convertido en un factor de competitividad”. Es por eso que marcan “la protección de los derechos de la población” como “uno de los ejes fundamentales de la política regulatoria en el mundo digital”.
Brechner: “Estar preparados” para “la carrera”
Para el fundador del Plan Ceibal, Miguel Brechner –que además integra el FA–, el Estado uruguayo “en los últimos cuatro años y medio quedó bastante congelado en el avance de la tecnología y lo digital”, y en particular la “Agesic ha hecho muy poco”. “La Agesic de los gobiernos del FA tenía muy claro que había que transformar todo el Estado, que todo tenía que ser digital”, pero ahora “eso ha quedado medio congelado, salvo honrosas excepciones”.
Para Brechner, el FA “tiene una virtud: una cantidad de gente que está trabajando o ha trabajado sobre estos temas y que le interesa generar políticas públicas”. “Hoy es poco inteligente no declarar que la IA es importante”, agregó, pero “después hay que llevarla a la práctica”.
Consultado sobre qué debería hacer un eventual gobierno frenteamplista en su primer año, no dudó: “Generar varios fondos de distintas verticales en la IA y plantear problemas que sean resueltos entre la industria emprendedora uruguaya y el Estado”, cuyo rol sería “hacer una lista de temas” y “llamar a hacer”.
Sobre Ceibal, entendió que se podría comenzar a utilizar la IA para “mejorar en matemáticas, para apoyar a los docentes, para apoyar en ciertos temas que puedan elaborar los estudiantes en consulta con la IA”, es decir, trabajar en “tutorías, más allá de lo administrativo”. Para Brechner, “esto es como una carrera en la que tenemos que estar en el punto de largada lo antes posible y estar bien preparados físicamente para durar y competir en este mundo”.