Ir al contenido

Nacional | Jueves 20 • Abril • 2017

¿Tecnología mata democracia?

En los últimos tiempos, expertos de distinta clase han comenzado a predecir el fin de nuestras democracias debido al efecto de nuevas tecnologías, en particular la llamada inteligencia artificial y la revolución de los datos (Hilbert, 2017).Como sostuve en este mismo espacio, estos son temas relevantes sobre los cuales se discute poco, pero ¿es el principal problema de nuestras democracias y conduce necesariamente a un futuro distópico?

El primer gran supuesto es que tecnologías de minería de datos, que realizan análisis de nuestros perfiles de redes sociales (entre otros datos), tienen la capacidad influir en nuestro comportamiento. Según Hilbert, estas tecnologías tendrían la capacidad de modificar el comportamiento electoral; hemos asistido recientemente, en la elección de Estados Unidos, a su bautismo de fuego a gran escala. Sin embargo, los propios consultores de la firma Oxford Analytica, asesores del presidente Donald Trump durante la campaña electoral de 2016, admitieron que sus métodos no han sido particularmente revolucionarios (Wood, 2016). Si bien es posible que empresas, políticos, investigadores (y quien pueda pagarlo) sepan más sobre nosotros en función de nuestros datos (que voluntariamente entregamos a distintas empresas), es muy difícil asegurar que para ganar una elección lo determinante haya sido un aviso customizado de Facebook, o que ese aviso nos haya llevado a votar distinto. Tal vez Trump haya entendido mucho mejor lo que pasaba en los pueblos de Wisconsin (Cramer, 2016). O tal vez el problema haya sido que dimos por sentado que las democracias liberales se habían consolidado (Stefan y Mounk, 2016), cuando en realidad no fue así. No se puede culpar a Facebook, Twitter y, en general, a las empresas de datos, de socavar procesos democráticos, sin tener en cuenta la influencia de factores como la concentración de la riqueza, la transparencia de las reglas electorales y del sistema político, por nombrar algunos muy obvios. Además, este supuesto es bastante heroico acerca de la calidad de los datos que distintos actores poseen sobre nosotros, y de su capacidad de analizarlos.

El riesgo más serio que por el momento presenta la tecnología a las democracias consolidadas sería una mala implementación del voto electrónico (Luissi y Scrollini, 2016). También existe un riesgo serio en la distribución de noticias falsas vía redes sociales, aunque aún debemos entender más acerca de cómo funciona exactamente ese fenómeno.

El segundo gran supuesto es que estas tecnologías tienen la potencialidad de violar derechos a gran escala; en particular, el derecho a la libertad de comunicación y nuestra privacidad. Aquí la evidencia parece respaldar un poco más la preocupación, particularmente luego de las revelaciones hechas por Edward Snowden. Pero siendo un poco más concretos y tomando el ejemplo de Uruguay, sabemos que el gobierno ha adquirido tecnología de forma secreta para monitorear llamadas y redes sociales, y guardar información sin que sea claro por cuánto tiempo se guarda ni dónde. Sabemos que el gobierno ha adquirido tecnología para “predecir” la posible ubicación del delito, pero no sabemos qué tipo de algoritmos utiliza ni qué tipo de análisis realiza, lo que expone a cientos de personas a discriminación o daños por decisiones de patrullaje tomadas en bases de datos erróneas. Sabemos que el Ministerio del Interior invierte significativas sumas de dinero en centros de cámaras y vigilancia con software que podría predecir delitos en función de los movimientos que registra la cámara, o identificar personas en la vía pública, pero no sabemos demasiado sobre sus usos. Sabemos que existen empresas que en Uruguay y el mundo utilizan tecnología para determinar si nos ofrecerán un crédito o no en función de nuestros estados de Facebook y de nuestro historial crediticio (además de los datos que puedan comprar sobre nosotros), pero sobre eso tenemos escaso control. Y sabemos que algunas de esas decisiones pueden ser automáticas (es decir, sin que ningún ser humano participe en ellas). Y, en breve, muchas decisiones de este estilo podrían ser tomadas por estados, sin posibilidad de auditar cómo se han llevado a cabo, lo que ha llevado a varios académicos a pensar las necesidades del debido proceso para el tratamiento de estos datos (Crawford y Schultz, 2014) En resumen, en materia de derechos existen riesgos que requieren reguladores atentos y mayor evidencia, con la que hoy no contamos en Uruguay ni en el resto del mundo. Pero la visión pesimista sobre el uso de los datos también deja afuera las posibilidades de control social, creación de conocimiento y mejora de la calidad de vida gracias a ellos. Por ejemplo, las democracias podrían guiarse por debates basados en la evidencia y ser más transparentes en la toma de decisiones y en el uso de recursos. Es otro futuro posible.

En lo inmediato, la muerte de la democracia a manos de los datos y la tecnología que los usa parece un tanto exagerada. Existen otros posibles culpables de esta supuesta muerte, y son analógicos. El impacto sobre nuestros derechos parece ser más inminente, y su muerte (virtual) podría ser más acelerada.

Cramer K (2016). The politics of Resentment, Chicago University Press.

Crawford, K y Schultz, J (2014). “Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms”, BCL Rev., 55, 93.

Hilbert M (2017). Entrevista BBC Mundo, disponible en http://www.bbc.com/mundo/noticias-internacional-39511606.

Luissi A y Scrollini F (2017). “Votando online: la experiencia báltica”, disponible en http://datysoc.org/2017/votando-online-la-promesa-baltica/.

Stefan R y Mounk Y (2017). “The Signs of Deconsolidation”, Journal of Democracy, 27, 1.

Wood P (2016). “The British Data Cruncher who Say they Helped Donald Trump to Win”, disponible en https://www.spectator.co.uk/2016/12/the-british-datacrunchers-who-say-they-helped-donaldtrump-to-win/

Una versión previa de esta columna fue publicada en el blog Razones y personas.


Etiquetas