Uruguay no podrá dar una discusión real sobre el futuro de la inteligencia artificial (IA) mientras persista la pobreza infantil, sostuvo, en diálogo con la diaria, Marianela Barcia, coordinadora de la Unidad Académica de Bioética de la Facultad de Medicina de la Universidad de la República.
La magíster en bioética —disciplina que reflexiona sobre los dilemas éticos vinculados a la vida, la salud, la ciencia y la tecnología— advirtió que las desigualdades sociales condicionan el acceso y el uso de la tecnología, por lo que el país debe priorizar las condiciones de vida de la población antes de debatir los alcances de herramientas como la IA.
“Si me preguntan qué es lo que el país tiene que ocuparse ya, tiene que ver (...) con las inequidades que existen en las condiciones de vida de las personas y en el acceso. Es una falacia decir que la tecnología está disponible para todo el mundo, porque su uso es muy distinto según la clase social”, afirmó la profesora universitaria grado 4.
Barcia también cuestionó las condiciones en las que crecen niños y adolescentes en Uruguay y alertó sobre el impacto de las pantallas en la salud mental. “Hay que reconocer que hay inequidades profundamente injustas en todo sentido, no solo en el acceso a los bienes y servicios. ¿Cómo nacen los niños y las niñas en Uruguay? ¿Cómo crecen? ¿Quién los cuida? ¿Cómo los cuidan?”, se preguntó. Además, señaló que “hay muchísima evidencia de qué es lo que necesita un niño o una niña para crecer y lo último, ni siquiera debe estar en la lista de lo que se necesita, es una pantalla”.
“Debemos fortalecer a los niños para que cuando sean adultos puedan sentarse a la mesa con nosotros a discutir los límites (de la tecnología). Pero si seguimos por el camino en el que estamos, lo único que vamos a generar es mayor exclusión”, advirtió.
¿Qué distingue a los desafíos bioéticos actuales de los de hace diez o 20 años? ¿Cuáles son los retos más importantes que enfrenta Uruguay frente al avance de la tecnología?
Un tema son los problemas bioéticos que el país tiene que abordar, que son muy distintos a lo que la agenda internacional o europea quisiera que nosotros discutiéramos, porque tienen otra realidad y otras prioridades.
Pero si me preguntan qué es lo que el país se tiene que ocupar ya, tiene que ver con un problema que se ha ido agravando, que son las inequidades que existen en las condiciones de vida de las personas y en el acceso. Es una falacia decir que la tecnología está disponible para todo el mundo, porque su uso es muy distinto según la clase social. Ese tema está muy estudiado.
Podemos hablar de cómo la IA sustituye tareas en determinados campos, entre ellos el de la salud, y que capaz que sería muy deseable que un algoritmo sea el que asigne los números para que una persona se atienda con un profesional porque no es un trabajo creativo e innovador. Uno podría plantearlo así, pero la realidad es que hay falta de trabajo y además surge la siguiente pregunta: ¿cuál es el límite de esa sustitución? No lo hemos discutido todavía como sociedad.
Entonces, si me preguntan a mí cuál es el problema urgente en que la bioética tiene que ocuparse, es el de mejorar las condiciones de vida de la población para que puedan tomar otro tipo de decisiones en cuanto al uso de la tecnología.
¿Usted está diciendo que Uruguay debe primero cuestionarse sobre las condiciones de vida de su gente antes del desarrollo de la tecnología?
Sí, hay que reconocer que hay inequidades profundamente injustas en todo sentido, no solo en el acceso a los bienes y servicios. ¿Cómo nacen los niños y las niñas en Uruguay? ¿Cómo crecen? ¿Quién los cuida? ¿Cómo los cuidan?
Hay muchísima evidencia de qué es lo que necesita un niño o una niña para crecer y lo último, ni siquiera debe estar en la lista de lo que se necesita, es una pantalla. Hasta los países que se están ocupando de este tema están alejando a los menores de las pantallas y de las redes. Nosotros tenemos un serio problema de salud mental y, frente a ello, puedo argumentar largamente cómo las pantallas están intoxicando.
A mí me encanta discutir sobre los límites, las características, las condiciones y los problemas de la inteligencia artificial; de hecho, es mi tema de tesis, pero eso no nos puede nublar los problemas reales de injusticia que estamos viviendo.
¿Y qué acciones se deberían llevar a cabo para resolver esos problemas de injusticia?
Desde el punto de vista de la bioética, creo que se debe fortalecer el rol de los cuidadores en la sociedad para niños y niñas, así como también para personas con discapacidad y adultos mayores. Realmente tenemos que cuidar las infancias en el país y que las políticas públicas apunten a mejorar sus condiciones de vida. Sabemos que cada vez nacen menos niños en el Uruguay, y además la mayoría de los que nacen lo hacen en condiciones de pobreza o de marginalidad.
Cuando nosotros nos preguntamos: ¿cuáles son los límites en los que la IA tendría que intervenir en la relación clínica? La verdad es que son muy pocas las personas que pueden entender la pregunta y responderla. Pero es un tema al que todos tendríamos que estar invitados a responder.
¿Cómo se puede analizar y comprender a la IA?
La IA tiene dos enfoques profundos en el análisis que se está haciendo desde la perspectiva bioética a nivel mundial. Uno es el ontológico (el estudio filosófico centrado en la naturaleza de la existencia), el plantearse si la IA es inteligente, por ejemplo. Yo siempre digo que la IA es un oxímoron (combinación de dos palabras que tienen un significado opuesto). No existe una inteligencia artificial, existen algoritmos, datos que hacen predicciones, pero hay una forzada intencionalidad de antropomorfizar (dar cualidades humanas) a todo este sistema. El problema ontológico de la inteligencia artificial es entender que nunca va a ser portadora de verdad, de sabiduría; nunca nos va a poder responder si una decisión vale la pena. Eso es algo que solo nosotros vamos a poder responder.
La IA es un cálculo. Lo que más se recomienda es que no se salude, no se agradezca cuando se habla con esta tecnología, pero eso es algo que está pasando; la gente le dice ‘gracias’, ‘hola’, ‘buen día’ como si una persona estuviera realmente del otro lado.
El otro tema es un problema ético. Además de los principios clásicos de la bioética, tiene que agregarse el hecho de que un sistema de este tipo tiene que poder ser explicable por alguien en algún momento de toda su cadena de uso. Pero lo que está pasando es que cada vez son menos explicables y eso supone todo un problema porque estamos usando algo de lo que desconocemos las consecuencias morales que tiene su uso. Hay miles de preguntas que yo le haría a quienes diseñan esto, como por ejemplo: ¿cómo se van a asegurar de que no discrimine? ¿Hasta dónde estábamos habilitados a lucrar con los datos en salud?
Hay varios problemas que suceden cuando información de partes del cuerpo o datos de las personas entran en el mercado. No es del todo cierto postular que esta tecnología representa una neutralidad inocua, porque depende de quién la use y del uso que se le dé, porque la IA nos estructura, nos constituye como individuos. No hay neutralidad en esto; nos está proponiendo una nueva forma de vida, una nueva forma de vincularnos, de ser, de existir sobre el planeta.
A mí lo que más me preocupa de esto es que no lo estamos decidiendo, porque es verdad que nosotros somos un país chiquito, con muy pocas personas, y no tenemos el poder para definir determinadas cosas. Pero me parece que sí podemos resistir y poner límites. Los niños y niñas no pueden estar enfrente de una pantalla, porque les hace mal, porque los daña. El cerebro es el órgano social por excelencia. Debemos fortalecer a los niños para que cuando sean adultos puedan sentarse a la mesa con nosotros a discutir estos límites. Pero si seguimos por el camino en el que estamos, lo único que vamos a generar es mayor exclusión.
¿Qué problemas implica mercantilizar los datos?
Lo primero es que, por definición, participar en una investigación es un acto voluntario. En el caso de las aplicaciones que usan los deportistas, todo el tiempo están dando información. En ese caso, no sé hasta dónde somos conscientes de qué se está haciendo con esos datos. En general, lo que se hace es procesar esa información para después venderla a empresas que quieren hacernos llegar productos para que consumamos. Por tanto, estamos participando sistemáticamente en investigaciones sin haberlo decidido. Todos esos grandes volúmenes de datos están siendo procesados de una forma que no es a escala humana.
Por otro lado, ¿quién se queda con esa información? Si el Estado utiliza esos datos para gestionar y organizar la salud de las personas, es otro tema muy distinto, que también tiene que tener determinadas precauciones. Pero hay una cosa muy importante en esto, que es el principio de finalidad. El fin para el cual se almacenan esos datos tiene que ser coherente con el uso que después se le da. Si yo lo almaceno para investigar determinada enfermedad, después no lo puedo utilizar para vender cosméticos. Es un principio que está también en nuestra Ley de Protección de Datos (Personales). La Unión Europea protege los datos de los ciudadanos, aun cuando están fuera de Europa. Nosotros hemos perdido el control de nuestros datos totalmente.
Por eso usted decía que Uruguay no está decidiendo sobre este tema.
Claro, hay políticas. Nuestra ley de datos es una ley muy avanzada. Eso hace que algunas personas hasta la critiquen y digan que quedamos presos de una normativa. Pero no, esos son los valores que no podemos olvidar.
El tema es qué pasa cuando la empresa que recolecta los datos no está dentro de Uruguay; cuando hay una fuga de datos masiva, eso no estamos controlando. Tenemos que decidir cómo vamos a utilizar la tecnología y no que nos impongan el cómo, que es lo que está pasando ahora.
Frente a delegar decisiones médicas a sistemas algorítmicos, ¿qué riesgos existen y qué límites deberían ponerse?
Las decisiones clínicas, por definición, las toma un ser humano. La relación clínica, por definición, es una relación entre dos personas. Si alguna de esas personas es sustituible, ya no hay una relación clínica. Por supuesto que la inteligencia artificial puede ayudarnos mucho, desde gestionar las prioridades, organizar las historias clínicas, siempre con todas las precauciones adecuadas de protección de datos.
Puede ayudarnos a veces a identificar cosas que se nos hayan pasado, a hacer una lectura rápida de algunos resultados.
Ahora, la relación clínica no se reduce a decir lo que alguien tiene y ver cuál es su tratamiento. Es una relación más profunda en la que hay procesos cognitivos que se ponen en juego y que son insustituibles.
¿Qué dilemas éticos abre el avance tecnológico en la medicina?
Lo que está sucediendo es que muchos pacientes ya vienen (a consulta) con el diagnóstico. Es difícil explicar que hacen falta otro tipo de cosas para poder llegar a un diagnóstico más allá del uso de un algoritmo. El tema es que no todas las personas tienen un conocimiento de lo que es un algoritmo y qué información le está dando.
El desafío es el de fortalecer el vínculo equipo de salud-paciente, porque ahí va a estar la justificación de por qué es insustituible. Además, tiene que haber una discusión de expertos con la sociedad civil y con las organizaciones sociales de cuáles son los usos que se le va a dar. No puede ser un grupo de personas reducidas y con exclusividad las que piensen ese tema; hay que evitar que se reproduzcan sesgos, sobre todo teniendo en cuenta que la mayoría de las situaciones de salud y de enfermedad se han estudiado solo en hombres blancos. ¿Eso es reproducible y alcanza para entrenar todos los sistemas de inteligencia artificial? ¿Qué va a pasar con esa información una vez que se recopile? Hay algoritmos que están copiando datos en lugares que no sabemos dónde están.
Otro de los temas que ha ganado espacio en la discusión en los últimos años es el desarrollo de las neurotecnologías, especialmente las investigaciones sobre chips que podrían implantarse en el cerebro. ¿Qué dilemas éticos implica esto?
Realmente es un tema que me preocupa, depende de cómo sean usados, porque sé que para personas que tienen alguna discapacidad pueden ser un gran apoyo, pero no identifico que como sociedad hayamos discutido cuál es el límite de eso y para qué lo vamos a usar. ¿Cuáles son los objetivos nobles de las neurotecnologías? ¿Y cuáles no lo son?
El movimiento del transhumanismo propone algunos postulados con los que yo no estoy de acuerdo. Ellos proponen que el ser humano tiene que rendir más, que debe evitar las emociones negativas como la angustia y la tristeza, algo que se vende en las redes todo el tiempo. La idea es rendir como si fuéramos máquinas, pero eso no es lo que queremos para nuestra humanidad.
Las neurotecnologías tienen aplicaciones y usos muy buenos, pero si se usan de una forma indiscriminada con fines de generar humanos que rindan más, lo que puede ocasionar son problemas a futuro muy graves, que pueden llegar a desvincularnos con nuestra especie. Frente a este peligro, tiene que existir una gobernanza real sobre toda la ciencia en general y las organizaciones sociales tienen que estar al tanto de esto.
¿Qué decisiones tiene que tomar Uruguay en este momento?
Uruguay tiene programas paradigmáticos, como Uruguay Crece Contigo. Tenemos que impulsar todo lo que fortalezca la primera infancia. Esas son las medidas que para mí son las urgentes, las de cuidar a los niños y a las niñas para que nos acompañen en esta toma de decisiones y que sean parte de la gobernanza que determine el uso de la tecnología.
Después, como sociedad, nos debemos la discusión de hasta dónde estamos dispuestos a ir con los algoritmos. ¿Cuánta libertad estamos dispuestos a perder? Esa pregunta yo siempre se la hago a los estudiantes. Cuando se cuelgan a una red WiFi, cuando aceptan los términos de cualquier aplicación. La mayoría de las aplicaciones son gratis porque le pagan a los usuarios de esa forma por tener su información. Además, los usuarios pierden libertad, porque están entregando sus datos.
Tenemos que sentarnos a debatir qué queremos como humanidad, qué deseamos para nuestra vida y nuestra convivencia. Y creo que es urgente solucionar los temas que hacen a la convivencia, porque un niño o una niña que crece en soledad frente a la pantalla, a futuro genera problemas de salud mental y en la convivencia.
Es verdad que todos los días vamos a usar el desarrollo científico y tecnológico y que nos va a hacer mucho bien. Pero tenemos que tener determinadas precauciones. Debemos lograr que todos estemos invitados y tengamos las mismas posibilidades de discutir sobre ese tema y no solo quienes gozamos de determinados privilegios, porque de lo contrario vamos a profundizar aún más las inequidades.