¿Qué ocurriría si una tecnología fuera capaz de acceder a información sobre nuestros pensamientos, emociones o decisiones? Aunque ese escenario aún no es una realidad, el rápido avance de las neurotecnologías –dispositivos que interactúan directamente con el cerebro humano– abre un debate sobre cómo proteger la privacidad mental, la identidad y la libertad de las personas.
“Las neurotecnologías se definen como los dispositivos que son capaces directamente de registrar o modificar la actividad de nuestro cerebro [...] Existe el potencial riesgo de que nuestra identidad y privacidad mental puedan ser amenazadas por el desarrollo de las neurotecnologías en el futuro”, explicó a la diaria el neurocientífico Pedro Maldonado, director del Departamento de Neurociencia de la Facultad de Medicina de la Universidad de Chile e integrante del comité internacional de expertos de Unesco que trabaja en las primeras recomendaciones globales sobre ética de estas tecnologías.
El especialista señaló que ya existen empresas, como Neuralink, fundada por Elon Musk, cuyo objetivo es conectar el cerebro humano a dispositivos electrónicos para ampliar capacidades cognitivas. Aunque aclaró que la tecnología actual todavía está lejos de permitir una lectura precisa de pensamientos o deseos, advirtió que su desarrollo plantea desafíos éticos inéditos.
“Eso significa que, por primera vez, nuestra actividad mental, un aspecto muy esencial de los seres humanos, está siendo potencialmente algo que se puede intervenir o monitorizar”, sostuvo Maldonado, quien a fines de mayo participó en Montevideo del foro Neurotecnologías y Neuroderechos, desarrollado en el Parlamento.
¿Qué son exactamente las neurotecnologías y por qué organismos internacionales como la Unesco consideran necesario regularlas ahora?
Las neurotecnologías se definen como los dispositivos que son capaces directamente de registrar o modificar la actividad de nuestro cerebro, a diferencia de los dispositivos biométricos, que miden aspectos de nuestra fisiología, pero no lo hacen directamente con el cerebro.
La preocupación tiene que ver con que estas intervenciones, en principio, presentan desafíos éticos, porque reconocemos que nuestro cerebro es el asiento de muchos aspectos que nos caracterizan como seres humanos y, por lo tanto, existe el potencial riesgo de que nuestra identidad y privacidad mental puedan ser amenazadas por el desarrollo de las neurotecnologías en el futuro.
¿Usted está diciendo que estas nuevas tecnologías podrían afectar la privacidad mental, la libertad cognitiva y la identidad de las personas?
Sí. Aunque hace mucho tiempo fuimos capaces de monitorizar la actividad de nuestro cerebro, el estado del arte actual no permite determinar con precisión qué tipo de actividad mental está ocurriendo. Podemos determinar actividades muy gruesas, pero en el imaginario colectivo la gente piensa que esto va a permitir leer nuestros pensamientos, nuestros deseos, nuestras opiniones privadas. Eso es algo que le preocupa a la mayoría de la gente. Si esta tecnología está interviniendo el cerebro, hay un riesgo en la autonomía de la persona.
¿Quiere decir que puede influir en decisiones, emociones o comportamientos humanos?
Es eso. Es importante señalar que, en principio, la actual tecnología no permite hacerlo con precisión, pero creemos que es un alto riesgo. En la discusión ética deben considerarse las consecuencias para que el próximo desarrollo de la neurotecnología se haga bajo ciertas consideraciones éticas importantes.
Hoy día las acciones que se pueden hacer con neurotecnología son crudas en comparación con nuestra riqueza mental, pero nadie puede predecir en qué momento esta tecnología va a alcanzar el desarrollo suficiente para, efectivamente, ser considerada una amenaza a nuestra actividad mental.
¿Estamos frente a una revolución tecnológica que puede ser comparable a la de internet o a la de la inteligencia artificial (IA), por ejemplo?
Eventualmente, sí. Ya hay compañías como la de Elon Musk, Neuralink, cuyo propósito explícito es conectar nuestro cerebro a un dispositivo electrónico y aumentar nuestras capacidades cognitivas, de manera que esto puede modificar por primera vez en la historia humana nuestra actividad mental, a diferencia de otras revoluciones tecnológicas. Eso significaría que por primera vez nuestra actividad mental, que es un aspecto muy esencial de los seres humanos, está siendo potencialmente algo que podemos intervenir o monitorizar.
¿Existe la posibilidad de que en el futuro empresas o gobiernos puedan perfilar a las personas a partir de la información cerebral del mismo modo que hoy se clasifican usuarios a partir de sus datos digitales?
Sí. Hoy día gran parte de ese perfil ocurre a través de dispositivos biométricos, por los cuales uno puede inferir el estado mental, pero no acceden directamente al cerebro. Me refiero a dispositivos que miden aspectos fisiológicos, el latido cardíaco, el tamaño de nuestra pupila, la conducta, etcétera. Con esos datos no neuronales, efectivamente sí se puede caracterizar humanos. Esto podría expandirse y hacerse muchísimo más preciso si pudiéramos acceder directamente al cerebro, aunque ese desarrollo es muy incipiente aún. Así que es posible, pero es también probable que esto no ocurra en el corto plazo.
¿Qué son los neuroderechos y qué buscan proteger exactamente frente a este avance de esta tecnología?
Los neuroderechos tienen una carga histórica, porque la idea de ese concepto es establecer derechos que quizás no existen para proteger nuestra actividad mental. Pero esa idea es debatible, ya que en las recomendaciones de la Unesco sobre neurotecnología no hubo un debate sobre la necesidad de nuevos derechos.
Creo que más bien usaría la palabra ética de la neurotecnología más que neuroderechos. Considero que el acento tiene que estar en los aspectos éticos de la neurotecnología que protejan los derechos humanos que ya están establecidos.
¿Los marcos jurídicos actuales de derechos humanos son suficientes o se necesitan nuevos?
En la Declaración Universal de los Derechos Humanos hay alguna referencia a nuestra actividad mental, pero lo que no existe es una bajada a una normativa más clara. Por eso es importante que haya una discusión ética y, por lo tanto, que distintos países se preocupen de establecer un marco legislativo que determine más claramente cuáles son los principios éticos y de protección para el desarrollo de la neurotecnología.
Tengo entendido que un comité internacional de expertos de la Unesco, del cual usted forma parte, está elaborando las primeras recomendaciones globales sobre ética de las neurotecnologías. ¿En qué consisten estas primeras recomendaciones y cuándo estiman que estarán prontas?
Hay un trabajo que ya fue hecho en 2024, que fue la elaboración de las recomendaciones éticas, un documento que fue discutido por los países miembro de la Unesco y aprobado en la Asamblea General el año pasado. Pero esas recomendaciones se deben bajar a documentos de trabajo.
Actualmente, hay dos documentos de trabajo, uno llamado Readiness Assessment, que busca trasladar estas recomendaciones a potenciales políticas más específicas en el entorno de cada uno de los países. Este documento está siendo trabajado y ya hay varios países, entre ellos Uruguay, que tienen experiencia previa al respecto, porque realizaron un trabajo similar sobre IA. Se espera que el proceso que ocurrió con los documentos de IA sea parecido al que va a suceder con la neurotecnología.
¿Cuáles aspectos cree que deberían regularse con mayor urgencia?
Es importante que se distinga muy bien entre el ámbito médico y no médico, porque la gran mayoría de lo que conocemos sobre neurotecnologías se ha llevado a cabo bajo un marco clínico, es decir, durante una intervención necesaria para ayudar al paciente. Eso típicamente está regulado por una normativa sanitaria. Pero lo que no está regulado son los casos en los que una persona, voluntariamente, deseara usar una neurotecnología aun cuando no tenga una necesidad clínica y en el tema de cómo se obtienen los datos, cómo se usan y a quién pertenecen. Creo que esos aspectos son primarios en los ámbitos legislativos.
¿Qué sucede cuando las neurotecnologías se combinan con sistemas de IA?
La IA tiende a potenciar la neurotecnología, porque permite la captura de enormes cantidades de datos que difícilmente un humano puede procesar adecuadamente, y, por lo tanto, en muchas de las neurotecnologías, particularmente la interfaz cerebro-máquina que han permitido a personas recuperar parte de los movimientos del habla, usan IA para poder discriminar los distintos patrones de actividad neuronal que son necesarios para el desarrollo de estas tecnologías. Así que son dos tecnologías que típicamente están estrechamente vinculadas.
La IA tiene otro aspecto ético relevante: la pérdida de nuestras capacidades cognitivas por el uso exacerbado de esta tecnología. Estamos tercerizando nuestras habilidades cognitivas en dispositivos de IA y usando menos nuestro cerebro. Ese es un riesgo que relaciona nuestro cerebro y la IA, al cual a mí me parece que hay que poner atención.
Es como si, de alguna manera, estuviéramos hipotecando nuestro cerebro para que luego necesitemos realmente neurotecnologías en el futuro.
Sí. Ahora, por ejemplo, la gente no hace sumas en papel, sino que utiliza su móvil, no recuerda los números de teléfono, por lo que ha traspasado parte de sus habilidades cognitivas a la tecnología y a la IA. Si eso ocurre en aspectos más complejos, es altamente probable que perdamos habilidades cognitivas, lo cual, obviamente, conlleva un riesgo para el desarrollo de la sociedad.
¿Cómo se encuentra América Latina frente a esta situación? ¿Corre el riesgo de quedar como una receptora de tecnologías desarrolladas en otros países?
Sí. Una preocupación ética que apareció en la Unesco era que estas recomendaciones consideraran de manera importante las comunidades de distintos países. En nuestra región hay muy poco desarrollo de neurotecnología, somos más bien usuarios, pero es relevante que, aunque no seamos desarrolladores, sí tengamos la capacidad de poder entender y manejar la tecnología de una manera adecuada. Porque si somos usuarios desconociendo los mecanismos y el impacto, no vamos a poder establecer normativas para su uso, lo cual nos pone en una situación de vulnerabilidad frente a los desarrolladores que provienen de otros países.
¿Qué desafíos enfrentan países pequeños como Uruguay ante el avance de las neurotecnologías?
Yo creo que nuestras comunidades científicas son pequeñas pero bastante potentes. Somos pocos en número, pero hay un conocimiento bastante acabado. Considero que el desafío importante es incorporar una conversación entre legisladores y el mundo científico, en la que se informe sobre el estado del arte, los nuevos desarrollos y potenciales impactos, de manera de que esa información sea capturada y usada en el momento en el que el ámbito legislativo decida impulsar una normativa.
Hay que mantener la actividad científica para poder informar adecuadamente lo que ocurre y también incluir en estas conversaciones otros ámbitos de nuestra sociedad que son muy relevantes, particularmente el mundo de la educación, porque son los que van a sufrir o beneficiarse del desarrollo de estas tecnologías en 20, 30 años.
¿Qué debería hacer Uruguay desde ahora para prepararse en materia regulatoria, científica y educativa?
Uruguay ya tiene una buena experiencia con respecto al proceso y consideraciones éticas de IA. Esa experiencia es muy valiosa y es una ventaja para Uruguay. Desde el Legislativo hay un genuino interés de comunicarse con la comunidad científica para poder recibir información fidedigna. ¿Y por qué esto es relevante? Porque legislar con desconocimiento o con miedo tiende a paralizar los potenciales beneficios de estas tecnologías en distintos ámbitos. Como toda tecnología, tenemos que aprender a usarla. Es la comunidad informada de Uruguay la que va a levantar las propuestas de cómo usar mejor esta tecnología, entendiendo sus limitaciones.
¿Cuál es el escenario que más le preocupa y cuál es el más prometedor que imagina para las próximas décadas?
Lo que más me preocupa es que la tecnología esté suficientemente madura sin que haya una normativa ética previa. Esto ya pasó con la IA, hay muchos aspectos negativos de la IA sobre los que recién estamos haciendo normativa, desde la privacidad de los datos hasta su efecto en la educación. En consecuencia, dado que a la neurotecnología aún le queda un grado de madurez, que esto ocurra sin un marco ético es lo que más me preocupa.
En el mejor de los escenarios, creo que hay un enorme potencial de estas tecnologías para aumentar el bienestar de las personas. Pero, para poder capturar ese bienestar, hay que entender bien cómo usarla, en qué consiste, en qué casos se ha utilizado exitosamente, cómo impacta, no solo en la salud, sino en la educación y en la industria.
Me parece muy importante empezar a hablar de estos temas e incorporar a distintos sectores de la sociedad, porque estas tecnologías están cambiando rápido. A diferencia de nuestra historia humana, en la que las tecnologías han ido apareciendo con mayor pausa entre una y otra, ahora debemos acelerar esta discusión para que cuando estas herramientas estén siendo implementadas tengamos un marco ético y legislativo razonable.
