La inteligencia artificial (IA) atraviesa un “momento de inflexión” y la velocidad con la que avanza obliga a gobiernos y empresas a reforzar de manera urgente los mecanismos de control. Esa es la advertencia que formuló este lunes el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, en un llamado a gobernar el desarrollo de la IA desde una perspectiva de derechos humanos.
Türk sostuvo que las consecuencias de la IA ya no pertenecen al terreno de las hipótesis. “Los perjuicios derivados de la IA no son hipotéticos: ya se están produciendo y son evidentes”, señaló en un documento difundido este lunes.
Entre los riesgos mencionó la discriminación, la automatización de servicios esenciales que pueden dejar “aún más rezagadas a las personas que ya se encuentran al margen de la sociedad”, el uso de herramientas de vigilancia que están “erosionando la privacidad a gran escala” y las campañas de desinformación impulsadas por IA, que “ya están distorsionando el debate público, socavando la cohesión social y poniendo a prueba a las instituciones democráticas de formas nuevas e insidiosas”.
El funcionario de Naciones Unidas puso además el foco en la aparición de agentes de inteligencia artificial cada vez más capaces de traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con una supervisión humana limitada.
Esta situación “nos adentra en un terreno de riesgos sin precedentes”, advirtió.
La advertencia alcanza una dimensión mayor cuando se considera la carrera por desarrollar sistemas cada vez más potentes. “La actual carrera hacia una IA cada vez más poderosa supone un cambio cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, sostuvo Türk. En ese escenario, advirtió que fallas de sistemas de IA agéntica podrían afectar servicios esenciales, comunicaciones, infraestructura crítica e instituciones democráticas.
“Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros; además, la IA autónoma ya está acelerando el ritmo y el alcance de los conflictos bélicos, al tiempo que erosiona las salvaguardas que nos protegen del lanzamiento de armas de destrucción masiva. Nos encontramos ante un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad”, advirtió.
Asimismo, dijo que “todos los derechos humanos corren peligro, incluidos el derecho a la vida, a la alimentación, a la privacidad, a la salud y a la seguridad”.
El reclamo de los propios desarrolladores
El planteo de Türk coincide con un debate que se intensificó dentro de las principales compañías de IA. El director de la empresa de inteligencia artificial Anthropic, Dario Amodei, sostuvo, en un ensayo publicado el sábado pasado, que el desarrollo de esta tecnología no está en discusión, pero debido a su “gran poder”, la IA conlleva “riesgos graves”, entre los que se encuentran “perder el control de los sistemas”, el “uso indebido de la IA para ciberataques y bioterrorismo” y “graves trastornos económicos”.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, afirmó.
Su propuesta contempla un “plan de tres pasos” que incluye desarrollar la IA a un ritmo equilibrado que garantice su seguridad, establecer una supervisión independiente de los modelos durante su desarrollo, promover una coordinación democrática en la que empresas y países definan en conjunto estándares de seguridad y avanzar hacia una coordinación a escala global.
Por su parte, Sam Altman, director ejecutivo de OpenAI, manifestó este lunes en X su respaldo a la necesidad de establecer controles, aunque marcó una diferencia: para el CEO de OpenAI, desacelerar no significa detener el avance tecnológico.
“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”, escribió. También sostuvo que cada laboratorio de frontera debe asumir esa responsabilidad y consideró positiva la existencia de un marco federal con requisitos de seguridad consistentes.
Altman señaló además que no es necesario esperar a una nueva legislación para comenzar a implementar mecanismos de seguridad. Entre las herramientas que mencionó están los auditores independientes y estándares compartidos para evaluar cuestiones como la desalineación, el monitoreo y la seguridad de los modelos.
El CEO de OpenAI resumió su posición con una aclaración: “Cuando hablamos de ‘ritmo’, no nos referimos a ‘detenernos’”. Según explicó, el progreso tecnológico continuará, pero debería avanzar más lentamente de lo que podría hacerlo si eso permite incorporar casos de seguridad y mecanismos de monitoreo. “Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, ni permitir que las capacidades se adelanten al alineamiento y monitoreo”, afirmó.
“Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos”, concluyó.
Los últimos hechos
La declaración de los empresarios y de Naciones Unidas ocurre días después de que el investigador de Anthropic Jacob Coxon anunciara su dimisión de la empresa y cuestionara la forma en que los laboratorios están avanzando en el desarrollo de inteligencia artificial, al considerar que corren hacia una superinteligencia sin garantías suficientes de seguridad.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas”, escribió Coxon en X.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, afirmó. El investigador agregó que algunos ejecutivos e investigadores moderan su lenguaje públicamente, pero que, según su experiencia, las mismas personas expresan temor en privado. “Ninguna otra actividad humana representa este nivel de peligro”, sostuvo.
Desde Naciones Unidas, Türk también reclamó una respuesta que trascienda las fronteras nacionales y empresariales. Sostuvo que la humanidad necesita “medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera”.
“Las empresas que lideran el desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos”, señaló.
En su documento sostuvo que ningún país puede gobernar esta tecnología por sí solo y que ninguna compañía debería tener capacidad para decidir unilateralmente qué riesgos está dispuesto a aceptar el mundo.
Por eso pidió que los Estados y las empresas se movilicen “con urgencia” a través de mecanismos multilaterales para establecer una gobernanza de los modelos avanzados de IA basada en el derecho internacional de los derechos humanos. También destacó la importancia del Diálogo Global sobre Gobernanza de la IA, que se volverá a reunir en mayo del año que viene, como espacio para avanzar en consensos y cooperación internacional.
“Ningún país puede gobernar esta tecnología en solitario. Ninguna empresa debería poder decidir por sí misma qué riesgos debe asumir el mundo. A ninguna persona se le debería exigir que renuncie a sus derechos humanos en aras de un supuesto progreso tecnológico”, concluyó.