Al igual que existe un Grupo Intergubernamental de Expertos sobre el Cambio Climático, avanza un acuerdo para crear un grupo similar que se encargue de vigilar el desarrollo de la inteligencia artificial. En eso coincidieron representantes de Estados Unidos, China, Brasil, India, Australia, Canadá y países de la Unión Europea, entre otros, reunidos esta semana en Bletchley Park, Inglaterra.
Antes de viajar al encuentro, los participantes acordaron una declaración conjunta en la que abogan por recurrir a la cooperación internacional para afrontar los “riesgos significativos” que conlleva el desarrollo de la inteligencia artificial. Señalan que esa tecnología necesita “una supervisión humana adecuada” y se comprometen a “trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable”.
Si bien destacan que esta tecnología tiene un “potencial transformador” que puede impulsar “el bienestar” y la “prosperidad”, advierten que “existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional”.
Señalan que actualmente hay riesgos vinculados a la generación de “contenido manipulado” o “engañoso”, pero en particular advierten sobre sistemas que todavía están en desarrollo y que podrían generar amenazas “existenciales” que hoy no se pueden prever. “Dado el rápido e incierto ritmo de los cambios en la inteligencia artificial, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente”, agregan.
En la cumbre, que reunió a 28 gobiernos y tuvo como anfitrión al primer ministro británico, Rishi Sunak, participaron también el secretario general de la Organización de las Naciones Unidas, António Guterres, y representantes de las principales empresas dedicadas a esta tecnología, entre ellas, OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, informó la agencia de noticias Efe.
El fundador de Tesla y dueño de la red social X, Elon Musk, dijo allí que “por primera vez estamos en una situación en la que hay algo que va a ser más inteligente que el más inteligente de los humanos”. A continuación agregó: “No está claro si podemos controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad”.
A su vez, la vicepresidenta estadounidense, Kamala Harris, se enfocó en los peligros actuales que presenta esa tecnología y se refirió a una eventual situación en la que “una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de inteligencia artificial” o “una mujer se ve amenazada por una pareja abusiva” mediante deepfakes.
Sunak fue el encargado de anunciar las conclusiones del encuentro, como la de crear el panel de expertos y un plan que permita a las autoridades evaluar si los algoritmos de inteligencia artificial pueden presentar peligros para la seguridad nacional o causar “daños sociales”. “Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de inteligencia artificial han sido las de las propias empresas que los desarrollaban. Eso debe cambiar”, dijo Sunak.
Según informó el diario The Guardian, quedó fuera de la declaración final la iniciativa de crear un centro de pruebas internacional en Reino Unido, que era una aspiración de integrantes del gobierno británico.
Sunak señaló que “la propia gente que está desarrollando esta tecnología ha advertido del riesgo que puede conllevar” y agregó que existe un debate al respecto. Consideró que si bien no hay que ser “alarmistas”, existen “argumentos para creer que puede representar un riesgo de la escala de una pandemia o una guerra nuclear, y es por ese motivo que, como líderes, tenemos la responsabilidad de actuar y dar los pasos necesarios para proteger a la gente”.
“Por primera vez tenemos un acuerdo entre países acerca de que debemos analizar no sólo de manera independiente sino colectiva los riesgos que rodean la inteligencia artificial”, dijo a su vez la ministra de Tecnología británica, Michelle Donelan.
Esta iniciativa tendrá continuidad en una cumbre de seguridad prevista para dentro de seis meses en Corea del Sur, y otra agendada para dentro de un año en Francia.