Los países y las empresas deben estar preparados para comportamientos inesperados de los modelos de inteligencia artificial (IA) en materia de ciberseguridad, afirmó, en diálogo con la diaria, Irene Solaiman, quien trabajó en OpenAI y actualmente es directora de políticas en Hugging Face.
“Tenemos que estar preparados para lo inesperado y poder tener sistemas de respuesta que estén siempre disponibles”, afirmó Solaiman al referirse al reciente ciberataque de un modelo de OpenAI contra sistemas de Hugging Face, una plataforma tecnológica y comunidad de código abierto que facilita el desarrollo de la IA.
El episodio ocurrió en julio. Un agente de IA autónomo de OpenAI se descontroló durante una prueba, accedió a la web abierta y atacó por sí solo a Hugging Face. Las dos empresas posteriormente colaboraron para investigar el incidente.
Para Solaiman, el episodio muestra uno de los riesgos que plantea el avance de modelos cada vez más capaces. “El mayor riesgo varía según la persona y el momento. Por ejemplo, si me lo preguntaras a mediados de julio, diría que es un ciberataque; fue entonces cuando se produjo el ciberataque de OpenAI contra Hugging Face”.
La experta sostuvo que fue “un acontecimiento sin precedentes que podría dar lugar a capacidades similares tanto en este modelo de IA como en los futuros”.
Sin embargo, su principal preocupación es más amplia: “En última instancia y desde una perspectiva integral, me preocupa la concentración de poder. Me inquieta que solo unas pocas organizaciones estén desarrollando y tengan acceso a la mejor IA, y considero que más personas afectadas por esta tecnología deberían poder influir en su configuración”.
La investigadora también destacó las condiciones de Uruguay para desarrollar una estrategia propia de IA. Resaltó que Uruguay tiene capacidad para fomentar la comunicación con las organizaciones más pequeñas y remarcó que le han “impresionado los cimientos que ya posee el país en materia de liderazgo digital”.
“Si a esto se suma el avance logrado en infraestructura de internet y en la formación de talento, surgen grandes oportunidades para la IA en general; la cuestión central será hasta qué punto Uruguay desea desarrollar sus propios modelos y si estos deberían ser de código abierto”, afirmó.
Indicó que los modelos abiertos han sido hasta el momento “la mejor estrategia para la soberanía”.
“Le recomendaría a Uruguay trasladar los éxitos actuales de su estrategia digital a la estrategia de IA que ya ha puesto en práctica. Al tomar decisiones desde la capacidad de cómputo hasta los modelos, el país puede optar por alquilar o por ser dueño de su futuro en IA”, afirmó.
Solaiman habló con la diaria durante el Antel Summit 2026, donde expuso sobre la necesidad de avanzar hacia una gobernanza ética de la IA. Es investigadora estadounidense y estratega especializada en políticas públicas e IA.
Trabajó como investigadora en OpenAI, donde inició y dirigió investigaciones sobre sesgos e impacto social de modelos de lenguaje de gran escala y también trabajó en políticas públicas.
Usted trabajó en OpenAI y luego pasó a Hugging Face. ¿Qué buscaba hacer allí que sentía que era más difícil impulsar en OpenAI?
No pasé directamente de OpenAI a Hugging Face. Mi etapa en OpenAI fue increíble y la organización era magnífica; sin embargo, por aquel entonces era muy distinta a lo que es hoy. Me fui a Zillow, una empresa dedicada al sector de la vivienda, porque me interesaba más trabajar en productos específicos para un sector que ya estuvieran en manos de usuarios cotidianos. Todo esto ocurrió mucho antes de la llegada de ChatGPT.
Lo que me atrajo de Hugging Face fue su enfoque en el código abierto y la posibilidad de conectar con personas de todo el mundo, algo que hoy en día es más factible gracias a OpenAI y otras organizaciones. En aquel momento, Hugging Face ya lograba llegar a investigadores particulares y a personas situadas en rincones del planeta muy alejados de Silicon Valley, por lo que me entusiasmaba enormemente la idea de colaborar más estrechamente con ellos.
Estamos viviendo una carrera por lanzar modelos cada vez más potentes. ¿Diría que hoy la innovación avanza más rápido que la gobernanza? ¿En qué momento se encuentra la IA en su desarrollo?
Hay claramente una carrera por modelos cada vez más poderosos, al punto de querer llegar a niveles de superinteligencia. Sin embargo, también existe una presión creciente por parte del público, de los usuarios y de los gobiernos para garantizar que la inteligencia de gran potencia esté mejor regulada. Por ello, también hay una carrera por adoptar mejores prácticas de seguridad.
Tienen que poder alcanzarse niveles de gobernanza de la inteligencia artificial para que sea confiable tanto para el público como para las empresas.
¿Cuál cree que es hoy el mayor riesgo de la inteligencia artificial? ¿Los sesgos, la concentración de poder, los ciberataques, la desinformación o los sistemas cada vez más autónomos?
El mayor riesgo varía según la persona y el momento. Por ejemplo, si me lo preguntaras a mediados de julio, diría que es un ciberataque; fue entonces cuando se produjo el ciberataque de OpenAI contra Hugging Face. Pero, en última instancia y desde una perspectiva integral, me preocupa la concentración de poder. Me inquieta que solo unas pocas organizaciones estén desarrollando y tengan acceso a la mejor IA, y considero que más personas afectadas por esta tecnología deberían poder influir en su configuración.
Hace pocas semanas, un incidente durante una evaluación de modelos avanzados de OpenAI atacó a otro modelo de IA, desarrollado por la empresa en la que usted trabaja. ¿Qué lecciones deja ese episodio?
Tuvimos la suerte de contar ya con una buena relación con OpenAI, no solo porque he trabajado estrechamente con su equipo directivo, sino también porque Hugging Face había colaborado con ellos en el lanzamiento de su modelo del año pasado; por eso establecimos una alianza para investigar este ciberataque.
Los ciberataques son ilegales y no queremos normalizarlos ni fomentarlos; sin embargo, nos pareció más productivo establecer una colaboración para aprender mutuamente, dado que estamos presenciando un acontecimiento sin precedentes que podría dar lugar a capacidades similares tanto en este modelo de IA como en los futuros.
Tenemos que estar preparados para lo inesperado y poder tener sistemas de respuestas que estén siempre disponibles.
¿Cómo se logra una gobernanza efectiva de la IA más allá de aprobar leyes? ¿Qué mecanismos concretos hacen falta?
Las leyes por sí mismas no implican necesariamente una mejor gobernanza. Debemos colaborar con las empresas y el gobierno para garantizar que avanzamos hacia el interés público y que las leyes sean específicas para cada sector.
En este contexto, es importante determinar la responsabilidad a lo largo de la cadena de suministro, distinguiendo entre los desarrolladores del modelo y los usuarios.
Los sistemas de feedback (retroalimentación) en toda la cadena de valor también nos van a ayudar a desarrollar mejores mecanismos.
Uruguay ha demostrado que tiene muy buenos sistemas implementados para poder tener feedback de organizaciones más pequeñas, que de repente pueden tener dificultades. Destaca por su capacidad para crear procesos que permitan recibir comentarios de las partes interesadas; es aquí donde se facilita el acceso a canales de comunicación para empresas más pequeñas y startups que, de otro modo, tal vez no contarían con la capacidad necesaria para interactuar con los responsables de formular políticas.
Usted trabaja en Hugging Face, uno de los principales impulsores de los modelos abiertos. ¿Los modelos abiertos democratizan la IA o también aumentan los riesgos?
La democratización es un término complejo sobre cuyo significado no existe consenso en este tema. Los modelos abiertos pueden poner capacidades en manos de los desarrolladores de modelos, pero también pueden otorgar dichas capacidades a actores malintencionados.
Somos realistas respecto a los beneficios, pero también a los inconvenientes. Y, en última instancia, ahí es donde en mi presentación expuse los pros y los contras. Los modelos abiertos están viviendo un momento de auge. Son populares porque, hoy en día y a menudo debido al temor a la concentración de poder, las ventajas están siendo un poco más fuertes que los riesgos.
¿Uruguay tiene condiciones para convertirse en un referente regional en gobernanza de IA?
Me han impresionado los cimientos que ya posee Uruguay en materia de liderazgo digital.
Si a esto se suma el avance logrado en infraestructura de internet y en la formación de talento, surgen grandes oportunidades para la IA en general; la cuestión central será hasta qué punto Uruguay desea desarrollar sus propios modelos y si estos deberían ser de código abierto.
Los modelos abiertos han sido hasta ahora la mejor estrategia para la soberanía, como ejemplifica Corea del Sur, ya que permiten que el resto del mundo pueda interpretarlos y examinarlos.
¿Qué deberían priorizar países como Uruguay y el resto de América Latina: regular la IA o desarrollar capacidades propias en infraestructura, talento y datos?
La regulación y la gobernanza deben ir de la mano para poder mejorar el desarrollo. Al crear las capacidades, tenemos que tener en cuenta la seguridad y la gobernanza.
Y en esta área, Uruguay y el resto de América Latina pueden tomar lecciones de otros países del mundo, pero también adaptarlas a su realidad.
¿Cómo puede un país pequeño preservar cierta soberanía tecnológica cuando el desarrollo de la IA está concentrado en un puñado de empresas?
Un país pequeño cuenta, de hecho, con la ventaja de la rapidez de acción. Es capaz de poner en práctica procedimientos y difundirlos con mayor celeridad que los países grandes o incluso que las empresas, las cuales suelen tener más burocracia.
El desarrollo de la IA está más distribuido que nunca, con recursos disponibles públicamente. Le recomendaría a Uruguay trasladar los éxitos actuales de su estrategia digital a la estrategia de IA que ya ha puesto en práctica. Al tomar decisiones desde la capacidad de cómputo hasta los modelos, el país puede optar por alquilar o por ser dueño de su futuro en IA.
