Hay un extraño medidor del desarrollo de la inteligencia artificial (IA) que consiste en generar un video del actor Will Smith engullendo un plato de tallarines, siempre a partir de las mismas instrucciones (prompts), y evaluar los sucesivos resultados a lo largo del tiempo.
En el ya lejano 2023, la Unión Europea acordó regular la IA. Will Smith todavía se veía extraño en esos videos artificiales, pero, tras una sesión de 37 horas, los parlamentarios de Europa convirtieron al suyo en “el primer continente en establecer reglas claras para el uso” de esa tecnología, según opinó Thierry Breton, por entonces comisario europeo.
El acuerdo incluía un sistema basado en el riesgo, en el que aquellas máquinas que suponen una amenaza potencial mayor para la seguridad y los derechos humanos tienen un nivel más alto de regulación. La categoría más alta estaría definida por el número de operaciones necesarias para entrenar a la máquina, y en 2023 solamente el modelo GPT-4 calificaba dentro de esa franja.
“Nuestro único objetivo era promulgar una legislación que garantizara que el ecosistema de la IA en Europa se desarrollara con un enfoque centrado en las personas, respetando los derechos fundamentales y los valores humanos, fomentando la confianza y creando conciencia sobre cómo podemos sacar el máximo partido de esta revolución que está teniendo lugar ante nuestros ojos”, dijo en una conferencia de prensa el eurodiputado italiano Brando Benefei.
Si bien se adelantó que estas reglas entrarían en vigor como mínimo en 2025, fue necesario esperar a este mes de agosto para que se pusieran en funcionamiento.
En lo que concierne a la IA generativa, desde el pasado domingo todos los videos, imágenes o sonidos que hayan sido generados artificialmente y se vean auténticos deberán estar visiblemente identificados y llevar una marca de agua digital, es decir, incrustada en el archivo.
En cuanto a los textos, si son de interés público, están generados con IA y no fueron sometidos a una revisión editorial humana, también llevarán una identificación. Por otra parte, las empresas estarán obligadas a revelar a sus usuarios si están interactuando con un chatbot o con material generado por IA. Esto corre para todos aquellos sistemas nuevos que utilicen esta tecnología, mientras que los existentes tienen hasta el 2 de diciembre para actualizar su operativa y no están obligados a identificar el contenido generado antes de la entrada en vigencia de la nueva normativa.
Las empresas podrán generar sus propias etiquetas, aunque la Unión Europea ofreció unas genéricas, al mejor estilo de los octógonos que identifican alimentos con algún exceso. El círculo negro con las letras AI (por IA en inglés) se utilizará cuando haya herramientas de IA utilizadas en la creación de material deepfake o textos publicados. La barra AI Generated (“Generado con IA”) será para aquellos contenidos verosímiles que hayan sido completamente generados con esta tecnología, incluidos videos con políticos, obras musicales o resúmenes noticiosos. Por último, AI Modified (“Modificado con IA”) señalará aquel contenido humano preexistente que se haya cambiado parcialmente con IA, como una cara sustituida en una foto o un video real, o un salón vacío al que se le agregan muebles en forma digital.
Estas regulaciones no serán aplicadas en casos de obras artísticas, satíricas o de ficción, o en el contenido personal de los usuarios,
Si bien en las redes sociales ya existen etiquetas que marcan el contenido de IA, se espera que estas advertencias comiencen a aparecer en sectores como el de la publicidad, el audiovisual y el editorial. Las multas a quienes no etiqueten podrían llegar a los 15 millones de euros o el 3% de la facturación global de la empresa en infracción.
De la fiscalización se encargará la novel Oficina de IA, que podrá hacer evaluaciones y verificaciones de los grandes modelos de IA para chequear que se cumpla con las normas. Los proveedores estarán obligados a darle acceso a sus sistemas y deberán adoptar medidas correctivas en caso de ser necesario.
La regulación europea se seguirá ampliando y desde diciembre estarán prohibidos los sistemas de IA que generen imágenes de personas desnudas sin su consentimiento, o material de abuso sexual infantil. A fines de 2027 llegarán normas aplicables a la IA de alto riesgo, como la utilizada en ámbitos sensibles que incluyen la salud, la educación y el empleo. En agosto de 2028, finalmente, comenzarán a aplicarse disposiciones para sistemas de IA integrados en productos que están sujetos a otras legislaciones europeas, como los vehículos.
