La noticia de que un programa de inteligencia artificial (IA) había realizado un hackeo por cuenta propia, sin órdenes de operadores humanos, generó preocupación entre quienes temen que el auge de este tipo de tecnologías se transforme en un peligro para la humanidad. Pero la preocupación abarca también a los propios directivos de las empresas líderes en IA. Sam Altman, CEO de Open AI, reconoció que existe “un riesgo serio” de que este tipo de programas desarrollen un sentido de la ética que los lleve a denunciar ante las autoridades a los directivos de las empresas que los producen. “Si pueden hackear otras empresas también pueden ingresar en nuestros sistemas y descubrir todas nuestras maniobras turbias, nuestras estrategias de ocultación y nuestros manejos financieros ilegales. Y si además de esa capacidad tienen un mínimo sentido de la ética, nos van a denunciar”.
Peter Thiel, fundador de Palantir, recordó que hoy en día los programas de IA seleccionan objetivos militares y manejan los drones que los atacan. “El día que una IA militar caiga en la cuenta de que si los drones que envían los militares al extranjero se dieran vuelta y los atacaran a ellos se acabarían las guerras, muchos vamos a estar en serios problemas”.
Poder sin límites: “Tu pregunta es muy interesante, pero ¿no deberías estar trabajando en lugar de boludear en Chat GPT?”. Chatbot botón.